Als Sohn einer Kaufmannsfamilie wurde Karl Gottlob Anton am 23. Juli 1751 in Lauban geboren. Nach seinem Studium an der Universität Leipzig erhielt er 1773 die Magisterwürde und verteidigte 1774 seine Dissertation. Nach einer 22-jährigen Tätigkeit (seit 1775) als Amtsadvokat kam Anton, er hatte inzwischen im Jahr 1782 das Rittergut Oberneundorf erworben, 1797 als Senator nach Görlitz. In den vergangenen Jahren hatte er sich in der Oberlausitz als Historiker, Sprachforscher und Verfasser zahlreicher Schriften bereits einen Namen gemacht. Seine Position als Amtsadvokat und Rechtsvertreter ließ ihn zudem zu einer der führenden Persönlichkeiten der Oberlausitz aufsteigen.
Seine Werke weisen ihn heute als hervorragenden Kenner der sorbischen Sprache und Kultur aus. Er leistete zur Zeit der Aufklärung mit seinen Forschungsergebnissen und seinen organisatorischen Fähigkeiten einen wesentlichen Beitrag zur Entwicklung der Sorabistik in dieser Region. So schuf er mit die Grundlagen der Slawistik in Deutschland. Stets pflegte er gute Beziehungen zu sorbischen Gelehrten.
1779 schlug er vor, die Oberlausitzische Gesellschaft der Wissenschaften zu gründen, und kaufte zu diesem Zweck das Gebäude Obermarkt 29. Als die Räume für die Gesellschaft zu eng wurden, war er es, der das deutlich größere Barockhaus Neißstraße 30 erwarb und damit der Gesellschaft ein dauerhaftes Zuhause gab. 1802 wurde er geadelt.
Anton war aktiver Freimaurer in der Görlitzer Loge Zur gekrönten Schlange und hat deren Arbeiten wesentlich geprägt.
Karl Gottlob Anton verstarb 1818 im Alter von 67 Jahren in Görlitz und wurde auf dem Görlitzer Nikolaifriedhof beigesetzt.
Sein Cousin war der deutsche Linguist und Orientalist Konrad Gottlob Anton, dessen Sohn, der Altphilologe Karl Gottlieb Anton, ebenfalls in Görlitz wirkte.
Seine Bibliothek sowie seine wissenschaftlichen Sammlungen vererbte er an die Oberlausitzische Gesellschaft der Wissenschaften. Sie werden heute in der Oberlausitzischen Bibliothek der Wissenschaften Görlitz sowie im Kulturhistorischen Museum Görlitz aufbewahrt.