KI-generierte Texte erkennen: Das Eingeständnis von OpenAI und die Selbstverpflichtung der Tech-Giganten
Als ChatGPT Anfang des Jahres in den Fokus der Öffentlichkeit rückte, wurden schnell Bedenken über
mögliche Missbrauchsszenarien laut. Kritiker befürchteten, dass nun auch Hausaufgaben von KI geschrieben
und massenhaft Fake News produziert werden könnten. OpenAI, der Entwickler von ChatGPT, reagierte auf
diese Bedenken mit der Einführung einer Erkennungssoftware, die KI-generierte Texte klassifizieren soll.
Am 20. Juli hat OpenAI die Software nun eingestellt und räumt offen ein, dass dies due to its low
rate
of accuracy
geschehen sei. Im letzten halben Jahr wurde immer deutlicher, dass es derzeit kaum
eine
zuverlässige Möglichkeit gibt, KI-generierte Texte sicher zu identifizieren und dass die
Erkennungswerkzeuge im Zweifelsfall eher
schädlich sein können. In dem kurzen Update, das
OpenAI der
ursprünglichen Ankündigung seiner Erkennungssoftware hinzufügte, verwies das kalifornische Unternehmen
ebenfalls auf seine laufenden Bemühungen:
„We are working to incorporate feedback and are currently researching more effective provenance techniques for text, and have made a commitment to develop and deploy mechanisms that enable users to understand if audio or visual content is AI-generated.“
In der Zwischenzeit hat OpenAI zusammen mit sechs weiteren Technologieunternehmen (Microsoft, Google, Meta, Amazon, Anthropic und Inflection AI) eine freiwillige Selbstverpflichtung zur Minderung der Risiken von KI unterzeichnet. Die Unternehmen verpflichten sich, externe Überprüfungen ihrer KI-Produkte zuzulassen und bestimmte Informationen wie Risiken und Schwachstellen offen zu legen. Die Selbstverpflichtung umfasst auch die Zusage, Mechanismen wie Wasserzeichensysteme zu implementieren, um deutlich zu machen, wann Texte, Bilder oder andere Produkte von KI stammen. Nicht in der Zusage enthalten sind Maßnahmen zum Datenschutz, Transparenz hinsichtlich der Daten, die zum Training von KI-Modellen verwendet werden, Kompensation von Urheber:innen sowie Fragen des Arbeitsmarktes.