©Reuters. DATEIFOTO: CEO von OpenAI Sam Altman nimmt an der jährlichen Allen and Co. Sun Valley Media Conference in Sun Valley, Idaho, USA, am 6. Juli 2022 teil. REUTERS/Brendan McDermid/File Photo
Von Kristall Hu
(Reuters) – OpenAI, der Schöpfer des beliebten Chatbots ChatGTP, hat ein Software-Tool veröffentlicht, um von künstlicher Intelligenz generierten Text zu identifizieren, sagte das Unternehmen am Mittwoch in einem Blogbeitrag.
ChatGPT ist ein kostenloses Programm, das als Reaktion auf eine Eingabeaufforderung Text generiert, darunter Artikel, Essays, Witze und sogar Gedichte, das seit seinem Debüt im November große Popularität erlangt hat und gleichzeitig Bedenken hinsichtlich Urheberrecht und Plagiat aufwirft.
Der KI-Klassifikator, ein Sprachmodell, das auf dem Datensatz von Paaren aus von Menschen geschriebenem und KI-geschriebenem Text zum selben Thema trainiert wurde, zielt darauf ab, Text zu unterscheiden, der von KI geschrieben wurde. Es nutzt eine Vielzahl von Anbietern, um Probleme wie automatisierte Fehlinformationskampagnen und akademische Unehrlichkeit anzugehen, sagte das Unternehmen.
In seinem öffentlichen Beta-Modus erkennt OpenAI an, dass das Erkennungstool bei Texten unter 1.000 Zeichen sehr unzuverlässig ist und von der KI geschriebener Text bearbeitet werden kann, um den Klassifikator auszutricksen.
„Wir stellen diesen Klassifikator öffentlich zur Verfügung, um Feedback darüber zu erhalten, ob unvollkommene Tools wie dieses nützlich sind“, sagte OpenAI.
„Wir erkennen an, dass die Identifizierung von KI-geschriebenem Text ein wichtiger Diskussionspunkt unter Pädagogen war, und ebenso wichtig ist es, die Grenzen und Auswirkungen von KI-generierten Textklassifikatoren im Klassenzimmer zu erkennen.“
Seit ChatGPT im November debütierte und bei Millionen von Nutzern große Popularität erlangte, haben einige der größten US-Schulbezirke, darunter New York City, den KI-Chatbot wegen Bedenken verboten, dass Schüler den Textgenerator zum Schummeln oder Plagiieren verwenden würden.
Andere haben Erkennungstools von Drittanbietern entwickelt, darunter GPTZeroX, um Pädagogen dabei zu helfen, KI-generierten Text zu erkennen.
OpenAI sagte, es arbeite mit Pädagogen zusammen, um die Fähigkeiten und Einschränkungen von ChatGPT zu diskutieren, und werde weiterhin an der Erkennung von KI-generiertem Text arbeiten.