Getty Images
- Führungskräfte des Anti-Cheating-Unternehmens Turnitin sagten, sie hätten herausgefunden, wie man feststellen kann, ob ein Schüler ChatGPT für Aufgaben verwendet.
- Turnitin sagte, sie seien in der Lage gewesen, KI-Schreiben zu erkennen, weil es „extrem durchschnittlich“ sei.
- Dies liegt daran, dass das NYC Department of Education ChatGPT verboten hat, da es keine kritischen Denkfähigkeiten aufbaut.
Seit seiner Einführung Ende November schien ChatGPT wie eine goldene Eintrittskarte für Studenten zu sein, die aus den Hausaufgaben herauskommen möchten.
Der von OpenAI entwickelte KI-Chatbot kann schnell menschlich klingende Antworten auf Hausaufgaben generieren, wie zum Beispiel „Schreibe einen 200-Wörter-Aufsatz über die amerikanische Revolution im Stil eines Highschool-Schülers“ – und das wird immer schwieriger erkennen.
Führungskräfte des Anti-Cheating-Softwareherstellers Turnitin sagen jedoch, dass sie den Code geknackt haben.
Das Unternehmen, das mit Tausenden von Universitäten und Hochschulen zusammenarbeitet, um Lehrern bei der Identifizierung von Plagiaten zu helfen, plant, dieses Jahr einen Dienst einzuführen, der genau feststellen kann, ob ChatGPT die Aufgabe eines Schülers für sie erledigt hat.
„Diese Modelle sind auf die Summe des menschlichen Wissens trainiert, also schreiben sie extrem durchschnittlich. Sie sind verrückte Maschinen, die das wahrscheinlichste Wort am wahrscheinlichsten Ort auswählen. Menschen sind eigenwillig … keine Person ist eigentlich genau durchschnittlich“, Turnitins Laster Präsident der künstlichen Intelligenz, Eric Wang, sagte.
Laut Turnitin haben viele Lehrer ihre Besorgnis darüber geäußert, dass der Bot wahrscheinlich dazu verwendet wird, die Aufgaben der Schüler zu schreiben. Ein College-Professor vor kurzem erzählteder New York Post verspürte er „abscheulichen Schrecken“, als ihm klar wurde, dass ein Student damit einen Aufsatz geschrieben hatte.
„Wir hören von Pädagogen, dass sie verschiedene Tools zur Verfügung haben möchten, sei es direkte Erkennung oder andere zu validierende Funktionen“, sagte Annie Chechitelli, Chief Product Officer von Turnitin, über ChatGPT.
Letzte Woche hat das New Yorker Bildungsministerium als erster Schulbezirk die Verwendung des Chatbots in seinen Netzwerken und Geräten verboten.
„Während das Tool in der Lage sein mag, schnelle und einfache Antworten auf Fragen zu geben, baut es keine kritischen Denk- und Problemlösungsfähigkeiten auf, die für den akademischen und lebenslangen Erfolg unerlässlich sind“, sagte ein Sprecher der Abteilung.
Die ChatGPT-Herausforderung
Sogar Turnitin sagte, dass es ChatGPT nicht mit 100-prozentiger Genauigkeit erkennen könne.
„Ich bin mir sicher, dass unsere erste Beta-Version nicht perfekt sein wird, aber es wird ausreichen, dass wir anfangen können, ein Signal zu bekommen und von den Ausbildern zu lernen, wie man es optimiert“, sagte Chechitelli.
Zhou Yu, Assistenzprofessor für Informatik an der Columbia University, sagte, damit der KI-Detektor von Turnitin erfolgreich sei, müsse er ständig aktualisiert und geändert werden, um mit der Lernrate des KI-Bots Schritt zu halten. Das statistisch wahrscheinlichste Wort, das KI heute generiert, könnte anders sein als im nächsten Jahr, wenn sich das Produkt von OpenAI verbessert.
Trotzdem sagte Yu, sie sei nicht so besorgt über ChatGPT wie andere in der Bildungswelt. Stattdessen glaubt sie, dass es die Bildung fördern kann, wenn es als Werkzeug angemessen eingesetzt wird: Sie untersucht derzeit seine Wirksamkeit beim Unterrichten neuer Sprachen.
„Ich denke nicht, dass wir davor Angst haben sollten. Es ist der natürliche Trend des Fortschritts, obwohl es natürlich Unfälle geben wird“, sagte sie.
Führungskräfte von Turnitin sagten jedoch, sie seien besorgt, dass das Produkt von OpenAI die Bildung insgesamt revolutionieren könnte.
„Pädagogen dabei zu helfen, sich wirklich damit auseinanderzusetzen, wie diese Technologie das Lehren, Lernen, Schreiben, die Schaffung von Wissen und das Konzept der Originalität verändern muss – das ist wirklich schwierig. Normen müssen sich ändern“, sagte Wang.