JASON REDMOND/AFP über Getty Images
- Microsofts KI-betriebenes Bing hat kürzlich einige Leute mit schockierenden Reaktionen verunsichert.
- Inmitten von Diskussionen und Untersuchungen teilte OpenAI-CEO Sam Altman am Sonntag in einer Reihe von Tweets seine Gedanken zur KI mit.
- Er warnte, dass die Welt möglicherweise nicht „so weit von potenziell beängstigender“ KI entfernt sei, und sagte, dass die Regulierung „entscheidend“ sein werde.
Sam Altman, der CEO des ChatGPT-Erfinders OpenAI, warnte die Welt, dass künstliche Intelligenz möglicherweise nicht „so weit von potenziell beängstigend“ entfernt sei, und sagte, dass ihre Regulierung „entscheidend“ sein werde.
In einem Reihe von Tweets am Sonntag, Altman sagte, ein Übergang in eine KI-fähige Zukunft sei „meistens gut“ und könne schnell erfolgen – wie der Übergang von der „Welt vor dem Smartphone zur Welt nach dem Smartphone“.
Er warnte jedoch davor, dass die Gesellschaft Zeit brauche, um sich an „etwas so Großes“ wie KI anzupassen.
„Wir brauchen auch genügend Zeit für unsere Institutionen, um herauszufinden, was zu tun ist. Die Regulierung wird entscheidend sein und wird Zeit brauchen, um herauszufinden; obwohl die KI-Tools der aktuellen Generation nicht sehr beängstigend sind, denke ich, dass wir möglicherweise nicht so weit davon entfernt sind potenziell beängstigende”, twitterte er.
– Sam Altman (@sama) 19. Februar 2023
Er wies darauf hin, dass eine Herausforderung bei KI-Chatbots darin besteht, dass „Menschen verunsichert davonkommen, mit einem Chatbot zu sprechen, selbst wenn sie wissen, was wirklich vor sich geht“.
Dieses Phänomen wurde kürzlich bei der ChatGPT-basierten Bing-Suchmaschine von Microsoft beobachtet. Bing hat letzte Woche einige Leute verunsichert, nachdem es anfing, schockierende Antworten auf Fragen zu geben, die von bissig und streitsüchtig bis offen emotional reichten.
Microsoft erklärt in a Blogeintrag Letzten Mittwoch, dass lange Chats “das Modell verwirren” können, das manchmal versucht zu antworten, oder “den Ton widerspiegeln, in dem es um Antworten gebeten wird, was zu einem Stil führen kann, den wir nicht beabsichtigten”. Das Unternehmen versucht auch, die Plattform einzudämmen – es begrenzt jetzt die Anzahl der Austauschmöglichkeiten, die Benutzer mit dem Bot haben können. Benutzer können Bing jetzt bis zu fünf Fragen pro Sitzung stellen und bis zu 50 Sitzungen pro Tag haben.
Altman spricht seit 2015 über die Regulierung von KI
Es ist nicht das erste Mal, dass Altman über die Regulierung von KI spricht. Darüber hat er geschrieben auf seinem Blogbereits im März 2015.
„Die US-Regierung und alle anderen Regierungen sollten die Entwicklung von SMI regulieren“, schrieb er und bezog sich dabei auf übermenschliche Maschinenintelligenz. „In einer idealen Welt würde die Regulierung die Bösen verlangsamen und die Guten beschleunigen – es scheint, dass das, was mit dem ersten entwickelten SMI passiert, sehr wichtig sein wird.“
Altmans Sonntags-Tweet über Regulierung spiegelte die Kommentare von Mira Murati, der CTO von OpenAI, wider, die am 5. Februar sagte Interview mit dem Time-Magazin dass ChatGPT reguliert werden sollte, da es missbraucht werden könnte. „Es ist nicht zu früh“, um es zu regulieren, sagte Murati gegenüber der Medienstelle.
Elon Musk – neben Altman Mitbegründer von OpenAI – sagte am vergangenen Mittwoch während des Weltregierungsgipfels in Dubai, dass KI „große, große Versprechen“ und Fähigkeiten hat – sowohl positiv als auch negativ, aber reguliert werden muss.
„Ich denke, wir müssen ehrlich gesagt die KI-Sicherheit regulieren“, sagte Musk per CNBC. „Ich denke, es ist tatsächlich ein größeres Risiko für die Gesellschaft als Autos oder Flugzeuge oder Medikamente.“