Der oft als Pate der KI angepriesene Mann hat Google verlassen und sich besorgt über die Flut von Fehlinformationen, die Möglichkeit der KI, den Arbeitsmarkt auf den Kopf zu stellen, und das „existenzielle Risiko“, das die Schaffung einer echten digitalen Intelligenz darstellt, angeführt.
Dr. Geoffrey Hinton, der 2012 mit zwei seiner Studenten an der University of Toronto ein neuronales Netz aufgebaut hat, hat diese Woche Google verlassen, wie zuerst von the berichtet wurde New York Times.
Hinton, 75, sagte, er habe aufgehört, frei über die Gefahren der KI zu sprechen, und bedauere teilweise seinen Beitrag auf diesem Gebiet. Er wurde vor einem Jahrzehnt von Google engagiert, um bei der Entwicklung der KI-Technologie des Unternehmens mitzuwirken, und der von ihm entwickelte Ansatz war wegweisend für aktuelle Systeme wie ChatGPT.
Er sagte der New York Times, dass er bis letztes Jahr glaubte, Google sei ein „richtiger Verwalter“ der Technologie gewesen, aber das änderte sich, als Microsoft begann, einen Chatbot in seine Bing-Suchmaschine zu integrieren, und das Unternehmen begann, sich Sorgen über das Risiko zu machen Geschäft suchen.
Einige der Gefahren von KI-Chatbots waren „ziemlich beängstigend“, sagte er der BBC, warnend, dass sie intelligenter als Menschen werden und von „bösen Schauspielern“ ausgenutzt werden könnten. „Es ist in der Lage, automatisch viel Text zu produzieren, sodass Sie viele sehr effektive Spambots erhalten können. Es wird autoritären Führern erlauben, ihre Wählerschaft zu manipulieren, solche Dinge.“
Aber, fügte er hinzu, er sei auch besorgt über das „existenzielle Risiko dessen, was passiert, wenn diese Dinger intelligenter werden als wir.
„Ich bin zu dem Schluss gekommen, dass die Art von Intelligenz, die wir entwickeln, sich sehr von der Intelligenz unterscheidet, die wir haben“, sagte er. „Es ist also so, als hätte man 10.000 Leute und wenn eine Person etwas gelernt hat, wussten es automatisch alle. Und deshalb können diese Chatbots so viel mehr wissen als eine einzelne Person.“
Er ist nicht der Einzige in den oberen Rängen der KI-Forschung, der befürchtet, dass die Technologie der Menschheit ernsthaften Schaden zufügen könnte. Letzten Monat sagte Elon Musk, er habe es getan Streit mit dem Google-Mitbegründer Larry Page weil Page „KI-Sicherheit nicht ernst genug nahm“. Musk sagte gegenüber Fox News, Page wolle „so bald wie möglich eine digitale Superintelligenz, im Grunde einen digitalen Gott, wenn man so will“.
Valérie Pisano, Geschäftsführerin von Mila – dem Quebec Artificial Intelligence Institute – sagte, dass der schlampige Ansatz zur Sicherheit von KI-Systemen in keinem anderen Bereich toleriert werde. „Die Technologie wird auf den Markt gebracht, und während das System mit der Menschheit interagiert, warten seine Entwickler ab, was passiert, und nehmen darauf basierend Anpassungen vor. Wir würden als Kollektiv niemals eine solche Denkweise in einem anderen Industriebereich akzeptieren. Es gibt etwas in Bezug auf Technik und soziale Medien, bei dem wir sagen: ‚Ja, sicher, wir werden es später herausfinden’“, sagte sie.
Kurzfristig ist Hintons Sorge bereits Realität geworden – die Menschen werden nicht mehr erkennen können, was wahr ist, wenn KI-generierte Fotos, Videos und Texte das Internet überfluten.
Die jüngsten Upgrades von Bildgeneratoren wie Midjourney bedeuten, dass Menschen jetzt fotorealistische Bilder erstellen können – ein solches Bild von Papst Franziskus in einem Balenciaga-Puffermantel ging im März viral.
Hinton war auch besorgt, dass KI schließlich Jobs wie Rechtsassistenten, persönliche Assistenten und andere „Plackereien“ ersetzen wird, und möglicherweise in Zukunft noch mehr.
Der leitende Wissenschaftler von Google, Jeff Dean, sagte in einer Erklärung, dass Google Hintons Beiträge für das Unternehmen in den letzten zehn Jahren schätze.
„Ich habe unsere vielen Gespräche im Laufe der Jahre sehr genossen. Ich werde ihn vermissen und wünsche ihm alles Gute!
„Als eines der ersten Unternehmen, das KI-Prinzipien veröffentlicht hat, bleiben wir einem verantwortungsvollen Umgang mit KI verpflichtet. Wir lernen ständig, neue Risiken zu verstehen und gleichzeitig mutig innovativ zu sein.“ Toby Walsh, leitender Wissenschaftler am KI-Institut der Universität von New South Wales, sagte, die Menschen sollten alle Online-Medien hinterfragen, die sie jetzt sehen.
„Wenn es um digitale Daten geht, die Sie sehen – Audio oder Video – müssen Sie die Vorstellung haben, dass jemand sie gefälscht hat.“