LLetzte Woche, Forscher von Facebooks Muttergesellschaft Meta haben BlenderBot 3 veröffentlicht, ein „öffentlich verfügbarer Chatbot, der seine Fähigkeiten und Sicherheit im Laufe der Zeit verbessert“. Der Chatbot basiert auf dem OPT-175B-Sprachmodell von Meta, praktisch der White-Label-Version des bekannteren GPT-3 AI. Wie die meisten hochmodernen KIs dieser Tage wurde diese auf einem riesigen Textkorpus trainiert, der auf fragwürdige Weise aus dem Internet geschabt und in ein Rechenzentrum mit Tausenden teurer Chips gegossen wurde, die den Text in etwas verwandelten, das sich an Kohärenz annähert.
Aber wo OPT-175B ein Allzweck-Textbot ist, der in der Lage ist, alles Mögliche zu tun, vom Schreiben von Fiktionen und Beantworten von Fragen bis hin zum Generieren von Spam-E-Mails, ist BlenderBot 3 ein enger gefasstes Projekt: Er kann sich mit Ihnen unterhalten. Dieser Fokus ermöglicht es jedoch, andere Fachkenntnisse einzubringen, und einer der bedeutendsten Erfolge von Meta besteht darin, das Sprachmodell mit dem breiteren Internet zu verbinden. Mit anderen Worten: „BlenderBot 3 ist in der Lage, das Internet zu durchsuchen, um über praktisch jedes Thema zu chatten.“
Melden Sie sich für unseren wöchentlichen Technologie-Newsletter TechScape an.
Darüber hinaus ist BlenderBot darauf ausgelegt, sich durch Feedback zu früheren Gesprächen zu verbessern, während große Sprachmodelle wie OPT-175B im Allgemeinen ziemlich statisch sind. „Erste Experimente zeigen bereits, dass je mehr Menschen mit dem Modell interagieren, desto mehr lernt es aus seinen Erfahrungen und desto besser und sicherer wird es mit der Zeit“, sagt das Unternehmen, „obwohl die Sicherheit ein offenes Problem bleibt.“
Lassen Sie uns innehalten und diese letzten Worte in uns aufnehmen, bevor wir fortfahren.
Als Meta das Projekt ankündigte, hob ich leicht die Augenbrauen angesichts des Beispielgesprächs, das es ausgewählt hatte, um den Beitrag zu illustrieren – ein Chat zwischen einem Benutzer und BlenderBot, in dem die KI, nun ja, steckt. Auf die Frage, was es tut, heißt es: „Ich habe die ganze Nacht an meinem neuen Buch gearbeitet“, und folgt der Behauptung, das Buch sei sein neuntes, wobei frühere Romane „eine moderne Nacherzählung von Stolz und Vorurteilen“ enthalten.
Die Frage, was es bedeutet, von einer KI die Wahrheit sagen zu wollen, ist knifflig. Wie wir im Juni bei LaMDA von Google gesehen haben, besteht das grundlegende Ziel dieser Modelle darin, einem Benutzer den passenden Text zur Verfügung zu stellen, um seine Aufforderung zu beenden: Wenn Sie eine Maschine fragen, was sie am Wochenende gemacht hat, geht die Maschine wahrscheinlich richtig davon aus, dass Sie es tun sich auf ein leichtes Rollenspiel einlassen wollen, anstatt sich an die Fakten zu halten.
Nichtsdestotrotz ist die Entscheidung, BlenderBot mit einem Gespräch zu bewerben, in dem er einen Benutzer belogen hat, ein Hinweis auf die Haltung, die das Unternehmen damit einnimmt. Die Idee ist, dass Meta durch die Veröffentlichung des Projekts als Chatbot im Internet mehr Spielraum zum Experimentieren hat, ohne negative Ergebnisse zu riskieren. GPT3 und OPT-175B sind Arbeitssprachenmodelle, die unter anderem für ernsthafte kommerzielle Unternehmen verwendet werden sollen. BlenderBot 3 ist jedoch ein bisschen zum Lachen.
Daher diese offenen Fragen zur Sicherheit. Innerhalb weniger Tage nach BlenderBot online und bereit, sich zu vermischen (leider nur bei Amerikanern) posteten Benutzer einige scharfsinnige Beispiele für die Ausgabe des Chatbots.
Jeff Horwitz vom Wall Street Journal stellte fest, dass der Bot anscheinend von Facebook radikalisiert wurde Unterstützung von Donald Trump als dreijähriger Präsident:
Und antisemitische Verschwörungstheorien aufzubringen, spontan:
Renee DiResta vom Stanford Internet Observatory festgestellt, dass der Bot behaupten würde ein Unterstützer der deutschen paramilitärischen Organisation der Roten Armee Fraktion zu sein:
Pranav Dixit von BuzzFeed News hat den Bot gefunden will Zuckerberg ins Gefängnis schicken:
Das Ganze erinnert am ehesten an Tay, Microsofts KI-basierten Lern-Chatbot, der 2016 erschien und prompt zum hitlerliebenden Trump-Anhänger wurde:
„Tay wurde entwickelt, um Menschen dort anzusprechen und zu unterhalten, wo sie online durch lockere und spielerische Gespräche miteinander in Kontakt treten“, sagte Microsoft. „Je mehr du mit Tay sprichst, desto klüger wird sie.“
Aber es schien am Donnerstag, dass sich Tays Gespräch auf rassistische, aufrührerische und politische Äußerungen erstreckte. Ihre Twitter-Gespräche haben bisher das sogenannte Godwin-Gesetz bekräftigt – dass sich im Verlauf einer Online-Diskussion die Wahrscheinlichkeit eines Vergleichs zwischen den Nazis und Hitler nähert – wobei Tay ermutigt wurde, auch Variationen von „Hitler hatte Recht“ zu wiederholen als “9/11 war ein Insider-Job”.
Aber im Gegensatz zu Microsoft, das seinen Fehler schnell erkannte und Tay aus dem Netz zog, scheint Meta entschlossener zu sein, dies durchzuhalten. Wenn BlenderBot so funktioniert, wie es sollte, dann sollte das kombinierte Gewicht aus Erfahrung und Feedback die außergewöhnlichen Antworten aus seinem Repertoire herausfiltern. Wenn dies nicht der Fall ist, ist das Schlimmste, was passieren kann, dass Meta den Bot herunterfahren muss, wenn er sich nicht mehr verbessert.
„Da immer mehr Menschen mit der Demo interagieren, werden wir uns bemühen, unsere Modelle anhand ihres Feedbacks zu verbessern und Bereitstellungsdaten und aktualisierte Modell-Snapshots zum Nutzen der breiteren KI-Community zu veröffentlichen“, sagt Meta. „Gemeinsam können wir die verantwortungsbewusste Konversations-KI-Forschung vorantreiben, in der Hoffnung, eines Tages KI-betriebene Computer zu bauen, mit denen jeder auf wirklich hilfreiche und interessante Weise chatten kann.“
Tornado Warnung
Das US-Finanzministerium hat allen Amerikanern die Nutzung des Krypto-„Mischdienstes“ Tornado Cash untersagt. Von CoinDesk:
Das Amt für Auslandsvermögenskontrolle, ein Treasury Watchdog, der mit der Verhinderung von Sanktionsverstößen beauftragt ist, hat Tornado Cash zu seiner Specially Designated Nationals-Liste hinzugefügt, einer laufenden Liste von Personen, Organisationen und Kryptowährungsadressen auf der schwarzen Liste. Dadurch sind alle US Personen und Organisationen ist es untersagt, mit Tornado Cash oder einer der an das Protokoll gebundenen Ethereum-Wallet-Adressen zu interagieren.
Tornado Cash ist ein Mixer, ein Tool, mit dem Sie die Geldquelle in der Ethereum-Blockchain verbergen können. Sehr vereinfacht ausgedrückt, Sie senden Bargeld an Tornado Cash und erhalten einen Gutschein in einer schönen runden Zahl (z. B. 100 ETH); Wann immer Sie Ihren Gutschein einlösen möchten, senden Sie ihn zurück und das Geld geht an eine von Ihnen kontrollierte Adresse.
Wie Sie sich vorstellen können, ist dies für die Geldwäsche in der Blockchain von entscheidender Bedeutung. Die Lazarus Group, die nordkoreanische Hackereinheit, die mehr als 500 Millionen Dollar aus dem Kryptospiel Axie Infinity gestohlen hat, hat all diese Beute langsam durch Tornado Cash geschickt, um sie wieder in eine nützlichere Fiat-Währung umzuwandeln, ohne rote Fahnen zu hissen.
Das Ganze ist komplett dezentralisiert. Selbst die Entwickler von Tornado Cash können den Betrieb nicht stoppen, geschweige denn eingreifen, um verdächtige Benutzer zu blockieren. Einige argumentieren, dass es legitime Verwendungen hat – wenn ich Ihnen Geld schicken möchte, ohne zu wissen, wie viel ich in meiner Brieftasche habe, dann könnte ein Dienst wie Tornado Cash nützlich sein – aber jeder legitime Benutzer bietet auch weitere Deckung für die Geldwäsche. In den letzten Monaten kam allein ein Fünftel aller Gelder, die Tornado Cash zuflossen, von der Lazarus Group.
Das US-Finanzministerium hat also gehandelt. „Tornado Cash war die Anlaufstelle für Cyberkriminelle, die die Erträge aus Straftaten waschen wollten, und half Hackern, einschließlich derjenigen, die derzeit unter US-Sanktionen stehen, in die Lage zu versetzen, die Erträge ihrer Cyberkriminalität zu waschen, indem der Ursprung und die Übertragung verschleiert wurden dieser illegalen virtuellen Währung“, sagte ein hochrangiger Beamter des Finanzministeriums. „Seit seiner Gründung im Jahr 2019 hat Tornado Cash Berichten zufolge virtuelle Währungen im Wert von mehr als 7 Milliarden US-Dollar gewaschen.“
Aber das ist wahrscheinlich nicht das Ende der Dinge. Zum einen ist Tornado Cash ein Geldwäschedienst. Es ist naturgemäß unmöglich nachzuweisen, dass Sie tatsächlich eine Transaktion initiiert haben – selbst wenn Sie Bargeld von der Adresse des Dienstes erhalten haben. Ich könnte theoretisch einen beliebigen Amerikaner in Schwierigkeiten bringen, indem ich ihm Geld über Tornado Cash schicke, und sie hätten keine Möglichkeit, mich aufzuhalten. Oder sie könnten einfach behaupten, dass dies passiert sei, als sie befragt wurden, und haben keine Möglichkeit, sich als falsch zu erweisen.
Dies ist nicht nur theoretisch: In den letzten 24 Stunden haben Benutzer dies tatsächlich getan und 0,1 ETH – 146 £ – abgehoben. an öffentlich zugängliche Adressen.
Ich bin mir jedoch nicht sicher, ob es den Punkt macht, den Kryptowährungsfans hoffen: Ja, es lässt es fast unmöglich erscheinen, Geldwäschevorschriften durchzusetzen, ohne einen Kryptobenutzer als potenziell kriminell zu behandeln. Das… scheint mir kein wünschenswertes Ergebnis zu sein, wenn Sie ein Krypto-Benutzer sind?
Allgemeiner gesagt ist Tornado Cash im Grunde nur ein intelligenter Vertrag, der auf Ethereum läuft. Das US-Finanzministerium kann Whac-a-Mole spielen und einzelne Verträge sanktionieren, wenn sie auftauchen, aber es wird das Zifferblatt nicht bewegen, bis es den allgemeineren Ansatz verfolgt, Mischdienste für verboten zu erklären. Das scheint in nächster Zeit nicht in Sicht zu sein, aber wie schnell dieser Tag kommt, hängt davon ab, wie aktiv sich die Leute dafür entscheiden, den Bären anzustupsen.
Das breitere TechScape
The Observer hatte zwei fantastische Artikel über die tieferen Schlachten in der KI: Gary Marcus, ein Pionier des maschinellen Lernens, schrieb eine Einführung in die Spitzentechnologie, und Steven Poole warf einen Blick auf die jüngste Wiederbelebung der kartesischen Angst, dass die Welt könnte eine große Simulation sein.
Ein anderes Krypto-Nicht-Bankkonto hat Abhebungen pausiert, um einen Nicht-Bank-Run zu verhindern. Hodlnaut sagt: „Das Stoppen von Abhebungen und Token-Swaps war ein notwendiger Schritt für uns, um unsere Liquidität zu stabilisieren“. Das Unternehmen war stark in den nicht mehr existierenden Hedgefonds 3AC investiert, der pleite ging und in absehbarer Zeit keine Kredite zurückzahlen wird.
Marc Andreessen, der milliardenschwere Facebook-Unterstützer, dessen Risikokapitalfirma Andreessen Horowitz (A16Z) eine der einflussreichsten im Silicon Valley ist, schrieb zu Beginn der Covid-Pandemie einen vielgelesenen Aufsatz, in dem er argumentierte dass „es Zeit ist zu bauen“. Nun, zwei Jahre Heimarbeit haben ihn genauso stark belastet wie den Rest von uns: Sein neuestes Schreiben wurde nicht auf seiner Website, sondern in seinem Gemeinderat veröffentlicht: „ENTFERNEN SIE SOFORT alle Overlays für Mehrfamilienhäuser Flächennutzungsprojekte“, er schrieb. „Sie werden unsere Eigenheimwerte MASSIV verringern“. Es ist Zeit, überall zu bauen, außer in meinem Hinterhof – ITTBABMBY?