Claire Merchlinsky für BI
Stellen Sie sich vor, Sie sind ein Hedgefonds-Manager, der versucht, sich einen Vorteil zu verschaffen. Um die Rendite zu maximieren, entscheiden Sie sich für die Installation der neuesten Technologie, die es einem Computer ermöglicht, die wechselnden Winde des Marktes zu interpretieren und in Millisekunden Tausende von Aufträgen zu tätigen. Das Programm trägt dazu bei, Ihr Kapital für eine Weile aufzustocken, aber die anfängliche Aufregung verwandelt sich in Angst, wenn Sie zusehen, wie das Programm außer Kontrolle gerät und in weniger als einer Stunde Hunderte Millionen Aktien kauft. Ihr Unternehmen versucht, den Handel zu stoppen, aber es gelingt ihm nicht, und plötzlich stehen Sie vor massiven Verlusten, alles aufgrund eines schlecht installierten Algorithmus.
Klingt dystopisch, oder? Aber dieses Katastrophenszenario ist keine beunruhigende Hypothese über die wachsende Bedrohung durch künstliche Intelligenz; Es geschah tatsächlich vor über einem Jahrzehnt, als ein Codierungsfehler zu Verlusten von 440 Millionen US-Dollar für Knight Capital führte und das Unternehmen schließlich dazu veranlasste, sich mit einem massiven Abschlag zu verkaufen.
„Künstliche Intelligenz“ ist nicht „die Zukunft“ – es ist lediglich ein Marketingbegriff für eine leicht aktualisierte Version der Automatisierung, die seit Jahren unser Leben beherrscht. Unternehmen haben eine Reihe von Namen durchlaufen, um ihre Technologie zu verschönern – Automatisierung, Algorithmen, maschinelles Lernen und jetzt KI –, aber letztendlich laufen diese Systeme alle auf die gleiche Idee hinaus: die Entscheidungsfindung an Computer zu übergeben, um Aufgaben schnell auszuführen viel schneller als ein Mensch es könnte. Während die Befürchtung wächst, dass eine neue Generation von KI unser tägliches Leben infizieren, Millionen von Menschen arbeitslos machen und die Gesellschaft allgemein auf den Kopf stellen wird, ist den meisten Menschen nicht bewusst, wie tief die computergestützte Entscheidungsfindung in alle Facetten von KI eingedrungen ist unsere Existenz. Diese Systeme basieren auf Datensätzen und den Regeln, die Menschen ihnen beibringen, aber egal, ob es darum geht, auf den Märkten Geld zu verdienen oder uns mit Nachrichten zu versorgen, ein immer größerer Teil unseres Lebens liegt in den Händen unverantwortlicher digitaler Systeme.
In vielen Fällen haben sich diese Algorithmen als nützlich für die Gesellschaft erwiesen. Sie haben dazu beigetragen, alltägliche Aufgaben zu eliminieren oder gleiche Wettbewerbsbedingungen zu schaffen. Aber zunehmend treffen die Algorithmen, die unserem digitalen Leben zugrunde liegen, fragwürdige Entscheidungen, die die Mächtigen bereichern und das Leben der Durchschnittsbürger ruinieren. Es gibt keinen Grund, Angst davor zu haben, dass KI in Zukunft Entscheidungen für Sie übernimmt – Computer tun dies bereits seit geraumer Zeit.
Das frühe Internet war ein relativ von Menschen kuratiertes Erlebnis – eine unterschiedliche Sammlung von Webseiten, die nur dann auffindbar waren, wenn man die Adresse der Website kannte oder einen Link dazu auf einer anderen Website sah. Das änderte sich im Juni 1993, als der Forscher Matthew Gray einen der ersten „Web-Roboter“ entwickelte, einen primitiven Algorithmus, der „Messen Sie die Größe des Netzes.“ Grays Erfindung half bei der Entwicklung von Suchmaschinen und inspirierte eine Reihe von Nachfolgern – Jump Station, Excite, Yahoo und so weiter. 1998 machten die Stanford-Studenten Sergey Brin und Larry Page den nächsten Schritt bei der Automatisierung des Internets, als sie eine wissenschaftliche Arbeit veröffentlichten über einen “groß angelegte Hypertext-Websuchmaschine” namens Google. In dem Artikel wurde detailliert beschrieben, wie ihr Algorithmus „PageRank“ die Wichtigkeit eines Webergebnisses anhand der Suchanfrage eines Benutzers beurteilte und die relevanteste Website basierend auf der Anzahl anderer damit verlinkter Websites bereitstellte – was auf einer Website sehr sinnvoll war viel kleineres und unschuldigeres Internet.
Irgendwann kippte die Technologiebranche jedoch von der hilfreichen Automatisierung von Arbeitsplätzen, die unser Leben verlangsamten, zu einer Verzerrung der Gesellschaft, indem sie wichtige Entscheidungen den Computern überließ.
Fast drei Jahrzehnte nach der Gründung von Google ist das Internet nur noch automatisierter geworden. Dies hat für den Durchschnittsbürger viele Vorteile mit sich gebracht – Empfehlungen auf Spotify und Netflix helfen uns, neue Kunst zu finden, Robo-Investoren können dabei helfen, zu geringen Kosten einen Notgroschen anzulegen, und industrielle Anwendungen wie die Robotik, die zur Herstellung vieler moderner Fahrzeuge verwendet wird, haben es geschafft unsere Wirtschaft effizienter. Irgendwann kippte die Technologiebranche jedoch von der hilfreichen Automatisierung von Arbeitsplätzen, die unser Leben verlangsamten, zu einer Verzerrung der Gesellschaft, indem sie wichtige Entscheidungen den Computern überließ.
In vielerlei Hinsicht wirkt das Originalpapier von Google wie eine düstere Warnung. Es wird argumentiert, dass werbefinanzierte Suchmaschinen „von Natur aus voreingenommen“ gegenüber diesen Werbetreibenden wären. Es ist daher wahrscheinlich keine Überraschung, dass Forscher dies herausgefunden haben Priorisierung von Werbegeldern Über brauchbare Ergebnisse hinaus wird der Algorithmus von Google immer schlechter und schwächt eine wichtige Informationsquelle für über 5 Milliarden Menschen. Und es sind nicht nur Suchmaschinen. Umsatzorientierte Algorithmen hinter Netzwerken wie Facebook, Instagram, TikTok und Twitter haben gelernt, den Nutzern einen stetigen Strom verstörender oder wütender Inhalte zuzuführen, um das Nutzerengagement zu steigern. Als die menschliche Kontrolle abnahm, häuften sich die realen Konsequenzen dieser Algorithmen: Der Algorithmus von Instagram wurde mit einer psychischen Krise bei Mädchen im Teenageralter in Verbindung gebracht. Twitter gab zu, dass seine Technologie dazu neigte, Tweets von rechten Politikern, Influencern und Nachrichtenquellen zu verstärken, und seit Elon Musk die Website gekauft hat, ist die Lage nur noch schlimmer geworden. Cambridge Analytica nutzte einen Algorithmus, um die Daten von Facebook zu durchsuchen, um im Vorfeld der britischen Abstimmung für den Austritt aus der Europäischen Union und der US-Präsidentschaftswahl 2016 Millionen von Menschen gezielt anzusprechen.
Algorithmen, die die Arbeit erleichtern oder die Produktivität der Mitarbeiter steigern sollten, haben dazu beigetragen, die Wirtschaft gegen Arbeiter und Farbige zu richten. Firmen wie Amazon treffen Einstellungs- und Entlassungsentscheidungen auf der Grundlage der Launen eines verherrlichten Taschenrechners. Auch die Kunden ziehen den Kürzeren bei der KI: Eine Untersuchung von Associated Press und The Markup aus dem Jahr 2019 fanden heraus, dass die bei der Kreditentscheidung verwendeten Algorithmen stark voreingenommen gegenüber farbigen Menschen waren, wobei die Wahrscheinlichkeit, dass Kreditgeber schwarze Bewerber ablehnen, um 80 % höher ist als bei ähnlichen weißen Bewerbern.
Und diese Probleme übertragen sich auf den öffentlichen Sektor und vergiften staatliche Dienste mit algorithmischen Vorurteilen. Die britische Regierung war im Jahr 2020 mit einem landesweiten Skandal konfrontiert, als die Verwaltung fast 40 % der A-Level-Prüfungen von Schülern – ein entscheidender Test, der die Hochschulfähigkeit eines Schülers bestimmen kann – durch algorithmisch ausgewählte Noten ersetzte. Die Ergebnisse wiesen deutlich darauf hin, dass Schüler aus den gebührenfreien staatlichen Schulen Großbritanniens diejenigen begünstigten, die Privatschulen in wohlhabenden Gegenden besuchten, und brachten das Leben vieler junger Menschen durcheinander. A „Selbstlernender“ Algorithmus, der von der niederländischen Steuerbehörde verwendet wird Zehntausende Menschen wurden fälschlicherweise bestraft, weil sie angeblich das Kinderbetreuungssystem des Landes betrogen hatten, was die Menschen in die Armut trieb und dazu führte, dass Tausende Kinder in Pflegefamilien untergebracht wurden. In den USA, ProPublica fand in einer Untersuchung aus dem Jahr 2016 heraus dass ein Algorithmus, der in mehreren staatlichen Gerichtssystemen verwendet wird, um zu beurteilen, wie wahrscheinlich es ist, dass jemand in Zukunft ein Verbrechen begeht, voreingenommen gegen schwarze Amerikaner war, was zu härteren Strafen durch Richter führte.
Überall im öffentlichen und privaten Sektor haben wir die Schlüssel zu einem Spinnennetz von Algorithmen übergeben, die ohne öffentliche Einsicht in die Art und Weise, wie sie ihre Entscheidungen treffen, aufgebaut wurden. Es gibt einige Widerstände gegen diese Infiltration – Die FTC versucht zu regulieren, wie Unternehmen Algorithmen nutzen, aber sie haben dies noch nicht sinnvoll getan. Und im weiteren Sinne scheinen sich Regierungen damit abgefunden zu haben, dass Maschinen unser Leben bestimmen.
Ähnlich wie der sprichwörtliche Frosch, der in einem Topf Wasser kocht, ist die langsame Übernahme von Algorithmen von der breiten Öffentlichkeit weitgehend unbemerkt geblieben. Es ist leicht, eine kleine Änderung am Algorithmus von Instagram zu übersehen oder sogar die Steuersoftware zu loben, die Ihre Steuererklärung vereinfacht. Doch dank der neuen Welle der „künstlichen Intelligenz“ beginnen die Menschen zu bemerken, wie heiß das Wasser geworden ist. Der von Investoren getragene Enthusiasmus führt dazu, dass fast jedes große Unternehmen generative KI – die meist bestenfalls mittelmäßig ist – in seine Dienste in Betracht zieht oder aktiv integriert. Als dies KI-Hype-Zyklus Beharrt darauf, dass wir dem Tod des nützlichen Internets entgegenrasen.
Überall im öffentlichen und privaten Sektor haben wir die Schlüssel zu einem Spinnennetz von Algorithmen übergeben, die ohne öffentliche Einsicht in die Art und Weise, wie sie ihre Entscheidungen treffen, aufgebaut wurden.
Große Sprachmodelle wie die hinter ChatGPT und Googles Gemini sind darauf ausgelegt, das öffentlich zugängliche Internet und verschiedene Suchmaschinen nach Informationen zu durchsuchen. Dies stellt ein Problem dar, da das Web zunehmend mit generischen Seiten gefüllt ist, die dazu dienen, das SEO-System auszutricksen, anstatt nützliche Informationen bereitzustellen. Viele Websites sind selbst KI-generiert, wodurch eine Flut mittelmäßiger, unzuverlässiger Informationen entsteht. Nehmen Sie Quora, die Frage-und-Antwort-Site, die einst für hochwertige benutzergenerierte Antworten beliebt war. Quora stellt nun Antworten bereit, die von OpenAIs ChatGPT generiert werden, die in die generativen Ergebnisse von Google einfließen und schließlich Auskunft geben Benutzer, dass sie Eier schmelzen können. Und da unverbundene Führungskräfte menschliche Redakteure durch KI ersetzen – wie Microsoft es mit getan hat MSN.comDies führt dazu, dass monatlich über eine Milliarde Menschen Fehlinformationen erhalten – Wir werden in einen Zyklus eintreten, in dem sich die generativen Modelle auf den Überresten eines durch generative Inhalte vergifteten Internets trainieren. Sogar die vermeintlich menschliche Domäne der sozialen Medien wurde mit KI-Spam überschwemmt, was dazu führte, dass X, Facebook, Reddit und Instagram zu einem ständigen Kampf gegen Fehlinformationen und regelrechte Betrügereien.
Obwohl generative KI nur die neueste Erweiterung des Algorithmus ist, stellt sie eine einzigartige Bedrohung dar. Zuvor kontrollierten Menschen die Eingaben und legten Einsatzregeln für die Modelle fest, während die Computer die Ausgabe erzeugten. Jetzt erlauben wir diesen Modellen, die Spielregeln für uns festzulegen und sowohl die Eingaben als auch die Ausgaben zu generieren. Wir beginnen bereits, einige der schädlichen Auswirkungen zu sehen: Im Jahr 2023 ersetzte die National Eating Disorders Association ihr menschliches Helpline-Personal durch einen KI-Chatbot. Nur um es kurz darauf abbrechen zu müssen, als es anfing, schädliche Ratschläge zum Abnehmen zu geben.
Die Reichen und Mächtigen werden in der Lage sein, aus dieser algorithmisch gesteuerten Zukunft auszusteigen oder sie nach ihrem Bild zu gestalten, indem sie sich direkt mit den Menschen hinter den von algorithmischen Prozessen umhüllten Unternehmen verbinden. Wenn Sie einen Privatbankier haben, müssen Sie sich keine Sorgen um eine anonyme, automatisierte Finanzprüfung machen – Sie haben eine Person mit einer E-Mail-Adresse und einer Telefonnummer. Die Reichen müssen sich darüber keine Sorgen machen Krankenschwestern oder Ärzte werden durch KI-Prozesse ersetztweil sie es sich leisten können Medizinischer Concierge-Service. Die Mächtigen müssen sich keine Sorgen darüber machen, dass ihre Jobs automatisiert werden, denn sie werden diejenigen sein, die entscheiden, wo und wann ein Job einem automatisierten Prozess übergeben wird.
Für den Rest von uns scheint es, als ob unser Leben immer mehr von der Blackbox der Algorithmen bestimmt wird, und wir wissen, wie das geht. Automatisierung kann nützlich sein, um die Abläufe eines Unternehmens oder einer Regierung zu skalieren und zu beschleunigen, aber der Kompromiss ist fast immer menschliches Leid – Entlassungen, unfaire Polizeiarbeit, finanzielle Verluste, ein verzerrtes Medienumfeld. Selbst die größte Informationsquelle der Welt – das Internet – wird mit Inhalten überschwemmt, die entweder für Algorithmen erstellt wurden oder von den Algorithmen selbst generiert wurden, wodurch das einzigartige, interessante und wertvolle von Menschen erstellte Material, das das Internet zu etwas Besonderem gemacht hat, beiseite geschoben wird .
KI ist in diesem Sinne nicht neu, aber sie beschleunigt den Trend, Menschen aus den Machenschaften der sie umgebenden Welt herauszuschneiden. Vielleicht war eine allmächtige Superintelligenz nie das, wovor man sich fürchten musste. Vielleicht war die eigentliche Bedrohung die Gier, die Unternehmen dazu bringen würde, kritische Prozesse bereitwillig so weit auszulagern, dass die menschliche Kontrolle von einer krebsartigen Kraft überwältigt wird – Simulacrums, die durch Simulacrums informiert werden, die reale Anrufe tätigen, die die Fähigkeit, selbst zu entscheiden, untergraben.
Ed Zitronist der CEO vonEZPR, eine nationale PR-Agentur für Technologie und Wirtschaft. Er ist außerdem Autor des Tech- und Kultur-NewslettersWo ist dein Ed?und der Gastgeber vonder „Better Offline“-Podcast.