HEs gibt eine Geschichte, die Verfechter der sogenannten KI (künstliche Intelligenz) – oder des maschinellen Lernens (ML) – vielleicht vorziehen würden, wenn Sie nicht darauf eingehen. Es kommt aus der Seiten von Natur-Maschinen-Intelligenz, eine so nüchterne Zeitschrift, wie man sie sich in einer wissenschaftlichen Bibliothek wünschen kann. Darin sind vier Forscher – Fabio Urbina, Filippa Lentzos, Cédric Invernizzi und Sean Ekins – zu sehen, die für ein Pharmaunternehmen arbeiten, das maschinelle Lernsysteme entwickelt, um „neue therapeutische Hemmstoffe“ zu finden – Substanzen, die eine chemische Reaktion, das Wachstum oder andere biologische Aktivitäten stören an menschlichen Krankheiten beteiligt.
Das Wesen der pharmazeutischen Forschung ist Drogenentdeckung. Es läuft auf die Suche nach therapeutischen Molekülen hinaus und macht die Suche nach Nadeln im Heuhaufen zum Kinderspiel, weil es Milliarden potenzieller Möglichkeiten gibt. Angesichts dessen war die Ankunft der ML-Technologie, die es Maschinen ermöglicht, Milliarden von Möglichkeiten zu durchsuchen, ein wahr gewordener Traum, der nun überall in der Branche verankert ist.
So funktioniert das, wie beschrieben von dem Team, das Halicin entdeckte, ein Molekül, das gegen arzneimittelresistente Bakterien wirkt, die Krankenhäusern zunehmend Schwierigkeiten bereiten. „Wir haben ein Deep-Learning-Modell auf einer Sammlung von trainiert [around] 2.500 Moleküle für diejenigen, die das Wachstum von hemmten E Coli in vitro. Dieses Modell erlernte die Beziehung zwischen chemischer Struktur und antibakterieller Aktivität auf eine Weise, die es uns ermöglichte, die Modellsätze von Chemikalien zu zeigen, die es noch nie zuvor gesehen hatte, und es konnte dann Vorhersagen darüber treffen, ob diese neuen Moleküle … antibakterielle Aktivität gegen sie besaßen E coli oder nicht.”
Nach dem Training stellten sie das Modell so ein, dass es eine andere Bibliothek mit 6.000 Molekülen untersuchte, und es kam eines heraus, das ursprünglich nur als Antidiabetes-Möglichkeit in Betracht gezogen worden war. Aber als es dann gegen Dutzende der problematischsten Bakterienstämme getestet wurde, stellte sich heraus, dass es funktionierte – und eine geringere vorhergesagte Toxizität beim Menschen aufwies. In einer netten Geste tauften sie es Halicin nach der KI in Kubrick’s 2001: Eine Weltraum-Odyssee.
Das ist die Art von Arbeit, die Urbina und seine Kollegen in ihrem Labor durchführten – auf der Suche nach Molekülen, die zwei Kriterien erfüllten: positive therapeutische Möglichkeiten und geringe Toxizität für den Menschen. Ihr generatives Modell bestraft die vorhergesagte Toxizität und belohnt die vorhergesagte therapeutische Aktivität. Dann wurden sie eingeladen zu einer Konferenz des Eidgenössischen Instituts für nuklearen, biologischen und chemischen Schutz zu technischen Entwicklungen, die Auswirkungen auf das Übereinkommen über chemische/biologische Waffen haben könnten. Die Organisatoren der Konferenz wollten ein Papier darüber, wie ML missbraucht werden kann.
„Das ist etwas, worüber wir vorher nie wirklich nachgedacht haben“ erinnerte Urbina. „Aber es war einfach sehr einfach zu erkennen, dass wir beim Erstellen dieser maschinellen Lernmodelle, um Toxizitäten besser und besser vorhersagen zu können, um Toxizität zu vermeiden, alles, was wir tun müssen, den Schalter umdrehen und sagen müssen: ‚Weißt du, anstatt von der Toxizität wegzugehen, was wäre, wenn wir uns der Toxizität zuwenden?‘“
Also haben sie den Schalter umgelegt und dabei der Menschheit eine alptraumhafte Perspektive eröffnet. In weniger als sechs Stunden erzeugte das Modell 40.000 Moleküle, die innerhalb der von den Forschern festgelegten Schwelle lagen. Die Maschine entworfen VX und viele andere bekannte chemische Kampfstoffe, getrennt bestätigt durch Strukturen in öffentlichen Chemiedatenbanken. Es wurden auch viele neue Moleküle entworfen, die ebenso plausibel aussahen, von denen einige vorhergesagt wurden, dass sie giftiger sind als allgemein bekannte chemische Kampfstoffe. „Das war unerwartet“, schrieben die Forscher, „weil die Datensätze, die wir für das Training der KI verwendeten, diese Nervenkampfstoffe nicht enthielten … Medizin zu einem Generator wahrscheinlich tödlicher Moleküle.“
Denken Sie einen Moment darüber nach: Einige der „entdeckten“ Moleküle waren potenziell giftiger als das Nervengift VX, das eine der tödlichsten bekannten Verbindungen ist. VX wurde von Großbritannien entwickelt Labor für Verteidigungswissenschaft und -technologie (DSTL) in den frühen 1950er Jahren. Es ist die Art von Waffe, die zuvor nur von staatlich finanzierten Labors wie DSTL entwickelt werden konnte. Aber jetzt könnte ein bösartiger Geek mit einem Rack voller Grafikprozessoreinheiten und Zugriff auf eine molekulare Datenbank auf etwas Ähnliches kommen. Und obwohl immer noch ein gewisses Fachwissen in Chemie und Toxikologie erforderlich wäre, um eine molekulare Struktur in eine brauchbare Waffe umzuwandeln, haben wir jetzt gelernt – wie die Forscher selbst einräumen – dass ML-Modelle „dramatisch niedrigere technische Schwellenwerte“ darstellen.
An dieser Geschichte fallen mir zwei Dinge auf. Das erste ist, dass die Forscher „nie wirklich über mögliche bösartige Anwendungen ihrer Technologie nachgedacht“ hätten. Damit waren sie wahrscheinlich typisch für die Legionen von Ingenieuren, die in Industrielabors an ML arbeiten. Das zweite ist, dass, während ML eindeutig eine mächtige Erweiterung der menschlichen Fähigkeiten bietet – (sozusagen eine Servolenkung für den Verstand), ob dies eine gute Nachricht für die Menschheit ist, davon abhängt, wessen Verstand es erweitert.
Was ich gelesen habe
Gefälschte Klimalösungen
Aljazeera.com hat veröffentlicht Wir „ergrünen“ uns bis zum Aussterbenein scharfer Aufsatz von Vijay Kolinjivadi von der Universität Antwerpen.
Zeit, erwachsen zu werden
Molly White strahlt in ihrem Substack-Newsletter, Sam Bankman-Fried ist kein Kind.
Komisches Geld
Mihir A Desai hat ein ausgezeichnetes geschrieben New York Times Stück, Der Krypto-Zusammenbruch und das Ende des magischen Denkens