OpenAI sagt, es habe böswillige staatliche Akteure aus China, Russland und Nordkorea vereitelt, und einer von ihnen heißt Salmon Typhoon

• OpenAI gibt an, die Konten von fünf böswilligen staatlichen Akteuren gekündigt zu haben.
• Den Schauspielern wurden Codenamen wie „Charcoal Typhoon“ und „Crimson Sandstorm“ gegeben.
• OpenAI gab an, mit Ländern wie China, Iran, Nordkorea und Russland verbunden zu sein.

OpenAI sagt, es habe die Konten von fünf staatsnahen Parteien vereitelt, die versuchten, ihre Plattform für schändliche Zwecke zu nutzen. Das ist schön und gut, aber ihre Codenamen klingen auch wie etwas direkt aus einem Science-Fiction-Film.

Am Dienstag sagte der ChatGPT-Hersteller in einem Blogeintrag dass es mit Microsoft zusammengearbeitet habe, um „fünf staatsnahe böswillige Akteure zu stören“.

Das Unternehmen nannte die fünf Akteure – die mit China verbundenen „Charcoal Typhoon“ und „Salmon Typhoon“, die mit dem Iran verbundenen „Crimson Sandstorm“, die mit Nordkorea verbundene „Emerald Sleet“ und die mit Russland verbundene „Forest Blizzard“.

Fans der Monster-bekämpfenden Mechs aus Guillermo del Toros Science-Fiction-Film „Pacific Rim“ aus dem Jahr 2013 kommen diese Namen vielleicht ein wenig bekannt vor.

Der Film, der eine Fortsetzung und eine Anime-Serie hervorbrachte, zeigte riesige Roboter mit ebenso radikal klingenden Namen. Der chinesische Mecha im Film hieß „Crimson Typhoon“, während der russische Mecha „Cherno Alpha“ hieß.

OpenAI und Microsoft arbeiteten zusammen, um die fünf Bedrohungsakteure zu identifizieren und sie entsprechend zu benennen Microsofts Namenskonvention zum Thema Wetter.

Beispielsweise erhalten mit China in Verbindung stehende Bedrohungsakteure den Familiennamen „Taifun“ und so weiter. Anschließend werden am Anfang Adjektive hinzugefügt, um zwischen Bedrohungsakteuren innerhalb derselben Familie zu unterscheiden.

Dies hat dazu geführt, dass Microsoft eine Vielzahl von Namen protokolliert hat. Neben „Crimson Sandstorm“ ist Iran auch mit „Lemon Sandstorm“ und „Marigold Sandstorm“ verbunden.

„Diese Akteure versuchten im Allgemeinen, OpenAI-Dienste zum Abfragen von Open-Source-Informationen, zum Übersetzen, zum Finden von Codierungsfehlern und zum Ausführen grundlegender Codierungsaufgaben zu nutzen“, behauptete OpenAI in seinem Blogbeitrag.

OpenAI sagte, es habe die mit den fünf Akteuren verbundenen Konten gekündigt und werde „einen vielschichtigen Ansatz verfolgen, um die Nutzung unserer Plattform durch böswillige staatsnahe Akteure zu bekämpfen“.

Neben der Überwachung und Bekämpfung von Bedrohungsakteuren arbeite das Unternehmen nach eigenen Angaben auch mit Industriepartnern zusammen, um Informationen auszutauschen.

Der Umgang mit den von KI ausgehenden Bedrohungen scheint für das Unternehmen und seinen CEO Sam Altman eine große Priorität zu haben.

Am Dienstag hatte Altman einen virtuellen Auftritt beim World Governments Summit in Dubai, wo er darüber sprach, was ihn nachts wach hält.

„Einfach. Es ist alles Science-Fiction-Zeug“, sagte Altman den Teilnehmern.

„Ich interessiere mich nicht so sehr dafür, dass die Killerroboter auf der Straße herumlaufen und wissen, dass etwas schiefgeht“, sagte er. „Ich interessiere mich viel mehr für die sehr subtilen gesellschaftlichen Fehlausrichtungen, bei denen wir einfach diese Systeme in der Gesellschaft haben und ohne besondere böse Absicht die Dinge einfach schrecklich schief gehen.“

source site-18