Tag: KI-Sicherheit
OpenAI-Vorstandsmitglieder ignorieren Warnungen ehemaliger Direktoren und verteidigen Sam Altman als „äußerst aufgeschlossen“
Helen Toner und Tasha McCauley verließen OpenAI, als Sam Altman als CEO zurückkehrte. Microsoft Zwei ehemalige Vorstandsmitglieder von OpenAI warnten in einem Meinungsartikel im Economist vor CEO Sam Altman und…
Ex-OpenAI-Manager wirft Sam Altman vor, er habe „glänzende Produkte“ der KI-Sicherheit vorgezogen
OpenAI-CEO Sam Altman Justin Sullivan/Getty Images Ein hochrangiger OpenAI-Manager, der sich mit Sicherheit beschäftigt, hat am Dienstag gekündigt. Jan Leike sagte, er habe einen „Bruchpunkt“ erreicht. Er fügte hinzu, dass…
Sobald ein KI-Modell „trügerisches Verhalten“ zeigt, kann es schwierig sein, es zu korrigieren, fanden Forscher des OpenAI-Konkurrenten Anthropic heraus
Forscher des von Amazon unterstützten KI-Startups Anthropic untersuchten das betrügerische Verhalten in großen Sprachmodellen. Jakub Porzycki/NurPhoto über Getty Images Forscher des KI-Startups Anthropic waren Mitautoren einer Studie über betrügerisches Verhalten…
Der Mitbegründer von Google Brain sagt, er habe versucht, ChatGPT dazu zu bringen, „uns alle zu töten“, ist aber „erfreut, berichten zu können“, dass es ihm nicht gelungen ist, ein Weltuntergangsszenario auszulösen
„Um die Sicherheit führender Modelle zu testen, habe ich kürzlich versucht, GPT-4 dazu zu bringen, uns alle zu töten, und ich freue mich, berichten zu können, dass ich gescheitert bin!“…