Gewinnen Sie McNamee und Didem Mente/Anadolu Agency über Getty Images
- OpenAI sagt, dass es DALL-E 3-Bildern neue digitale Wasserzeichen hinzufügt.
- Das Unternehmen räumte ein, dass die Lösung nicht perfekt sei, da sie leicht entfernt werden könne.
- Es besteht zunehmende Besorgnis über die Verbreitung von KI-generierten Fehlinformationen im Zuge von Wahlen.
OpenAI sagt, dass es DALL-E 3-Bildern neue digitale Wasserzeichen hinzufügt.
In einem Blogbeitrag am Dienstag veröffentlichtLaut Angaben des Unternehmens würden Wasserzeichen der Coalition for Content Provenance and Authenticity (C2PA) zu KI-generierten Bildern hinzugefügt. Das Unternehmen war davon überzeugt, dass die Einführung des Wasserzeichens dazu beitragen würde, das Vertrauen der Öffentlichkeit in digitale Informationen zu stärken.
Benutzer können mithilfe von Websites wie überprüfen, ob eine KI Bilder generiert hat Überprüfen Sie die Anmeldeinformationen des Inhalts. Das Unternehmen stellte fest, dass einige Medienorganisationen den Standard auch zur Überprüfung der Inhaltsquelle verwenden.
OpenAI räumte jedoch ein, dass die Methode keine perfekte Lösung sei, und sagte, das Wasserzeichen könne leicht entfernt werden.
Vor dem Hintergrund der bevorstehenden Wahlen besteht zunehmende Besorgnis über die Verbreitung von Fehlinformationen – insbesondere von KI-generierten Audio-, Bild- und Videodateien.
Während in diesem Jahr Milliarden Menschen zur Wahl gehen, sind die Wähler bereits auf Probleme mit KI-generierten Inhalten gestoßen, darunter Robocalls, die sich als Joe Biden ausgeben, und gefälschte Videoanzeigen von Rishi Sunak. Auch explizite Deepfakes von Taylor Swift sorgten letzten Monat für Schlagzeilen und lösten internationale Verurteilung aus gesetzgeberische Maßnahmen.
Meta, ein befreundetes Technologieunternehmen hat auch signalisiert Es bereitet sich darauf vor, gegen die Verbreitung von KI-generierten Inhalten vorzugehen. Das Unternehmen gab am Dienstag bekannt, dass es plant, KI-generierte Bilder auf Facebook, Instagram und Threads mit Etiketten zu versehen.
Keine „Wunderwaffe“
OpenAI weiß, dass die Pläne nicht perfekt sind.
Das Unternehmen sagte, C2PA sei bereits in den Metadaten für Bilder enthalten, die mit der Webversion von DALL·E 3 erstellt wurden, und plant, dies bis zum 12. Februar auf mobile Benutzer auszudehnen.
OpenAI sagte jedoch, dass die Metadaten kein „Allheilmittel zur Lösung von Herkunftsfragen“ seien und wies darauf hin, dass sie leicht versehentlich oder absichtlich entfernt werden könnten.
Das Markieren von KI-generierten Inhalten hat sich durchweg als schwierig erwiesen. Studien haben ergeben, dass die meisten Formen von Digitale Wasserzeichen sind weit verbreitet mit Schwächen, die böswillige Akteure leicht ausnutzen können.
Frühe Versuche, Systeme zur Überprüfung schriftlicher Inhalte auf Anzeichen von KI bereitzustellen, haben sich ebenfalls als relativ erfolglos erwiesen. OpenAI hat seinen Erkennungsdienst wegen Genauigkeitsbedenken stillschweigend eingestellt.
Vertreter von OpenAI reagierten nicht sofort auf eine Bitte von Business Insider um einen Kommentar, die außerhalb der normalen Arbeitszeiten gestellt wurde.