Klaus Vedfelt/Getty Images
Vertrauen war schon immer von entscheidender Bedeutung für den Geschäftserfolg. Das gilt im Zeitalter der generativen KI mehr denn je.
Unternehmen müssen darauf vertrauen können, dass die geschäftskritischen Entscheidungen und Ergebnisse ihrer KI-Lösungen vertrauenswürdig und zuverlässig sind. Sie müssen prüfen, ob die KI nur mit ihren proprietären Daten sicher arbeitet, die damit verbundenen Cybersicherheitsbedenken berücksichtigen und die Umweltauswirkungen des Trainings großer Sprachmodelle (LLMs) berücksichtigen. Sie müssen verstehen, wie ihr System eine Entscheidung getroffen, die Einhaltung geschäftlicher und behördlicher Anforderungen berücksichtigt und voreingenommenes oder hetzerisches Verhalten abgemildert hat.
Die Bedeutung von Vertrauen wird heute noch deutlicher, da generative KI die Möglichkeiten von KI verändert. Generative KI-Modelle können beispielsweise äußerst glaubwürdige, gut strukturierte Antworten liefern, sodass es ohne die richtige Fachkenntnis schwierig sein kann, eine falsche Antwort zu erkennen. Generative KI verfügt nicht über eine Test-Retest-Zuverlässigkeit, was bedeutet, dass Sie einem LLM mehrmals dieselbe Frage stellen können und jedes Mal unterschiedliche Antworten erhalten. Es versteht die Bedeutung nicht, was diese Risiken nur verschärft.
Viele Unternehmensführer verspüren den Druck von Investoren, Kunden, Mitarbeitern und anderen, die Einführung von KI, einschließlich generativer KI, zu beschleunigen, aber sie wägen die Dringlichkeit des Handelns gegen die potenziellen Risiken ab. In einem aktuellen Bericht des IBM Institute for Business Value mit dem Titel „CEO-Entscheidungen im Zeitalter der KI„Drei Viertel der befragten CEOs gaben an, dass sie glauben, dass der Wettbewerbsvorteil davon abhängt, wer über die fortschrittlichste generative KI verfügt, aber 48 % der befragten CEOs machen sich Sorgen über Voreingenommenheit oder Datengenauigkeit.
IBM-BeratungDie Erfahrung bei der Unterstützung von Kunden in allen Branchen und Regionen mit KI hat uns gezeigt, dass der Aufbau von Vertrauen in KI im Unternehmen einen soziotechnischen Ansatz erfordert, der Menschen, Prozesse und Technologie umfasst.
Hier sind drei Maßnahmen, die Führungskräfte in Betracht ziehen sollten, um das Vertrauen bei der Skalierung von KI zu stärken:
1. Veröffentlichen Sie Ihre Prinzipien nicht nur – implementieren Sie sie
Fairness, Erklärbarkeit, Privatsphäre, Robustheit und Transparenz sind IBMs Säulen für vertrauenswürdige KI. Dies sind kraftvolle und einfache Worte, um die funktionalen und nichtfunktionalen Anforderungen an KI-Modelle zu formulieren, aber es ist schwierig, sie zum Leben zu erwecken.
Betrachten Sie als Beispiel Transparenz. Benutzer sollten in der Lage sein, zu sehen, wie der KI-Dienst funktioniert, seine Funktionalität zu bewerten und seine Stärken und Grenzen zu verstehen. Dadurch kann ein Benutzer des Modells feststellen, ob es für seine Situation geeignet ist.
Transparenz stärkt das Vertrauen, und der beste Weg, Transparenz zu fördern, ist die Offenlegung. Die Operationalisierung bedeutet, sicherzustellen, dass KI-Systeme Informationen darüber austauschen, welche Daten gesammelt werden, wie sie verwendet und gespeichert werden und wer Zugriff darauf hat. Die Systeme sollten den Benutzern ihren Zweck klar machen.
2. Richten Sie eine KI-Governance ein, um die Disziplin der KI-Ethik zu verankern
Es ist leicht zu sagen, dass Ethik wichtig ist, aber die Einbettung dieser ethischen Grundsätze in Ihre Abläufe erfordert Governance. Bei der KI-Governance definieren Sie Richtlinien und etablieren Verantwortlichkeiten während des gesamten KI-Lebenszyklus. Es ist wichtig, eine Organisationsstruktur, Richtlinien, Prozesse und Überwachung festzulegen. Ein AI Ethics Board kann ein natürlicher Katalysator sein. Bei IBM betten wir unsere ein Grundsätze für Vertrauen und Transparenz in unserem gesamten Unternehmen durch ein KI-Ethikgremium, das für eine zentrale Steuerung sorgt und unser Unternehmen und alle IBM-Mitarbeiter für unsere Werte verantwortlich macht.
3. Konzentrieren Sie sich auf Kultur und funktionsübergreifende Zusammenarbeit
Das Ziel sollte darin bestehen, dass die KI die Gemeinschaften, denen sie dient, besser widerspiegelt. Um jedoch sicherzustellen, dass Systeme der Ungleichheit in der KI nicht aufrechterhalten werden, muss die richtige Organisationskultur für einen verantwortungsvollen Umgang mit KI etabliert werden.
Die Teams, die KI-Tools und -Prozesse entwickeln, sollten mehrere Disziplinen, Fähigkeiten und gelebte Erfahrungen repräsentieren. Erwägen Sie, nicht nur Ingenieure und Datenwissenschaftler, sondern auch Designer, Juristen und die erwarteten Benutzer selbst einzubeziehen. Kollaborative Methoden, wie die IBM Garagesollen Organisationen dabei helfen, Innovationen zu beschleunigen und sinnvolle, dauerhafte Transformationen voranzutreiben, die den Benutzer in den Mittelpunkt stellen und Vorurteile abmildern helfen. Auch die Einrichtung von Systemen, die kontinuierliches Feedback zu KI-gesteuerten Tools und Prozessen einholen, kann zu besseren Ergebnissen beitragen. Alle diese Elemente können dazu beitragen, Ergebnisse zu erzielen, die das Vertrauen der Benutzer wecken.
KI kann ein leistungsstarkes Instrument sein, um die Unternehmenstransformation voranzutreiben. Eine erfolgreiche Umsetzung kann jedoch davon abhängen, dass KI auf vertrauenswürdige und ethische Weise eingesetzt wird.
IBM-Beratung ist einzigartig positioniert, um Unternehmen bei der Bewältigung dieser neuen Ära der KI zu unterstützen, indem es KI auf Unternehmensebene anwendet und dabei einen menschenzentrierten, prinzipiellen Ansatz verfolgt, der Vertrauen schafft. Die Kombination unserer Beratungskompetenzen in vertrauenswürdiger KI und unserer leistungsstarken Software, wie der KI- und Datenplattform IBM Watsonxkann Unternehmen bei der Prüfung und Minderung von Risiken, der Implementierung ganzheitlicher Governance-Rahmenwerke, der Operationalisierung von KI, Bildung und Beratung sowie organisatorischen Veränderungen unterstützen.
Dieser Beitrag wurde von IBM mit Insider Studios erstellt.