KI-Systeme können falsch liegen und es nicht zugeben

5. April 2022 – Künstliche Intelligenzsysteme werden gebaut, um bei der Diagnose von Krankheiten zu helfen, aber bevor wir ihnen die Verantwortung über Leben und Tod anvertrauen können, muss die KI eine sehr menschliche Eigenschaft entwickeln: Fehler eingestehen.

Und die Wahrheit ist: Das können sie noch nicht.

Laut Forschern der University of Cambridge und der University of Oslo kann KI heute häufiger die richtige Antwort auf ein Problem geben, als dass sie erkennt, dass sie einen Fehler gemacht hat.

Dieser grundlegende Fehler, so berichten sie, wurzelt in einem mathematischen Problem.

Einige mathematische Aussagen können nicht als wahr oder falsch bewiesen werden. Zum Beispiel kann die gleiche Mathematik, die die meisten von uns in der Schule gelernt haben, um Antworten auf einfache und knifflige Fragen zu finden, dann nicht verwendet werden, um unsere konsequente Anwendung zu beweisen.

Vielleicht haben wir die richtige Antwort gegeben und vielleicht auch nicht, aber wir mussten unsere Arbeit überprüfen. Dies ist etwas, was Computeralgorithmen meistens noch nicht können.

Es ist ein mathematisches Paradoxon, das erstmals von den Mathematikern Alan Turing und Kurt Gödel Anfang des 20^th Jahrhundert, das auf einige mathematische Probleme hinweist, kann nicht bewiesen werden.

Der Mathematiker Stephen Smale führte diesen grundlegenden KI-Fehler unter den weltweiten Fehlern auf 18 ungelöste mathematische Probleme.

Aufbauend auf dem mathematischen Paradoxon schlugen Forscher unter der Leitung von Matthew Colbrook, PhD, vom Department of Applied Mathematics and Theoretical Physics der University of Cambridge einen neuen Weg zur Kategorisierung der Problembereiche der KI vor.

In dem Proceedings of the National Academy of Sciencesbilden die Forscher Situationen ab, in denen neuronale KI-Netze – die dem Neuronennetzwerk des menschlichen Gehirns nachempfunden sind – tatsächlich so trainiert werden können, dass sie zuverlässigere Ergebnisse liefern.

Es ist eine wichtige frühe Arbeit erforderlich, um intelligentere und sicherere KI-Systeme zu entwickeln.