Von Gary Marcus und Ernest Davis; Vintage Books; August 2020.
In diesem Buch zeigen zwei renommierte KI-Experten an zahlreichen Beispielen, wie schlecht die heutige KI mit der Welt abseits von Go-Brettern und Videospielen zurecht kommt und entwickeln Vorschläge, die man diese Beschränkungen überwinden könnte.
So haben neuronale Netze, die zurzeit so überraschende Erfolge feiern, auf der anderen Seite
- einen umgekippten Schulbus als Schneepflug klassifiziert und
- ein Stoppschild, das Scherzbolde mit Aufklebern verziert hatten, plötzlich für eine Geschwindigkeitsbegrenzung gehalten.
Den erstaunlichen Fähigkeiten moderner KI-Algorithmen steht also oft ein mindestens ebenso erstaunliches Versagen in der realen Welt gegenüber, wo sie mitunter an Aufgaben scheitern, die selbst kleine Kinder spielend bewältigen.
Warum das so ist, untersuchen die Autoren, indem sie die Arbeitsweise von KI mit unseren kognitiven Fähigkeiten vergleichen. Wenn z.B. eine KI einen Text übersetzt, nutzt sie statistische Zusammenhänge, die sie zuvor aus ungeheuren zweisprachigen Textmassen extrahiert hat. Beim Übersetzen tauscht sie also Zeichenketten der Quellsprache aus durch statistisch passende Zeichenketten der Zielsprache. Das ist alles, und intelligent wirkt das nicht gerade.
Eine menschliche Übersetzerin muss zwar zunächst auch den Quelltext lesen, aber dann tut sie etwas Unerhörtes, jedenfalls für KI-Begriffe: Während des Lesens versucht sie, den Text zu verstehen! Sie übersetzt also nicht den Text an sich, sondern ein Stück Welt, das sie in ihrem Geist erschaffen hat aus den dürren Stichworten im Text und einer Fülle von Wissen, Erfahrungen, Gefühlen usw., über die sie als menschliches Wesen verfügt.
Die Autoren gehen natürlich etwas nüchterner an dieses Thema heran, als ich mir das hier als begeisterter Bücherwurm erlaubt habe, und tragen eine stattliche Liste von kognitiven Fähigkeiten zusammen, die wir den heutigen KI-Algorithmen voraus haben und die es uns ermöglichen, in einer Welt zu überleben, in der wir immer wieder mit Neuem konfontiert werden.
Diese Liste von kognitiven Fähigkeiten inspiriert die Autoren dazu, ein Forschungsprogramm zu skizzieren, von dem sie überzeugt sind,
- dass es einen Weg aus der Sackgasse weist, in der die KI ihrer Ansicht nach heute steckt,
- und das die KI nach und nach mit “common sense” und am Ende sogar einer “general intelligence” ausstatten soll,
- der man eher vertrauen kann als den heutigen fachidotenhaften KI-Algorithmen, die beim geringsten Überschreiten ihrer Grenzen so spektakulär und überraschend scheitern können, dass man sich besser nicht blindlings auf sie verläßt.
Ob die Vorschläge der Autoren für einen Neustart der KI-Forschung am Ende zu besseren und vertrauenswürdigeren KI-Anwendungen beitragen werden, kann ich als KI-Laie nicht beurteilen. Aber lesenswert ist dieses Buch allemal für jeden, der mehr über Grenzen und Potential von KI erfahren möchte.