Stellt künstliche Intelligenz die ganze Welt auf den Kopf oder ist sie selbst hin und wieder einfach nur auf den Kopf gefallen? Mitunter stellt sich dich Frage, ob KI schwindelt. Gerade in den letzten Monaten gab es immer wieder Anzeichen dafür, dass es vielleicht doch noch etwas länger dauert, bis künstliche Intelligenz längere Service-Telefonate oder kompliziertere Auswertungen im Medizinbereich übernehmen wird. Bestätigt wurde diese Annahme von einer Studie der Technischen Universität Berlin, die gemeinsam mit dem Fraunhofer Heinrich-Hertz-Institut und der Singapore University of Technology durchgeführt wurde. Fasst man die Ergebnisse der Studie in aller Kürze zusammen, kamen die Wissenschaftler und Wissenschaftlerinnen zu dem Schluss, dass rund die Hälfte der heutigen KI-Systeme gar nicht so schlau sind, wie sie tun. Ihre Lösungsansätze ließen sich nämlich kaum als intelligent bezeichnen.
KI schwindelt als „Kluger Hans“
Die WissenschaftlerInnen zeigten sich grundsätzlich von den Problemlösungsstrategien beeindruckt, die sie aus ihren Beobachtungen herausdestillieren konnten. Jedoch vermissten sie auch bei sehr modernen KI-Systemen sinnvolle Lösungswege. Meistens fanden sie nämlich nur sogenannte „Kluger-Hans-Strategien“ vor, also die Art und Weise wie KI schwindelt. Die Bezeichnung „Kluger Hans“ wurde in diesem Zusammenhang schon öfter verwendet und stammt eigentlich aus einer Zeit um 1900 als rund um ein Pferd, das angeblich rechnen und zählen konnte, ein wahrer Hype ausbrach. Die Bezeichnung „Hype“ war damals freilich noch nicht in Verwendung. Das Pferd war natürlich auch kein mathematisches Genie, sondern hatte gelernt, die richtige Antwort aus der Reaktion der Person, die die Fragen stellt, abzulesen.
Diese „Kluger-Hans“-Lösungsansätze konnten die WissenschaftlerInnen auch bei den von ihnen untersuchten KI-Systemen erkennen. Ein Beispiel „So verfolgte ein KI-System, das vor einigen Jahren mehrere internationale Wettbewerbe zur Klassifikation von Bildern gewonnen hat, eine aus menschlicher Sicht naive Lösungsstrategie: Es klassifizierte Bilder vorwiegend anhand des Kontextes. Dabei wurden Bilder der Kategorie ‚Schiff‘ zugeordnet, wenn viel Wasser im Bild zu sehen war. Andere Bilder wurden als ‚Zug‘ klassifiziert, wenn Schienen vorhanden waren. Wieder andere Bilder wurden anhand des Copyright-Schriftzuges der richtigen Kategorie zugeordnet. Die eigentliche Aufgabe, nämlich Schiffe oder Züge zu erkennen, hat dieses KI-System nicht gelöst ̶ auch wenn es die Mehrzahl der Bilder im Endeffekt korrekt klassifiziert hat.“
KI schwindelt demnach in Form von „Mogelpackungen“. Diese bergen vor allem in der medizinischen Diagnostik oder in sicherheitskritischen Bereichen enorme Gefahren, erklärt Klaus-Robert Müller, Professor für Maschinelles Lernen an der TU Berlin. Er empfindet es als durchaus denkbar, dass ungefähr die Hälfte der aktuell eingesetzten KI-Systeme implizit oder explizit solche „Kuger Hans“-Strategien nutzt.
Atari-Spiele überraschen mit „intelligenten“ Strategien
Aber nicht jede KI schwindelt. Es konnten auch KI-Systeme identifiziert werden, die unerwartet „intelligente“ Strategien gelernt hatten. Wie aus der Studie hervorgeht, sind hier als positive Beispiele vor allem die Atari-Spiele „Breakout“ und „Pinball“ hervorzuheben. „Hier haben die KI-Systeme ganz klar das Konzept des Spiels ‚verstanden‘ und einen intelligenten Weg gefunden, zielgerichtet und risikoarm sehr viele Punkte zu sammeln. Dabei schlägt das System bisweilen Wege ein, die ein echter Spieler nicht nutzen würde“, so Wojciech Samek, der ebenfalls an der Studie mitgearbeitet hat. „Unsere automatisierte Technik ist Open Source und steht allen Wissenschaftlern und Wissenschaftlerinnen zur Verfügung. Wir sehen unsere Arbeit als einen wichtigen ersten Schritt, KI-Systeme in Zukunft robuster, erklärbar und sicher zu machen. Denn das ist die wesentliche Voraussetzung für den Einsatz von KI überhaupt“, fasst Klaus-Robert Müller zusammen. Intelligenztests für künstliche Intelligenz scheinen aktuell also durchaus sinnvoll zu sein.
Eines steht jedenfalls mit Sicherheit fest: Von künstlicher Intelligenz wird sehr viel erwartet. KI wird bereits im Gesundheitsbereich eingesetzt, soll beim Umweltschutz unterstützen, als Fitness-Coach das Training optimieren und die Produktentwicklung vorantreiben.
Der Beitrag KI schwindelt gern, zeigt eine neue Studie der TU Berlin auf erschien zuerst auf Magenta Blog.