Menschen werden KIs nicht kontrollieren können
Noch einmal zu einem irdischen Problem: Eine Menge Menschen warnen vor künstlicher Intelligenz. Die glauben, dass irgendwann die Entwicklung nicht mehr zu kontrollieren ist. Andere halten das für Unsinn.
Schmidhuber: Viele haben Arnold-Schwarzenegger-Filme oder "Matrix" gesehen, mit lächerlichen Zielkonflikten zwischen Menschen und KI-Systemen der Zukunft. Diese Konflikte sind meist völlig an den Haaren herbeigezogen. Langfristig werden Menschen allerdings in der Tat nicht in der Lage sein, ihre künstlichen Geschöpfe zu kontrollieren. Das werden keine bloßen Werkzeuge mehr sein. Sie werden weit klüger sein als wir, aber irgendwann auch das Interesse an uns verlieren, anders als in den eingangs erwähnten Filmen. Letztlich interessiert man sich immer für die, die einem ähnlich sind und mit denen man Ziele teilt. Nur mit denen kann man vernünftig kollaborieren oder sich streiten. Eine Extremform der Kollaboration ist Liebe, eine Extremform des Wettbewerbs ist Krieg. Menschen interessieren sich daher für andere Menschen, Künstler für andere Künstler, Politiker für andere Politiker, fünfjährige Mädchen für andere fünfjährige Mädchen. Und die superklugen KI-Systeme der Zukunft werden sich für die superklugen anderen KI-Systeme interessieren - und nicht so sehr für die Menschen.
Ich wolllte nicht auf Hollywood-Filme abheben. Vielmehr sind es ja Experten auch aus Ihrem Beritt, die vor den Entwicklungen warnen, die sich mit selbstlernenden intelligenten Systemen ergeben könnten. Es ist ja nicht schwer, sich vorzustellen, dass Systeme in Zukunft Diagnosen zu Krankheiten stellen und Behandlungsoptionen vorschlagen ...
Schmidhuber: ... das haben wir heute schon...
... genau. Und wir haben in der Finanzwelt Systeme, die im Hochfrequenzhandel rasend schnell Wertpapiere kaufen und verkaufen, ohne dass der Mensch das noch nachvollziehen kann. Es ist wohl nicht ganz von der Hand zu weisen, dass die technische Entwicklung solch intelligenter Systeme dann auch zu unkontrollierbaren Situationen führen kann.
Schmidhuber: Natürlich muss man daran arbeiten, derartige Gefahren in den Griff zu bekommen. Aber am meisten Angst müssen Sie vor Menschen haben, die ähnlich intelligent sind wie Sie und Zugriff haben auf die 60 Jahre alte Wasserstoffbombentechnik, die die Zivilisation ohne KI auslöschen können.
Würden Sie eine Prognose wagen, wann es KI-Systeme gibt, deren Intelligenz die von Menschen übertrifft?
Schmidhuber: Ich persönlich wäre verblüfft, falls dies nicht in den nächsten Jahrzehnten passieren würde. Und wenn viele KIs dann nicht massiv ihre eigenen Ziele verfolgen würden, von denen die meisten völlig losgelöst sein dürften von den Zielen der Menschen.
Dabei ist doch prinzipiell durchaus wünschenswert, dass KI-Systeme, Roboter etc. dem Menschen in verschiedensten Lebenslagen beispringen - etwa in der Altenpflege oder im Gesundheitswesen, in der Finanz- und Versicherungsbranche.
Schmidhuber: In der Tat gibt es all diese Entwicklungen schon heute. Und natürlich existiert schon heute ein enormer kommerzieller Druck, freundliche KI-Systeme zu bauen und deren Nutzer damit glücklicher zu machen. Nehmen Sie das Smartphone: Das erkennt heute Ihre Sprache und Ihr Gesicht und das anderer Nutzer. Es kann Ihnen Vorschläge machen für Restaurantbesuche. Es misst Ihren Herzschlag und kann gegebenenfalls Warnungen an Sie oder einen Arzt versenden. KI-Systeme operieren doch heute schon - ohne dass vielen das bewusst wird - in verschiedensten Lebensbereichen. Und das auf eine Weise, die die meisten Menschen gutheißen.
Und die Privatsphäre?
Schmidhuber: Natürlich stellt sich die Frage der Privatsphäre, wenn ein Smartphone meine Herzfrequenz zu verschiedenen Tageszeiten genau kennt etc. Dieses Problem wird in verschiedenen Ländern ganz unterschiedlich beurteilt. In Deutschland ist man viel skeptischer als in den USA und Großbritannien, was auch ein Wettbewerbsnachteil werden kann, da das Feld dann den anderen überlassen wird.
Letzte Frage: Immer wieder hört man, Deutschland hinke bei der Digitalisierung hinterher. Nun gibt es aber viele Beispiele dafür, dass deutsche Mittelständler sehr innovativ sind. Sie selbst führen das Beispiel von Ernst Dickmanns an, der Jahrzehnte vor Google, nämlich 1995, mit einem selbstfahrenden Mercedes von München auf der Autobahn nach Dänemark und zurück fuhr. Was ist denn zu halten von der Rückständigkeit der Deutschen in Sachen Digitalisierung?
Schmidhuber: Das ist natürlich Schwachsinn. Viele der Methoden, die heute Microsoft, Google, Baidu, Samsung etc. nutzen, wurden von Deutschen oder anderen Europäern entwickelt. Denken Sie zum Beispiel an die ersten Deep-Learning-Netzwerke von Ivakhnenko in den 1960ern. Denken Sie an die Spracherkennung auf Ihrem Smartphone oder an die besten automatisierten Übersetzungen und automatischen E-Mail-Beantwortungen und was es dergleichen mehr gibt: All das beruht auf der Long-Short-Term-Memory-Netzwerktechnik und auf anderen Algorithmen, die meine Forschungsgruppen in München und in der Schweiz seit den frühen 1990ern entwickelt haben.
Das wird heute von den wertvollsten börsennotierten Firmen der Welt in den USA und Asien verwendet. Und nicht mal das WWW selbst stammt aus Amerika, sondern vom europäischen CERN. Der Computer selbst ist eine komplett europäische Entwicklung. Was in Europa halt fehlt, ist die schnelle Umsetzung der Forschungsergebnisse in kommerzielle Produkte. Das ist im Silicon Valley durch die enge Verzahnung von Forschung und Venture Capital ganz anders. Unsere Firma bekommt deshalb Anrufe vor allem aus den USA und aus Asien, kaum aus Deutschland.
Dabei hat gerade Deutschland ein unglaubliches Potenzial und eine Ökologie von mittelständischen Unternehmen, die in ihren jeweiligen Nischen führend sind. Die machen den größten Teil der deutschen Wirtschaft aus. Die warten nur darauf, dass im Rahmen von Industrie 4.0 und Internet der Dinge tolle KI-basierte Methoden entwickelt werden. Da scheint für deutsche Unternehmen eine große Chance und viel Potenzial zu existieren. Beim Internet der Dinge sehe ich unglaubliche Möglichkeiten für den deutschen Mittelstand.
Zur Person:
Professor Dr. Jürgen Schmidhuber ist Scientific Director am Swiss AI Lab IDSIA, Professor of Artificial Intelligence USI & SUPSI und President bei NNAISENSE.