Gefährdet KI die Demokratie? - Interview mit Yvonne Hofstetter

"Wollt Ihr die totale Überwachung?"

28.11.2016
Von 
Jan-Bernd Meyer betreute als leitender Redakteur Sonderpublikationen und -projekte der COMPUTERWOCHE. Auch für die im Auftrag der Deutschen Messe AG publizierten "CeBIT News" war Meyer zuständig. Inhaltlich betreute er darüber hinaus Hardware- und Green-IT- bzw. Nachhaltigkeitsthemen sowie alles was mit politischen Hintergründen in der ITK-Szene zu tun hat.

Die Angst: Leute machen mit Mistgabeln auf der Straße Revolution

Die Schere zwischen Kapital und Arbeit öffnet sich seit den 70er Jahren des vorigen Jahrhunderts. Das fällt eben nicht zufällig mit dem Siegeszug des Mikroprozessors zusammen. Das macht vielen Menschen Sorge - übrigens einschließlich der Kapitalmarktakteure. Investoren haben inzwischen Angst, dass die Leute wieder mit der Mistgabel auf die Straße gehen und Revolution machen, weil sie keine Arbeit mehr haben. Und das nicht zu Unrecht. Weil viele Arbeiten wegfallen werden.

Warum ist das so? Weil wir heute eine völlig andere Art von Maschinen entwickeln. Brynjolfsson spricht vom zweiten Maschinenzeitalter (Erik Brynjolfsson und sein Kollege Andrew McAfee vom Massachusetts Institute of Technology (MIT) in ihrem Bestseller "The Second Machine Age", Anm.d.Red.). Heute können Maschinen Dinge, die sie nie zuvor konnten. Diese Maschinen können uns verstehen, sie können denken, sie können Entscheidungen treffen. Sie können sehen, sie können sich bewegen, können Texte übersetzen oder gleich selbst schreiben. Sie sind mobil, sie sind unabhängig. Sie arbeiten asynchron. Das sind nicht mehr nur Werkzeuge, bei denen wir sagen können "Da schalte ich eben die Maschine aus" und dann steht das Werkzeug still. Heute reden wir von Maschinen, mit denen wir uns den Planeten teilen müssen. Wir haben uns ganz neue Maschinen geschaffen, ganz neue Kreaturen. Diese Maschinen sind ja in gewisser Weise Klone von uns. Und sie machen Arbeiten, die dann für den Menschen wegfallen.

Seit ich in der IT arbeite, beschäftige ich mich die allermeiste Zeit mit den Finanzmärkten. Ich habe um das Jahr 2000 die Voice-Broker mit den zwischen Ohr und Schultern geklemmten Telefonhörern - das sind die Vermittler zwischen Käufer und Verkäufer - aus dem Markt gehen sehen. Die sind durch die Automatisierung und Onlinebroker weggefegt worden. Und vor zehn Jahren habe ich gesagt, die nächsten, die gehen, sind die Börsenhändler. Das sind die, die die Entscheidungen treffen über den gesamten Aktienkauf- und Verkaufsprozess - also die Käufer und Verkäufer selbst. Diesen Punkt haben wir heute bereits erreicht. Die Händler, die ich kenne - insbesondere die im Währungsbereich -, haben alle keine Arbeit mehr. An ihrer Stelle entscheiden Maschinen.

"All die Menschen sind raus aus dem Job"

Regulierungsbehörden wie etwa die schweizerische FINMA machen es sogar zur Auflage, diese Bereiche komplett zu automatisieren. Warum? Weil Banken in Betrugsskandale verwickelt waren. Unlautere Absprachen von Fixingkursen, Zinsmanipulationen - das tun Maschinen nicht. Die Schweizerische Finanzaufsichtsbehörde hat der UBS aufgegeben, 95 Prozent des Währungshandels komplett zu automatisieren. Jetzt treffen Maschinen die Entscheidung, wie bepreist wird. All die Menschen, die da vorher tätig waren, sind raus aus dem Job. Und die finden auch so schnell nichts mehr. Alle die Bank Trader, die ich kenne, haben keine Arbeit mehr gefunden.

Wissenschaftler wie Michael Osborne und Carl Frey, aber etwa auch das World Economic Forum rechnen vor, dass durch die Digitalisierung, Automatisierung und Roboterisierung der Arbeitswelt millionenfach Arbeitsplätze verschwinden. Andere glauben, dass durch neue Techniken auch neue Jobs entstehen.
Wissenschaftler wie Michael Osborne und Carl Frey, aber etwa auch das World Economic Forum rechnen vor, dass durch die Digitalisierung, Automatisierung und Roboterisierung der Arbeitswelt millionenfach Arbeitsplätze verschwinden. Andere glauben, dass durch neue Techniken auch neue Jobs entstehen.
Foto: Everett Historical/shutterstock.com

Das aber ist ein Problem: Der Staat bezieht einen ganz wesentlichen Anteil seiner Steuereinnahmen aus der Lohn- und Einkommenssteuer. Zudem zahlen Menschen Beiträge in die Sozialversicherung ein. Dabei geht man aber stillschweigend von einer in Lohn und Brot stehenden Bevölkerung aus. Bei den heutigen technischen Entwicklungen, die wir erleben, muss man sich also ziemlich schnell etwas einfallen lassen, muss beispielsweise am Steuerrecht etwas ändern.

CW: Was würde Ihnen da einfallen?

Hofstetter: Ich muss das Kapital und die Kapitalsubstitute - Maschinen etwa substituieren Kapital - auf eine andere Art besteuern, als ich das heute tue.

CW: In dem Zusammenhang: In einem Artikel in der FAZ wurde diskutiert, wenn man die Automatisierungseffekte auf gesellschaftlicher Ebene betrachte, entstünde ein Bild, das die Grundannahmen der Demokratien in Frage stellt. Das einzig verbleibende relevante Produktionsmittel sei Kapital. Das aber habe Folgen: Wer in moderne Maschinen und Software investieren könne, streicht im derzeitigen System den Mehrwert aus deren Produktivität ein. Übrigens etwas, das Andrew Keen in seinem Buch "Das digitale Debakel" kritisiert. Wenn man nun aber sieht, dass Unternehmen wie Google und Facebook bereits heftig in Robotik-Forschung, KI-Entwicklung etc. investieren, dass immer mehr Firmen auf die automatisierte Produktion setzen, dann bleibt festzuhalten: Wir haben die Probleme doch schon.

Wer in moderne Maschinen und Software investieren kann, streicht im derzeitigen System den Mehrwert aus deren Produktivität ein. Sahra Wagenknecht, die gemeinsam mit Dietmar Bartsch den Fraktionsvorsitz der Partei DIE LINKE bekleidet, sagt: "Das hat schon Karl Marx beschrieben." Zu den Unternehmen, die massiv Kapital in die Entwicklung von KI-Systemen investieren können, gehört sicherlich Google. Das Unternehmen investiert bei weitem nicht nur in selbstfahrende Autos.
Wer in moderne Maschinen und Software investieren kann, streicht im derzeitigen System den Mehrwert aus deren Produktivität ein. Sahra Wagenknecht, die gemeinsam mit Dietmar Bartsch den Fraktionsvorsitz der Partei DIE LINKE bekleidet, sagt: "Das hat schon Karl Marx beschrieben." Zu den Unternehmen, die massiv Kapital in die Entwicklung von KI-Systemen investieren können, gehört sicherlich Google. Das Unternehmen investiert bei weitem nicht nur in selbstfahrende Autos.
Foto: Martial Red - shutterstock.com

Hofstetter: Genauso ist es. Wir haben diese Probleme schon. Auch in vielerlei anderer Hinsicht. Nehmen Sie etwa das Beispiel, dass heute schon Systeme Zensur betreiben. Facebook etwa: Das Unternehmen zensiert ein berühmtes Foto aus dem Vietnamkrieg, weil es ein schreiendes nacktes Kind zeigt. Der Facebook-Algorithmus hat dabei alles richtig gemacht und das Foto eines nackten Menschen, eines kleinen Kindes zumal, gesperrt. Aber der Mensch hat einen anderen Zugang zu solch einem Foto, er besitzt einen umfassenderen, anderen Kontext.

Algorithmen greifen in die Meinungsbildung des Menschen ein

Im Ergebnis wird in einem Fall wie diesem massiv in die Meinungsbildung der Menschen eingegriffen, wenn nämlich ein hochdekoriertes Foto aus dem Vietnamkrieg plötzlich von einem Algorithmus zensiert wird. Ich als Betrachter habe den Kontext Vietnamkrieg, Napalmangriff, fliehende Menschen. Diesen Kontext hat das System, der Algorithmus, aber nicht. Und ich denke, den werden Algorithmen auf absehbare Zeit auch nicht herstellen können.

Das hat auch etwas Positives: Ich weiß gar nicht, ob wir in die Lage kommen können, dass uns die Maschinen einmal beherrschen. Denn wir Menschen haben auch in punkto soziale Intelligenz, Bewusstsein und Erkenntnis noch eine Menge mehr vorzuweisen.

CW: Was also würden Sie empfehlen?

Hofstetter: Wir Menschen müssen unsere menschlichen Stärken gegenüber diesen Maschinen mehr herausarbeiten. Da kommen wir durchaus auch auf nichtstoffliche Dinge wie Glauben, Freundschaft, Demokratie etc. Wenn ich hingegen den Menschen ganz im Sinne des Naturalismus nur noch in Zahlen und Daten definiere, ihn also auf einen Datenhaufen reduziere, dann setze ich ihn ja erst in Konflikt mit diesen Werten. Denn wir sind so viel mehr als Zahlen und Daten. Das ist die große gesellschaftliche Herausforderung des 21. Jahrhunderts: das wir es schaffen, die wissenschaftliche Vernunft wieder mit den immateriellen Wirklichkeiten des menschlichen Geistes zu versöhnen. Dann kann auch die Digitalisierung human werden.