Künstliche Intelligenz (KI) ist eine Technologie, die in letzter Zeit immer stärker in den Fokus der Öffentlichkeit gerückt ist. Bei den meisten der heute von Unternehmen verwendeten KI-Anwendungen handelt es sich jedoch nur um KI-Anwendungen der Stufe Eins (etwa RPA) oder Stufe Zwei (bespielsweise. Chatbots). Das bedeutet, dass das Potenzial der KI derzeit nur teilweise ausgeschöpft wird. Ein Grund dafür ist die Eindimensionalität heutiger KI-Lösungen. Die meisten KI-Anwendungen verfügen lediglich über analytische Fähigkeiten.

In ihrer Master-Arbeit "Social Emotional Artificial Intelligence: Implications for Human-Machine Interfaces of AI Applications in Companies" stellt Cathrin Thormann fest, dass der heutigen KI zwei wesentliche Aspekte fehlen, um das Potenzial der Technologie in Bezug auf die Mensch-Maschine-Interaktion voll auszuschöpfen: die soziale und die emotionale Intelligenz (Social Emotional Artificial Intelligence - SEAI). In ihrer Arbeit geht sie auf die Einbindung sozialer und emotionaler Faktoren in die Künstliche Intelligenz und deren Auswirkungen auf die Künstliche Intelligenz ein. Dabei beleuchtet sie die Bedeutung der Mensch-Maschine-Schnittstelle für den Erfolg der SEAI und die Implikationen für diverse Stakeholder-Gruppen.

Verbesserte Entscheidungsfindung

Die Integration von emotionaler und sozialer Intelligenz soll der KI eine verbesserte Entscheidungsfindung und eine produktivere Zusammenarbeit zwischen Mensch und Maschine ermöglichen. Denn eine gute Entscheidungsfindung erfordert nicht nur analytische Fähigkeiten, sondern berücksichtigt auch soziale und emotionale Komponenten. Exemplarisch würde ein mit diesen Fähigkeiten ausgestatteter Chatbot mit einem wütenden Kunden anders umgehen als mit einem zufriedenen Kunden.

Zudem ließe sich die Prognosefähigkeit der KI durch die Berücksichtigung sozialer und emotionaler Aspekte deutlich verbessern, schreibt Thormann. Basierend auf emotionaler Intelligenz werden Maschinen in der Lage sein, menschliches Verhalten besser zu verstehen und somit zu antizipieren. Die soziale Intelligenz sorgt dafür, dass Maschinen mit der Zeit sich und ihren Kommunikationsstil an individuelle Kommunikationspartner anpassen, was eine starke Mensch-Maschine-Beziehung ermöglicht.

Vorsicht vor Orwell-ähnlicher Überwachung

Eine entscheidende Dimension im Bereich SEAI sind ethische Überlegungen. Sozial und emotional intelligente KI ist auf sensible Hinweise über den Benutzer angewiesen. In diesem Zusammenhang weist die Autorin in ihrer Master-Thesis darauf hin, dass die Privatsphäre der Nutzer nicht verletzt werden darf. Durch die ständige Analyse von Emotionen könnten Unternehmen in die Privatsphäre der Kunden eingreifen. Daher müssten Unternehmen darauf achten, dass sie SEAI nicht zu Orwell-ähnlicher Überwachung einsetzen.

Voreingenommenheit vermeiden

Ein weiterer kritischer Punkt sind unbewusste Verzerrungen. Die KI lernt in der Regel auf der Grundlage von Trainingsdaten und baut so Entscheidungsmuster auf. Sind in den Trainingsdaten jedoch Verzerrungen beziehungsweise Vorurteile enthalten, werden diese unbeabsichtigt von den KI-Anwendungen übernommen.

So bezeichnete ein Google-Bilderkennungsprogramm die Gesichter mehrerer Schwarzer als Gorillas, ein LinkedIn-Werbeprogramm zeigte eine Vorliebe für männliche Namen bei der Suche und ein Microsoft-Chatbot namens "Tay" verbrachte einen Tag damit, von Twitter zu lernen und begann, antisemitische Nachrichten zu versenden. Dieser Aspekt ist im SEAI-Bereich noch kritischer zu sehen als im allgemeinen KI-Bereich, da SEAI höchstwahrscheinlich sensiblere Entscheidungen zu treffen haben wird.

Insgesamt sind sich viele Forscher aber darin einig, dass wirklich intelligente Maschinen nie gefährlich sein werden. Da intelligente Maschinen nicht die Fähigkeit zur Selbstvervielfältigung besitzen und keinen persönlichen Ehrgeiz entwickeln, sind Szenarien, in denen Maschinen die Welt erobern werden, sehr unwahrscheinlich.

Mensch-Maschine-Schnittstellen als Ausgangspunkt für den Erfolg von SEAI

Die entscheidende Determinante für den Erfolg der "Social Emotional Artificial Intelligence" ist die Mensch-Maschine-Schnittstelle (Human-Machine-Interface - HMI). Es gibt derzeit zwei relevante Ansätze für die Zusammenarbeit von Mensch und Maschine: Einerseits könnten Maschinen gemäß dem humanen Emulationsansatz mit menschenähnlichen Fähigkeiten ausgestattet werden. Andererseits könnten Maschinen ihre einzigartigen technologischen Fähigkeiten bewusst nutzen, um den Menschen zu ergänzen (humaner komplementärer Ansatz). Insbesondere der humane Emulationsansatz profitiert von den Möglichkeiten von SEAI. Durch die Einbeziehung sozialer und emotionaler Aspekte in die KI können HMIs noch benutzerorientierter und anpassungsfähiger gestaltet werden.

Unabhängig davon, welcher Ansatz gewählt wird, sollte das HMI einfach zu warten, anzupassen und zu entwickeln sein, um Fehler korrigieren oder sich ändernde grundlegende Anforderungen berücksichtigen zu können. Um dies zu ermöglichen, sollten HMIs in einem offenen Systemansatz programmiert werden, der die Anpassung der Schnittstelle ermöglicht.