Bis 2026, so prognostiziert Gartner, wird die Hälfte aller Regierungen weltweit KI regulieren. Ziel sei es dabei, den Einsatz von verantwortungsvoller KI durch Vorschriften, Richtlinien und die Notwendigkeit des Datenschutzes durchzusetzen.

Auswirkungen der KI-Regulierung

Doch welche Auswirkungen wird eine Regulierung auf die KI-Pläne der Unternehmen haben? Und was können IT-Verantwortliche und CIOs bereits heute tun, um eine verantwortungsvolle und zukunftssichere KI in ihren Unternehmen zu implementieren? Anushree Verma, Director Analyst bei Gartner, hat die wichtigsten Fragen und Antworten rund um das Thema KI-Regulierung in einer FAQ zusammengefasst.

Weltweit wollen die Regierungen KI regulieren. Welche Auswirkungen werden diese Vorschriften haben?

Verantwortungsvolle KI-Vorschriften werden geografische Grenzen in der digitalen Welt errichten, denn es wird ein Netz an konkurrierenden Vorschriften entstehen, wenn verschiedene Regierungen versuchen, ihre Nationen und ihre Bevölkerung vor unethischen oder anderweitig unerwünschten Anwendungen von KI und GenAI zu schützen.

Einschränkungen für Unternehmen

Damit werden die Möglichkeiten von IT-Führungskräften eingeschränkt, ausländische KI- und GenAI-Produkte in ihren Unternehmen optimal zu nutzen. Zudem werden die Vorschriften von KI-Entwicklern verlangen, dass sie sich auf mehr KI-Ethik, Transparenz und Datenschutz in Unternehmen konzentrieren.

Es ist viel von verantwortungsvoller KI (Responsible AI) die Rede. Was ist darunter zu verstehen?

Verantwortungsvolle KI ist der Oberbegriff, wenn es darum geht, angemessene geschäftliche und ethische Entscheidungen bei der KI-Einführung im Unternehmenskontext zu treffen. Beispiele hierfür sind die Transparenz beim Einsatz von KI oder die Minimierung von Bias in den Algorithmen. Weitere Aspekte sind die Absicherung von Modellen gegen Subversion und Missbrauch sowie der Schutz der Kundendaten und die Einhaltung gesetzlicher Vorschriften. Verantwortungsvolle KI operationalisiert organisatorische Verantwortlichkeiten und Praktiken, die eine positive und verantwortungsvolle KI-Entwicklung und -Nutzung gewährleisten.

Ethische Überprüfung

Die Entwicklung und Nutzung verantwortungsvoller KI ist nicht nur für die Entwickler von KI-Produkten und -Dienstleistungen von entscheidender Bedeutung, sondern auch für die Unternehmen, die KI-Tools einsetzen. Folgen Unternehmen diesen Vorschriften nicht, so werden die Bürger diese Unternehmen einer ethischen Prüfung unterziehen. Dies birgt erhebliche finanzielle, reputationsbezogene und rechtliche Risiken für die betroffenen Unternehmen.

Wann wird verantwortungsvolle KI-Mainstream sein?

Gartner rechnet damit, dass verantwortungsbewusste KI nur noch drei Jahre davon entfernt ist, bei der Mehrheit der KI-Projekte eine entscheidende Rolle zu spielen. Dies ist auf die beschleunigte Einführung von KI, insbesondere GenAI, und die wachsende Aufmerksamkeit für die damit verbundenen regulatorischen Auswirkungen zurückzuführen.

Welche Apps und Branchen sind davon besonders betroffen?

Verantwortungsbewusste KI wird sich auf praktisch alle Anwendungen von KI in allen Branchen auswirken. In naher Zukunft werden stärker regulierte Branchen wie Finanzdienstleistungen, Gesundheitswesen, Technologie und Behörden die ersten Anwender von verantwortungsbewusster KI sein.

Künftige Rolle

Verantwortungsvolle KI wird jedoch auch in weniger regulierten Branchen eine wichtige Rolle spielen, da dadurch das Vertrauen der Verbraucher wächst. Zudem fördert sie die Akzeptanz und mindert finanzielle sowie rechtliche Risiken.

Welche Maßnahmen sollten Unternehmen ergreifen, um ihre GenAI-Projekte mit Blick auf aktuelle und mögliche künftige staatliche Vorschriften zukunftssicher zu gestalten?

Es gibt mehrere Maßnahmen, die Unternehmen in Betracht ziehen können, wenn es um die Zukunftssicherheit ihrer GenAI-Projekte geht:

• Überwachung und Einbeziehung der sich entwickelnden Compliance-Anforderungen für verantwortungsvolle KI, wie sie von verschiedenen Regierungen gefordert werden. Es empfiehlt sich, ein Framework zu entwickeln, das das GenAI-Produkt- und Dienstleistungsportfolio einer Organisation auf die regulatorischen KI-Anforderungen der verschiedenen Länder abstimmt.

• Verstehen, Implementieren und Anwenden von verantwortungsvollen KI-Praktiken im Kontext der eigenen Organisation. Dies kann durch die Festlegung eines Curriculums für verantwortungsvolle KI erfolgen. Anschließend sollte ein strukturierter Ansatz zur Aufklärung und Schulung eingeführt werden. Ferner ist ein Bewusstsein für diese Regeln im gesamten Unternehmen zu schaffen. Dazu sind die Stakeholder einzubeziehen sowie geeignete Anwendungsfälle und Lösungen für die Umsetzung zu identifizieren.

• Operationalisierung von KI-Vertrauens-, Risiko- und Sicherheitsmanagement (AI TRiSM) in nutzerzentrierten Lösungen durch Integration von verantwortungsvoller KI. So kann Akzeptanz beschleunigt und die Nutzererfahrung verbessert werden.

• Sicherstellung der Verantwortlichkeit von Dienstleistern für eine verantwortungsvolle KI-Governance. Hierbei gilt es, vertragliche Verpflichtungen durchzusetzen, um die Auswirkungen von Risiken abzumildern, die sich aus unethischem und nicht konformem Verhalten oder aus unkontrollierten und unerklärlichen Verzerrungen durch KI-Lösungen ergeben.