Moralische Verpflichtung

Biden bittet IT-Fürsten zum KI-Gipfel

08.05.2023
Von 
Heinrich Vaske ist Editorial Director a.D. von COMPUTERWOCHE, CIO und CSO.
Joe Biden und Kamala Harris haben die CEOs der wichtigsten KI-Unternehmen zu einem ernsten Gespräch ins Weiße Haus gebeten. Sie hätten die „moralische Verpflichtung“, für Sicherheit zu sorgen.
Lud die IT-Elite ins Weiße Haus zum KI-Talk: US-Präsident Joe Biden.
Lud die IT-Elite ins Weiße Haus zum KI-Talk: US-Präsident Joe Biden.
Foto: BiksuTong - shutterstock.com

US-Vizepräsidentin Harris und andere Regierungsvertreter haben den CEOs von OpenAI, Google, Microsoft und dem KI-Startup Anthropic ins Gewissen geredet. Alle müssten daran mitarbeiten, dass die Risiken von KI begrenzt würden, hieß es. Die US-Presse bezeichnete die Einladung als einen ersten Versuch der US-Regierung, sich mit den aufkommenden Problemen rund um KI zu beschäftigen und den Grundstein für eine Regulierung zu legen.

Einem Bericht der New York Times zufolge dauerte der KI-Gipfel etwa zwei Stunden. Harris und andere hohe Beamte, die sich im Roosevelt Room des Weißen Hauses versammelt hatten, forderten die CEOs auf, verantwortungsbewusst mit künstlicher Intelligenz umzugehen und die Bedenken der Kritiker ernst zu nehmen. US-Präsident Biden sagte den CEOs: "Was Sie tun, hat enormes Potenzial, birgt aber auch enorme Gefahren."

"Ethische, moralische und rechtliche Veranwortung"

Harris ergänzte, Privatunternehmen hätten eine "ethische, moralische und rechtliche Verantwortung, die Sicherheit ihrer Produkte zu gewährleisten." Alle Unternehmen müssten sich an die bestehenden Gesetze halten, um das amerikanische Volk zu schützen.

Verschiedene Medien interpretierten das Treffen als Signal dafür, dass der mit ChatGPT losgetretene KI-Boom die US-Regierung, aber auch politische Eliten in anderen Ländern herausfordere. Die jüngste Explosion in der KI-Entwicklung habe Befürchtungen geweckt, dass die Technologie Wirtschaft wie Gesellschaft in ungeahnter Weise verändern und auch neuen kriminellen Aktivitäten einen fruchtbaren Boden bereiten könnte. Leistungsstarke KI-Systeme seien schwer zu durchschauen und hätten das Potenzial, Menschen zu diskriminieren und von ihren Arbeitsplätzen zu verdrängen sowie Desinformation zu verbreiten - und möglicherweise werde KI sogar irgendwann von sich aus gegen Gesetze verstoßen.

Googles KI-Pionier Hinton warnt vor Unkontrollierbarkeit

Viel Aufmerksamkeit erregte zuletzt der Rücktritt von Geoffrey Hinton bei Google, einem der weltweiten KI-Pioniere, auch als "Pate der künstlichen Intelligenz" bekannt. Der 75-Jährige zeigte sich besorgt über die Geister, die er als Deep-Learning-Spezialist teilweise selbst herbeigerufen hat. KI-Technologie entwickele sich so rasant, dass es für Menschen immer schwieriger werde, sie zu kontrollieren und verantwortungsvoll damit umzugehen. Hinton befürchtet zudem, dass immer mehr gefälschte Bilder und Texte in Umlauf kommen werden, so dass es schon bald unmöglich sei herauszufinden, was falsch und was echt ist. Breit gestreute Fehlinformationen seien die wahrscheinliche Folge.

Mit der Befürchtung, dass die KI in Mengen Arbeitsplätze vernichten werde, steht Hinton nicht allein: Die Investment-Banker von Goldman Sachs rechneten Ende März vor, dass dank KI und Automatisierung weltweit 300 Millionen Jobs wegfallen könnten. Andererseits würden aber auch ganz neue Jobtypen entstehen, und Unternehmen könnten erhebliche Einsparungen erzielen. Das Wirtschaftswachstum werde deutlich anziehen.

Kamala Harris, US-Vizepräsidentin, redete den IT-Unternehmern ins Gewissen.
Kamala Harris, US-Vizepräsidentin, redete den IT-Unternehmern ins Gewissen.
Foto: Sheila Fitzgerald - shutterstock.com

Joe Biden bleibt cool

US-Präsident Biden zeigte sich diesbezüglich eher gelassen, man müsse "abwarten", ob KI gefährlich werde. Falls die Technologie auf schädliche Weise eingesetzt werde, würden die Behörden eingreifen. Mitglieder des Kongresses, darunter Senator Chuck Schumer aus New York, hatten zuvor bereits einen Gesetzesentwurf zur Regulierung der künstlichen Intelligenz vorgelegt.

Auch die Gesetzgeber in der EU verhandeln derzeit über Regeln für KI ("AI Act"), wobei noch nicht klar ist, welche Auswirkungen das für Generative AI wie ChatGPT haben wird. Andere Sorgen haben die Chinesen: Dort verlangten die Behörden kürzlich, dass KI-Systeme strenge Zensurbestimmungen einhalten müssten und keinen subversiven Content produzieren dürften.

Regulierung ist durchaus im Interesse der IT-Industrie, die letztendlich auch klare Leitplanken für ihre Entwicklungsprojekte möchte. Am Treffen mit der US-Regierung nahmen Google-Chef Sundar Pichai, Microsofts Satya Nadella, Sam Altman von OpenAI und Dario Amodei, Geschäftsführer von Anthropic, teil. Einige CEOs ließen sich von Experten mit technischem Fachwissen begleiten, andere brachten juristischen Begleitschutz mit.

KI-Systeme brauchen "externe Prüfung"

In einer Erklärung schrieb die US-Regierung, es habe eine "offene und konstruktive Diskussion" darüber gegeben, dass die Unternehmen ihre Produkte offener darlegen müssten. KI-Systeme müssten einer - wie auch immer gearteten - externen Prüfung unterzogen werden, und es sei wichtig, die Technologie von böswilligen Akteuren fernzuhalten.

Die anwesenden CEOs spielten eine enorm wichtige Rolle im KI-Innovations-Ökosystem der USA, betonten Regierungsvertreter. Sie müssten verantwortungsvolles Verhalten vorleben und Maßnahmen ergreifen, um Innovation umsichtig und mit angemessenen Schutzmaßnahmen zu gewährleisten. Es gelte stets, die Rechte und die Sicherheit der Menschen zu schützen, schreibt das Weiße Haus.

Stunden vor dem Treffen kündigte Washington an, die National Science Foundation wolle 140 Millionen Dollar in neue KI-Forschungszentren investieren. Man werde Richtlinien für Regierungsbehörden herausgeben, um sicherzustellen, dass KI die Rechte und die Sicherheit der amerikanischen Bevölkerung schütze. Mehrere KI-Unternehmen sollen sich zudem bereit erklärt haben, ihre Produkte auf einer Cybersecurity-Konferenz im August zur Prüfung bereitzustellen.

Regulierung nimmt Gestalt an

Schon 2022 hatte das Weiße Haus den Entwurf für eine KI-Rechtsverordnung veröffentlicht, der besagt, dass automatisierte Systeme die Privatsphäre der Nutzer schützen und sie vor diskriminierenden Ergebnissen bewahren müssen. Außerdem veröffentlichte das US-Handelsministerium im Januar 2023 Vorschläge zur Risikominimioerung bei der KI

Die New York Times glaubt allerdings, dass konkrete Schritte wohl eher von den Strafverfolgungsbehörden in Washington ausgehen werden. Im April verpflichtete sich eine Gruppe von Regierungsbehörden, "die Entwicklung und den Einsatz automatisierter Systeme zu überwachen und verantwortungsvolle Innovationen zu fördern". Zudem wolle man Gesetzesverstöße ahnden, die mit Hilfe dieser Technologie begangen werden. (hv)