4. Startups kritisch beäugen
Startups positionieren sich an der Spitze der Innovation. Und während einige dabei die Grenzen dessen, was im Bereich der KI möglich ist, verschieben, übertreiben andere einfach nur maßlos, um Aufmerksamkeit zu gewinnen und Profite einzustreichen.
"Als CTO eines Machine-Learning-Unternehmens stoße ich oft auf Fälle von AI Washing, insbesondere in der Startup-Community", erzählt Vlad Pranskevicius, Mitbegründer und CTO des Startups Claid.ai. Diese Situation habe sich in letzter Zeit verschlimmert - besonders in der aktuellen Hype-Phase sei das sehr gefährlich. Dabei geht Pranskevicius allerdings davon aus, dass dem AI-Washing-Trend in nächster Zeit durch neue Regularien der Garaus gemacht wird.
5. Eigene Reputation achten
Ganz allgemein ist es nicht ungewöhnlich, dass ein Unternehmen zweifelhafte (KI-)Lösungen erwirbt. Das muss allerdings nicht zwingend die Schuld des CIO sein, meint Welch: "Es könnte auch ein Anzeichen für schlechte Unternehmensführung sein. Das Business fällt auf den Marketing-Hype herein und überstimmt die IT. Letztere muss dann die Scherben aufsammeln."
Um Situationen wie diese zu vermeiden, können Unternehmen eine Kultur der Zusammenarbeit fördern, in der die Meinung von Technik-Profis geschätzt wird und ihre Argumente gründlich geprüft werden. Parallel sollten CIOs und ihre Teams jedoch auch ihren Ruf innerhalb des Unternehmens verbessern, damit sie sich leichter in Entscheidungsprozesse einbringen können. Dazu braucht es in erster Linie Fachwissen, Professionalität und Soft Skills.
"Ich glaube nicht, dass es für einen CIO ein Problem darstellt, AI Washing zu erkennen", glaubt Max Kovtun, Chief Innovation Officer bei der Sigma Software Group. "Das größere Problem könnte im Druck von Business Stakeholdern oder Geschäftsentscheidern liegen, die KI unbedingt in irgendeiner Form einsetzen wollen, um möglichst innovativ nach außen zu wirken."
6. Über Buzzwords hinausgehen
Vergleicht man Produkte und Services, sind unvoreingenommene Bewertungen und eine gründliche Überprüfung ihrer Eigenschaften essenziell. Technologieentscheiderin Tkachenko bringt es auf den Punkt: "Wenn der einzige Vorteil, den ein Produkt oder eine Dienstleistung für Sie hat, das KI-Label ist, sollten Sie sich die Anschaffung gut überlegen. Es ist besser, das Wertversprechen und die Funktionen zu studieren und erst dann eine Zusammenarbeit einzugehen, wenn Sie die Benefits der Lösung abseits der KI verstehen."
Welch stimmt zu und ergänzt: "Ich möchte als Teil meiner Due-Diligence-Prüfung verstehen, ob ein Anbieter in der Lage sein wird, seinen Code zu pflegen, ob er überhaupt überlebensfähig ist und dergleichen mehr."
Eine gründliche Bewertung kann Unternehmen dabei helfen, festzustellen, ob das Produkt oder die Dienstleistung, die sie kaufen möchten, ihren Zielen entspricht und das Potenzial hat, die erwarteten Ergebnisse zu liefern. "Je komplexer die Technologie ist, desto schwieriger ist es für Nicht-Experten, sie so weit zu verstehen, dass man überprüfen kann, ob die Anwendung der Technologie richtig und sinnvoll ist", gibt Kovtun zu bedenken und empfiehlt: "Wenn Sie sich entschlossen haben, die KI-Technologie für Ihr Unternehmen zu nutzen, sollten Sie besser fachkundige Spezialisten mit Erfahrung an Bord holen. Anderenfalls führen Ihre Bemühungen möglicherweise nicht zu den Vorteilen, die Sie sich erhofft haben."
7. Auf dem neuesten Stand bleiben
IT-Entscheider, die über KI-bezogene Produkte und die damit verbundenen Probleme auf dem Laufenden sind, können auch fundierte Entscheidungen treffen. "Ich glaube, es gibt noch nicht genug Aufklärung", meint Art Thompson, CIO der Stadt Detroit. Er empfiehlt CIOs, ausreichend zu recherchieren, um zu vermeiden, dass sie bei neuen oder experimentellen Technologien in eine Falle tappen, die mehr verspricht, als sie halten kann. Wenn das passiert, könne der Zeitaufwand für die Neuausschreibung und den Austausch eines Produkts die Mitarbeiter davon abhalten, sich für einen Change einzusetzen: "Ganz zu schweigen davon, dass die Mitarbeiter Zeit investieren, um neue Technologien zu erlernen."
Darüber hinaus können CIOs, die über die neuesten KI-bezogenen Themen informiert sind, auch regulatorische Änderungen und aufkommende Industriestandards antizipieren. Das kann Sie dabei unterstützen, Compliance-Anforderungen zu erfüllen und Wettbewerbsvorteile zu behalten. Und nicht nur der CIO sollte auf dem Laufenden bleiben, wie BearingPoint-Manager Roeser weiß: "Bilden Sie Ihr Team weiter oder engagieren Sie Experten, um Ihr Portfolio um die entsprechenden Skills zu erweitern."
8. Auf Regulatorien warten
Neue Vorschriften könnten es CIOs künftig erleichtern, festzustellen, ob ein Produkt oder eine Dienstleistung echte KI-Technologie einsetzt oder nicht. Die US-Regierung hat eine KI-"Bill of Rights" mit Richtlinien für die verantwortungsvolle Gestaltung von KI-Systemen herausgegeben. Und auch die Europäische Union plant, den Einsatz von künstlicher Intelligenz zu regulieren. In den kommenden Jahren dürften weitere Regularien dieser Art folgen.
"Die Prämisse hinter diesen Maßnahmen ist der Schutz der Verbraucherrechte und der Menschen vor möglichen Schäden durch die Technologie. Wir müssen die potenziellen negativen Auswirkungen der Technologie vorhersehen, um die Risiken zu mindern", kommentiert Ammanath.
9. Ethik als Treiber sehen
Unternehmen neigen im Allgemeinen dazu, den Diskurs über neue Technologien zu beeinflussen, indem sie die potenziellen Vorteile hervorheben, während sie mögliche Nachteile oft herunterspielen. "Wenn eine Technologie zum Buzzword wird, verlieren wir oft den Blick für die potenziell schädlichen Auswirkungen, die sie in der Gesellschaft haben kann", meint Philip Di Salvo, Post-Doc an der Universität St. Gallen. "Die Forschung zeigt, dass Unternehmen den Diskurs über KI bestimmen und dass techno-deterministische Argumente nach wie vor vorherrschend sind."
Dieser Glaube, dass die Technik die wichtigste treibende Kraft hinter dem sozialen und kulturellen Wandel ist, könne dazu führen, dass Diskussionen über ethische und politische Implikationen zugunsten von eher marketingorientierten Argumenten verdrängt werden. Oder wie Di Salvo es ausdrückt: "Das erzeugt eine Art argumentativen Nebel, der diese Technologien und ihre Hersteller noch undurchsichtiger und unverantwortlicher macht."
Um dem entgegenzuwirken, müsse der Öffentlichkeit vermittelt werden, was KI nicht ist und was sie nicht leisten kann: "Die meisten KI-Anwendungen, die wir heute sehen - einschließlich ChatGPT - sind im Wesentlichen auf die Anwendung von Statistik und Datenanalyse in großem Maßstab ausgelegt. Das mag wie eine langweilige Definition klingen, hilft aber, falschen Darstellungen darüber zu begegnen, was 'intelligent' in der Definition von 'künstlicher Intelligenz' bedeutet. Wir müssen uns auf reale Probleme wie Bias, Social Sorting und andere Probleme konzentrieren, statt auf hypothetische, spekulative Langzeitszenarien." (fm)
Dieser Beitrag basiert auf einem Artikel unserer US-Schwesterpublikation CIO.com.