Risikobewertung - Selbsteinschätzung der Hersteller reicht nicht

Das sieht man beim TÜV ähnlich. Der TÜV-Verband begrüßt zwar grundsätzlich, dass sich die Fraktionen im EU-Parlament auf eine gemeinsame Position für den AI Act einigen konnten, sieht aber weiteres Verbesserungspotenzial. "Es braucht klare Rechtsgrundlagen, um die Menschen vor den negativen Folgen der Technologie zu schützen und gleichzeitig den Einsatz von KI in der Wirtschaft zu fördern", sagte Joachim Bühler, Geschäftsführer des TÜV-Verbands.

Es müsse sichergestellt werden, dass Vorgaben gerade hinsichtlich der Transparenz von Algorithmen auch eingehalten werden, verlangt Bühler. Eine unabhängige Überprüfung sei aber nur für einen kleinen Teil der KI-Systeme mit hohem Risiko vorgesehen. "Die meisten kritischen KI-Anwendungen wie zum Beispiel Gesichtserkennung, Recruiting-Software oder Kreditwürdigkeitsprüfungen sollen weiter mit einer reinen Herstellerselbsterklärung auf den Markt gebracht werden dürfen", kritisiert der TÜV-Mann. Darüber hinaus soll die Einstufung als Hochrisiko-Anwendung teilweise über eine Selbsteinschätzung der Anbieter erfolgen. "Fehleinschätzungen sind vorprogrammiert", so Bühlers Fazit.

Dem TÜV zufolge wäre es besser, alle Hochrisiko-KI-Systeme vor dem Marktstart von einer unabhängigen Stelle überprüfen zu lassen. Nur so könne gewährleistet werden, dass die Anwendungen den Sicherheitsanforderungen entsprechen. "Das gilt besonders, wenn KI-Anwendungen in kritischen Bereichen wie der Medizin, in Fahrzeugen, der Energieinfrastruktur oder in bestimmten Maschinen eingesetzt werden", so Bühler.

Während die Diskussionen um eine KI-Regulierung in vollem Gange sind, haben sich die G7-Digitalminister Ende April auf einem Treffen im japanischen Takasaki dafür ausgesprochen, die rasante Entwicklung von Künstlicher Intelligenz mit klaren Regeln und Standards zu begleiten. Diese sollen international sicherstellen, dass KI im Sinne der Menschen genutzt wird und nicht, um Meinungen zu manipulieren und demokratische Werte zu unterwandern, heißt es in einer Mitteilung der Bundesministeriums für Digitales und Verkehr (BMDV).

Digitalminister Wissing: "KI soll uns dienen, nicht manipulieren"

"Wir sind uns im Kreis der G7 einig, dass wir bei der Regulierung von KI schnell handeln müssen", sagte Digitalminister Volker Wissing. "Generative KI hat ein immenses Potenzial, unsere Produktivität zu steigern und unser Leben besser zu machen. Sie kann helfen, Lösungen für komplexe Probleme zu finden - etwa in der Medizin oder für den Klimaschutz." Umso wichtiger sei es, dass die großen Demokratien vorangingen und die Entwicklung mit klugen Regeln begleiteten, die die Menschen vor Missbrauch und Manipulation schützten. "Künstliche Intelligenz soll uns dienen, nicht manipulieren."

Ob es so schnell geht, wie sich FDP-Mann Wissing das wünscht, ist allerdings fraglich. Seit April 2021 wird in Brüssel an dem AI Act gebastelt. Nach der Einigung im EU-Parlament könnten die Trilogverhandlungen zwischen Rat, Parlament und Kommission im Sommer 2023 beginnen. Wann ein endgültiges Regelwerk festgezurrt und in geltendes Recht umgewandelt werden kann, steht in den Sternen. Fraglich ist auch, ob die technologische Entwicklung von KI bis dahin nicht längst alle Versuche einer KI-Regulierung überholt hat.