Gerade durch die aktuelle Corona-Krise zeigen sich viele Chancen, ein stärker digitalisiertes Gesundheitswesen zu ermöglichen. So startete etwa die nordrhein-westfälische Landesregierung in den vergangenen Tagen vorzeitig ihr Projekt zum sogenannten virtuellen Krankenhaus. Aber nicht nur ein stärker digitalisiertes Gesundheitswesen, sondern auch der Einsatz von Künstlicher Intelligenz (KI) verspricht in der Medizin große Verbesserungen. Lernende Systeme können künftig bei der Prävention, frühzeitigen Diagnose sowie der patientengerechten Therapie zu besseren Behandlungsergebnissen führen und somit unsere Gesundheitsfürsorge verbessern.
Foto: everything possible - shutterstock.com
Durch die Nutzung von patientenindividuellen medizinischen Daten und KI-Assistenzsystemen lassen sich künftig neue medizinische Zusammenhänge entdecken, innovative Präventionsansätze entwickeln, schneller Diagnosen stellen und seltene Erkrankungen früher erkennen. Damit können KI-Systeme medizinisches und pflegerisches Personal entlasten und bei einer verbesserten Patientenversorgung unterstützen. Zudem ermöglichen KI-basierte medizinische Systeme differenziertere Behandlungsmethoden sowie bessere Ergebnisse in der Vor- und Nachsorge.
KI-Systeme in der Medizin: Potenziale und Risiken
Gemeinsam mit anderen Mitgliedern der Plattform Lernende Systeme haben wir diese und andere Potenziale sowie Herausforderungen und Anforderungen für den Einsatz von KI im Gesundheitswesen in einem aktuellen Whitepaper zusammengetragen. Das Papier fokussiert das Datenmanagement und die Sicherheitsaspekte beim Einsatz von KI-Systemen im Gesundheitswesen und benennt technische Lösungsmöglichkeiten sowie rechtlich-regulatorische Gestaltungsoptionen.
Einigkeit besteht darüber, dass KI in der Medizin große Potenziale verspricht, der Einsatz von intelligenten und (selbst-)lernenden Systemen im Gesundheitswesen aber auch hohe Anforderungen an die IT-Sicherheit der Systeme stellt. Für die Nutzung der genannten Potenziale ist es daher notwendig, bei ÄrztInnen und PatientInnen Vertrauen in die Sicherheit von KI-unterstützten medizinischen Systemen zu schaffen.
Zu den möglichen Risiken beim Einsatz lernender Systeme im Gesundheitsbereich zählen etwa:
verzerrte oder bewusst verfälschte Trainingsdaten,
Angriffe auf die KI-Software,
Verletzungen der Privatsphäre der PatientInnen,
Angriffe auf KI-Datenbanken und
die aufwändige Integration in die klinische Praxis.
Für die Gestaltung eines digitalisierten Gesundheitswesens ist auch wichtig zu klären, wer eine Zugriffsberechtigung für die elektronische Patientenakte (ePA) erhält, welcher rechtlichen Regulierung eine freiwillige und geschützte Datenfreigabe unterliegt und ob etwa bestehende rechtliche Vorgaben für den Einsatz von KI-Systemen im Gesundheitswesen angepasst werden müssen.
Lesetipp: Patientendaten im Netz! Was nun?
Healthcare AI: Anforderungen an die IT-Sicherheit
Lernende Systeme sind umso präziser und hilfreicher, je mehr Trainingsdaten verwendet werden können. Daher ist es unbedingt notwendig, medizinische Trainingsdaten aus vielen Studien oder Krankenhäusern unter Schutz der Privatsphäre zu poolen. Die KI-Systeme selbst müssen vor Angriffen geschützt werden, gleichzeitig muss die aktuelle Version schnell und sicher in die klinische Praxis integriert werden.
Zu den technischen und organisatorischen Bedingungen, die für den Einsatz von KI-Assistenzsystemen in der Medizin wichtig sind, gehören unter anderem die Zertifizierung von KI-Systemen - etwa für die Sicherstellung von unverfälschten Trainingsdaten - sowie besondere Zugriffskontrollmechanismen zum Schutz vor Angriffen auf die KI-Software. Sichere KI-Datenbanken für KI-basierte Analysen im Gesundheitswesen erfordern auch die Integrität der Datensätze und sichere Übertragungswege. Außerdem sollte die regulatorische Aufsicht der KI-Analyseverfahren samt zugehöriger Trainings- und Testdatensätze an staatlich beauftragte neutrale Einrichtungen vergeben werden.
- KI im Unternehmen und Personalmanagement
Künstliche Intelligenz (KI) birgt ein enormes Potenzial für Unternehmen, zum Beispiel beim Einsatz im Personalmanagement. Joachim Skura, Thought Leader Human Capital Management bei Oracle, nennt Vorteile der KI sowie wichtige Faktoren, die bei der Planung sowie Nutzung zu beachten sind. - Kooperation der Führungskräfte
Da die KI-Technologie heute alle Unternehmensebenen durchdringt, müssen HR-Verantwortliche mit den anderen Führungskräften zusammenarbeiten, um Automatisierungsstrategien für die einzelnen Teams zu entwickeln. - Intelligenz kombinieren
KI muss zu einem Umdenken in Bezug auf die Belegschaft führen: Es geht nicht mehr nur darum, Mitarbeiter einzustellen. Vielmehr müssen menschliche und künstliche Intelligenz kombiniert werden, um die Produktivität zu maximieren. - Sinnvolle Prozessautomatisierung
Ein ganz wesentlicher Aspekt der Nutzung von KI ist, das Streben nach mehr Effizienz in Relation zu den tatsächlichen Möglichkeiten zu setzen. Nur weil sich ein Prozess automatisieren lässt, heißt das noch lange nicht, dass man das auch tun sollte. Das gilt auch im Personalwesen. - Keine Big-Brother-Atmosphäre schaffen
KI kann für die Sicherheit des Unternehmens sehr hilfreich sein. Viele Betriebe nutzen KI-Technik, um Anwendungen, Systeme und Infrastruktur ständig zu überwachen und anomales Verhalten in Echtzeit zu erkennen und zu bewerten. Hier sollten Unternehmen aber unbedingt darauf achten, dass keine „Big-Brother-Atmosphäre“ geschaffen wird. Der Personalabteilung kommt dabei eine wichtige Rolle zu. - Daten und Technik ausschöpfen
KI sollte bei Einstellungs- und Besetzungsplänen zur Anwendung kommen. Der Grund: Es gilt, kontextbezogene Daten und Technologien auszuschöpfen, um Probleme wie hohe Fluktuationsraten in Angriff zu nehmen, Mitarbeiter besser zu verstehen und den vorhandenen Pool an Talenten effektiver zu nutzen. Nur so lässt sich Arbeit intelligenter, angenehmer und kollaborativer gestalten – und letztendlich auch wertschöpfender. - KI im Recruiting nutzen
Künstliche Intelligenz wird derzeit auch im Recruiting immer wichtiger. Recruiter nutzen KI, um herauszufinden, welche Skills das Unternehmen aktuell benötigt, und wo passende Kandidaten zu finden sind. - Bewerbungsmanagement automatisieren
Mit Hilfe von KI lassen sich zeitaufwendige Aufgaben wie das manuelle Screening von Lebensläufen und Bewerber-Pools automatisieren. - Candidate Experience aufbauen
Leistungsstarke und integrierte KI-Funktionen sowie klare Abläufe helfen, im Personalmanagement eine benutzerfreundliche und personalisierte Candidate Experience vom Erstkontakt bis hin zur Einstellung und Eingliederung zu schaffen. - Mehr Effizienz durch Machine Learning
Modernste Machine-Learning-Anwendungen unterstützen das Personalwesen, die Time-to-Hire zu verkürzen, indem sie proaktiv eine Vorauswahl der geeignetsten Kandidaten treffen und Empfehlungen geben. - Chatbots einsetzen
Ein Chatbot kann eine Datenquelle sein, mit deren Hilfe Unternehmen mehr über ihre Mitarbeiter erfahren. Machine-Learning-Analysen von Fragen und Gesprächen können einzigartige und bisher nicht mögliche Einblicke liefern. So lassen sich zugrundeliegende Probleme aufdecken – und das vielleicht noch, bevor sich der Mitarbeiter dieser überhaupt bewusst ist.
Künstliche Intelligenz in der Medizin: Gestaltungsoptionen
Bei den rechtlich-regulatorischen Handlungsoptionen, um KI-Systeme in der Medizin vertrauenswürdig und zuverlässig zu gestalten, muss der Fokus auf der Qualitätsabsicherung der für das Training von KI-Systemen verwendeten Daten, der Nachvollziehbarkeit und Erklärbarkeit von KI-Systemen sowie deren Sicherheit im Sinne von Safety und IT-Security liegen. Wichtig ist hier, gemeinsame Leitlinien und Prüfvorschriften für die Zulassung und Zertifizierung für KI-Datenbanken sowie für deren Betreiber zu entwickeln.
Wie bereits erwähnt, können das Gesundheitswesen und die Gesellschaft von den Potenzialen KI-basierter Systeme nur dann profitieren, wenn genügend nutzbare Daten verfügbar sind. Dennoch sollten PatientInnen über die Nutzung der eigenen Gesundheitsdaten souverän bestimmen können. Die elektronische Gesundheitskarte (eGK) gilt dafür als zentrales technisches Instrument. Vor dem Hintergrund der Sensibilität der Daten und der DSGVO sollen Krankenkassen die Sperrung der eGK ermöglichen, um so einen unautorisierten Zugriff auf Daten zu verhindern. Ergänzt werden kann dies durch die Formulierung von Mindestanforderungen an die Sicherheit der Dateninfrastrukturen und der Rechenzentren, Daten können dann etwa nur innerhalb der Europäischen Union gespeichert und verarbeitet werden.
Lesetipp: Hacker-Magnet Healthcare-Branche
Damit verknüpft sind eine Reihe gesellschaftsrelevanter Fragestellungen, etwa zum Nutzen und zu potenziellen Risiken des Einsatzes von KI-Systemen im Gesundheitswesen und zur Verwendung von anonymisierten oder pseudonymisierten Daten. Weiterhin muss geklärt werden, welche Institutionen wir mit dem Betreiben, Warten und Pflegen der Dateninfrastruktur oder mit der Finanzierung und Bereitstellung von KI-Assistenzsystemen beauftragen möchten. Ungeklärt ist zudem auch die Verantwortung und Haftung bei Behandlungsfehlern durch falsch verarbeitete Informationen beim Einsatz von KI-Systemen. Der Gesetzgeber ist auch hier in der Verantwortung, Regeln für die Nachvollziehbarkeit und Erklärbarkeit von KI-basierten Medizinprodukten zu schaffen. (bw)