Vertrauenswürdige KI – verlässlich und berechenbar

Zun?chst ist Vertrauen eine zutiefst menschliche Angelegenheit. Wir vertrauen dem Busfahrer, dass er uns sicher ans Ziel bringt ¨C doch wie ist das mit dem Bus? Vertrauen wir ihm ebenso wie einem Menschen? Oder muss die Technologie einfach nur zuverl?ssig funktionieren? Und wie ist das, wenn k¨¹nstliche Intelligenz (KI) das Steuer ¨¹bernimmt?

?Ja, Vertrauen l?sst sich direkt auf KI ¨¹bertragen?, meint Petar Tsankov, CEO und Mitbegr¨¹nder von LatticeFlow AI. Das Spin-off der ETH Z¨¹rich unterst¨¹tzt Unternehmen dabei, vertrauensw¨¹rdige, zuverl?ssige und leistungsf?hige KI f¨¹r reale Anwendungen zu entwickeln. Vertrauen in KI entsteht, wenn die KI-Modelle in verschiedenen Umfeldern konsistent und fehlerfrei antworten sowie zuverl?ssig entscheiden. Wenn Nutzende erleben, dass eine KI vorhersehbar und verl?sslich funktioniert, beginnen sie ihr zu vertrauen ¨C genauso wie bei einer zuverl?ssigen Person. Dass KI zuverl?ssig sei und f¨¹r neue, unbekannte Daten gut funktioniere, sei der erste und wichtigste Schritt zum Vertrauen. Entscheidend sei, dass eine KI nicht nur in kontrollierten Laborumgebungen funktioniere, sondern mit realen Daten konsistente Antworten liefere. ?Allzu oft bleiben KI-Modelle unter den Erwartungen, wenn sie realen Bedingungen ausgesetzt sind. Das untergr?bt das Vertrauen.?

Margarita Boenig-Liptsin pflichtet Tsankov bei, dass Menschen einer Technologie vertrauen k?nnen. Als ETH-Professorin f¨¹r Ethik, Technologie und Gesellschaft untersucht sie, wie sich soziale Werte und der Wandel digitaler Technologien, einschliesslich der KI, gegenseitig beeinflussen und zusammen weiterentwickeln. Der springende Punkt ist f¨¹r sie, dass Vertrauen relational ist, also mit Beziehungen zu tun hat. Menschen beziehen ihr Vertrauen sowohl auf andere Personen als auch auf eine Institution oder auf ein technisches Ger?t. Im Kern geht es um die Frage: Kann ich mich auf dich verlassen? Dabei bezieht sich dieses ?dich? in hochentwickelten technologischen Gesellschaften in der Regel auf die menschliche und technologische Handlungsf?higkeit, da sie zusammenwirken.

Ihr Vertrauensbegriff ber¨¹cksichtigt ganze Beziehungsnetze: ?Vertrauensw¨¹rdigkeit ist nicht nur eine Eigenschaft der Technologie, sondern des gesamten sozialen und technischen Umfelds, in das sie eingebettet ist?, sagt Boenig-Liptsin. Dieses Umfeld umfasst Designerinnen und Designer, Nutzende oder Institutionen. ?Um die Vertrauensw¨¹rdigkeit einer KI zu beurteilen, m¨¹ssen wir sie aus den Perspektiven verschiedener Anspruchsgruppen betrachten.? Diese Betrachtungsweise lenkt den Blick nicht nur auf die Entwicklung und Anwendung, sondern auch auf die Auswirkungen auf Wissen und Verantwortung.  ?Diese sozio-technische Systembetrachtung liefert wichtige Impulse f¨¹r KI-Forschende, die vertrauensw¨¹rdige Modelle entwickeln m?chten. Wenn die Forschenden Transparenz herstellen und sich mit den Beteiligten ¨¹ber die Merkmale, Grenzen und M?glichkeiten eines Modells austauschen, erhalten sie wertvolle Hinweise, wie die neue KI die Vertrauensbeziehungen im System beeinflusst und welche ?nderungen sie selbst vornehmen k?nnen.?

F¨¹r Alexander Ilic, dem Gesch?ftsf¨¹hrer des ETH AI Center, kommt Vertrauensw¨¹rdigkeit dann ins Spiel, wenn Technologie und Gesellschaft aufeinandertreffen. ?Die tiefgreifenden Ver?nderungen durch KI sind noch nicht abgeschlossen. In der n?chsten Phase geht es darum, das Potenzial firmeninterner Daten in verschiedenen Branchen zu erschliessen und hochgradig personalisierte KI-Begleiter zu entwickeln, die uns bei komplexen Aufgaben unterst¨¹tzen. Gleichzeitig m¨¹ssen wir ¨¹ber die Auswirkungen dieser neuen M?glichkeiten auf die Anwenderinnen und Anwender nachdenken und ¨¹berlegen, wie wir Vertrauen in KI schaffen, damit das Unbehagen vor den Risiken der KI nicht deren Vorteile ¨¹berschattet.? Um Risiken zu erkennen, werden sie am ETH AI Center offen zwischen den Forschenden und unter Einbezug verschiedener Gruppen diskutiert.

Offenheit als Schl¨¹ssel

F¨¹r Andreas Krause, Professor f¨¹r Informatik und Vorsteher des ETH AI Center, ist Offenheit ein Schl¨¹ssel zum Vertrauen: ?Wir KI-Forschende k?nnen Vertrauen nicht erzwingen. Wir k?nnen Transparenz schaffen, indem wir die verwendeten Daten offenlegen und erkl?ren, wie die KI-Modelle entwickelt werden.? Krause erforscht neue Ans?tze, die Unsicherheiten in KI-Modellen einsch?tzen k?nnen, damit diese besser erkennen, was sie nicht wissen.  Die Einsch?tzung solcher Unsicherheiten ist wichtig f¨¹r das Vertrauen in KI, beispielsweise, um sogenannte Halluzinationen leichter auszumachen.

Alexander Ilic erg?nzt: ?Am ETH AI Center arbeiten wir mit offenen Grundlagen, die unabh?ngige Parteien pr¨¹fen und begutachten k?nnen.? Wahre Reallabore der offenen KI-Entwicklung sind die Swiss AI Initiative und das Swiss National AI Institute: Hier entwickeln ¨¹ber 650 Forschende der ETH Z¨¹rich, der EPF Lausanne und zehn weiteren inl?ndischen Hochschulinstituten ein grosses Schweizer Sprachmodell und die n?chste Generation von Basismodellen. Damit schaffen sie die Grundlage f¨¹r generative KI nach Schweizer Werten.  Offenheit bedeutet in diesem Zusammenhang, dass Quellcodes, Tools, Trainingsdaten und Modellgewichte ¨C welche die Entscheidungen einer KI beeinflussen ¨C frei zug?nglich sind. Dies erm?glicht es auch KMU und Start-ups, ihre Innovationen darauf aufzubauen. Dar¨¹ber hinaus f¨¹hren gemeinsam genutzte Open-Source-Basismodelle zu erheblichen Einsparungen bei den Kosten und beim CO?-Fussabdruck.

Es gibt Prinzipien, um das Vertrauen in KI zu f?rdern, wie Zuverl?ssigkeit, Sicherheit, Robustheit, Konsistenz und Nachvollziehbarkeit. F¨¹r Ilic sind dies grundlegende Anforderungen: ?Nur wenn wir verstehen, was sich in der KI abspielt, k?nnen Organisationen beginnen, diese einzusetzen, um ihre Kernprozesse zu ver?ndern und mit sensiblen Daten zu arbeiten.? Sogenannte Blackbox-Systeme, die auf Daten mit versteckten Vorurteilen oder fremden politischen Werten trainiert wurden, k?nnen mitunter sehr irritieren. ?Das Vertrauen in KI w?chst, wenn wir sicher sein k?nnen, dass sie auf denselben ethischen Prinzipien und Werten beruht, die auch unsere eigenen sind?, erkl?rt er.

Menschliche Werte

Petar Tsankov erg?nzt: ?Menschen erwarten, dass KI ethische Normen respektiert, Diskriminierung vermeidet und Inhalte produziert, die menschlichen Werten entsprechen. Beim Vertrauen in KI geht es nicht nur um technische Leistung, sondern auch darum, sicherzustellen, dass KI mit unseren gesellschaftlichen Prinzipien im Einklang steht.?

Ein Weg, um Prinzipien festzulegen, sind Governance-Richtlinien, Standards und Gesetze. ?Doch Prinzipien allein reichen nicht?, sagt Tsankov. ?Vertrauen basiert nicht nur auf abstrakten Prinzipien. Eine vertrauensw¨¹rdige KI erfordert eine rigorose technische ?berpr¨¹fung, ob sie tats?chlich robust, zuverl?ssig, fair, sicher, erkl?rbar und gesetzeskonform funktioniert. Die Prinzipien technisch messbar zu machen, ist die grosse Herausforderung.?

In sensiblen Umfeldern kommen zwei weitere Prinzipien ins Spiel: Interpretierbarkeit und Erkl?rbarkeit. Das bedeutet, dass Menschen, die eine KI nutzen, wissen, wie diese ihre Entscheidungen f?llt und dass sie diese Entscheidungen anderen gegen¨¹ber verst?ndlich erkl?ren k?nnen.

Je nach Perspektive

Wichtig sind die beiden Prinzipien zum Beispiel in der Medizin, besonders wenn eine KI die Diagnose und Behandlung einer Kinderkrankheit unterst¨¹tzt. Hier beurteilen Menschen, wie Margarita Boenig-Liptsin sagt, die Vertrauensw¨¹rdigkeit einer KI je nach Perspektive anders: weil Erfahrung, Wissen und Verantwortung der KI-Forscherin, der ?rztin, des Kindes und der Eltern sich unterscheiden und sie die Auswirkungen nicht gleich erleben.

?In der Medizin m¨¹ssen KI-Modelle transparent, interpretierbar und erkl?rbar sein, um Vertrauen zu gewinnen?, sagt Informatikprofessorin Julia Vogt. Sie leitet die Medical Data Science Group der ETH und entwickelt KI-Modelle, die ?rztinnen und ?rzte bei der Diagnose und Behandlung von Krankheiten unterst¨¹tzen. Ihre Forschung zeigt, dass es dabei nicht nur auf die Leistung der KI ankommt, sondern auch darauf, dass ihre Entscheidungen und Empfehlungen f¨¹r ?rztinnen und ?rzte und f¨¹r Patientinnen und Patienten verst?ndlich sind. Die Modelle werden daher streng validiert und der Datenschutz muss gew?hrleistet sein.

F¨¹r Blinddarmentz¨¹ndungen von Kindern hat Julia Vogts Forschungsgruppe interpretierbare maschinelle Lernmodelle entwickelt, die ?rztinnen und ?rzte zur Diagnose und Behandlung einsetzen k?nnen. Auf den Ultraschallbildern erkennt die KI, wie schwer die Blinddarmentz¨¹ndung eines Kindes ist, und schl?gt eine Behandlung vor. Diese KI-Modelle sind f¨¹r die ?rztinnen und ?rzte gut interpretierbar, weil die KI auf den Ultraschallbildern die Konzepte und Merkmale erkennt, die ?rztinnen und ?rzte in der Praxis verwenden ¨C bei Blinddarmentz¨¹ndungen sind dies zum Beispiel entz¨¹ndliche Reaktionen des umliegenden Gewebes oder Verstopfung. Dadurch wissen die ?rztinnen und ?rzte, ob die KI wirklich die klinisch relevanten Merkmale f¨¹r ihre Empfehlung verwendet hat, und k?nnen die KI-Diagnose den Eltern und dem Kind verst?ndlich erkl?ren.

In einem anderen Fall hat Julia Vogts Gruppe eine interpretierbare und erkl?rbare KI entwickelt, die einsch?tzen kann, wie schwer ein neugeborenes Kind an pulmonaler Hypertonie erkrankt ist. Bei dieser schweren Herzkrankheit ist eine fr¨¹he und genaue Diagnose entscheidend f¨¹r die Behandlung. Daf¨¹r verwendete die Forscherin einen Deap-Learning-Ansatz, also neuronale Netze, um Ultraschallbilder des Herzens auszuwerten.

Diese KI erstellt aus den Ultraschallbildern spezielle Merkmalskarten, die diejenigen Bereiche des Herzens farblich hervorheben, aus der die KI ihre Diagnose herleitet. Auf diesen Karten sehen die ?rztinnen und ?rzte auf einen Blick, ob die KI tats?chlich die klinisch relevanten Herzstrukturen ber¨¹cksichtigt. Entsprechend k?nnen sie die Empfehlung der KI interpretieren und die KI-Diagnose erkl?ren. Das ist bemerkenswert, weil Deep Learning oft wie eine Blackbox funktioniert, bei der nicht nachvollziehbar ist, wie genau die KI entscheidet.

Die Entscheidungen einer KI ¨¹berpr¨¹fbar und nachvollziehbar zu machen, schafft Vertrauen. Dennoch bleibt ein Teil der Entscheidungen, die eine KI trifft, f¨¹r uns Menschen stets unerkl?rlich. Diese Ungewissheit muss das Vertrauen in KI jedoch nicht schm?lern. Vollst?ndigkeit sei daf¨¹r nicht notwendig, sagt Andreas Krause: ?Es ist genauso schwierig, KI-Modelle vollst?ndig zu erkl?ren, wie menschliche Entscheidungen neurobiologisch vollst?ndig zu verstehen. Trotzdem k?nnen Menschen einander vertrauen.?