DE
EN

Interview mit IBM Watson-Leitung Andrea Martin

Interview mit IBM Watson-Leitung Andrea Martin: Kann Künstliche Intelligenz (KI) vertrauenswürdig sein?

Über dieses Thema diskutierten Andrea Martin, Leiterin IBM Watson Center und Mitglied der Enquete-Kommission “Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale” des Deutschen Bundestags, und Gunnar Sohn im Rahmen eines Interviews für DigitalX am 18.03.2021.

Künstliche Intelligenz: Vertrauensvoll oder vertrauenswürdig? Welche Voraussetzungen müssen dafür erfüllt werden

“Es ja eher darum bin ich vertrauenswürdig oder in diesem Fall die KI. Und da wäre meine Antwort von meiner Seite: Ja.” – Andrea Martin

Doch welche Voraussetzungen müssen dafür erfüllt sein? Schließlich gibt es die Befürchtung, dass man über KI-Systeme Verzerrungen darstellt – beispielsweise, dass man stigmatisiert wird, wenn es um Kreditwürdigkeit geht. Aufgrund der vielen negativen Schlagzeilen machte Dorothee Bär, Staatsministerin für Digitalisierung, sogar den Vorschlag, statt KI den Begriff maschinelles Lernen zu verwenden. Damit würden wir uns nach Meinung von Andrea Martin allerdings beschränken, denn die Leistungsfähigkeit und die Funktionalitäten von Künstlicher Intelligenz ist weitaus breiter. Maschinelles Lernen würde diese Aspekte zu kurz greifen.

“Aber KI kann eben dabei helfen, Texte zu verstehen, Bilder zu erkennen, Video zu analysieren und Töne einzuordnen. Es wäre schade, wenn wir diese Aspekte nicht in den Kontext KI mit einbeziehen würden. Damit wären wertvolle Errungenschaften wie virtuelle Assistenten ausgeschlossen.” – Andrea Martin

Im Hinblick auf das Zusammenspiel von Vertrauenswürdigkeit und KI, müsste man auch die Fragen klären: Was kann KI leisten und was nicht? Wo ist das potenzial und wo sind die Risiken? Der Einsatz von Prinzipien, die von allen gleichermaßen angewendet werden, aber auch mithilfe von Methoden können wir erklären, wie man Diskriminierung im Bereich KI vermeiden kann.

KI-Systeme im Alltag: Wo ist Künstliche Intelligenz schon im Einsatz?

Im Kundenservice, bei der Polizei, in der Medizin – im Alltagsleben nutzen wir KI schon in vielen Bereichen. Haben wir diese Alltagsfunktionen schon aus dem Auge verloren? Ist dies einer der Gründe, warum wir auf KI-Fehler besorgt reagieren? Andrea Martin vertritt die Meinung, dass im KI-Bereich noch mehr Transparenz geschaffen werden muss. Dabei geht es nicht nur darum, zu sagen, wo KI genutzt wird, sondern welche Funktionalitäten die Technologie in jedem einzelnen Fall übernimmt. Auf Risiken, die es bei der Nutzung geben kann, sollte auch hingewiesen werden. Denn nur so lässt sich festlegen, welche Maßnahmen man selbst ergreifen kann, um die negativen Auswirkungen einzudämmen.

“Dafür ist sehr viel Öffentlichkeitsarbeit notwendig. KI muss in den richtigen Kontext und in das richtige Licht gerückt werden.” – Andrea Martin

Nützliche Anwendungsmöglichkeiten von Künstlicher Intelligenz

Kunden von IBM beschäftigen sich laut Andrea Martin derzeit viel mit dem Thema virtuelle Assistenten und mit der Frage, wie sie große Datenmengen wie Texte schnell(er) verarbeiten können und welche Rolle dabei KI übernehmen könnte. Viel Potenzial steckt ebenfalls in der Mustererkennung, im maschinellen Lernen – der Weg über die sogenannte Discovery zu neuen Erkenntnissen in der Wissenschaft zu kommen. In Bereichen wie der Medizin ist die Datenmenge bereits so hoch, sodass Menschen diese Datenflut alleine nicht mehr verarbeiten können. Es braucht KI, die dem Menschen unter die Arme greift und die Datenmengen im Zaum behält.

KI und Transparenz: Wem gehören die Daten?

Viele Menschen befürchten zwar zum gläsernen Menschen – eine künstliche Intelligenz weiß alles über die Person – zu werden, nutzen aber gleichzeitig Messenger wie WhatsApp. Sie wissen nicht, wo ihre Daten tatsächlich liegen und wie diese genutzt werden. Es fehlt laut Andrea Martin an Transparenz:

“Da fehlt die Transparenz. Was passiert mit den Daten? Wem gehören die Daten? Und was passiert mit diesen Informationen?” – Andrea Martin

Die Leiterin vom IBM Watson Center ist überzeugt davon, dass Unternehmen – und die Wissenschaft – mehr Transparenz darüber schaffen muss, was mit der Künstlichen Intelligenz, aber auch mit den Daten, die diese Technologie benötigt und verwendet passiert.

“Zu sagen, wir setzen die technischen Möglichkeiten nicht ein – die uns allen auch zugute kommen könnte, wenn man sie richtig einsetzt – fände ich falsch. Eine Technologie kann ich aber nicht einfach loben oder komplett verdammen. Es kommt darauf an, wie ich die Technologie einsetze. Und die unterschiedlichen Anwendungsfälle müssen wir uns genau anschauen.” – Andrea Martin