Was ist verantwortungsvolle KI und warum ist sie wichtig? Dieser Leitfaden erklärt KI-Voreingenommenheit, Fairness, Transparenz, Datenschutz und Sicherheit im Klartext – mit realen Beispielen dafür, was schief geht und wie wir es besser machen können.
Im Jahr 2018 stellte Amazon ein KI-Rekrutierungstool ein, an dem das Unternehmen vier Jahre lang gearbeitet hatte. Das System wurde entwickelt, um Bewerber auf einer Skala von eins bis fünf Sternen zu bewerten. Das Problem: Es hatte gelernt, Lebensläufe zu bestrafen, die das Wort „Frauen“ enthielten – etwa „Frauenschachclub“ – und Absolventen reiner Frauenhochschulen herabzustufen. Das System wurde anhand historischer Einstellungsdaten trainiert, die frühere Muster männlicher Dominanz im Technologiebereich widerspiegelten. Es lernte diese Muster und verstärkte sie.
Die Ingenieure von Amazon versuchten, die Verzerrung zu beheben, konnten aber letztendlich nicht garantieren, dass das System neutral war. Sie haben es geschlossen.
Das ist der Clou an verantwortungsvoller KI: Systeme, die mit guten Absichten entwickelt wurden, können echten Menschen systematisch Schaden zufügen, wenn sie eingesetzt werden, ohne ausreichend über Fairness, Rechenschaftspflicht und Transparenz nachzudenken.
Da KI in den Bereichen Personalbeschaffung, Kreditvergabe, Gesundheitswesen, Strafjustiz, Bildung und mehr Einzug hält, ist es nicht optional, dies richtig zu machen. Dieser Leitfaden erklärt die wichtigsten Themen klar und deutlich – ohne Fachjargon, ohne Handzeichen.
Verantwortungsvolle KI bezieht sich auf die Praxis der Entwicklung, Bereitstellung und Wartung von KI-Systemen auf eine Weise, die sicher, fair, transparent, rechenschaftspflichtig und im Einklang mit menschlichen Werten ist.
Es geht nicht nur darum, Schaden zu vermeiden (obwohl das entscheidend ist). Es geht darum, KI zu schaffen, der Menschen vertrauen können – Systeme, deren Entscheidungen erklärt, angefochten und korrigiert werden können.
Das Feld umfasst mehrere miteinander verbundene Anliegen:
Bias in der KI ist kein Programmierfehler, den Sie mit einem Patch beheben können. Es ist ein Spiegelbild der Welt – insbesondere der voreingenommenen Daten, die die Welt in der Vergangenheit generiert hat.
1. Verzerrte Trainingsdaten
KI-Modelle lernen aus Daten. Wenn diese Daten historische Ungleichheiten widerspiegeln, lernt das Modell diese Ungleichheiten, als wären sie Regeln.
Beispiel: Ein Gesichtserkennungssystem, das hauptsächlich auf hellhäutige Gesichter trainiert wird, schneidet bei dunkelhäutigen Gesichtern schlecht ab. Eine Studie von Joy Buolamwini und Timnit Gebru aus dem Jahr 2018 (die „Gender Shades“-Studie) ergab, dass führende kommerzielle Gesichtserkennungssysteme bei dunkelhäutigen Frauen eine um bis zu 34 % höhere Fehlerquote aufwiesen als bei hellhäutigen Männern. Das war keine Bosheit – es handelte sich um Trainingsdaten, die nicht die Vielfalt menschlicher Gesichter widerspiegelten.
2. Label-Bias
Wenn Menschen Trainingsdaten kennzeichnen, werden ihre eigenen Vorurteile kodiert. Wenn menschliche Etikettierer regelmäßig „professionelle“ Fotos mit Männern oder Weißen assoziieren, lernt das Modell diese Assoziation.
3. Rückkopplungsschleifen
Wenn ein voreingenommenes Modell eingesetzt wird und seine Vorhersagen die zukünftige Datenerfassung beeinflussen, verstärkt sich die Voreingenommenheit. Ein prädiktives Polizeimodell, das die Polizei auf bestimmte Stadtteile konzentriert, führt dort zu mehr Verhaftungen, wodurch mehr Daten entstehen, die darauf hindeuten, dass in dem Stadtteil eine hohe Kriminalität herrscht, wodurch sich die Polizeiarbeit stärker auf diese Stadtteile konzentriert. Der Kreislauf verstärkt sich.
4. Proxy-Variablen
Manchmal lernt ein Modell, scheinbar neutrale Merkmale als Stellvertreter für geschützte Merkmale zu verwenden. Die Postleitzahl kann ein Indikator für die Rasse sein. Die besuchte Universität kann ein Indikator für den sozioökonomischen Hintergrund sein. Das Modell verwendet Rasse nicht explizit, tut dies jedoch effektiv.
5. Historische Daten, die historische Ungerechtigkeit widerspiegeln
Wenn Frauen in der Vergangenheit von bestimmten Berufen ausgeschlossen waren, werden anhand historischer Daten trainierte Modelle lernen, dass Frauen in diesen Berufen wahrscheinlich nicht tätig sein werden – und diesen Ausschluss möglicherweise aufrechterhalten.
Das sind keine Hypothesen. Das ist passiert.
COMPAS-Rückfallalgorithmus: Wird in US-Gerichten verwendet, um die Wahrscheinlichkeit einer Rückfälligkeit eines Angeklagten vorherzusagen. Eine ProPublica-Untersuchung aus dem Jahr 2016 ergab, dass die Wahrscheinlichkeit, dass das System schwarze Angeklagte fälschlicherweise als risikoreich einstuft, doppelt so hoch ist wie bei weißen Angeklagten, während weiße Angeklagte häufiger fälschlicherweise als risikoarm eingestuft werden. Diese Ergebnisse beeinflussten die Entscheidung über die Freilassung gegen Kaution und die Verurteilung.
Pulsoximeter während COVID-19: Nicht ausschließlich KI, aber beispielhaft für den medizinischen Bereich. Es wurde festgestellt, dass Pulsoximeter – die den Sauerstoffgehalt im Blut messen – bei Patienten mit dunklerer Haut weniger genau sind, was möglicherweise zu einer verzögerten Behandlung führt. Medizinische KI, die auf Daten dieser Geräte trainiert wurde, hatte den gleichen Fehler.
Kreditlimits für Apple-Karten: Im Jahr 2019 berichteten mehrere Benutzer, dass der Apple-Card-Algorithmus Frauen deutlich niedrigere Kreditlimits einräumte als Männern mit ähnlichen oder besseren Finanzprofilen. Der Algorithmus war eine Blackbox – weder die Antragsteller noch Apple konnten den Grund dafür einfach erklären.
Zuweisung von Gesundheitsressourcen: Es wurde festgestellt, dass ein in den USA weit verbreiteter Gesundheitsalgorithmus den Gesundheitsbedarf schwarzer Patienten im Vergleich zu ebenso kranken weißen Patienten systematisch unterschätzt. Dabei wurden die Gesundheitsausgaben als Indikator für den Gesundheitsbedarf herangezogen – aber schwarze Patienten hatten in der Vergangenheit weniger Pflege erhalten, sodass geringere Ausgaben nicht gleichbedeutend mit einem geringeren Bedarf waren.
Wenn ein KI-System eine folgenschwere Entscheidung über Sie trifft – Ihren Kreditantrag, Ihre Bewerbung, Ihre Kautionsanhörung, Ihre Krebsvorsorgeuntersuchung – haben Sie ein berechtigtes Interesse daran, die Gründe dafür zu verstehen.
Erklärbarkeit (auch Interpretierbarkeit genannt) bezieht sich auf die Fähigkeit zu erklären, wie und warum ein KI-System eine bestimmte Entscheidung getroffen hat.
Das ist technisch anspruchsvoll. Einige der leistungsstärksten KI-Modelle – insbesondere tiefe neuronale Netze – sind wirklich schwer zu interpretieren. Sie wirken auf Millionen oder Milliarden von Parametern auf eine Weise, die sich nicht auf eine einfache Erklärung reduzieren lässt.
In der Europäischen Union gibt die DSGVO (Datenschutz-Grundverordnung) dem Einzelnen das Recht, keinen rein automatisierten Entscheidungen unterworfen zu werden, die ihn erheblich beeinträchtigen, und das Recht, eine aussagekräftige Erklärung zu erhalten, wenn solche Entscheidungen getroffen werden.
Das EU-KI-Gesetz (das 2024 in Kraft trat) geht noch weiter und verlangt, dass Hochrisiko-KI-Systeme transparent und erklärbar sind. Zu den Anwendungen mit hohem Risiko gehören KI in den Bereichen Einstellung, Kreditvergabe, Gesundheitswesen, Strafverfolgung und Bildung.
LIME (Local Interpretable Model-Agnostic Explanations): Erklärt einzelne Vorhersagen durch lokale Annäherung des Modells an ein einfacheres, interpretierbares Modell.
SHAP (SHapley Additive exPlanations): Verwendet die Spieltheorie, um jedem Feature einen Beitragswert für eine bestimmte Vorhersage zuzuweisen.
Visualisierung der Aufmerksamkeit: In Transformer-Modellen können Sie visualisieren, auf welche Teile der Eingabe sich das Modell bei der Vorhersage am meisten „beachtet“ hat.
Diese Techniken sind unvollkommen und die aktive Forschung geht weiter, aber sie stellen einen bedeutenden Fortschritt in Richtung Verantwortlichkeit dar.
KI-Systeme werden anhand von Daten trainiert – oft personenbezogene Daten, die von Milliarden von Menschen gesammelt werden, manchmal ohne klare Einwilligung nach Aufklärung.
Hauptanliegen:
Zustimmung zu Trainingsdaten: Große Sprachmodelle wurden anhand von Texten aus dem Internet trainiert. Einige dieser Texte enthalten persönliche Informationen. Personen, die Blogbeiträge, Forumsbeiträge oder Artikel geschrieben haben, waren nicht damit einverstanden, dass ihre Worte zum Trainieren kommerzieller KI-Produkte verwendet werden.
Datenspeicherung: Wenn Sie einen KI-Chatbot verwenden, werden Ihre Gespräche möglicherweise gespeichert und möglicherweise zur Verbesserung zukünftiger Modelle verwendet. Es ist oft schwierig, genau zu verstehen, was mit Ihren Daten passiert.
Inferenzangriffe: Manchmal ist es möglich, Trainingsdaten aus einem Modell zu extrahieren – was im wahrsten Sinne des Wortes dazu führt, dass das Modell Text oder Informationen aus seinem Trainingssatz reproduziert. Dies hat Auswirkungen auf alle sensiblen Daten, die in den Trainingsdaten enthalten sind.
Gesichtserkennung: Die Erhebung und Nutzung biometrischer Daten ohne Einwilligung wirft erhebliche Datenschutzbedenken auf. Mehrere US-Städte haben aus genau diesem Grund den Einsatz der Gesichtserkennung durch die Regierung verboten.
Best Practices für Einzelpersonen:
Sicherheit in der KI geht über Voreingenommenheit hinaus. Dazu gehört, ob sich Systeme beim Einsatz in der realen Welt zuverlässig, vorhersehbar und schadensfrei verhalten.
Halluzinationen: Große Sprachmodelle erzeugen manchmal selbstbewusst klingende, gut formatierte, völlig falsche Informationen. Ein Anwalt, der einem US-Gericht einen von der KI erstellten Schriftsatz mit erfundenen Fallzitaten vorlegte, wurde 2023 mit Sanktionen belegt. Das Modell wusste nicht, dass es sich etwas ausdachte – es generierte einen plausibel klingenden Text.
Widersprüchliche Beispiele: Kleine, unmerkliche Änderungen an einem Bild können dazu führen, dass ein Deep-Learning-Klassifikator es völlig falsch identifiziert. Ein Stoppschild mit sorgfältig angebrachten Aufklebern kann fälschlicherweise als Geschwindigkeitsbegrenzungsschild eingestuft werden. Bei autonomen Fahrzeugen hat dies echte Auswirkungen auf die Sicherheit.
Verteilungsverschiebung: Auf historischen Daten trainierte Modelle können scheitern, wenn sich die Welt verändert. Viele Betrugserkennungsmodelle scheiterten während COVID-19, weil sich das Kaufverhalten dramatisch veränderte und die Modelle nicht für diesen Wandel konzipiert waren.
Kaskadierende Ausfälle: Wenn KI-Systeme miteinander verbunden sind – wie in automatisierten Finanzhandels- oder Logistiksystemen – kann ein Ausfall in einem System unerwartete Ausfälle bei anderen Systemen auslösen.
Bei verantwortungsvoller KI geht es nicht nur darum, schlechte Ergebnisse zu vermeiden. Es geht darum, Systeme aufzubauen, die Sie gerne öffentlich verteidigen würden.
Für Organisationen, die KI aufbauen:
Für Einzelpersonen, die KI nutzen:
KI ist nicht neutral. Es kodiert Entscheidungen – darüber, welche Daten verwendet werden sollen, welches Ziel optimiert werden soll, wer in den Entwurfsprozess einbezogen werden soll und wie mit Unsicherheit umgegangen werden soll. Diese Entscheidungen spiegeln Werte wider, bewusst oder unbewusst.
Da KI-Systeme immer folgenreichere Entscheidungen treffen – in den Bereichen Gesundheitsversorgung, Bildung, Justiz, Beschäftigung, Kredit –, ist der Einsatz, dies richtig zu machen, noch nie so hoch gewesen. Ein in großem Maßstab eingesetzter schlechter Algorithmus kann Millionen von Menschen schaden, bevor das Problem überhaupt erkannt wird.
Die gute Nachricht: Verantwortungsvolle KI ist ein lösbares Problem. Nicht perfekt und nicht auf einmal – aber mit den richtigen Praktiken, den richtigen Teams und den richtigen Frameworks können wir KI-Systeme aufbauen, die wirklich vertrauenswürdig sind.
Für diese Arbeit sind Menschen erforderlich, die sowohl die technischen als auch die menschlichen Dimensionen der KI verstehen. Es braucht Leute, die KI-Systeme bauen und schwierige Fragen dazu stellen können.
Bei AI Educademy ist verantwortungsvolle KI kein separates Modul – sie ist in alles, was wir unterrichten, eingebunden. Wir glauben, dass das Verständnis der KI-Ethik und -Sicherheit ebenso grundlegend ist wie das Verständnis, wie man ein Modell trainiert.
Wenn Sie KI erlernen oder bereits in diesem Bereich tätig sind, macht Sie das Verständnis dieser Probleme zu einem besseren Ingenieur, einem glaubwürdigeren Forscher und zu jemandem, der in der Lage ist, Technologien zu entwickeln, auf die Sie stolz sein können.
👉 Erkunden Sie unsere KI-Ethik und verantwortungsvolle KI-Ressourcen unter aieducademy.org – und helfen Sie dabei, KI zu entwickeln, die für alle funktioniert.
Teste die erste Lektion jeder Akademie kostenlos und schalte danach jede weitere Lektion, jedes Projekt und jedes Zertifikat mit Pro frei.