«Der Einsatz von KI-Systemen kann zu Diskriminierung führen», sagt Estelle Pannatier, Senior Policy Managerin bei AlgorithmWatch CH. Sie erklärt, was die Ursachen sind und warum es bessere gesetzliche Rahmenbedingungen braucht.
Künstliche Intelligenz ist in aller Munde. Aber wovon sprechen wir genau?
Der Begriff künstliche Intelligenz umfasst ein breites Spektrum sehr unterschiedlicher Systeme. Maschinelles Lernen befähigtSysteme dazu, aus grossen Datenmengen Muster zu erkennen und eigenständig Erkenntnisse zu gewinnen. Generative KI wie etwa ChatGPT ist darauf ausgelegt, neue Inhalte – beispielsweise Texte oder Bilder – zu erzeugen. Auch weniger anspruchsvolle algorithmische Verfahren kommen in unserem Alltag ständig zum Einsatz. Mit Blick auf mögliche Diskriminierungsrisiken ist deshalb nicht die eingesetzte Technologie entscheidend, sondern es sind vielmehr die Auswirkungen, die ihre Entscheidungen auf das Leben von Menschen haben können. Etwa wenn ein System Empfehlungen abgibt, Prognosen erstellt oder eben Entscheidungen trifft.
Können Sie konkrete Beispiele nennen?
In Unternehmen bewerten algorithmische Systeme zum Beispiel Bewerbungen und analysieren Lebensläufe. Im Sozialwesen werden sie eingesetzt, um den Zugang zu Leistungen zu automatisieren, und erstellen Risikoprofile, um mögliche Betrugsfälle aufzudecken. KI diagnostiziert auch Krankheiten. Solche entscheidungsunterstützenden Systeme kommen in der Schweiz immer häufiger zum Einsatz. Zwar werden die Ergebnisse oft noch von Menschen überprüft. Diese stützen sich aber auf die Empfehlungen der Maschine.
Einige KI-Bildgeneratoren haben die Tendenz, Klischees zu reproduzieren, und stellen Menschen mit Behinderungen häufig passiv oder im Hintergrund stehend dar. Weshalb?
Generative KI-Systeme greifen für ihre Vorhersagen auf bestehende Daten zurück. Folglich besteht die Tendenz, in der Gesellschaft vorhandene Verzerrungen und Stereotype zu reproduzieren. Eine KI-Anwendung zum Beispiel, die überwiegend mit Bildern trainiert wurde, die Menschen mit Behinderungen in einer passiven Rolle zeigen, wird sich beim Erzeugen von neuen Inhalten an diesem Schema orientieren.
Generative KI-Systeme greifen für ihre Vorhersagen auf bestehende Daten zurück. Folglich besteht die Tendenz, in der Gesellschaft vorhandene Verzerrungen und Stereotype zu reproduzieren
Estelle Pannatier, Senior Policy Managerin bei AlgorithmWatch CH
Gibt es weitere Ursachen, die zu Diskriminierung führen?
Ja, Diskriminierung ist immer auf verschiedene Faktoren zurückzuführen. Neben der Qualität und Zusammensetzung der verwendeten Daten spielt auch die Ausgestaltung des Algorithmus eine wesentliche Rolle. Ein Algorithmus bildet Zusammenhänge stets in einem mathematischen Modell ab. Die Realität wird damit zwangsläufig vereinfacht. Dieser Verlust an Komplexität kann zu Verzerrungen führen. Ein System kann auch diskriminierend wirken, wenn seine Anwendung beispielsweise dazu führt, dass bestimmte Gruppen den Zugang zu Leistungen verlieren. Die Auswahl der Parameter und deren Gewichtung können ebenfalls eine Rolle spielen.
Lassen sich diese Verzerrungen korrigieren?
Aufgrund der undurchsichtigen Funktionsweise der Systeme ist es äusserst schwierig, Diskriminierung aufzudecken. Hinzu kommt, dass betroffene Personen in der Regel nicht wissen, dass eine Entscheidung, die sie betrifft, ganz oder teilweise von einer KI-Anwendung getroffen oder beeinflusst wurde. AlgorithmWatch setzt sich deshalb für einen stärkeren Schutz vor Diskriminierung ein. Dazu gehören strengere Rahmenbedingungen für den Einsatz solcher Systeme sowie leicht zugängliche Rechtsmittel für Betroffene.
Sind die speziell für Menschen mit Behinderungen entwickelten Anwendungen weniger diskriminierend?
Das lässt sich nicht pauschal sagen. Grundsätzlich gilt jedoch: Wenn Menschen mit Behinderungen bereits in den Entwicklungsprozess einbezogen werden, entstehen Lösungen, die besser auf ihre Bedürfnisse abgestimmt sind und das Risiko von Diskriminierung reduzieren. Im KI-Bereich herrscht jedoch ein intensiver Wettbewerb um schnelle Innovationen und Markteinführungen. Dadurch werden viele Systeme unter «Laborbedingungen» entwickelt und nicht mit den Bedürfnissen verschiedener Zielgruppen abgeglichen.
In der Schweiz zeichnet sich eine Regulierung im Bereich der KI ab …
Die Schweiz hat die KI-Konvention des Europarats unterzeichnet und steht nun vor der Aufgabe, ihre rechtlichen Rahmenbedingungen entsprechend anzupassen. Der Schutz vor Diskriminierung gehört zu den Aspekten, die der Bundesrat berücksichtigen will. Erste Entwürfe für die nötigen Gesetzesanpassungen werden voraussichtlich gegen Ende des Jahres erwartet.
Interview vom Französischen ins Deutsche übersetzt– Foto: David Bächtold