Estelle Pannatier, chargée de politique chez AlgorithmWatch CH, apporte un éclairage sur les risques de discrimination liés à l’intelligence artificielle (IA), notamment pour les personnes en situation de handicap. Elle décrypte les biais des systèmes, leurs impacts et explique pourquoi un meilleur encadrement est nécessaire.
On parle beaucoup d’intelligence artificielle. Mais de quoi parle-t-on exactement ?
Avez-vous des exemples concrets ?
Il peut s’agir de systèmes utilisés dans le cadre de recrutements, ou pour permettre d’automatiser l’accès aux prestations sociales et identifier les catégories de personnes davantage susceptibles de frauder. Ce sont des systèmes d’aides à la prise de décisions de plus en plus utilisés en Suisse. Bien qu’un humain analyse généralement les résultats, celui-ci se base sur les recommandations de la machine.
Certaines applications d’IA générant des images tendent à reproduire des clichés montrant les personnes en situation de handicap comme passives ou isolées. Pourquoi ?
L’IA générative fonctionne comme un modèle prédictif : elle génère des contenus à partir de données existantes. Elle a donc tendance à reproduire les stéréotypes existants dans la société. Si les systèmes ont été majoritairement entraînés avec des images montrant des personnes en situation de handicap dans des postures passives, ils vont générer des images selon le même schéma.
L’IA générative fonctionne comme un modèle prédictif : elle génère des contenus à partir de données existantes. Elle a donc tendance à reproduire les stéréotypes existants dans la société.
Estelle Pannatier, chargée de politique chez AlgorithmWatch CH
Au-delà du manque de représentativité des données, y a-t-il d’autres causes aux préjugés ?
La question de la discrimination est multifactorielle. Elle peut provenir du modèle de l’algorithme, qui est toujours une simplification de la réalité : la transposition d’un problème en données mathématiques. Cette perte en complexité peut entraîner des biais. Un système peut aussi produire de la discrimination, par exemple quand son utilisation entraîne la perte d’accès à des prestations pour des groupes spécifiques. Le choix des variables ainsi que leur pondération peuvent aussi jouer un rôle. Aux Pays-Bas, un système d’allocations a discriminé les femmes non pas directement sur la base du genre, mais à travers des critères corrélés comme la présence d’enfants à charge. De même pour le handicap, d’autres données que ce dernier critère peuvent indirectement révéler la situation de la personne et conduire à une discrimination.
Ces biais sont-ils corrigibles ?
En raison de l’opacité du fonctionnement des systèmes, il est très difficile de pouvoir identifier une discrimination potentielle. En outre, les personnes ignorent souvent qu’une décision les concernant a été prise ou soutenue par une IA. AlgorithmWatch appelle à un renforcement de la protection contre la discrimination, en particulier à travers un encadrement plus strict de l’utilisation de ces systèmes et une facilitation des voies de recours pour les personnes concernées. Des analyses d’impact permettant d’évaluer les risques de discrimination en amont doivent aussi être réalisées.
Les applications développées pour les personnes en situation de handicap sont-elles moins discriminantes ?
On ne peut pas l’affirmer de manière générale. En revanche, celles qui intègrent les personnes concernées dès leur conception répondent mieux aux besoins réels et limitent les risques de discrimination. Il existe une course à l’innovation et à la mise sur le marché : les produits sont trop souvent créés en « laboratoire » sans prise en compte des personnes concernées.
Une réglementation dans le domaine de l’IAse profile en Suisse…
La Suisse a signé la convention du Conseil de l’Europe sur l’IA et doit adapter son cadre légal. La protection contre la discrimination figure parmi les éléments que le Conseil fédéral entend prendre en compte. Mais de quelle manière cela va-t-il être implémenté et transcrit dans une loi ? Les premiers projets de loi sont attendus pour fin 2026. •