La lutte d’une chercheuse pour des algorithmes plus humains

Le journal suisse-alémanique Republik dresse le portrait de la jeune chercheuse Deborah Raji et de son combat pour des algorithmes plus humains. Âgé de seulement 24 ans, la chercheuse spécialisée en éthique de l’intelligence artificielle à l’Université de New-York a notamment réussi à ce que Amazon retire un logiciel de reconnaissance faciale défectueux que l’entreprise était en train de vendre aux services américains de l’immigration. Faute d’un manque de données qui reflètent la diversité humaine, ces technologies sont souvent programmées sur la base d’archives d’images qui associent les personnes à teint de peau foncée à des contenus inappropriés et ou criminels, alors que les personnes à la peau claire sont représentées dans des situations plus diverses. Conséquence ; la reconnaissance faciale discrimine les personnes sur la seule base de leur couleur de peau.

La chercheuse met en avant le risque que ces nouveaux systèmes puissent répéter les discriminations et les amplifier à travers d’une démultiplication de la portée dans le contexte numérique. Pour ces raisons, elle lutte pour que les aspects éthiques soient plus fortement intégrés dans l’enseignement universitaire des programmateur·ice·s.