L’Union européenne a récemment affirmé vouloir créer un cadre juridique pour limiter les risques liés à l’intelligence artificielle.
Les eurodéputé·es «ont convenu que la législation de l’UE devrait imposer une interdiction totale sur la mise en œuvre des systèmes d’IA pour la surveillance biométrique, la reconnaissance des émotions et la police prédictive». Le projet de texte juridique indique que ««[l]a mise sur le marché, la mise en service ou l’utilisation de certains systèmes d’IA ayant pour objectif ou pour effet de fausser matériellement le comportement humain, de sorte que des dommages physiques ou psychologiques soient susceptibles de se produire, devrait être interdite […]». Toutefois, la recherche sur ces sujets ne doit pas être interrompue. «La recherche à des fins légitimes en relation avec de tels systèmes d’IA ne devrait pas être étouffée par l’interdiction, si cette recherche n’équivaut pas à une utilisation du système d’IA dans les relations homme-machine qui expose les personnes physiques à des préjudices». Les député·es souhaitent que les Etats membres investissent davantage dans la recherche sur l’IA menée conjointement par les développeurs d’IA, les universitaires, les experts en matière d’inégalité et de non-discrimination et d’autres représentants de la société civile».