Thème: intelligence artificielle

La chercheuse en intelligence artificielle Maria Graziani, lauréate du Prix Latsis 2023, explique comment l’intelligence artificielle pourrait profondément modifier le(s) processus scientifiques. Elle travaille actuellement pour IBM Research Europe.

«Lors de sa séance, la Commission de la science, de l’éducation et de la culture du Conseil national (CSEC-N) a entamé des travaux préparatoires dans l’optique du traitement du message FRI 2025-2028 dans le prochain trimestre. […]

Les présentations et les discussions ont en particulier porté sur le rôle toujours plus important de l’intelligence artificielle, sur le manque de personnel qualifié (spécialement dans le domaine de la santé) et les défis relatifs à la formation, sur les besoins en matière de financement pour assurer la formation du nombre croissant d’étudiants et pour maintenir l’excellence dans le domaine de la recherche, qui évolue rapidement, ainsi que sur la question de la relève scientifique et académique. La discussion et les différentes questions seront approfondies au cours du prochain trimestre, dans le cadre de l’examen du message FRI 2025-2028.»

Le Centre pour le développement des hautes écoles (CHE) allemand a développé un «document de discussion» avec une vision pour adapter la culture d’examens au changement technologiques (IA) et à la numérisation. Il se base sur une série d’ateliers organisés durant l’été 2023, au cours desquels les étudiant-es, les enseignant-es, les structures de soutien ainsi que les directions des universités et les acteurs et actrices stratégiques ont discuté de leurs idées et de leurs besoins au sein de leur groupe d’intérêts.

«L’EPFZ, l’EPFL et la Confédération vont travailler avec Microsoft, Google ou Amazon pour tenter de réduire les risques liés à l’intelligence artificielle. Des chercheurs vont collaborer avec des ingénieurs. Pour la Suisse, c’est un coup de projecteur important.»

Selon Sophie Gremaud, auteure de l’article paru dans la Liberté et le Courrier, «les robots conversationnels sont capables de miracles sur les bancs académiques. ChatGPT est même un très bon élève, capable de passer avec brio certains examens et d’élaborer des présentations et des essais convaincants.»  Elle a rédigé un tour d’horizon des pratiques en Suisse et constate: «Environ une année après l’apparition de ce parfait instrument de fraude dans la routine et le cartable des étudiants, force est de constater que les milieux académiques sont à la traîne.»

Le Conseil européen de la recherche (CER) a averti les candidat-es qu’ils et elles devaient respecter l’intégrité académique lors de l’utilisation des outils d’intelligence artificielle (IA) pour rédiger des propositions de recherche.

Adéla Jiroudková, directrice du bureau de soutien à la recherche de l’université Charles à Prague, où les directeurs de recherche utilisent l’IA générative, a déclaré qu’elle était «très consciente» que certaines sociétés de conseil utilisaient ce type de logiciel pour rédiger des demandes de subvention. Selon elle, cela constitue «un problème encore plus grave» que l’utilisation de l’IA par les universités dans le même but. «Ils utilisent vos connaissances, vos notes et vos brouillons et les introduisent dans ChatGPT ou des plateformes similaires sans le consentement du chercheur.» Dans le même temps, une dépendance excessive à l’égard de l’IA pourrait conduire à une homogénéisation de la recherche, où «seules les propositions qui entrent dans un certain moule ou qui cochent des cases algorithmiques spécifiques sont approuvées.»

Le IA permettront aux scientifiques d’avancer plus rapidement dans leur compréhension de la langage des singes, tel est l’espoir de scientifiques de l’Université de Neuchâtel.

L’article du Monde traite des difficulté d’encadrer l’utilisation des AI par exemple dans les travaux écrites et les expériences faites notamment dans les universités suivantes: Sciences Po Paris, Université de La Rochelle, ESCP Business School, L’Université de Lille, Science Po Rennes, et Ecole normale supérieure.

Le milliadaire Dieter Schwarz, fondateur de Lidl, a signé un accord pour soutenir financièrement l’Ecole polytechnique fédérale de Zurich dans son plan de mettre en place un centre d’études et de recherche sur la transformation numérique et l’intelligence artificielle dans sa ville d’origine Heilbronn, en Allemagne. Le don permettra de financer 20 nouvelle chaires sur les prochaines 30 années, dont 6 à Zurich.

«Dans des domaines tels que le changement climatique, l’intelligence artificielle, la cybersécurité et la biotechnologie ou la bio-informatique, une collaboration internationale est nécessaire», a déclaré le président de l’EPFZ Joël Mesot lors d’une conférence de presse. «Seuls, nous ne pouvons pas beaucoup, nous devons travailler plus en réseau.» Depuis 2010 déjà l’EPFZ a une antenne à Singapour, une expérience positive selon lui.

La fondation Dieter Schwarz-Stiftung est en train de réunir à Heilbronn «les meilleures forces scientifiques» : l’Université technique de Munich et la «Fraunhofer Gesellschaft» sont déjà présentes sur le campus, et des partenariats stratégiques existent entre autres avec les universités d’Oxford et de Stanford. Actuellement, plus de 7500 étudiants sont inscrits sur le campus. La journaliste Christiane Henkel suppose que la proximité avec des entreprises sud-allemandes comme Bosch, Trumpf et Aleph alpha soit un facteur favorable pour développer et tester l’intelligence artificielle.

Le Conseiller cantonal Rafael Mörgeli (PS) estime que ce développement n’a pas que du positif: «L’éducation est notre capital et ceci est une tentative évidente de détourner ce capital vers d’autres horizons.» (Neue Zürcher Zeitung)

Le journaliste du Tages-Anzeige écrit qu’un tel don peut être délicat, par exemple par rapport à la prise d’influence du donateur. Il plaide pour une «transparence entière sur l’accord»: les citoyens suisses auraient le droit de savoir combien de fonds sont utilisés et comment par l’EPFZ.

«L’Europe peine à réguler l’intelligence artificielle, notamment à cause de la France et de l’Allemagne qui défendent leurs champions nationaux. En Suisse, on observe que l’EPFZ et le CERN se rallient à une alliance créée par Meta [nommé AI Alliance]. […] «Avec l’AI Alliance , de plus en plus d’entreprises reconnaissent l’importance de l’open source, de la collaboration et de la nécessité pour le monde académique de jouer un rôle de premier plan pour orienter le débat sur l’IA vers des bénéfices pour la société»», note Alexander Ilic, directeur du centre IA de l’EPFZ. «Il est important que nous mettions à profit ce laps de temps pour informer les décideurs politiques et intervenir si quelque chose risque de nuire à la confiance et à la transparence. Par exemple, certains aspects de la loi européenne sur l’IA rendraient très difficile le développement de l’IA open source.»

En raison de l’inquiétude croissante face à l’IA et aux ghostwriters, une université pragoise ose une mesure radicale : elle veut supprimer complètement les travaux de bachelor.

Au lieu de cela, l’université prévoit d’orienter les exigences pour le diplôme de bachelor vers la pratique. Cela laisserait moins de place au plagiat et permettrait aux étudiants d’acquérir une expérience jugée plus utile pour leur future vie professionnelle.

«L’EPFL et l’EPFZ ont annoncé le lancement de Swiss AI, basée sur le nouveau supercalculateur Alps, destiné à créer une intelligence artificielle transparente et fiable. La machine sera d’une puissance comparable aux systèmes de Microsoft et Google. […] Pour Antoine Bosselut, professeur assistant en intelligence artificielle à l’EPFL, «il s’agit du plus gros projet d’IA lancé en Suisse jusqu’à présent. C’est une alliance majeure des deux EPF, mais aussi de plusieurs universités. Notre but est de développer en Suisse des compétences et de créer du savoir avec ce super-ordinateur. L’idée est de construire un écosystème pour une IA faite en Suisse, plus sûre, plus fiable et protégeant les données de tous.»»

«La littérature scientifique est polluée par de faux manuscrits produits par des paper mills ─des entreprises qui vendent de faux travaux et de fausses signatures à des chercheurs qui ont besoin de publications dans des revues pour leur CV.»

«Une analyse non-publiée communiquée à Nature suggère qu’au cours des deux dernières décennies, plus de 400 000 articles de recherche présentant de fortes similitudes textuelles avec des études connues produites par des paper mills ont été publiés. Environ 70 000 d’entre eux ont été publiés rien que l’année dernière […]. L’analyse estime que 1,5 à 2 % de tous les articles scientifiques publiés en 2022 ressemblent étroitement à des travaux produits par des paper mills. Parmi les articles de biologie et de médecine, ce taux s’élève à 3 %.» (Nature.com)

«L’homme derrière tout cela est Adam Day, directeur de la société londonienne «Clear Skies». Il a conçu une intelligence artificielle qui lit les bases de données scientifiques du monde entier et doit distinguer les travaux suspects de ceux qui ne le sont pas. Il le fait à la demande expresse et avec le soutien des revues spécialisées.»

Certains des plus grands se font avoir. Pour rappel, en 2021 la «Royal Society of Chemistry (RSC) de Londres a dû reconnaître […] qu’elle était tombée dans le piège de copieurs. Elle n’avait pas publié que des plagiats isolés, mais 69.» (Die Welt)

«Selon une étude publiée le 6 novembre dans Cell Reports Physical Science, un outil d’apprentissage automatique peut facilement repérer les articles de chimie rédigés à l’aide du chatbot ChatGPT. Le classificateur spécialisé, […] pourrait aider les éditeurs universitaires à identifier les articles créés par des générateurs de texte IA.»

«Testé sur des introductions écrites par des personnes et sur des introductions générées par l’IA à partir des mêmes revues, l’outil a identifié les sections écrites par ChatGPT-3.5 sur la base des titres avec une précision de 100 %. Pour les introductions générées par ChatGPT et basées sur des résumés, la précision était légèrement inférieure, à 98 %. L’outil a fonctionné tout aussi bien avec le texte écrit par ChatGPT-4, la dernière version du chatbot.» Ces résultats sont nettement supérieurs que ceux performés par «l’outil de classification de texte produit par OpenAI, le fabricant de ChatGPT » et que ZeroGPT.

«L’Ecole polytechnique fédérale de Lausanne (EPFL) […] vient de lancer un nouveau centre, qui se fixe deux objectifs initiaux: coordonner tous les travaux de recherche en cours dans [le] domaine [de l’IA] sur le campus, mais aussi contribuer à la création de systèmes d’IA plus sûrs». Ce centre sera codirigé par deux professeurs de l’EPFL, Pascal Frossard, de la Faculté des sciences et techniques de l’ingénieur, et Marcel Salathé, de la Faculté informatique et communications, et de la Faculté des sciences de la vie».

Monsieur Salathé explique que le premier pas sera de «cartographier tout ce que fait l’EPFL sur le terrain de l’intelligence artificielle […], [puisqu’]il est important que tout le monde soit au courant des projets sur le campus afin de permettre une collaboration optimale». Le professeur souhaite aussi «intensifier [leur] collaboration avec le secteur public» et davantage d’implication en open source.

Pour l’Angleterre et les Etats-Unis, les ambitions sont de « […] renforcer [les] capacités de recherche en matière d’IA, […] notamment sur des efforts visant à élargir l’accès aux puissants superordinateurs nécessaires à l’entraînement des IA.» Signée la semaine passée par de nombreux états à Bletchley, la déclaration éponyme «[…] prévoit de mieux évaluer et gérer les risques liés à la puissance de l’IA «frontier», c’est-à-dire des systèmes avancés susceptibles d’être utilisés pour développer des technologies à risque, telles que les armes biologiques. Pionnier de l’IA et directeur scientifique de Mila, l’Institut québécois de l’IA au Canada, Yoshua Bengio souligne le rôle très dominant des entreprises dans le domaine, et les profits convoités. «Nous avons besoin d’universitaires et d’organisations financées par le gouvernement qui travaillent réellement à la protection du public pour pouvoir mieux comprendre ces systèmes» dit-il. (Nature)

Le ministre français de l’économie Bruno Le Maire se montre ouvertement ironique, déclarant que «[s]i l’on écoute certaines présentations apocalyptiques, on a l’impression que des robots hostiles vont débarquer dans nos rues.» (03.11 – Le Monde) «Certains voient dans les discours alarmistes un détournement de l’attention d’autres problèmes plus immédiats, comme les erreurs, les biais discriminatoires, le respect du droit d’auteur ou l’impact sur l’emploi. Lors du sommet, ce discours a été relayé par [la vice-présidente des Etats-Unis] Kamala Harris – qui a jugé ces risques «existentiels pour ceux qui les vivent».» (04.11 – Le Monde)

Avis partagé par un auteur d’un article dans Science Business, qui remarque que «[l]es universités de l’UE ont été pratiquement exclues du sommet britannique sur la sécurité de l’IA […]. 46 universités, groupes de réflexion et centres de recherche ont été invités, mais une seule institution de l’UE – University College Cork – a reçu une invitation par courrier, alors que le Québec, à lui seul, comptait trois institutions présentes.» Il s’interroge : «Mais qu’est-ce que tout cela signifie pour les chercheurs universitaires, qui ont été laissés de côté par les entreprises technologiques américaines et chinoises lorsqu’il s’agit de construire des modèles d’IA de pointe ?»

«La Chine, les Etats-Unis, l’UE et une vingtaine de pays ont signé mercredi au Royaume-Uni la déclaration de Bletchley pour un développement «sûr» de l’intelligence artificielle (IA), lors du premier sommet international sur l’essor fulgurant de cette technologie.»

«Face au potentiel grandissant des modèles comme ChatGPT, la déclaration de Bletchley «montre que pour la première fois, le monde se réunit pour identifier le problème et mettre en avant ses opportunités» a souligné la ministre britannique de la Technologie Michelle Donelan à l’AFP. Cette réunion «n’a pas pour objectif de poser les bases d’une législation mondiale, elle doit servir à tracer une voie à suivre», a-t-elle précisé.» (Blick.ch)

«Le gouvernement bâlois dépose une demande de contribution étatique de 4 millions de francs pour le projet de recherche international «Clinnova – Innovation in Healthcare» pour la période de 2024 à 2026. Le projet vise à exploiter le potentiel de l’intelligence artificielle dans les grandes quantités de données pour le secteur de la santé.»

«Le Conseil d’Etat voit dans ce projet une «excellente opportunité» de contribuer à la recherche de pointe, de faire progresser le développement numérique dans le domaine de la santé, comme il l’écrit dans son bulletin de mardi. Il s’agit d’encourager l’utilisation des données numériques de santé pour la recherche.» (Nau.ch)

En février 2022, la stratégie «AI made in Europe» a été lancée et Madame von der Leyen «a présenté un plan visant à ce que l’UE attire 20 milliards d’euros par an d’investissements dans l’IA au cours de la prochaine décennie […]. [Q]uatre ans plus tard, l’«IA made in Europe» n'[a] pas réussi à attirer l’attention, à avoir un impact, des produits ou une valeur d’importance mondiale, et […] l’écosystème européen de l’IA [a] encore pris du retard par rapport à ses concurrents [états-uniens et chinois]».

Morten Irgens et Holger Hoos, membres du conseil d’administration de la Confédération des laboratoires de recherche en intelligence artificielle en Europe (CLAIRE), affirment que «la stratégie de la Commission européenne en matière d’IA n’a pas été à la hauteur en termes d’échelle et de ciblage», du moment où elle repose sur «une pléthore d’investissements modestes […] [qui] ne sont pas coordonnés avec les programmes nationaux des Etats membres». Selon Monsieur Irgens et Monsieur Hoos «[l]a solution consiste à adopter l’approche du CERN pour mener des projets de grande envergure, coordonnés et très ambitieux». (sciencebusiness.net – Viewpoint: Europe needs a CERN for artificial intelligence )

Alors que l’UE se penche avec ferveur sur le développement de l’IA, les universités se trouvent encore coincées quant à son utilisation. Elles «adoptent peu à peu l’IA générative dans leurs travaux, mais des orientations approfondies manquent encore à de nombreux établissements». Selon l’UNESCO, «seulement 13 % des universités ont fourni à leur personnel et à leurs étudiants des orientations officielles», communiquées parfois qu’oralement et dont les exigences varient d’un établissement à l’autre. Un grand nombre d’universités «[attendent] que la Commission européenne établisse des lignes directrices de l’UE pour une utilisation sûre». Entretemps, «[l]e mois prochain, le groupe de Coimbra, qui regroupe 41 universités européennes, organisera une conférence sur l’utilisation de l’IA générative dans les universités». (sciencebusiness.net – Universities ready to take up generative artificial intelligence, but say guidelines are needed)

Créée ce lundi à Berne, l’association SCAI (Swiss Center for Augmented Intelligence) est un «centre de compétence national pour le développement et l’implémentation de l’intelligence augmentée, à savoir une approche de l’intelligence artificielle centrée sur l’humain. Les compétences humaines ne sont ainsi pas remplacées par la technologie mais celle-ci sert à assister l’humain dans ses tâches.» En projet depuis 2021, l’association regroupe plusieurs universités, hautes écoles et instituts de recherche.

«Des services et des projets seront développés au profit de l’économie et du secteur public de la région. SCAI fonctionne donc comme un moteur d’innovation pour l’espace économique […]» des cantons de Berne, Fribourg, Neuchâtel, Soleure et Valais.