Thème: intelligence artificielle

Le Conseil européen de la recherche (CER) a averti les candidat-es qu’ils et elles devaient respecter l’intégrité académique lors de l’utilisation des outils d’intelligence artificielle (IA) pour rédiger des propositions de recherche.

Adéla Jiroudková, directrice du bureau de soutien à la recherche de l’université Charles à Prague, où les directeurs de recherche utilisent l’IA générative, a déclaré qu’elle était «très consciente» que certaines sociétés de conseil utilisaient ce type de logiciel pour rédiger des demandes de subvention. Selon elle, cela constitue «un problème encore plus grave» que l’utilisation de l’IA par les universités dans le même but. «Ils utilisent vos connaissances, vos notes et vos brouillons et les introduisent dans ChatGPT ou des plateformes similaires sans le consentement du chercheur.» Dans le même temps, une dépendance excessive à l’égard de l’IA pourrait conduire à une homogénéisation de la recherche, où «seules les propositions qui entrent dans un certain moule ou qui cochent des cases algorithmiques spécifiques sont approuvées.»

Le IA permettront aux scientifiques d’avancer plus rapidement dans leur compréhension de la langage des singes, tel est l’espoir de scientifiques de l’Université de Neuchâtel.

L’article du Monde traite des difficulté d’encadrer l’utilisation des AI par exemple dans les travaux écrites et les expériences faites notamment dans les universités suivantes: Sciences Po Paris, Université de La Rochelle, ESCP Business School, L’Université de Lille, Science Po Rennes, et Ecole normale supérieure.

Le milliadaire Dieter Schwarz, fondateur de Lidl, a signé un accord pour soutenir financièrement l’Ecole polytechnique fédérale de Zurich dans son plan de mettre en place un centre d’études et de recherche sur la transformation numérique et l’intelligence artificielle dans sa ville d’origine Heilbronn, en Allemagne. Le don permettra de financer 20 nouvelle chaires sur les prochaines 30 années, dont 6 à Zurich.

«Dans des domaines tels que le changement climatique, l’intelligence artificielle, la cybersécurité et la biotechnologie ou la bio-informatique, une collaboration internationale est nécessaire», a déclaré le président de l’EPFZ Joël Mesot lors d’une conférence de presse. «Seuls, nous ne pouvons pas beaucoup, nous devons travailler plus en réseau.» Depuis 2010 déjà l’EPFZ a une antenne à Singapour, une expérience positive selon lui.

La fondation Dieter Schwarz-Stiftung est en train de réunir à Heilbronn «les meilleures forces scientifiques» : l’Université technique de Munich et la «Fraunhofer Gesellschaft» sont déjà présentes sur le campus, et des partenariats stratégiques existent entre autres avec les universités d’Oxford et de Stanford. Actuellement, plus de 7500 étudiants sont inscrits sur le campus. La journaliste Christiane Henkel suppose que la proximité avec des entreprises sud-allemandes comme Bosch, Trumpf et Aleph alpha soit un facteur favorable pour développer et tester l’intelligence artificielle.

Le Conseiller cantonal Rafael Mörgeli (PS) estime que ce développement n’a pas que du positif: «L’éducation est notre capital et ceci est une tentative évidente de détourner ce capital vers d’autres horizons.» (Neue Zürcher Zeitung)

Le journaliste du Tages-Anzeige écrit qu’un tel don peut être délicat, par exemple par rapport à la prise d’influence du donateur. Il plaide pour une «transparence entière sur l’accord»: les citoyens suisses auraient le droit de savoir combien de fonds sont utilisés et comment par l’EPFZ.

«L’Europe peine à réguler l’intelligence artificielle, notamment à cause de la France et de l’Allemagne qui défendent leurs champions nationaux. En Suisse, on observe que l’EPFZ et le CERN se rallient à une alliance créée par Meta [nommé AI Alliance]. […] «Avec l’AI Alliance , de plus en plus d’entreprises reconnaissent l’importance de l’open source, de la collaboration et de la nécessité pour le monde académique de jouer un rôle de premier plan pour orienter le débat sur l’IA vers des bénéfices pour la société»», note Alexander Ilic, directeur du centre IA de l’EPFZ. «Il est important que nous mettions à profit ce laps de temps pour informer les décideurs politiques et intervenir si quelque chose risque de nuire à la confiance et à la transparence. Par exemple, certains aspects de la loi européenne sur l’IA rendraient très difficile le développement de l’IA open source.»

En raison de l’inquiétude croissante face à l’IA et aux ghostwriters, une université pragoise ose une mesure radicale : elle veut supprimer complètement les travaux de bachelor.

Au lieu de cela, l’université prévoit d’orienter les exigences pour le diplôme de bachelor vers la pratique. Cela laisserait moins de place au plagiat et permettrait aux étudiants d’acquérir une expérience jugée plus utile pour leur future vie professionnelle.

«L’EPFL et l’EPFZ ont annoncé le lancement de Swiss AI, basée sur le nouveau supercalculateur Alps, destiné à créer une intelligence artificielle transparente et fiable. La machine sera d’une puissance comparable aux systèmes de Microsoft et Google. […] Pour Antoine Bosselut, professeur assistant en intelligence artificielle à l’EPFL, «il s’agit du plus gros projet d’IA lancé en Suisse jusqu’à présent. C’est une alliance majeure des deux EPF, mais aussi de plusieurs universités. Notre but est de développer en Suisse des compétences et de créer du savoir avec ce super-ordinateur. L’idée est de construire un écosystème pour une IA faite en Suisse, plus sûre, plus fiable et protégeant les données de tous.»»

«La littérature scientifique est polluée par de faux manuscrits produits par des paper mills ─des entreprises qui vendent de faux travaux et de fausses signatures à des chercheurs qui ont besoin de publications dans des revues pour leur CV.»

«Une analyse non-publiée communiquée à Nature suggère qu’au cours des deux dernières décennies, plus de 400 000 articles de recherche présentant de fortes similitudes textuelles avec des études connues produites par des paper mills ont été publiés. Environ 70 000 d’entre eux ont été publiés rien que l’année dernière […]. L’analyse estime que 1,5 à 2 % de tous les articles scientifiques publiés en 2022 ressemblent étroitement à des travaux produits par des paper mills. Parmi les articles de biologie et de médecine, ce taux s’élève à 3 %.» (Nature.com)

«L’homme derrière tout cela est Adam Day, directeur de la société londonienne «Clear Skies». Il a conçu une intelligence artificielle qui lit les bases de données scientifiques du monde entier et doit distinguer les travaux suspects de ceux qui ne le sont pas. Il le fait à la demande expresse et avec le soutien des revues spécialisées.»

Certains des plus grands se font avoir. Pour rappel, en 2021 la «Royal Society of Chemistry (RSC) de Londres a dû reconnaître […] qu’elle était tombée dans le piège de copieurs. Elle n’avait pas publié que des plagiats isolés, mais 69.» (Die Welt)

«Selon une étude publiée le 6 novembre dans Cell Reports Physical Science, un outil d’apprentissage automatique peut facilement repérer les articles de chimie rédigés à l’aide du chatbot ChatGPT. Le classificateur spécialisé, […] pourrait aider les éditeurs universitaires à identifier les articles créés par des générateurs de texte IA.»

«Testé sur des introductions écrites par des personnes et sur des introductions générées par l’IA à partir des mêmes revues, l’outil a identifié les sections écrites par ChatGPT-3.5 sur la base des titres avec une précision de 100 %. Pour les introductions générées par ChatGPT et basées sur des résumés, la précision était légèrement inférieure, à 98 %. L’outil a fonctionné tout aussi bien avec le texte écrit par ChatGPT-4, la dernière version du chatbot.» Ces résultats sont nettement supérieurs que ceux performés par «l’outil de classification de texte produit par OpenAI, le fabricant de ChatGPT » et que ZeroGPT.

«L’Ecole polytechnique fédérale de Lausanne (EPFL) […] vient de lancer un nouveau centre, qui se fixe deux objectifs initiaux: coordonner tous les travaux de recherche en cours dans [le] domaine [de l’IA] sur le campus, mais aussi contribuer à la création de systèmes d’IA plus sûrs». Ce centre sera codirigé par deux professeurs de l’EPFL, Pascal Frossard, de la Faculté des sciences et techniques de l’ingénieur, et Marcel Salathé, de la Faculté informatique et communications, et de la Faculté des sciences de la vie».

Monsieur Salathé explique que le premier pas sera de «cartographier tout ce que fait l’EPFL sur le terrain de l’intelligence artificielle […], [puisqu’]il est important que tout le monde soit au courant des projets sur le campus afin de permettre une collaboration optimale». Le professeur souhaite aussi «intensifier [leur] collaboration avec le secteur public» et davantage d’implication en open source.

Pour l’Angleterre et les Etats-Unis, les ambitions sont de « […] renforcer [les] capacités de recherche en matière d’IA, […] notamment sur des efforts visant à élargir l’accès aux puissants superordinateurs nécessaires à l’entraînement des IA.» Signée la semaine passée par de nombreux états à Bletchley, la déclaration éponyme «[…] prévoit de mieux évaluer et gérer les risques liés à la puissance de l’IA «frontier», c’est-à-dire des systèmes avancés susceptibles d’être utilisés pour développer des technologies à risque, telles que les armes biologiques. Pionnier de l’IA et directeur scientifique de Mila, l’Institut québécois de l’IA au Canada, Yoshua Bengio souligne le rôle très dominant des entreprises dans le domaine, et les profits convoités. «Nous avons besoin d’universitaires et d’organisations financées par le gouvernement qui travaillent réellement à la protection du public pour pouvoir mieux comprendre ces systèmes» dit-il. (Nature)

Le ministre français de l’économie Bruno Le Maire se montre ouvertement ironique, déclarant que «[s]i l’on écoute certaines présentations apocalyptiques, on a l’impression que des robots hostiles vont débarquer dans nos rues.» (03.11 – Le Monde) «Certains voient dans les discours alarmistes un détournement de l’attention d’autres problèmes plus immédiats, comme les erreurs, les biais discriminatoires, le respect du droit d’auteur ou l’impact sur l’emploi. Lors du sommet, ce discours a été relayé par [la vice-présidente des Etats-Unis] Kamala Harris – qui a jugé ces risques «existentiels pour ceux qui les vivent».» (04.11 – Le Monde)

Avis partagé par un auteur d’un article dans Science Business, qui remarque que «[l]es universités de l’UE ont été pratiquement exclues du sommet britannique sur la sécurité de l’IA […]. 46 universités, groupes de réflexion et centres de recherche ont été invités, mais une seule institution de l’UE – University College Cork – a reçu une invitation par courrier, alors que le Québec, à lui seul, comptait trois institutions présentes.» Il s’interroge : «Mais qu’est-ce que tout cela signifie pour les chercheurs universitaires, qui ont été laissés de côté par les entreprises technologiques américaines et chinoises lorsqu’il s’agit de construire des modèles d’IA de pointe ?»

«La Chine, les Etats-Unis, l’UE et une vingtaine de pays ont signé mercredi au Royaume-Uni la déclaration de Bletchley pour un développement «sûr» de l’intelligence artificielle (IA), lors du premier sommet international sur l’essor fulgurant de cette technologie.»

«Face au potentiel grandissant des modèles comme ChatGPT, la déclaration de Bletchley «montre que pour la première fois, le monde se réunit pour identifier le problème et mettre en avant ses opportunités» a souligné la ministre britannique de la Technologie Michelle Donelan à l’AFP. Cette réunion «n’a pas pour objectif de poser les bases d’une législation mondiale, elle doit servir à tracer une voie à suivre», a-t-elle précisé.» (Blick.ch)

«Le gouvernement bâlois dépose une demande de contribution étatique de 4 millions de francs pour le projet de recherche international «Clinnova – Innovation in Healthcare» pour la période de 2024 à 2026. Le projet vise à exploiter le potentiel de l’intelligence artificielle dans les grandes quantités de données pour le secteur de la santé.»

«Le Conseil d’Etat voit dans ce projet une «excellente opportunité» de contribuer à la recherche de pointe, de faire progresser le développement numérique dans le domaine de la santé, comme il l’écrit dans son bulletin de mardi. Il s’agit d’encourager l’utilisation des données numériques de santé pour la recherche.» (Nau.ch)

En février 2022, la stratégie «AI made in Europe» a été lancée et Madame von der Leyen «a présenté un plan visant à ce que l’UE attire 20 milliards d’euros par an d’investissements dans l’IA au cours de la prochaine décennie […]. [Q]uatre ans plus tard, l’«IA made in Europe» n'[a] pas réussi à attirer l’attention, à avoir un impact, des produits ou une valeur d’importance mondiale, et […] l’écosystème européen de l’IA [a] encore pris du retard par rapport à ses concurrents [états-uniens et chinois]».

Morten Irgens et Holger Hoos, membres du conseil d’administration de la Confédération des laboratoires de recherche en intelligence artificielle en Europe (CLAIRE), affirment que «la stratégie de la Commission européenne en matière d’IA n’a pas été à la hauteur en termes d’échelle et de ciblage», du moment où elle repose sur «une pléthore d’investissements modestes […] [qui] ne sont pas coordonnés avec les programmes nationaux des Etats membres». Selon Monsieur Irgens et Monsieur Hoos «[l]a solution consiste à adopter l’approche du CERN pour mener des projets de grande envergure, coordonnés et très ambitieux». (sciencebusiness.net – Viewpoint: Europe needs a CERN for artificial intelligence )

Alors que l’UE se penche avec ferveur sur le développement de l’IA, les universités se trouvent encore coincées quant à son utilisation. Elles «adoptent peu à peu l’IA générative dans leurs travaux, mais des orientations approfondies manquent encore à de nombreux établissements». Selon l’UNESCO, «seulement 13 % des universités ont fourni à leur personnel et à leurs étudiants des orientations officielles», communiquées parfois qu’oralement et dont les exigences varient d’un établissement à l’autre. Un grand nombre d’universités «[attendent] que la Commission européenne établisse des lignes directrices de l’UE pour une utilisation sûre». Entretemps, «[l]e mois prochain, le groupe de Coimbra, qui regroupe 41 universités européennes, organisera une conférence sur l’utilisation de l’IA générative dans les universités». (sciencebusiness.net – Universities ready to take up generative artificial intelligence, but say guidelines are needed)

Créée ce lundi à Berne, l’association SCAI (Swiss Center for Augmented Intelligence) est un «centre de compétence national pour le développement et l’implémentation de l’intelligence augmentée, à savoir une approche de l’intelligence artificielle centrée sur l’humain. Les compétences humaines ne sont ainsi pas remplacées par la technologie mais celle-ci sert à assister l’humain dans ses tâches.» En projet depuis 2021, l’association regroupe plusieurs universités, hautes écoles et instituts de recherche.

«Des services et des projets seront développés au profit de l’économie et du secteur public de la région. SCAI fonctionne donc comme un moteur d’innovation pour l’espace économique […]» des cantons de Berne, Fribourg, Neuchâtel, Soleure et Valais.

Dans un article publié dans la revue Physica Scripta, la phrase «Régénérer la réponse» a été détectée par Guillaume Cabanac, informaticien à l’université de Toulouse et limier scientifique. Ainsi, un fort doute que les auteurs de l’article aient utilisé ChatGPT a ensuite été confirmé par les auteurs eux-mêmes. Néanmoins ils ne l’avaient pas déclaré au moment de la soumission, raison pour laquelle l’éditeur a décidé de retirer cet article. Kim Eggleton, responsable de l’évaluation par les pairs et de l’intégrité de la recherche chez IOP Publishing, l’éditeur de Physica Scripta à Bristol, au Royaume-Uni, déclare qu’«[il] s’agit d’une violation de [leurs] politiques éthiques».

Toutefois, il ne s’agit pas d’un cas isolé. En effet, nombreux sont les articles qui échappent aux évaluations des pairs: Monsieur Cabanac déclare avoir «repéré plus d’une douzaine d’articles de revues contenant les phrases révélatrices de ChatGPT «Régénérer la réponse» ou «En tant que modèle linguistique de l’IA, je…»» depuis avril 2023.  Un autre problème qui se pose lorsqu’on fait une «utilisation malhonnête de ChatGPT» ce sont les références générées par ce logiciel: elles peuvent être fausses ou même ne pas exister lorsqu’on les recherche.

L’entreprise chinoise Tencent a montré son nouveau robot conversationnel: Hunyuan Aide. «Le vice-président de Tencent, Jiang Jie, a affirmé que Hunyuan avait des capacités comparables à celles de ChatGPT-4 […] Il est même plus performant que lui pour répondre à des questions de l’examen chinois d’entrée à l’université, a assuré M. Jiang […]. Aucune date de lancement pour le grand public n’a toutefois été annoncée […]».

«L’Organisation des Nations Unies pour la culture (Unesco) demande aux gouvernements de réglementer rapidement l’utilisation de l’intelligence artificielle (IA) dans le cadre scolaire […] [et dans la recherche]». L’Unesco a récemment publié le «Guide pour l’IA générative dans l’éducation et la recherche».

Basée à Davos, la start-up AlpineAI veut proposer une alternative à ChatGPT et créér SwissGPT, qui, contrairement à ChatGPT, «doit permettre de retracer la source du résultat produit». AlpineAI est une société créée «par des représentants de plusieurs laboratoires de recherche sur l’IA, dont ceux de l’Université de Zurich, de l’EPFZ et de la Haute Ecole zurichoise des sciences appliquées (ZHAW)».

Quels sont les nombreux avantages à utiliser ChatGPT pendant des études de médecine ? Préparer un cas patient pour un stage, répondre aux questions d’examen (de manière correcte), trier des milliers de données, générer des graphiques… Les possibilités offertes sont multiples. «Théoriquement, les étudiants en médecine peuvent utiliser ChatGPT pour résoudre toutes les tâches imaginables qu’ils sont amenés à effectuer durant leurs études» déclare Simon Maurer, l’auteur de l’article publié dans le Bulletin des médecins suisses.

Les facultés de Bâle et de Berne ont introduit l’intelligence artificielle dans leur cursus de médecine, mais ces derniers ne prennent pas en compte l’IA pour résoudre des tâches. La co-directrice de la Digital Society Initiative de l’Université de Zurich, la Professeure Dre méd. Claudia M. Witt, déclare que «[l]e temps est venu de prendre des décisions courageuses et de revoir radicalement les programmes de formation» pour y intégrer l’IA.

Un deuxième article du Bulletin des médecins suisses recueille les témoignages de plusieurs professionnels de la santé, ceux qui utilisent déjà ChatGPT dans leur vie quotidienne et ceux qui ne l’utilisent pas. Malgré tout, la problématique de la protection des données reste tout de même au cœur des discussions, ainsi que la transparence des sources et l’exactitude de l’outil concernant les analyses de cas cliniques.