Thème: intelligence artificielle

Le problème croissant des fausses publications scientifiques est alimenté par un marché en pleine expansion, où des agences, les «paper mills» (moulins à papier), offrent des services d’assistance à la rédaction pour les publications. Les scientifiques paient jusqu’à 25’000 euros pour des contrefaçons bien réalisées et désormais «[g]râce à l’IA, ces faux et ces contrefaçons sont désormais de plus en plus faciles et rapides à fabriquer».

Le chercheur et éditeur de revue spécialisée en neurologie, Bernhard Sabel, a découvert l’ampleur du problème à l’aide d’autres chercheur·es : «A ce jour, nous estimons qu’au moins cent mille travaux scientifiques publiés sont suspects ou falsifiés […]. Cela ne concerne que la biomédecine. En extrapolant à l’ensemble de la science, on arrive à quatre à cinq cent mille travaux publiés et falsifiés chaque année – sur un total d’environ 5 millions de publications dans le monde. Cela donnerait un taux de contrefaçon d’environ 10 pour cent.» Les études falsifiées pourraient avoir des conséquences néfastes selon Jörg Meerpohl, Directeur de Cochrane Allemagne, une association internationale pour l’assurance qualité en médecine : «[l]es implications pour les patients seraient immenses si des recommandations de traitement étaient faites sur la base d’études fausses et fictives».

Bien que les grandes maisons d’édition cherchent de plus en plus de détecter les contrefaçons, la pression sur les chercheur·es pour publier en quantité, plutôt qu’en qualité, contribue à ce phénomène.

Récemment, une université de Prague a supprimé les mémoires de fin d’études en raison de la montée de l’IA. Cette réaction semble être loin de la réalité des universités romandes qui «cherchent pour l’instant soit à réprimer les usages de l’IA soit, plus fréquemment, à l’encadrer en tentant de sensibiliser leurs étudiants». Selon un professeur d’une haute école romande «[l]e monde académique est très ébranlé par l’irruption des intelligences artificielles, mais s’il pense s’en tirer avec des chartes et des outils anti-plagiat qui seront très vite dépassés, il se fourre un doigt dans l’œil […]. La vérité est qu’il faudra travailler et innover pour changer en profondeur les modalités d’évaluation des étudiants. C’est à ce prix que les titres universitaires pourront garder leur crédibilité».

Ainsi, les universités tentent d’autres voies comme «les travaux de groupe ou les présentations orales, voire d’imaginer de nouveaux formats pour les travaux à rendre». Selon la responsable des relations médias de l’Unil, Géraldine Falbriard «[i]l est évident que les enseignants doivent penser à adapter les travaux demandés à la présence de ce genre de technologie […]. Plus les travaux demandés s’appuient sur une analyse personnelle et documentées autour de sources probantes et plus faibles sont les possibilités que les étudiants ne fassent appel à des IA pour le cœur de leur travail.» (Lausannes Cités)

Swissuniversities suit également le développement rapide de l’IA et se positionne «en faveur d’une intégration pragmatique et dynamique des technologies basées sur l’IA dans l’enseignement et les évaluations des hautes écoles.» (swissuniversities.ch)

Eduard Kaeser, physicien et docteur en philosophie, aborde la relation entre l’être humain et la technologie. En particulier il se penche sur la question de l’écriture et de sa transformation avec l’émergence de l’outil ChatGPT.

L’auteur explore la question à travers la position qu’avait Platon sur l’écriture: «Platon, on le sait, n’avait pas une grande estime pour la parole écrite. L’écriture ne parle pas en retour […]. L’écriture «ne donne aux élèves […] que l’apparence de la sagesse, pas la vérité elle-même. Ils entendent […] beaucoup de choses sans véritable enseignement et pensent maintenant être devenus très savants, alors qu’ils sont le plus souvent ignorants et en outre difficiles à traiter, parce qu’ils se croient sages au lieu de l’être […]».» Cette critique est élargie aux générateurs de textes tels que ChatGPT, qui fournissent également «l’apparence de la sagesse […] sans véritable enseignement».

Selon l’auteur, «[u]n monde post-littéraire s’ouvre à nous, dans lequel la maîtrise de l’écriture, technique culturelle vénérable, semble perdre de son importance». Ainsi, la position de Platon, selon lequel «le dialogue est la forme d’expression la plus élevée», est réaffirmée et l’auteur indique que «la véritable performance ne réside pas dans l’écriture, mais dans la lecture [et l’interprétation]». L’auteur propose ainsi qu’une des missions de l’éducation soit davantage axée sur l’interprétation des textes plutôt que sur leur production. Selon Monsieur Kaeser, il faut donc repenser la relation avec la technologie et l’écriture dans le contexte actuel de l’éducation, en valorisant les leçons de Platon sur l’importance du dialogue.

Un assistant d’université a tabassé un étudiant parce qu’il aurait utilisé ChatGPT pour rédiger son essai.

«Selon une analyse du cabinet de conseil PwC, la Suisse a le plus grand potentiel de croissance parmi 20 pays industrialisés dans le domaine de l’intelligence artificielle générative (GenAI). Dans le meilleur des cas, le secteur pourrait augmenter le produit intérieur brut de plusieurs milliards. […] Ce potentiel de croissance est expliqué par le fait que les secteurs de la technologie et des logiciels ainsi que les entreprises des médias, de la pharmacie et de la finance devraient être les plus grands bénéficiaires de la nouvelle technologie : «En Suisse, ces secteurs sont particulièrement bien représentés par rapport à des pays moins affinitaires avec l’IA comme l’Allemagne ou la France»»

Le Centre d’expertise sur les extrêmes climatiques (ECCE) a été officiellement inauguré vendredi à l’Université de Lausanne. «Entre recherche et proposition de services, le but de ce nouveau pôle est d’accompagner la population dans l’anticipation des phénomènes climatiques à risques. […] Des partenariats avec MétéoSuisse, l’Office fédéral de l’environnement (OFEV), l’Établissement cantonal d’assurance (ECA), d’autres compagnies d’assurances et de réassurance ou encore l’Organisation météorologique mondiale (OMM) sont par exemple prévus. Les domaines d’expertise couvriront la météorologie, la climatologie, l’intelligence artificielle, les statistiques, la physique, la gestion des risques ou encore la finance durable, détaille le directeur de l’ECCE.»

La chercheuse en intelligence artificielle Maria Graziani, lauréate du Prix Latsis 2023, explique comment l’intelligence artificielle pourrait profondément modifier le(s) processus scientifiques. Elle travaille actuellement pour IBM Research Europe.

«Lors de sa séance, la Commission de la science, de l’éducation et de la culture du Conseil national (CSEC-N) a entamé des travaux préparatoires dans l’optique du traitement du message FRI 2025-2028 dans le prochain trimestre. […]

Les présentations et les discussions ont en particulier porté sur le rôle toujours plus important de l’intelligence artificielle, sur le manque de personnel qualifié (spécialement dans le domaine de la santé) et les défis relatifs à la formation, sur les besoins en matière de financement pour assurer la formation du nombre croissant d’étudiants et pour maintenir l’excellence dans le domaine de la recherche, qui évolue rapidement, ainsi que sur la question de la relève scientifique et académique. La discussion et les différentes questions seront approfondies au cours du prochain trimestre, dans le cadre de l’examen du message FRI 2025-2028.»

Le Centre pour le développement des hautes écoles (CHE) allemand a développé un «document de discussion» avec une vision pour adapter la culture d’examens au changement technologiques (IA) et à la numérisation. Il se base sur une série d’ateliers organisés durant l’été 2023, au cours desquels les étudiant-es, les enseignant-es, les structures de soutien ainsi que les directions des universités et les acteurs et actrices stratégiques ont discuté de leurs idées et de leurs besoins au sein de leur groupe d’intérêts.

«L’EPFZ, l’EPFL et la Confédération vont travailler avec Microsoft, Google ou Amazon pour tenter de réduire les risques liés à l’intelligence artificielle. Des chercheurs vont collaborer avec des ingénieurs. Pour la Suisse, c’est un coup de projecteur important.»

Selon Sophie Gremaud, auteure de l’article paru dans la Liberté et le Courrier, «les robots conversationnels sont capables de miracles sur les bancs académiques. ChatGPT est même un très bon élève, capable de passer avec brio certains examens et d’élaborer des présentations et des essais convaincants.»  Elle a rédigé un tour d’horizon des pratiques en Suisse et constate: «Environ une année après l’apparition de ce parfait instrument de fraude dans la routine et le cartable des étudiants, force est de constater que les milieux académiques sont à la traîne.»

Le Conseil européen de la recherche (CER) a averti les candidat-es qu’ils et elles devaient respecter l’intégrité académique lors de l’utilisation des outils d’intelligence artificielle (IA) pour rédiger des propositions de recherche.

Adéla Jiroudková, directrice du bureau de soutien à la recherche de l’université Charles à Prague, où les directeurs de recherche utilisent l’IA générative, a déclaré qu’elle était «très consciente» que certaines sociétés de conseil utilisaient ce type de logiciel pour rédiger des demandes de subvention. Selon elle, cela constitue «un problème encore plus grave» que l’utilisation de l’IA par les universités dans le même but. «Ils utilisent vos connaissances, vos notes et vos brouillons et les introduisent dans ChatGPT ou des plateformes similaires sans le consentement du chercheur.» Dans le même temps, une dépendance excessive à l’égard de l’IA pourrait conduire à une homogénéisation de la recherche, où «seules les propositions qui entrent dans un certain moule ou qui cochent des cases algorithmiques spécifiques sont approuvées.»

Le IA permettront aux scientifiques d’avancer plus rapidement dans leur compréhension de la langage des singes, tel est l’espoir de scientifiques de l’Université de Neuchâtel.

L’article du Monde traite des difficulté d’encadrer l’utilisation des AI par exemple dans les travaux écrites et les expériences faites notamment dans les universités suivantes: Sciences Po Paris, Université de La Rochelle, ESCP Business School, L’Université de Lille, Science Po Rennes, et Ecole normale supérieure.

Le milliadaire Dieter Schwarz, fondateur de Lidl, a signé un accord pour soutenir financièrement l’Ecole polytechnique fédérale de Zurich dans son plan de mettre en place un centre d’études et de recherche sur la transformation numérique et l’intelligence artificielle dans sa ville d’origine Heilbronn, en Allemagne. Le don permettra de financer 20 nouvelle chaires sur les prochaines 30 années, dont 6 à Zurich.

«Dans des domaines tels que le changement climatique, l’intelligence artificielle, la cybersécurité et la biotechnologie ou la bio-informatique, une collaboration internationale est nécessaire», a déclaré le président de l’EPFZ Joël Mesot lors d’une conférence de presse. «Seuls, nous ne pouvons pas beaucoup, nous devons travailler plus en réseau.» Depuis 2010 déjà l’EPFZ a une antenne à Singapour, une expérience positive selon lui.

La fondation Dieter Schwarz-Stiftung est en train de réunir à Heilbronn «les meilleures forces scientifiques» : l’Université technique de Munich et la «Fraunhofer Gesellschaft» sont déjà présentes sur le campus, et des partenariats stratégiques existent entre autres avec les universités d’Oxford et de Stanford. Actuellement, plus de 7500 étudiants sont inscrits sur le campus. La journaliste Christiane Henkel suppose que la proximité avec des entreprises sud-allemandes comme Bosch, Trumpf et Aleph alpha soit un facteur favorable pour développer et tester l’intelligence artificielle.

Le Conseiller cantonal Rafael Mörgeli (PS) estime que ce développement n’a pas que du positif: «L’éducation est notre capital et ceci est une tentative évidente de détourner ce capital vers d’autres horizons.» (Neue Zürcher Zeitung)

Le journaliste du Tages-Anzeige écrit qu’un tel don peut être délicat, par exemple par rapport à la prise d’influence du donateur. Il plaide pour une «transparence entière sur l’accord»: les citoyens suisses auraient le droit de savoir combien de fonds sont utilisés et comment par l’EPFZ.

«L’Europe peine à réguler l’intelligence artificielle, notamment à cause de la France et de l’Allemagne qui défendent leurs champions nationaux. En Suisse, on observe que l’EPFZ et le CERN se rallient à une alliance créée par Meta [nommé AI Alliance]. […] «Avec l’AI Alliance , de plus en plus d’entreprises reconnaissent l’importance de l’open source, de la collaboration et de la nécessité pour le monde académique de jouer un rôle de premier plan pour orienter le débat sur l’IA vers des bénéfices pour la société»», note Alexander Ilic, directeur du centre IA de l’EPFZ. «Il est important que nous mettions à profit ce laps de temps pour informer les décideurs politiques et intervenir si quelque chose risque de nuire à la confiance et à la transparence. Par exemple, certains aspects de la loi européenne sur l’IA rendraient très difficile le développement de l’IA open source.»

En raison de l’inquiétude croissante face à l’IA et aux ghostwriters, une université pragoise ose une mesure radicale : elle veut supprimer complètement les travaux de bachelor.

Au lieu de cela, l’université prévoit d’orienter les exigences pour le diplôme de bachelor vers la pratique. Cela laisserait moins de place au plagiat et permettrait aux étudiants d’acquérir une expérience jugée plus utile pour leur future vie professionnelle.

«L’EPFL et l’EPFZ ont annoncé le lancement de Swiss AI, basée sur le nouveau supercalculateur Alps, destiné à créer une intelligence artificielle transparente et fiable. La machine sera d’une puissance comparable aux systèmes de Microsoft et Google. […] Pour Antoine Bosselut, professeur assistant en intelligence artificielle à l’EPFL, «il s’agit du plus gros projet d’IA lancé en Suisse jusqu’à présent. C’est une alliance majeure des deux EPF, mais aussi de plusieurs universités. Notre but est de développer en Suisse des compétences et de créer du savoir avec ce super-ordinateur. L’idée est de construire un écosystème pour une IA faite en Suisse, plus sûre, plus fiable et protégeant les données de tous.»»

«La littérature scientifique est polluée par de faux manuscrits produits par des paper mills ─des entreprises qui vendent de faux travaux et de fausses signatures à des chercheurs qui ont besoin de publications dans des revues pour leur CV.»

«Une analyse non-publiée communiquée à Nature suggère qu’au cours des deux dernières décennies, plus de 400 000 articles de recherche présentant de fortes similitudes textuelles avec des études connues produites par des paper mills ont été publiés. Environ 70 000 d’entre eux ont été publiés rien que l’année dernière […]. L’analyse estime que 1,5 à 2 % de tous les articles scientifiques publiés en 2022 ressemblent étroitement à des travaux produits par des paper mills. Parmi les articles de biologie et de médecine, ce taux s’élève à 3 %.» (Nature.com)

«L’homme derrière tout cela est Adam Day, directeur de la société londonienne «Clear Skies». Il a conçu une intelligence artificielle qui lit les bases de données scientifiques du monde entier et doit distinguer les travaux suspects de ceux qui ne le sont pas. Il le fait à la demande expresse et avec le soutien des revues spécialisées.»

Certains des plus grands se font avoir. Pour rappel, en 2021 la «Royal Society of Chemistry (RSC) de Londres a dû reconnaître […] qu’elle était tombée dans le piège de copieurs. Elle n’avait pas publié que des plagiats isolés, mais 69.» (Die Welt)

«Selon une étude publiée le 6 novembre dans Cell Reports Physical Science, un outil d’apprentissage automatique peut facilement repérer les articles de chimie rédigés à l’aide du chatbot ChatGPT. Le classificateur spécialisé, […] pourrait aider les éditeurs universitaires à identifier les articles créés par des générateurs de texte IA.»

«Testé sur des introductions écrites par des personnes et sur des introductions générées par l’IA à partir des mêmes revues, l’outil a identifié les sections écrites par ChatGPT-3.5 sur la base des titres avec une précision de 100 %. Pour les introductions générées par ChatGPT et basées sur des résumés, la précision était légèrement inférieure, à 98 %. L’outil a fonctionné tout aussi bien avec le texte écrit par ChatGPT-4, la dernière version du chatbot.» Ces résultats sont nettement supérieurs que ceux performés par «l’outil de classification de texte produit par OpenAI, le fabricant de ChatGPT » et que ZeroGPT.