L’intelligence artificielle générative, à l’instar de Wikipédia, promet un accès élargi et immédiat à l’information. Cependant, derrière cette apparente démocratisation du savoir, des différences fondamentales d’opacité et de précision soulèvent des questions critiques sur la qualité et la fiabilité des contenus produits.
Wikipédia, un pilier du savoir collaboratif face à l’IA
Wikipédia, moteur de la production de savoir en ligne, se distingue par son modèle collaboratif, transparent et non commercial. Ce fonctionnement repose sur l’engagement bénévole des contributeurs, formant une communauté qui délibère et valide collectivement les contenus. Cette encyclopédie est également une source de données majeure pour l’entraînement des modèles de langage (LLM) comme GPT ou Gemini. La Fondation Wikimédia réaffirme ainsi la primauté de l’humain, s’inquiétant de la potentialité de voir l’encyclopédie polluée par des contenus erronés générés par l’IA, compromettant la fiabilité et la neutralité du savoir partagé.
Confrontation : les LLM à l’épreuve de la rédaction encyclopédique
Des expérimentations menées avec divers LLM, tels que ChatGPT, Grok ou Gemini, pour générer des articles encyclopédiques révèlent des résultats mitigés. Si la forme générale (structure, ton neutre) est souvent respectée, la précision et la pertinence des informations varient considérablement. Des erreurs factuelles, des références inventées, voire des textes hors sujet sont fréquents, particulièrement lorsque les sujets sont moins documentés sur le web ou que les modèles sont exécutés localement, limitant le contexte disponible.
Les IAs génératives tendent à produire un texte plausible mais potentiellement trompeur, notamment pour un public non averti. Cette tendance au « remplissage plausible » soulève des inquiétudes quant à la propagation de fausses informations et à la simplification excessive de sujets complexes. La difficulté intrinsèque des LLM à corriger leurs erreurs, même avec des requêtes précisées, et la nature non reproductible de leurs résultats accentuent ces défis. De plus, les biais présents dans les données d’entraînement peuvent être amplifiés, marginalisant certains savoirs et renforçant les déséquilibres existants.
Enjeux et perspectives : vers une gouvernance hybride du savoir ?
Alors que Wikipédia intègre déjà des outils automatisés pour des tâches spécifiques, l’arrivée des LLM plus avancés pourrait potentiellement assister les contributeurs dans des tâches comme la suggestion de sources ou l’amélioration de textes. Cependant, la nature générative et moins transparente de ces modèles pose un risque de remplacement du processus délibératif et de la traçabilité humaine qui fondent la fiabilité de Wikipédia. La communauté est appelée à une vigilance accrue, renforçant l’importance de la formation à la critique des outils numériques pour appréhender la production du savoir à l’ère de l’IA, tout en conservant les principes fondamentaux de vérifiabilité et de neutralité.
Pourquoi c’est important
L’intelligence artificielle générative transforme notre rapport au savoir. Comprendre ses limites et ses biais est crucial pour préserver la fiabilité des informations et garantir un accès démocratique et critique à la connaissance dans un environnement numérique en mutation.
Source : https://laviedesidees.fr/L-IA-generative-un-nouveau-Wikipedia — lien original
