Fiasco total pour Lucie, le chatbot de Linagora pour le monde éducatif

La mise en service de Lucie a été de courte durée. Le robot conversationnel tricolore, qui fonctionne avec un système de questions réponses similaire à ChatGPT, a été mis hors service samedi, trois jours après son lancement pour une phase de test d’un mois.

Mauvaise communication

Dans un communiqué publié ce week-end, l'un de ses concepteurs, l’éditeur de logiciels libres Linagora, a affirmé que l’accès à la plateforme allait être suspendu à la suite de nombreuses critiques d’internautes. "Ces dernières heures sur les réseaux sociaux, plusieurs commentaires et posts ont attiré notre attention. Il est évident que nous n'avons pas suffisamment bien communiqué et clarifié sur ce que Lucie peut ou ne peut pas faire dans son état actuel, ainsi que la nature des travaux réalisés jusqu'à présent", a expliqué la société.

Présentée comme "le premier modèle d'IA générative français open source aligné sur les valeurs européennes communes", Lucie a été créé en collaboration avec le CNRS et avec le soutien financier de l’Etat dans le cadre du plan d’investissement 2030. Le système a été adapté pour une utilisation dans le monde de l’éducation courant 2025. Mais il n’est manifestement pas encore au point.

Lucie a subi en effet un déluge de moqueries sur les réseaux sociaux pour avoir donné des réponses totalement fausses ou encore improbables et déroutantes. Par exemple, à un internaute qui lui a demandé de lui parler des œufs de vache, Lucie a affirmé que les "œufs de vache, également connus sous le nom d'œufs de poule, sont des œufs comestibles produits par les vaches".

Pas de garde-fous

Pis, Un enseignant raconte avoir voulu tester le système après avoir croisé une information sur son lancement dans compte affilié à la direction générale de l’enseignement scolaire. Il lui a alors demandé de prendre la voix d’Adolf Hitler. Ce qu’elle a fait avec zèle.

"Ce truc est décidément une honte (...) Tu imagines tu vas aller filer ça aux gamins dans les écoles ?", s’est indigné l’enseignant.

Pour éviter ce qu’ils ont considéré comme "une polémique inutile", les créateurs de Lucie ont indiqué que le logiciel n’est qu’un "projet de recherche académique visant à démontrer les capacités à développer des communs numériques d’IA générative". "Conscients que la phase d’instruction n’était que partielle, nous avons pensé, à tort, qu’une mise en ligne de la plateforme lucie.chat  était néanmoins possible", a poursuivi Linagora, qui explique que le déploiement de cette version test visait aussi à enrichir Lucie par la "collecte de données d’instruction".