Le Crédit Mutuel Arkéa publie son modèle d'IA générative en open source

En 2022, le Crédit Mutuel Arkéa s’était doté d’un Data Office, au sein de son pôle Innovation et Opérations. Objectif ? Catalyser l’innovation et valoriser les données dont le groupe bancaire, basé au Relecq-Kerhuon près de Brest, dispose, et cela de manière "transparente et responsable".

C’est dans cette logique que le groupe s’est lancé dans le développement d’un modèle d'IA générative. A l’image de GTP-3.5 ou GPT-4 d’OpenAI, le grand modèle de langage (LLM) d’Arkéa est capable de générer des textes et des images cohérentes grâce au deep learning.

De 3 à 7 milliards de paramètres

Concrètement, le groupe a publié trois modèles allant de 3 à 7 milliards de paramètres, soit 20 fois moins qu’une grande partie des autres LLMs. "Ils ont été entrainés sur des corpus documentaires open source en français afin qu’ils soient sémantiquement et syntaxiquement corrects en français. Ils se basent sur un moins grand nombre de paramètres. Cela les rend plus légers. Ils consomment donc moins de ressources", explicite Maxime Havez, responsable du Data Office d’Arkéa.

Le groupe bancaire indique avoir concentré ses travaux sur une quarantaine d’expérimentation comme un chatbot pour les salariés s’appuyant sur la base de corpus documentaires interne ou encore de la collecte de données extra-financières à partir de rapports.

"Notre enjeu, c’est maintenant d’accompagner les différents métiers du groupe sur les cas d’usages de l’IA générative. On va le tester notre technologie dans plusieurs environnements. Mais on va aussi continuer à regarder, selon les cas d’usage et les enjeux, les solutions que proposent d’autres entreprises", explique Maxime Havez, évoquant Microsoft, Google ou encore le français Mistral AI.

Une question de souveraineté

En publiant ses modèles d’IA en open source, Arkéa entend mettre cette technologie à disposition d’autres entreprises qui voudraient utiliser l’IA en toute sécurité au sein de leurs structures, et sur leurs propres corpus documentaires. Il s’agit aussi pour le groupe bancaire, devenu récemment société à mission, d’une question de souveraineté.

"Notre modèle d'IA générative répond aussi aux enjeux de souveraineté de la France et de l’Europe en matière de communs numériques pour l’IA. On veut aussi montrer que des acteurs privés français peuvent y contribuer." Des démarches ont été engagées par le Crédit Mutuel Arkéa autour de la certification “IA de confiance“ pour anticiper l’arrivée de l’IA Act au sein de l’Union Européenne.