Yoshua Bengio lance LawZero, un laboratoire visant à créer un garde-fou pour l'intelligence artificielle

Le chercheur québécois d'origine franco-marocaine Yoshua Bengio n'a pas dit son dernier mot sur la sécurité de l'intelligence artificielle (IA). Mardi 3 juin, le lauréat du prix Turing 2018 et directeur de l'Institut québécois d’intelligence artificielle (Mila) a annoncé le lancement d'une nouvelle entité de recherche sur la question, LawZero.

Une forme d'intelligence artificielle "honnête"

Baptisé ainsi en référence à la Loi Zéro, inventée par l'écrivain de science-fiction Isaac Asimov dans le cadre de ses lois de la robotique, stipulant que les robots ne peuvent ni faire de mal à l'humanité ni permettre qu'elle soit blessée, ce laboratoire sans but lucratif travaillera pendant au moins dix-huit mois sur les risques liés à l'essor de l'IA et en particulier des agents autonomes qu'elle alimente.

Son objectif, a annoncé le pionnier de l'IA Yoshua Bengio dans la presse, créer une forme d'intelligence artificielle qui soit "honnête" et qui puisse ainsi repérer les systèmes d'IA qui essayent de duper les humains. Cette innovation, dont le développement sera assuré par une équipe composée pour l'heure d'une quinzaine de chercheurs, sera nommée Scientist AI.

Un garde-fou pour les agents d'IA

Concrètement, cet outil pourra être utilisé en même temps que d'autres agents d'IA et aura pour mission de signaler les éventuels comportements dangereux de ces derniers. Pour ce faire, Scientist AI "prédira la probabilité que les actions d'un agent conduisent à un dommage" et pourra bloquer l'action en question le cas échéant, a expliqué le chercheur au Guardian.

Yoshua Bengio précise par ailleurs que cet outil conçu comme un garde-fou ne donnera jamais de réponses définitives mais plutôt des probabilités qu'une réponse soit correcte. Un comportement plus scientifique qu'humain, l'universitaire québécois déplorant le fait que la quasi-totalité des intelligences artificielles génératives soient "inspirées des humains".

Des discussions avec OpenAI et consorts

LawZero est pour le moment financé à hauteur de 30 millions de dollars (soit environ 26 millions d'euros), ce qui lui permettra selon les calculs de Yoshua Bengio de subsister au moins un an et demi. Parmi les soutiens actuels, on retrouve notamment Jaan Tallinn, ingénieur fondateur de Skype, et Schmidt Sciences, une entité de recherche montée par l'ancien patron de Google, Eric Schmidt.

Le chercheur canadien estime que sa nouvelle entité de recherche pourra à l'avenir prétendre à des financements gouvernementaux. Auprès de Bloomberg, il a d'ailleurs affirmé avoir entamé des discussions avec des responsables politiques. Ainsi qu'avec des acteurs privés leaders de l'IA tels qu'OpenAI, Google et Anthropic.