Chez Google, tous les auteurs de l'article scientifique qui a révolutionné l'IA sont partis

En 2017, huit chercheurs de Google publiaient un article scientifique majeur, baptisé “Attention Is All You Need” et qui a ouvert la voie à l’intelligence artificielle générative. Six ans plus tard cependant, plus aucun ne travaille encore chez le moteur de recherche, rapporte l’agence Bloomberg.

Mardi 11 juillet, Llion Jones, le dernier coauteur encore chez Google, a confirmé son départ d’ici à la fin du mois. “Compte tenu des progrès de l’IA, c’est le bon moment pour bâtir quelque chose de nouveau”, souligne-t-il à Bloomberg. Il explique vouloir lancer une start-up.

D'autres start-up fondées par des anciens de Google

Les sept autres auteurs de l’étude ont également fondé leur propre start-up, majoritairement dans le domaine de l’IA générative. Parmi eux, Aidan Gomes dirige la start-up canadienne Cohere, qui a levé en juin 270 millions de dollars. Celle-ci développe de grands modèles de langage destinés aux entreprises.

Noam Shazeer a, lui, lancé Character.AI, qui propose des robots conversationnels censés incarner des personnalités vivantes ou mortes, réelles ou fictives. En mars, la société a levé 150 millions de dollars. Deux autres auteurs ont créé des start-up qui sont encore en “stealth mode”, c’est-à-dire qu’elles n’ont pas encore révélé leur identité et le projet sur lequel elles travaillent.

Repousser les limites de l'entraînement

L’article scientifique “Attention Is All You Need” a introduit le concept de Transformers, qui a constitué une révolution primordial en permettant de repousser les limites dans l’entraînement des modèles d'intelligence artificielle. Ce concept est au cœur des nouveaux services d’IA génératives, dont le robot conversationnel ChatGPT d’OpenAI (le T de GPT est pour Transformer).

Autrement dit, ces travaux de recherche ont permis l’émergence d’un service menaçant potentiellement de remettre en cause la position dominante de Google dans la recherche en ligne. Pour éviter qu’un tel scénario ne se reproduise, le groupe a changé de philosophie : il a décidé de limiter la publication d’articles scientifiques, souhaitant d’abord intégrer ses dernières avancées technologiques dans ses produits.