Les robots s'emparent des terrains de football

Des chercheurs de Google DeepMind ont développé un framework basé sur l'apprentissage par renforcement pour le contrôle complet du corps de robots humanoïdes, permettant un jeu de football en un contre un.

robots humanoides Google DeepMind - football et IA
Des chercheurs de DeepMind ont entraîné des robots humanoïdes à jouer au football grâce à l'apprentissage par renforcement profond.

"Les joueurs de football doivent maîtriser une gamme de compétences dynamiques, allant de se tourner et de donner des coups de pied à la poursuite d'un ballon. Comment les robots pourraient-ils faire de même ?" interroge DeepMind. Au travers d'un article de recherche publié dans la revue Science Robotics, une équipe de chercheurs du laboratoire d'IA de Google explique comment ils ont formé des robots humanoïdes à être capables d'un certain nombre de comportements agiles en utilisant l'apprentissage par renforcement.

"Nos agents ont été entraînés à la simulation grâce au moteur physique MuJoCo, puis transférés sur de petits robots humanoïdes dotés de 20 articulations actionnées", explique ainsi l'équipe. L’un des défis majeurs était l’écart entre la simulation et la réalité. Pour résoudre ce problème, les chercheurs se sont donc concentrés sur l’ajout délibéré de forces perturbatrices et de caractères aléatoires ciblés au simulateur. Cela signifiait que les agents, qui apprenaient par essais et erreurs, pouvaient faire face à des interférences inattendues dans le monde réel.

Des premiers résultats probants

"Nos joueurs étaient capables de marcher, de se tourner, de donner des coups de pied et de se relever plus rapidement que les compétences programmées manuellement sur ce type de robot", poursuivent-ils. Les robots sont même capables de combiner des mouvements pour marquer des buts, anticiper les mouvements du ballon et bloquer les tirs adverses, développant ainsi une compréhension de base d'un jeu 1 contre 1.

"Le comportement tactique du robot s'adapte aux contextes de jeu spécifiques d'une manière qui serait peu pratique à concevoir manuellement. Notre agent a été formé à la simulation et transféré sur de vrais robots zero-shot. Lors d’expériences, le robot a marché 181% plus vite, s’est tourné 302% plus vite, a mis 63% de temps en moins pour se lever et a tapé dans un ballon 34% plus vite qu’une ligne de base en script", détaillent les chercheurs.

D'autres expériences de football en 2v2 évoquées

Dans leurs travaux, les chercheurs de DeepMind insistent sur le fait que ces travaux ne sont que les prémices et qu'un certain nombre de limites persistent. Ils évoquent également le fait, qu'à l'avenir, d'autres travaux pourraient se concentrer sur la formation d'équipes de deux robots ou plus.

Google DeepMind robots humanoïdes IA football

Les chercheurs ont créé des environnements de football simulés (à gauche) et réels (à droite). L'emplacement mesure 5 mètres de long sur 4 mètres de large, carrelé de panneaux carrés de 50 cm dans l'environnement réel. L'environnement était également équipé d'un système de capture de mouvement permettant de suivre les deux robots et le ballon.

"Il est simple d’appliquer la méthode proposée pour former des agents dans ce contexte. Dans nos expériences préliminaires pour le football 2v2, nous avons vu que l’agent apprenait la division du travail, une forme simple de collaboration : si son coéquipier était plus proche du ballon, alors l’agent ne s’approchait pas du ballon. Cependant, il a également appris moins de comportements agiles. Les connaissances issues de travaux antérieurs en simulation pourraient être appliquées pour améliorer les performances dans ce contexte".

Un pas en avant pour les robots à usage général

"Ce travail constitue une étape vers l'entraînement de robots à usage général", indique Google, "plutôt que vers leur entraînement à des tâches spécifiques". La robotique utilise depuis longtemps des jeux et sports pour tester des mouvements complexes, la coordination et la conscience de l’environnement. Le football est un exemple repris régulièrement par le secteur pour prouver ses avancées en la matière.

Chaque année en France, une compétition appelée RoboCup accueille des milliers de compétiteurs venus des quatre coins du globe pour s'affronter. Plus qu’une compétition de football, cet événement mondial de robotique et d’intelligence artificielle est l’occasion de partager des technologies et de les faire monter en puissance.

Vous souhaitez être en veille sur l’actualité du secteur de l’intelligence artificielle ? Inscrivez-vous gratuitement à la newsletter IA Insider.

Newsletter L'Usine Digitale
Nos journalistes sélectionnent pour vous les articles essentiels de votre secteur.