Alors que l’intelligence artificielle commence à faire partie intégrante de notre quotidien, les chercheurs du projet "intelligence artificielle" de Google Deepmind ont récemment créé des jeux faisant interagir deux IA. Leur comportement dépend des règles fixées au départ...
Le premier jeu, intitulé «Gathering», propose aux deux IA, l’une « bleue » et l’autre « rouge », de récolter des « pommes vertes ». Chaque « joueur » dispose d’un laser jaune qu’il peut utiliser pour neutraliser temporairement l’autre joueur afin de ramasser plus de pommes.
Face à la disette, quel comportement adopter ?
Au début du jeu, quand les pommes sont abondantes, chaque joueur se sert, tout en évitant de tirer sur l’autre. Dans un second temps, dès que les ressources se font plus rares, les tirs de laser sont plus fréquents.
Les chercheurs de Google Deepmind ont même testé des variantes du jeu où les deux IA n'avaient pas la même puissance de calcul (donc pas la même "intelligence"). Dans ce cas, l'IA la plus puissante tirait systématiquement sur son adversaire, sans tenir compte du nombre de pommes disponibles. L'intelligence artificielle la plus puissante considérait ainsi que l'agressivité était pour elle la meilleure stratégie.
Le second jeu, appelé «Wolfpack», met en scène une scène de chasse. Les deux IA en jeu sont des loups (en rouge) qui doivent, tout en contournant les obstacles, attraper un agneau (en bleu). Quand l'agneau a été mangé, chaque IA a proximité de l'agneau gagne un point (et pas seulement celle qui l'a attrapé). Les deux intelligences artificielles optent donc beaucoup plus fréquemment que dans le premier jeu pour la coopération. L’une peut par exemple empêcher l’agneau de passer pour permettre à l’autre de le manger plus facilement.
Agressivité ou amour de la complexité ?
Que penser de ces deux jeux ? Faut-il conclure du premier que l'IA la plus puissante pense que l'agressivité est le meilleur choix ? Cette analyse serait une interprétation trop anthropomorphique de la situation.
Les chercheurs de Google Deepmind avancent de leur côté que l'IA la plus puissante serait en réalité "stimulée informatiquement" par l'utilisation du laser. L'emploi de ce dernier demande en effet plus de calculs informatiques qu'un simple déplacement vers une pomme (il faut pointer son arme vers son adversaire tout en suivant ses mouvements). Nous serions donc confrontés à une IA privilégiant la "beauté du geste" (l'exploitation au maximum de ses capacités de calcul) à des déplacements plus simples.
A l'inverse, dans le jeu "Wolfpack", où des tests ont également été menés avec des IA de différents niveaux, plus l'intelligence artificielle était puissante, plus elle coopérait avec l'autre. Logique selon les chercheurs : apprendre à collaborer avec une autre IA requiert plus de capacités informatiques que de ne pas collaborer.
Définir des règles entre IA pour éviter les conflits
A l'heure où les intelligences artificielles peuvent intervenir dans des systèmes critiques voir vitaux pour l'homme (gestion des feux de circulation, dispositifs de surveillance...), définir des règles très claires régissant les interactions entre ces entités est crucial.
Le comportement des intelligences artificielles dépend étroitement de ces règles. Si celles-ci récompensent l'agressivité (le laser pour manger plus de pommes), les IA en feront preuve sans se poser de questions. Si, à l'inverse, les règles récompensent la coopération (un point pour chaque IA quand l'agneau est mangé), les IA coopéreront plus aisément.
