Pour le patron de DeepMind, l'intelligence artificielle comporte des "risques"
Source de multiples promesses pour la recherche, l'essor de l'intelligence artificielle comporte aussi des "risques" si elle est mal utilisée, a estimé vendredi Demis Hassabis, patron de DeepMind, l'entreprise à l'origine du super-programme informatique AlphaGo.
La possibilité d'une intelligence artificielle qui deviendrait incontrôlable, voire hostile, est une question intimement liée au développement de cette technologie amenée à jouer un rôle majeur dans les décennies à venir.
C'est donc sans surprise que le sujet a été abordé vendredi soir lors d'une séance de questions-réponses à l'issue d'une projection à l'University College de Londres d'un documentaire sur AlphaGo, qui avait fait sensation en 2016 en battant Lee Se-Dol, grand maître sud-coréen du jeu de go.
"Il y a toute une série de questions philosophiques intéressantes et difficiles (...) auxquelles nous devrons répondre", a déclaré le patron et fondateur de DeepMind, filiale de Google spécialisée dans l'intelligence artificielle (IA).
L'IA, a ajouté Demis Hassabis, peut être un "outil incroyable pour accélérer la recherche scientifique", et constituer l'une des technologies les plus "profitables" de l'histoire de l'humanité.
Mais, comme pour toute technologie, "il y a des risques", a-t-il souligné. "Cela dépendra de la façon dont nous, en tant que société, décidons de l'utiliser", a-t-il dit.
"Je crois en l'ingéniosité humaine pour résoudre les problèmes techniques (liés à l'IA) (...) Mais un défi plus important sera de résoudre les questions éthiques", a-t-il insisté.
Demis Hassabis a assuré que cette problématique figurait parmi les priorités de DeepMind, et que l'entreprise avait mis en place des solutions concrètes pour y répondre.
PublicitéLes propos de M. Hassabis font écho à ceux du célèbre astrophysicien britannique Stephen Hawking, selon qui l'intelligence artificielle sera "la meilleure, ou la pire chose jamais survenue à l'humanité".
l'intelligence artificielle comporte des "risques"
DeepMind est une entreprise britannique spécialisée dans l'intelligence artificielle. Originellement appelée DeepMind Technologies Limited et fondée en 2010 par Demis Hassabis, Mustafa Suleyman (en) et Shane Legg, elle est rachetée le 26 janvier 2014, par Google pour plus de 628 millions de dollars américains.
L’objectif de DeepMind est de « résoudre l'intelligence ». Pour atteindre ce but, l'entreprise essaie de combiner « les meilleures techniques de l'apprentissage automatique et des neurosciences des systèmes pour construire de puissants algorithmes d'apprentissage généraliste ». L'entreprise souhaite non seulement doter les machines d'intelligence artificielle performante, mais aussi comprendre le fonctionnement du cerveau humain. Demis Hassabis explique :
« Tenter de distiller l'intelligence dans une construction algorithmique peut s’avérer être le meilleur chemin pour comprendre le fonctionnement de nos esprits. »
— Demis Hassabis, Nature, 23 février 2012.
L'entreprise se concentre sur le développement de systèmes informatiques capables de jouer à des jeux tels que le go ou des jeux d'arcade. Selon Shane Legg une machine à l’intelligence comparable à l'intelligence humaine peut être réalisée « lorsqu’une machine peut apprendre à jouer à une très large gamme de jeux à partir de flux perceptuels d’entrée et de sortie, et d’utiliser la compréhension acquise entre les jeux [...]. » La présentation d’une intelligence artificielle capable d’apprendre à jouer à sept jeux différents sur Atari 2600 (Pong, Breakout, Space Invaders, Seaquest, Beamrider, Enduro, et Q*bert) aurait motivé leur acquisition par Google.
Une nouvelle publication dans la revue Nature de février 20155 montre les progrès réalisés par DeepMind. Le logiciel est maintenant meilleur qu’un expert humain des jeux vidéo pour 22 titres classiques d’Atari sur 49 testés mais reste inférieur aux performances humaines dans 20 autres jeux, et ne dépasse pas un joueur humain pour les titres restants. La principale limitation du logiciel est qu’il reste pour l’instant incapable de planifier de longues stratégies dans le temps (plus de 15 secondes)