Google : des chercheurs imaginent un bouton pour stopper les IA malveillantes
Pour éviter que les machines intelligentes puissent prendre le pouvoir sur les humains, Google a demandé à des chercheurs d'imaginer un bouton d'arrêt d'urgence.
L’intelligence artificielle effraie autant qu’elle fascine. Aussi, pour éviter qu’elle ne devienne dangereuse pour l’être humain, des chercheurs ont imaginé à la demande de Google un système qui permettrait de stopper le fonctionnement d'une telle technologie si jamais elle dérapait. En quelque sorte, un bouton d’arrêt d’urgence.
Ces chercheurs, dont Laurent Orseau, qui travaille chez DeepMind (entreprise rachetée par Google en 2014), et Stuart Armstrong, de l’université d’Oxford, ont présenté leurs travaux dans un article (format PDF, NDLR) publié sur le site de l’institut de recherche sur l’intelligence des machines (Machine Intelligence Research Institute), qui a pour objectif de s’assurer que l’intelligence artificielle a un impact positif.
Pour Stephen Hawking, l'intelligence artificielle est un danger pour l'homme
Pour ces scientifiques, il est peu vraisemblable qu’une intelligence artificielle se comporte de façon optimale à tout moment. Et ce encore plus si elle apprend des comportements humains, qui on le sait peuvent parfois nuire à l’humanité. Ils ont donc développé un système mathématique qui permet à une personne d’interrompre, à plusieurs reprises et en toute sécurité, le fonctionnement d’une intelligence artificielle tout en veillant à ce que cette dernière ne se rende pas compte de ce qui va lui arriver.
Pourquoi ? Parce que le principe sur lequel une machine intelligente est conçue est de contourner ce qui l’éloigne de son objectif. « Si la machine a un but à atteindre et peut prédire qu’elle va être arrêtée, elle va essayer de résister afin de réussir ce pour quoi elle a été conçue, expliquent les chercheurs. Notre système permet à un humain de prendre temporairement le contrôle de la machine tout en lui faisant croire qu’elle choisit elle-même d’interrompre son activité. »
Ca ne marche pas à tous les coups
« Prendre la main sur une machine intelligente peut être utile si, par exemple, son comportement risque d’entraîner des dégâts irréversibles ou pour la sortir d’une situation délicate », ajoutent les chercheurs.
Cela dit il y a un hic. Les scientifiques ont constaté que leur système fonctionnait avec des algorithmes de type Q learning (pour faire simple un apprentissage par expérimentations hasardeuses qui sont enregistrées lorsqu’elles engendrent une récompense), mais qu’il n’en allait pas de même avec ceux de type SARSA (State-Action-Reward-State-Action, un apprentissage plus linéaire : un état entraîne une action qui, si elle est récompensée, permet à la machine de passer à un deuxième état). La bonne idée du bouton d’arrêt d’urgence pourrait donc avoir une portée limitée.
Source :
Intelligence.org
www.experts-access.com
