Des chercheurs ont créé un bouton pour arrêter une intelligence artificielle malveillante

Les machines devenant de plus en plus intelligentes, Google a demandé à des chercheurs d'imaginer une sorte de bouton d'urgence pour les empêcher de détruire l'humanité.

Tout le monde a vu ces films de science-fiction où des machines prennent le pouvoir sur l’homme. Pour éviter que de tels événements puissent se produire, Google a demandé à des chercheurs d’imaginer un système qui permettrait d’arrêter une intelligence artificielle si jamais elle dérapait. En quelque sorte, un bouton d’arrêt d’urgence.

Ces chercheurs, dont Laurent Orseau, qui travaille chez DeepMind (entreprise rachetée par Google en 2014), et Stuart Armstrong, de l’université d’Oxford, ont présenté leurs travaux dans un article publié sur le site de l’Institut de recherche sur l’intelligence des machines (Machine Intelligence Research Institute) qui a pour objectif de s’assurer que l’intelligence artificielle a un impact positif.

Agir sans que la machine s'en rende compte

Pour ces scientifiques, une intelligence artificielle ne peut pas se comporter de façon optimale à tout moment. Et ce encore plus si elle apprend des humains, qui on le sait peuvent parfois nuire à l’humanité. Ils ont donc développé un système mathématique qui permet à une personne d’interrompre, à plusieurs reprises et en toute sécurité, le fonctionnement d’une machine intelligente tout en veillant à ce que celle-ci ne se rende pas compte de ce qui va lui arriver.

Pourquoi? Parce que le principe sur lequel une machine intelligente est conçue est de contourner ce qui l’éloigne de son objectif.

"Si la machine a un but à atteindre et peut prédire qu’elle va être arrêtée, elle va essayer de résister afin de réussir ce pour quoi elle a été conçue, expliquent les chercheurs. Notre système permet à un humain de prendre temporairement le contrôle de la machine tout en lui faisant croire qu’elle choisit elle-même d’interrompre son activité."

Cela dit il y a un hic: ce système pourrait ne pas fonctionner avec toutes les intelligences artificielles. Il va donc falloir continuer à chercher...

Pour en savoir plus, lire notre article sur 01net.com