Bill Gates appelle les laboratoires d’IA à mettre en place des systèmes capables de suivre ce que font leurs modèles, plutôt que de compter sur un « bouton d’arrêt d’urgence » pour prévenir des dommages graves.

Lors d’une interview accordée à NBC diffusée dimanche, le cofondateur de Microsoft a déclaré qu’il n’était pas opposé à un système qui mettrait les modèles hors ligne en cas de catastrophe. Il a estimé qu’un bouton d’arrêt d’urgence avait son utilité, mais qu’il ne suffirait pas à une époque où « de petits groupes équipés d’IA peuvent faire ce que seuls les plus grands pays étaient capables de faire ».

« Je ne voudrais jamais dire que je suis opposé à un bouton d’arrêt d’urgence », a-t-il ajouté. « Mais quand on cherche à encadrer les mauvais comportements, il faut avoir une visibilité sur ce qui est fait et en conserver des traces. Le bouton d’arrêt d’urgence ne suffirait donc pas, à lui seul, à empêcher ces tragédies. »

Des acteurs malveillants peuvent exploiter l’IA pour attaquer des réseaux électriques ou s’introduire dans des comptes bancaires, a déclaré Bill Gates, ajoutant que la technologie avait également atteint des seuils déterminants dans des domaines comme la biotechnologie et les cyberattaques.

Parallèlement, il a appelé les gouvernements à renforcer la réglementation, estimant qu’ils devraient participer à la supervision des actions des systèmes d’IA. Il a souligné que ces mesures ne devraient pas nécessairement ralentir le développement du secteur ni la course des États-Unis avec la Chine.

Le philanthrope a également averti qu’il pourrait être plus difficile de parvenir à un accord international sur les règles encadrant l’IA que de mener les négociations de la guerre froide sur les armes nucléaires.

« C’est plus difficile que ça ne l’était », a-t-il déclaré, évoquant la complexité de l’élaboration de règles acceptées par les pays pour une technologie développée en grande partie par des entreprises privées.

Il a cité les accords internationaux sur la sécurité aérienne, la couche d’ozone et les armes nucléaires comme exemples de domaines dans lesquels les pays avaient mis leurs différends de côté pour établir des règles communes, estimant que l’IA nécessiterait un effort similaire.