Article réservé aux abonnésLe prix Nobel de physique alerte : "Il y a 10 à 20 % de chances qu'une IA conduise à l'extinction de l'humanité dans les 30 prochaines années"
Le prix Nobel de physique 2024 Geoffrey Hinton ne cache pas ses craintes face à l'avenir du développement de l'intelligence artificielle.
- Publié le 02-01-2025 à 17h09
Après une année 2024 riche en innovation concernant l'intelligence artificielle, plusieurs questions émergent quant à l'avenir de celle-ci et de la place qu'elle prendra dans nos vies. Jusqu'où ira la machine et quel sera le rôle de l'humain face à elle ? Si la position dominante de l'homme reste, pour l'instant, une constante, certains experts mettent en garde contre un basculement potentiel. C'est notamment le cas de Geoffrey Hinton, considéré comme le "grand-père de l'intelligence artificielle" et gagnant du prix Nobel de physique en 2024, qui appelle à une prise de conscience urgente.
Dans une interview accordée à BBC Radio 4, le chercheur n'a pas mâché ses mots : "Il y a 10 à 20 % de chances qu'une intelligence artificielle conduise à l'extinction de l'humanité dans les 30 prochaines années." Ce pronostic alarmiste n'est pas une première. En 2023 déjà, il avait averti que, sans régulation, l'IA présentait une chance sur dix de détruire l'espèce humaine. Il a d'ailleurs démissionné de Google cette année-là, dans le but de "pouvoir s'exprimer librement sur les risques de l'IA".
La compétition comme facteur à risques
Pour le gagnant du prix Nobel, la nécessité d'une régulation internationale est cruciale. "Jamais dans l'histoire une personne n'a pu contrôler quelque chose de plus intelligent qu'elle-même", a-t-il rappelé. Et de comparer l'humanité à un enfant de trois ans face à une IA surpuissante. "Face à un enfant de trois ans, nous avons le contrôle. Or, avec l'IA, c'est nous l'enfant de trois ans."
Le danger, selon lui, réside dans la compétition féroce entre grandes entreprises technologiques, prêtes à faire passer leurs profits avant les préoccupations éthiques. Sans cadre législatif strict, ces acteurs pourraient développer des systèmes d'IA hors de tout contrôle.
Actuellement, le régime réglementaire de l'IA est presque inexistant. Hormis le courageux AI Act européen, aucun cadre national ou international n'impose de limites contraignantes. Les entreprises s'autopolicient donc sur des bases éthiques, mais cette dynamique est instable. Le pire qui pourrait arriver serait qu'une entreprise pourrait décider d'abandonner ces principes pour rattraper un concurrent moins scrupuleux.
Selon Geoffrey Hinton, le salut passe donc par une régulation ferme, imposée par les gouvernements et axée sur la sûreté des systèmes. Si l'humanité parvient à reprendre le contrôle, l'IA pourrait alors devenir une alliée puissante, capable de résoudre les grands défis de notre époque et les tâches redondantes du quotidien.