Steve Wozniak, Elon Musk et plus de 1 000 autres grands noms ont signé une lettre ouverte exigeant un arrêt immédiat de six mois des technologies d’IA plus puissantes que ChatGPT-4.
Cette année est l’année où l’intelligence artificielle comme ChatGPT et Google Bard est devenue une tendance majeure. Bien que toutes les sociétés d’IA qualifient leurs produits d’expériences ou même de certaines versions bêta, leurs fonctionnalités sont intégrées dans de nombreux services. Le Future of Life Institute appelle désormais à une pause « publique et vérifiable » impliquant « tous les acteurs clés » du domaine. Si une telle pause ne peut être mise en œuvre rapidement, les gouvernements devraient intervenir et imposer un moratoire.
L'objectif du Future of Life Institute est « d'orienter les technologies transformatrices au profit de la vie et de les éloigner des risques extrêmes à grande échelle. » La lettre susmentionnée de 600 mots, adressée à tous les développeurs d'IA, indique qu'il est nécessaire de prendre une pause car ces derniers mois, les laboratoires d’intelligence artificielle sont devenus incontrôlables et ont commencé à développer et à déployer des cerveaux numériques de plus en plus puissants que personne, pas même leurs créateurs, ne pouvait comprendre, prédire ou contrôler de manière fiable.
Vous pourriez être intéressé par
"Les laboratoires d'IA et les experts indépendants devraient profiter de cette pause pour développer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement d'une intelligence artificielle avancée, qui seraient strictement contrôlés et supervisés par des experts externes indépendants." le message continue. "Ces protocoles devraient garantir que les systèmes qui les suivent sont sécurisés sans aucun doute."
Cependant, cela ne signifie pas un arrêt du développement de l’intelligence artificielle en général, cela devrait seulement être un retrait de la course dangereuse vers des modèles de boîtes noires imprévisibles toujours plus grands et dotés de capacités émergentes. La lettre a été signée par 1 123 personnalités, parmi lesquelles :
- Elon Musk, PDG de SpaceX, Tesla et Twitter
- Steve Wozniak co-fondateur de l'entreprise Apple
- Jean Tallinn, co-fondateur de Skype
- Evan Sharp, co-fondateur de Pinterest
