Plusieurs spécialistes de la technologie parmi lesquels le cofondateur d’Apple Steve Wozniak et le PDG de Tesla Elon Musk ont signé une lettre ouverte demandant aux laboratoires de recherche sur l’intelligence artificielle (IA) de mettre en pause le développement de systèmes d’IA à grande échelle.
Citant des craintes à propos de « risques profonds pour la société et l’humanité », la lettre explique que les labos d’IA sont en ce moment dans une course incontrôlée pour développer et déployer des systèmes que « personne, même pas leurs créateurs, peut comprendre, prédire, ou contrôler de manière fiable ».
Mise en place de protocoles stricts
La lettre se poursuit ainsi : « Nous appelons tous les laboratoires d'IA à suspendre immédiatement et pendant au moins 6 mois l'entraînement de systèmes d'IA plus puissants que GPT-4. Cette pause doit être publique, vérifiable et inclure tous les acteurs clés. Si une telle pause ne peut être mise en place rapidement, les gouvernements se doivent d’intervenir et instaurer un moratoire ».
« Les laboratoires d'IA et les experts indépendants devraient profiter de cette pause pour développer et mettre en œuvre un ensemble de protocoles de sécurité partagés pour la conception et le développement avancés de l’IA, rigoureusement audités et supervisés par des experts indépendants externes. Ces protocoles devraient garantir que les systèmes qui y adhèrent sont sûrs au-delà de tout doute raisonnable ».
PS : souvenons-nous de Skynet, l'intelligence artificielle implacable deTerminator…
