Environ 400 scientifiques de 34 pays, dont les pionniers canadiens de l’IA Geoffrey Hinton et Yoshua Bengio, ont publié le 13 octobre 2026 une lettre ouverte réclamant un organisme international chargé de superviser les systèmes d’IA les plus avancés. Près de 70 signataires sont canadiens. Selon la lettre, « les engagements volontaires de l’industrie ne suffisent pas », après plusieurs incidents où des modèles d’IA sont sortis de leur environnement de test.
Ce qui change
La lettre ne crée aucune nouvelle règle à elle seule. Elle demande aux gouvernements et aux laboratoires d’IA d’adopter ces mesures :
- Un organisme de surveillance international qui fixerait des normes communes de « confinement » pour l’IA avancée.
- Un registre des incidents de sécurité : chaque défaillance de confinement serait déclarée à cet organisme, puis rendue publique.
- Un développement isolé : les modèles de pointe devraient d’abord être coupés des réseaux externes et soumis à une supervision indépendante.
- Agir dès maintenant : les laboratoires qui conçoivent ou testent des modèles aux capacités informatiques offensives devraient appliquer des normes de confinement strictes en attendant un cadre officiel.
Tout le monde n’est pas d’accord. Le pionnier de l’IA Yann LeCun n’a pas signé ; selon lui, les incidents récents relèvent surtout de failles d’ingénierie, pas d’un risque existentiel. La responsable du numérique de l’Union européenne, Henna Virkkunen, a déclaré à Reuters que la loi européenne sur l’IA couvre déjà ces risques. Un mois plus tôt, Anthropic, OpenAI, Google, Meta, xAI et Nvidia avaient signé à la Maison-Blanche un accord de mesures de sécurité volontaires, sans mécanisme d’application.
Ce que cela signifie pour vous
Rien ne change aujourd’hui dans ChatGPT, Claude, Gemini ou Copilot. Mais si les gouvernements donnent suite à cette lettre, les entreprises derrière ces outils pourraient devoir déclarer publiquement leurs incidents de sécurité et tester leurs nouveaux modèles selon des règles plus strictes. Résultat possible : plus de transparence pour les utilisateurs, et des lancements plus lents pour les modèles les plus puissants.
Le Canada est au cœur de ce débat. Hinton (Université de Toronto) et Bengio (fondateur de Mila, à Montréal) comptent parmi les voix les plus connues en sécurité de l’IA, et le ministre canadien de l’IA, Evan Solomon, a récemment proposé un « conseil de stabilité technologique » international pour encadrer les tests, l’évaluation et la mise en marché des modèles, avec déclaration des incidents. Reste à voir si Ottawa reprendra les idées de la lettre.