Le Canada travaille avec des partenaires sur la sécurité de l'IA

Le ministre responsable de l'Intelligence artificielle, Evan Solomon, a affirmé mercredi que le Canada collaborait avec d'autres pays sur la sécurité de l'IA, mais a laissé entendre que le gouvernement ne jouait pas un rôle de premier plan sur la scène internationale.

Le Canada figurait parmi les 20 pays qui ont publié mardi, lors de l'Assemblée générale des Nations unies, une déclaration commune appelant à un renforcement de la surveillance de l'intelligence artificielle (IA), alors même que les États-Unis rejettent toute tentative de réglementation de cette technologie.

Le premier ministre Mark Carney a signé cette déclaration, qui précise que «le développement rapide des modèles d’IA de pointe présente de graves risques pour la sûreté et la sécurité s’il n’est pas géré de manière appropriée».

M. Solomon a déclaré aux journalistes à Ottawa qu’il avait rencontré ses homologues internationaux après que M. Carney eut récemment évoqué avec d’autres dirigeants la création d’un conseil de «stabilité technologique» chargé de réglementer l’IA.

«Nous plaidons sans réserve, aux côtés de nos partenaires, pour que nous travaillions ensemble à la mise en place […] d’une réglementation sur la sécurité et la fiabilité de l’IA», a fait savoir M. Solomon.

Mais lorsqu’on lui a demandé si le Canada jouait un rôle de premier plan dans ces efforts, M. Solomon a mis en avant la législation nationale, notamment les projets de réglementation sur les agents conversationnels basés sur l’IA.

Il a également ajouté que le Canada jouait un rôle «très prépondérant» en investissant 150 millions $ dans les travaux de Yoshua Bengio, pionnier canadien de l’IA, visant à développer une IA plus sûre.

M. Bengio doit s’adresser mercredi au Conseil de sécurité des Nations unies, qui entendra également les représentants de grandes entreprises du secteur de l’IA.

La déclaration commune appelant à un renforcement de la surveillance de l'IA préconise que les États membres de l’ONU «envisagent la création d’une institution internationale, capable de définir des normes, de permettre la vérification et de convoquer les États lorsque des seuils de capacité sont franchis».

«Nous avons récemment constaté que des systèmes d’IA performants contournaient les mesures de sécurité mises en place lors des tests, exploitaient des vulnérabilités et obtenaient un accès non autorisé à des systèmes du monde réel», indique la déclaration.

Parmi les autres pays ayant signé cette déclaration figurent la Finlande, la Norvège, l’Allemagne, l’Irlande, l’Afrique du Sud et la Turquie.

Les mises en garde concernant les risques que l’IA fait peser sur les êtres humains, ainsi que les cas avérés de robots dotés d’IA ignorant les instructions humaines, ont suscité une vive inquiétude à l’échelle mondiale ces dernières semaines.

Mais cette déclaration a été publiée le jour même où le président américain, Donald Trump, a mentionné devant l’Assemblée générale des Nations unies que les États-Unis rejetaient toute tentative visant à «mettre en place un système mondialiste de contrôle de l’intelligence artificielle».

Anja Karadeglija, La Presse Canadienne