Ottawa veut forcer les réseaux sociaux et les agents conversationnels à protéger les jeunes

Le projet de loi C-34, baptisé Loi sur les médias sociaux sécuritaires, a été présenté à Ottawa par le ministre de l’Identité et de la Culture canadiennes, Marc Miller. « Cette loi imposera des responsabilités accrues aux plateformes en ligne afin de garantir que leurs services soient sécuritaires dès leur conception et intègrent des mesures de protection appropriées pour contribuer à la sécurité des enfants », a-t-il résumé par voie de communiqué.

S’il est adopté, ce projet de loi créera un cadre législatif et réglementaire pour les réseaux sociaux, « y compris les services de diffusion en direct et de contenu pour adultes mis en ligne par les utilisateurs », précise Ottawa. Les robots conversationnels basés sur l’intelligence artificielle (IA) – les chatbots, en anglais – seront aussi concernés.

Qu’est-ce qui serait exigé des plateformes en ligne concernées?

De nombreux détails restent à éclaircir, mais le projet de loi C-34 s’articule autour de trois obligations :

• L’obligation de protéger les enfants ;
• L’obligation d’agir de manière responsable, c’est-à-dire d’atténuer les risques liés à l’exposition à du contenu préjudiciable (en fournissant aux utilisateurs des moyens pour signaler ce type de contenu et en apposant des étiquettes sur les contenus générés de manière synthétique, par exemple) ;
• L’obligation de rendre certains contenus inaccessibles dans un délai de 24 heures.

Qu’est-ce qui est considéré comme du contenu préjudiciable ?

Le projet de loi définit sept catégories de contenu pouvant nuire aux utilisateurs des plateformes en ligne et des robots conversationnels :

• Le contenu représentant de la victimisation sexuelle d’enfants ou perpétuant la victimisation de survivants ;
• Le contenu intime communiqué de façon non consensuelle ;
• Le contenu incitant un enfant à s’automutiler ;
• Le contenu utilisé pour intimider un enfant ;
• Le contenu incitant à la haine;
• Le contenu incitant à la violence ;
• Le contenu lié au terrorisme ou à l’extrémisme violent.

Quels réseaux sociaux seraient réservés aux 16 ans et plus?

C-34 établirait un âge minimum, soit 16 ans, pour avoir un compte sur un réseau social. Le projet de loi ne contient pas de liste des plateformes visées, mais quelques noms ont été évoqués à Ottawa : Facebook, Instagram, X et Snapchat.

Peu de détails ont pour l’instant été donnés sur la manière dont cette interdiction serait mise en œuvre et sur la manière dont l’âge des utilisateurs serait vérifié.

Certains réseaux sociaux pourraient-ils être exemptés de l’interdiction aux moins de 16 ans?

Oui, s’ils mettent en place des « mesures de protection suffisantes » pour protéger les enfants. Les critères à respecter devraient être précisés ultérieurement dans la réglementation.

Quelles règles s’appliqueraient aux agents conversationnels ?

Le projet de loi obligerait les entreprises exploitant des agents conversationnels capables d’imiter des relations humaines (chabots), comme ChatGPT ou Claude, à atténuer les risques que leurs agents diffusent du contenu préjudiciable (voir la liste plus haut) ou adoptent des comportements nuisibles envers leurs utilisateurs.

Ces services devraient également mettre en place des protocoles d’intervention pour les situations de crise, par exemple lorsqu’un utilisateur exprime des intentions suicidaires ou violentes. Ils ne seraient toutefois pas obligés de rapporter ces interactions aux forces de l’ordre.

Pour l’instant, les agents conversationnels ne sont pas visés par l’interdiction aux moins de 16 ans.

Quels services en ligne ne sont pas visés par le projet de loi C-34?

Les fournisseurs de services internet, les moteurs de recherches et les applications de navigations (ex. Google Maps) ne sont pas inclus dans le projet de loi. Les services de messagerie privés, incluant ceux des jeux vidéo en ligne (ex. Roblox) en sont également exclus.

Qui serait responsable de faire respecter la nouvelle réglementation ?

Si C-34 est adopté, une « commission indépendante sur la sécurité numérique » sera créée, et devrait être opérationnelle dans les 18 mois suivants, selon le ministre Miller. Celle-ci serait responsable de faire appliquer la loi. Elle pourrait aussi recommander des ajustements à la réglementation, entre autres l’ajout d’autres services en ligne ou d’autres manières d’atténuer les risques pour le public.

Quelles seraient les conséquences pour les services en ligne qui enfreignent les règles ?

Les entreprises derrière les plateformes et les agents conversationnels fautifs pourraient devoir payer des amendes allant à jusqu’à 3 % de leurs revenus totaux, ou 10 millions de dollars (le montant le plus élevé des deux). En cas de violations répétées, les entreprises pourraient se voir infliger plusieurs sanctions.

Quand la loi pourrait-elle entrer en vigueur?

Le projet de loi C-34 doit maintenant être étudié à la Chambre des communes et suivre les différentes étapes d’ici une éventuelle adoption par le Parlement. Cette adoption serait suivie de la création de la commission indépendante sur la sécurité numérique, qui deviendrait alors responsable de déterminer les délais pour se conformer à la nouvelle loi.

Rappelons que le gouvernement de Justin Trudeau a tenté de réglementer le contenu en ligne dans le but de protéger les enfants en 2024. Le projet de loi n’avait alors pas passé l’étape de la deuxième lecture au Parlement.

À lire aussi : Ottawa et plusieurs provinces songent à interdire les réseaux sociaux aux moins de 16 ans, Comment encadrer le temps d’écran de vos enfants ?, Comment « déconnecter » vos enfants des écrans cet été ?