Meta prévoit une politique de contenu généré par l'IA moins punitive

Meta a annoncé une mise à jour de sa politique d'étiquetage de l'IA, élargissant sa définition de « média manipulé » pour aller au-delà des vidéos générées par l'IA, pour inclure désormais les audios et les images trompeurs sur Facebook, Instagram et Threads. Une caractéristique importante de la nouvelle politique est qu'elle risque d'être perçue comme restrictive de la liberté d'expression. Plutôt que d’adopter l’approche consistant à supprimer le contenu problématique, Meta se contente de l’étiqueter. Meta a introduit deux étiquettes, « Fabriqué avec l'IA » et « Imaginé avec l'IA », pour indiquer clairement quel contenu a été créé ou modifié avec l'IA.

Nouvelles étiquettes d’avertissement

Le contenu généré par l'IA s'appuiera sur l'identification des signaux de paternité et d'auto-déclaration de l'IA : « Nos étiquettes « Fabriqué avec l'IA » sur la vidéo, l'audio et les images générées par l'IA seront basées sur notre détection de signaux d'identité partagés par l'industrie. Images d'IA ou personnes révélant elles-mêmes qu'elles téléchargent du contenu généré par l'IA. » Le contenu qui est considérablement trompeur peut recevoir des étiquettes plus visibles afin que les utilisateurs puissent mieux comprendre. Les contenus préjudiciables qui enfreignent les normes de la communauté, tels que les contenus incitant à la violence, à l'ingérence électorale, à l'intimidation ou au harcèlement, pourront être supprimés, qu'ils soient générés par des humains ou par l'IA.

Raison de la politique mise à jour de Meta

La politique originale d’étiquetage de l’IA a été créée en 2020 et, en raison de l’état de la technologie, elle était étroitement définie et limitée à la lutte contre les vidéos trompeuses (du genre qui représentaient des personnalités publiques disant des choses qu’elles n’avaient jamais faites). Le conseil de surveillance de Meta a reconnu que la technologie avait progressé au point qu'une nouvelle politique était nécessaire. La nouvelle politique s’étend en conséquence pour couvrir désormais l’audio et les images générés par l’IA, en plus des vidéos.

Basé sur les commentaires des utilisateurs

Le processus de Meta pour mettre à jour ses règles semble avoir anticipé les réactions de toutes les parties. Leur nouvelle politique est basée sur de nombreux commentaires d'un large éventail de parties prenantes et sur les contributions du grand public. La nouvelle politique a également la possibilité d’être modifiée si nécessaire. Meta explique : « Au printemps 2023, nous avons commencé à réévaluer nos politiques pour voir si nous avions besoin d'une nouvelle approche pour suivre le rythme des progrès rapides… Nous avons mené des consultations avec plus de 120 parties prenantes dans 34 pays dans toutes les grandes régions du monde. Dans l’ensemble, nous avons constaté un large soutien en faveur d’un étiquetage du contenu généré par l’IA et un fort soutien en faveur d’un étiquetage plus visible dans les scénarios à haut risque. De nombreuses parties prenantes se sont montrées réceptives à l’idée selon laquelle les personnes divulguent elles-mêmes le contenu généré par l’IA. …Nous avons également mené une étude d'opinion publique auprès de plus de 23 000 personnes dans 13 pays et avons demandé aux gens comment les sociétés de médias sociaux, telles que Meta, devraient aborder le contenu généré par l'IA sur leurs plateformes. Une grande majorité (82 %) sont favorables aux étiquettes d’avertissement pour le contenu généré par l’IA qui montre des personnes disant des choses qu’elles n’ont pas dites. … Et le Conseil de surveillance a noté que ses recommandations étaient fondées sur des consultations avec des organisations de la société civile, des universitaires, des organisations intergouvernementales et d’autres experts.

Collaboration et consensus

L'annonce de Meta explique qu'ils prévoient que les politiques suivront le rythme de la technologie en la revisitant avec des organisations telles que le Partenariat sur l'IA, des gouvernements et des organisations non gouvernementales. La politique révisée de Meta met l'accent sur la nécessité de transparence et de contexte pour le contenu généré par l'IA, sur le fait que la suppression du contenu sera basée sur des violations des normes de sa communauté et que la réponse privilégiée sera d'étiqueter le contenu potentiellement problématique.

Lire l'annonce de Meta

Notre approche de l'étiquetage du contenu généré par l'IA et des médias manipulés Image sélectionnée par Shutterstock/Boumen Japet