Meta épinglé pour ses mesures de protection «insuffisantes» contre les vidéos hypertruquées

Le conseil de surveillance de Meta a ordonné jeudi au groupe de retirer des vidéos générées par IA visant deux femmes, dont une politicienne britannique, jugeant que les outils de protection du géant de la technologie dans le domaine étaient « fondamentalement insuffisants ».

• À lire aussi : Mark Zuckerberg rejette les appels à ralentir le développement de l’IA

• À lire aussi : En Écosse, Charles III réunit les poids lourds de l’IA et met en garde contre ses « risques existentiels »

Ce conseil, organe quasi indépendant financé par Meta, a justifié sa demande en expliquant que ces cas compromettaient les propres règles de l’entreprise en matière de discours haineux, de désinformation et de harcèlement.

La première vidéo met en scène une conseillère du Parti travailliste en Écosse tenant des propos incendiaires sur les réfugiés. Il n’existe aucun enregistrement public de tels propos, et certains détails de la vidéo indiquent qu’elle a été falsifiée, notamment l’absence de synchronisation labiale.

La deuxième vise à discréditer une activiste musulmane et son rôle d’éducatrice pour la santé : on l’y voit consommer des aliments ultratransformés tout en donnant des conseils sur l’alimentation et en faisant des exercices absurdes.

Le conseil de surveillance a soutenu que les règles de Meta étaient « systématiquement et fondamentalement insuffisantes » pour faire face au flot incessant de contenu généré par IA sur ses plateformes, comme Facebook et Instagram.

« Ces cas illustrent un schéma plus large et préoccupant, dans lequel les femmes qui s’expriment publiquement sur des questions de société sont la cible de harcèlement et de désinformation de manière disproportionnée », a affirmé la coprésidente du conseil, Pamela San Martin.

La maison-mère de Facebook a annoncé qu’elle se conformerait à la décision du conseil dans un délai de sept jours.

Meta est obligé de suivre les décisions du conseil de surveillance, mais pas ses recommandations.

« Meta, ainsi que les autres réseaux sociaux, ont besoin de règles fortes face à la prolifération de deepfakes (des trucages ultraréalistes générés par IA), y compris une approche beaucoup plus stricte pour l’étiquetage des contenus trompeurs, des sanctions plus sévères pour les récidivistes et la suppression des deepfakes visant à harceler des particuliers », a encore soutenu Pamela San Martin.

La semaine dernière, le conseil de surveillance a recommandé à Meta de ne pas remplacer son service de vérification des faits professionnel par des notes de communauté, un système participatif popularisé par X, la plateforme du milliardaire Elon Musk.

Cette recommandation est survenue après que Meta a annoncé avoir commencé les essais des notes de communauté dans 16 pays hispanophones en Amérique latine.

L’AFP travaille actuellement dans 26 langues avec le programme de fact-checking de Meta, y compris en Amérique latine.