Cet avertissement a été lancé alors que la diffusion de vidéos manipulées pendant les conflits armés risque de saper la confiance du public dans les informations en ligne.

Cette critique a été émise par le Meta Oversight Board, un comité de 21 membres créé par Meta pour examiner les décisions relatives à la modération des contenus sur ses plateformes, notamment Facebook, Instagram et WhatsApp.

Il a reproché à l'entreprise sa gestion d'une vidéo générée par l'IA et publiée sur Facebook, qui prétendait montrer les dégâts considérables causés à Haïfa, en Israël, par les forces iraniennes.

Le clip n'a pas été signalé comme généré par l'IA malgré les plaintes des utilisateurs.

Meta a déclaré qu'il ajouterait une mention à la vidéo dans un délai de sept jours.

Dans sa décision, l'organe de surveillance a déclaré que le système actuel de Meta pour identifier et signaler les médias synthétiques était inadéquat.

Le comité a déclaré : "Meta doit faire davantage pour lutter contre la prolifération de contenus trompeurs générés par l'IA sur ses plateformes... afin que les utilisateurs puissent faire la distinction entre ce qui est réel et ce qui est faux."

Le comité a averti que la propagation rapide de vidéos fabriquées de toutes pièces liées à des conflits militaires mondiaux avait déjà commencé à nuire à la capacité des gens à distinguer la réalité de la fiction.

Il a déclaré que la multiplication de ce type de contenu avait "remis en question la capacité du public à distinguer la fiction de la réalité... risquant ainsi de susciter une méfiance générale à l'égard de toutes les informations".