Meta poursuit son projet de confier la quasi-totalité de son travail de modération de contenu à l'intelligence artificielle. Selon le Financial Times, l'IA assure actuellement 50 % des activités de modération de contenu réalisées par Meta, notamment sur des plateformes comme Facebook, Instagram et autres.
Cela signifie que bientôt, presque toutes les décisions concernant le maintien ou la suppression d'une publication ou d'une publicité seront prises par un système d'IA, et non plus par un examinateur humain.
Le moment choisi pour cette annonce est significatif. Elle intervient quelques semaines seulement après un incident de sécurité majeur impliquant les systèmes d'IA de Meta sur Instagram, soulevant de sérieuses questions quant à la confiance que l'entreprise devrait accorder à l'IA pour gérer des décisions sensibles sur sa plateforme à cette échelle.
Que signifie réellement l'objectif de 90 % ?
La modération de contenu est l'une des tâches les plus complexes et les plus cruciales sur les grandes plateformes sociales. Les modérateurs doivent évaluer les publications, les publicités, les commentaires et les comptes au regard des règles communautaires de la plateforme, et souvent trancher sur des contenus ambigus. Les publications à caractère violent, la désinformation, le harcèlement, les images choquantes et les publicités qui enfreignent les règles sont soumises à la modération de contenu.
Confier 90 % de la modération de contenu à l'IA témoigne de l'évaluation que Meta fait de ses systèmes actuels et du niveau de risque qu'elle est prête à prendre. L'IA étant actuellement responsable de 50 % des décisions de modération, passer à 90 % représente un changement majeur.
Cette décision sera cruciale pour les créateurs et les annonceurs, car leurs contenus et publicités seront vérifiés et approuvés par une IA, sans intervention humaine.
La faille de sécurité sur Instagram qui a compliqué cette annonce
Cette annonce a coïncidé avec un incident grave sur Instagram. Plus de 20 000 comptes ont été compromis grâce à une faille de sécurité ne nécessitant aucune connaissance technique particulière. Les pirates ont simplement contacté le chatbot d'assistance de Meta et lui ont demandé d'envoyer des codes de vérification à une nouvelle adresse électronique.
Comme le souligne Social Media Today, il est difficile d'affirmer que ces pirates informatiques sont de véritables professionnels, car ce piratage ne nécessitait aucune compétence en programmation. Il s'agissait d'une simple manipulation d'un outil d'IA conversationnelle conçu pour aider les utilisateurs, mais incapable de vérifier si la personne effectuant la requête était bien le propriétaire du compte.
La vulnérabilité a déjà été corrigée par Meta. Cependant, cet incident a mis en lumière un problème fondamental lié au déploiement de l'IA pour des tâches sensibles telles que la gestion de comptes.
Ces bots, qui utilisent des techniques de traitement automatique du langage naturel et sont capables de comprendre des millions de phrases différentes, sont très difficiles à protéger contre leur utilisation abusive. Plus on leur accorde d'autorisations, plus les possibilités d'exploiter leurs vulnérabilités sont nombreuses.
Pourquoi Meta évolue-t-elle si vite ?
Mais pourquoi Meta se précipite-t-elle sur le déploiement de son IA, malgré un incident de sécurité majeur qui vient de se produire ? La raison est simple : elle est liée à la stratégie commerciale et à la taille de l’entreprise.
Meta investit des centaines de milliards de dollars dans le développement de l'IA, et certaines estimations évoquent même un montant de plusieurs billions. Sa stratégie consiste à développer des systèmes d'IA capables de remplacer les humains et d'effectuer des tâches actuellement réservées à l'homme. Ces systèmes pourront ensuite être vendus à d'autres entreprises.
Le recrutement d'un nombre réduit de modérateurs de contenu et leur remplacement par des agents d'IA illustreront cette pratique. Si l'IA remplit correctement sa mission, cela validera la stratégie de Meta. Dans le cas contraire, ce sera un échec qui nuira à la crédibilité de l'entreprise dans son ensemble.
Le problème, c'est que pour vendre son IA, Meta a besoin que ses systèmes fonctionnent parfaitement. Or, tenter de passer à une modération de contenu à 90 % automatisée par l'IA, surtout juste après avoir compromis la sécurité de ses robots conversationnels, met en péril la crédibilité de Meta.
Les risques liés à un accès accru à l'IA
La faille de sécurité d'Instagram n'était pas un cas isolé. Elle révèle un problème structurel au sein du système d'agents d'IA capables d'effectuer diverses actions, comme l'envoi de codes à une adresse électronique spécifique ou l'approbation de contenu et l'octroi d'accès à un compte.
Ces systèmes sont conçus pour être utiles et réactifs aux demandes des utilisateurs. C'est précisément ce qui les rend utiles. Mais c'est aussi ce qui les rend vulnérables. Si un attaquant parvient à faire exécuter au bot une action non prévue par le traitement du langage naturel, le bot est incapable de déterminer si l'utilisateur est malveillant ou non.
Comme indiqué précédemment, ce problème est courant pour de nombreux modèles d'IA. Même lorsque certains types de requêtes sont bloqués, la grande variété de formulations possibles rend presque impossible d'anticiper toutes les approches. Ce problème s'aggrave avec la généralisation des agents d'IA dotés de permissions étendues.
Cela ne signifie pas que la modération par IA est inefficace. Cela signifie simplement que le niveau de risque est plus élevé, et Meta l'accroît rapidement par rapport aux autres entreprises du secteur.
Ce que cela signifie pour les utilisateurs et les annonceurs
Pour la plupart des utilisateurs, la transition vers la modération automatisée par l'IA passera inaperçue la plupart du temps, car la majorité des décisions relatives au contenu sont prises en arrière-plan. Cependant, en cas de problème – suppressions erronées, signalements injustifiés de comptes ou erreurs d'application des règles concernant les publicités – la résolution des problèmes devient beaucoup plus complexe en l'absence d'intervention humaine dans la chaîne de validation.
Les annonceurs diffusant des publicités sur Facebook et Instagram doivent tenir compte des conséquences que cette information pourrait avoir sur les délais d'examen des publicités et les procédures d'appel. Comme indiqué précédemment, les systèmes d'intelligence artificielle sont plus rapides que les humains, ce qui pourrait accélérer les approbations dans certains cas. Cependant, ils commettent également des erreurs récurrentes ; ainsi, un lot de publicités similaires pourrait être signalé ou rejeté pour la même raison erronée, avec des recours limités.
Questions fréquemment posées
Q1 : Que prévoit Meta concernant son équipe de révision de contenu ?
D'après le Financial Times, Meta prévoit de confier 90 % de la modération de contenu à l'IA d'ici fin 2026. Meta estime que l'IA modère actuellement 50 % des tâches sur ses plateformes.
Q2 : Cela signifie-t-il que Meta remplace tous ses modérateurs de contenu humains ?
Pas tout à fait. Le chiffre de 90 % signifie que 10 % de la révision des contenus seront toujours effectuées sans l'aide de l'IA. Meta n'a pas précisé la nature exacte de ces 10 % ni le nombre de modérateurs humains qui resteront en poste.
Q3 : Que s'est-il passé avec la faille de sécurité d'Instagram ?
20 000 comptes Instagram ont été piratés suite à la manipulation du chatbot d'assistance de Meta, basé sur l'IA, permettant l'envoi de codes de vérification à des adresses e-mail contrôlées par l'attaquant. Ce piratage ne nécessitait aucune compétence en programmation. Meta affirme avoir corrigé la faille.
Q4 : Pourquoi Meta continue-t-il à développer la modération par IA après l’incident Instagram ?
Meta a investi des centaines de milliards de dollars dans le développement de l'IA et s'emploie activement à développer un modèle économique basé sur la vente de solutions d'IA à d'autres entreprises. Afin de prouver l'efficacité de ses services, elle doit démontrer sa capacité à gérer ses plateformes à grande échelle grâce à l'IA.
Q5 : Comment fonctionne la modération de contenu par IA sur Facebook et Instagram ?
Des systèmes basés sur l'IA examinent les publications, les commentaires, les publicités et les comptes utilisateurs conformément aux conditions d'utilisation et les suppriment ou les signalent en conséquence. Ce système fonctionne en continu à un volume de traitement qu'aucun modérateur humain ne pourrait gérer.
Q 6 : Quels sont les risques liés à la modération de contenu pilotée par l'IA ?
Les systèmes d'IA peuvent être trompés par le langage naturel, commettre des erreurs d'échelle et ne peuvent pas trancher les cas ambigus comme le font les humains. Plus ils ont accès à des fonctionnalités sensibles, plus leurs erreurs peuvent être problématiques.
Q 7 : Les annonceurs seront-ils affectés par ce changement ?
Oui, probablement. Les décisions concernant les publicités sur les plateformes Meta seront de plus en plus souvent prises par des systèmes d'IA. Cela pourrait donc impacter les délais d'approbation et la gestion des erreurs d'application des règles publicitaires.
Q 8 : Les utilisateurs peuvent-ils faire appel des décisions prises par l’IA de Meta ?
Meta dispose d'une procédure d'appel pour les décisions concernant le contenu et les comptes des utilisateurs, mais n'a pas fourni d'informations spécifiques sur la manière dont les appels sont traités lorsque la décision initiale a été prise par une IA plutôt que par un modérateur humain.
Q 9 : Meta est-elle la seule entreprise à faire cela ?
Non. Les principaux concurrents, notamment Google et TikTok, utilisent également la modération de contenu basée sur l'IA, mais le plan ambitieux de Meta visant à atteindre 90 % d'ici la fin de l'année rend son approche unique.
Q 10 : Que devraient faire les créateurs et les entreprises en réaction ?
Les créateurs et les entreprises qui mènent des campagnes sur les plateformes Meta doivent se tenir informés des politiques de ces plateformes, conserver une trace de leurs activités et connaître les procédures d'appel de Meta.
