Google a publié un court article de recherche décrivant son nouveau système de filtrage à grande échelle des spams générés par l'IA. SAFE (Scaled Abuse Forensics Examiner) semble capable d'agir comme un humain pour examiner les contenus suspects et les comptes qui les génèrent.
Le document, qui ne compte que trois pages, annonce que SAFE est déjà opérationnel et utilisé. Search Engine Journal en a parlé le 25 septembre 2026, soulignant que Google a peu communiqué sur les tests menés sur le système. Voici ce qui a été dit et ce qui n'a pas été dit.
Ce que Google considère comme SAFE
SAFE est un système d'analyse forensique automatisé. Contrairement aux méthodes traditionnelles qui s'appuient sur une liste restreinte d'infractions connues, il simule une enquête manuelle menée par un analyste forensique afin de contrer les violations potentielles. Cet article décrit une tentative de détection de contenus qui contreviennent à l'esprit des règles et directives de Google, malgré l'absence de contraintes spécifiques.
L'article s'intitule « Le fossé synthétique : automatiser l'analyse forensique des failles de l'IA avec l'outil SAFE (Scaled Abuse Forensics Examiner) ». Google définit le fossé synthétique comme la période entre l'apparition de nouvelles attaques génératives et la réponse sous forme de contre-mesure. SAFE vise à réduire cet intervalle.
L'accent est mis sur la vidéo, mais pas uniquement sur la vidéo.
Le résumé et plusieurs sections de l'article font largement appel à la vidéo, décrivant une vidéo synthétique et une conception d'abus de canal, et utilisant des termes comme médias synthétiques, médias synthétiques adverses et signaux multimodaux.
Bien que l'article n'affirme pas que SAFE soit uniquement un détecteur de vidéos, il démontre que le programme possède d'autres fonctionnalités. Par exemple, les chercheurs décrivent un processus d'analyse de contenu faisant appel à des plongements sémantiques multimodaux, tout en abordant la notion d'artefacts de contenu génératifs de manière générale. Roger Montti, du Search Engine Journal, souligne qu'il s'agit d'un détail important, car un outil se limitant à la détection de vidéos serait vraisemblablement présenté comme tel.
Le deuxième système que Google a nommé cette année
SAFE semble être le deuxième système que Google a découvert en 2026, conçu pour détecter les spams générés par l'IA. Le premier système s'appelle S-CTS (Scalable Cluster Termination System). Montti estime que les recherches de Google sur ces systèmes démontrent son réel intérêt pour les spams générés par l'IA et que les deux systèmes pourraient être liés à la mise à jour anti-spam de septembre. Ce lien est une hypothèse qu'il a établie à partir des informations dont il dispose, et non d'une information publique de Google.
Pourquoi la revue manuelle est insuffisante
Contrairement aux humains, les réseaux malveillants peuvent exploiter l'IA pour générer une quantité astronomique de contenu synthétique et le modifier légèrement afin de contourner les mécanismes de détection existants. Cependant, l'analyse manuelle de ce contenu peut aider à identifier les liens, les comportements, les schémas et même l'infrastructure communs à ces réseaux. Le principal problème est que l'analyse manuelle n'est pas suffisamment évolutive pour suivre le rythme du spam généré par l'IA. L'article souligne que les flux de travail d'analyse forensique manuels existants reposent principalement sur l'identification de schémas et l'analyse des métadonnées, ce qui s'avère inefficace à cette échelle. SAFE est la solution de Google à ce problème croissant ; cette plateforme utilise des méthodes automatisées pour effectuer ces analyses.
Les trois fondements de SAFE
La section « Contexte » de l'article décrit les trois piliers qui constituent le système.
-
- Détection des comportements inorganiques. SAFE vise à détecter les comportements coordonnés qui diffèrent sensiblement des habitudes des utilisateurs. L'outil analyse également le calendrier, notamment les pics d'activité, l'infrastructure, les publications et d'autres facteurs communs, y compris les signaux de faux comptes. L'article cite les réseaux de zombies et les campagnes malveillantes coordonnées comme un facteur motivant ce type d'analyse.
- Automatisation des analyses forensiques avec plusieurs agents. SAFE divise l'enquête en tâches distinctes et confie chacune à un agent d'IA spécialisé. Un agent racine gère les autres et prend la décision finale.
- Comprendre le contenu grâce aux modèles de transformateurs. SAFE utilise des modèles de langage basés sur des transformeurs pour comprendre le contexte et la signification du contenu, y compris les informations multimodales. L'article montre que les violations de l'esprit des politiques sont principalement détectées par un modèle de langage étendu, entraîné sur un petit ensemble d'exemples. Ceci permet au modèle d'identifier les contenus qui enfreignent l'esprit d'une politique sans être couverts par des violations connues spécifiques, ainsi que les contenus qui échappent aux approches de classification et de détection classiques.
- Voici les quatre agents. Cet article présente quatre agents au sein de SAFE. L'agent racine, ou orchestrateur, coordonne l'enquête, attribue des tâches aux agents spécialisés, évalue leurs résultats et synthétise le verdict final.
L'agent de compréhension du contenu est essentiel à la détection des abus d'artefacts synthétiques. Il utilise des modèles de langage pour détecter les types de signaux connus d'abus d'IA, ainsi que les nouvelles méthodes de contournement des classificateurs actuels et les contenus enfreignant les politiques de sécurité.
L'agent de compréhension comportementale est chargé de détecter les schémas comportementaux non organiques. Il analyse les comportements qui présentent des niveaux d'organisation supérieurs à la coordination humaine naturelle et évalue les infrastructures et les schémas temporels sur différents canaux, notamment la publication en rafale et d'autres méthodes spécifiques à chaque canal.
L'agent de compréhension des clusters de canaux utilise l'identification des relations par graphes pour détecter les connexions au sein des réseaux de spam. Il examine l'affiliation d'un producteur de contenu à un ensemble de nœuds constituant un réseau étendu de producteurs et de coordinateurs, permettant ainsi à SAFE d'agir contre le cluster dans son ensemble plutôt que contre chaque canal individuellement.
Ce que Google n'a pas partagé
L'article se montre exceptionnellement prudent pour un travail de recherche, se contentant d'indiquer que le système a été testé sans publier les résultats. De ce fait, il confirme seulement que le système est opérationnel, signalant que les premiers résultats montrent que SAFE accélère l'identification des nouvelles menaces synthétiques par rapport aux systèmes nécessitant une intervention humaine.
Dans l'article analysé par Search Engine Journal, Google n'indique pas si le système SAFE s'applique aux résultats de recherche web. L'article étant centré sur les abus liés à la vidéo et aux chaînes, il est difficile de déterminer si le système couvre d'autres aspects.
Cohérence avec la mise à jour anti-spam de septembre
Google a annoncé le déploiement de sa mise à jour anti-spam de septembre 2026 le 24 septembre à 9h15 PDT, selon le tableau de bord d'état de la recherche. Cette mise à jour, d'envergure mondiale, s'applique à toutes les langues et Google estime que son déploiement pourrait durer deux semaines.
Il s'agit de la quatrième mise à jour anti-spam confirmée de 2026, après celles de mars, juin et août, qui ont duré respectivement 19 heures et 30 minutes, 2 jours et 1 heure, et 2 jours et 16 heures. Pour chacune de ces mises à jour, Google a prévu un délai de déploiement de quelques jours. Google n'a pas précisé si la mise à jour de septembre cible une politique ou une tactique anti-spam particulière.
Ce que les propriétaires de sites peuvent vérifier
Google déploie des mises à jour anti-spam lors d'améliorations importantes de ses outils d'automatisation pour identifier les spams. Si un site constate des variations de son classement ou de son trafic, il peut comparer les dates affichées dans Search Console avec la période de mise à jour.
Google recommande aux sites concernés de consulter son règlement anti-spam. Les sites non conformes risquent d'être moins bien classés, voire de ne plus apparaître dans les résultats de recherche. Google précise que son système automatisé peut mettre plusieurs mois à vérifier la conformité d'un site avant qu'il ne soit amélioré.
Identifiez les structures liées aux réseaux de canaux évoqués, telles que des profils de fonctionnalités identiques, la publication croisée, la publication synchronisée et la publication de la quasi-totalité de votre contenu en quelques jours.
Apports de cet article au débat sur le contenu de l'IA
Certains acteurs du référencement affirment que Google détecte le spam en déterminant si le contenu a été généré par une IA. Montti souligne que l'étude suggère en réalité que Google va bien au-delà : SAFE utilise l'analyse de contenu, l'analyse comportementale, la cartographie de l'infrastructure et l'analyse des relations entre les producteurs, à l'instar d'une équipe d'experts en cybercriminalité.
FAQ
Q1 : Qu'est-ce que Google SAFE ?
SAFE (Scaled Abuse Forensics Examiner) est un système d'IA, décrit dans un article de recherche de Google, capable d'identifier les spams et les abus d'IA d'une manière similaire à une vérification manuelle humaine.
Q2 : Google a-t-il mis en œuvre SAFE ?
Selon l'article de recherche, Google a déployé SAFE, affichant des « premiers résultats » dans l'identification accélérée des nouvelles menaces synthétiques, bien qu'il ne fournisse aucune donnée de test.
Q3 : Le système SAFE détecte-t-il uniquement les vidéos générées par l'IA ?
Bien que l'article de recherche montre une tendance à l'utilisation abusive des vidéos et des chaînes, il ne confirme pas que SAFE ne détecte que le contenu vidéo de l'IA, affirmant effectuer une analyse d'embeddings sémantiques multimodaux.
Q 4 : Qu’est-ce qu’une violation de l’esprit de la politique ?
L'expression « violation de l'esprit d'une politique » désigne un contenu qui, bien que non explicitement identifié comme une violation, contrevient à l'esprit ou à l'intention d'une politique ou d'une directive de la plateforme. Selon l'article de recherche, SAFE utilise un modèle de langage affiné sur un ensemble d'exemples pour identifier ces violations.
Q 5 : Combien d'agents d'IA SAFE utilise-t-il ?
Cet article de recherche décrit quatre agents d'IA : l'agent racine, l'agent de compréhension du contenu, l'agent de compréhension du comportement et l'agent de compréhension du regroupement des canaux. Le premier coordonne l'activité des autres agents et produit le résultat final.
Q 6 : Qu’utilisait Google auparavant pour détecter le spam lié à l’IA ?
Le précédent système de Google pour la détection des abus de spam par IA était connu sous le nom de S-CTS (Scalable Cluster Termination System). Selon le rapport, SAFE est le deuxième système de ce type à être déployé début 2026.
Q 7 : SAFE fait-il partie de la mise à jour anti-spam de septembre 2026 ?
Google n'a pas officiellement confirmé que SAFE fera partie de la mise à jour de son algorithme principal prévue pour septembre 2026. Cependant, Search Engine Journal a suggéré que ces systèmes pourraient être intégrés à cette mise à jour, ce qui ne constitue pas une confirmation officielle de Google.
Q 8 : Quand la mise à jour anti-spam de septembre 2026 a-t-elle été lancée ?
La mise à jour de septembre 2026 a été lancée le 24 septembre 2026 à 9h15 PDT. Selon Google, son déploiement pourrait durer jusqu'à deux semaines.
Q 9 : Que dois-je faire si mon trafic a été affecté par la mise à jour ?
Vous devriez comparer vos données de trafic dans Search Console avec les dates de mise à jour et les consignes de Google. D'après Google, les sites qui ne respectent pas ces consignes peuvent être déclassés ou supprimés des résultats de recherche.
Q 10 : Un site peut-il se remettre d’une mise à jour anti-spam ?
Selon Google, les sites modifiés peuvent se remettre de la mise à jour anti-spam si ses systèmes de lutte contre le spam constatent des améliorations sur plusieurs mois.
