Google veröffentlichte eine kurze Studie, die das neu entwickelte System zur großflächigen Filterung von KI-generiertem Spam beschreibt. Scaled Abuse Forensics Examiner (SAFE) scheint in der Lage zu sein, verdächtige Inhalte und die dazugehörigen Konten wie ein Mensch zu überprüfen.
Das nur dreiseitige Dokument verkündet, dass SAFE bereits im Einsatz ist. Das Search Engine Journal berichtete am 25. September 2026 darüber und merkte an, dass Google nur wenige Details zu den Systemtests preisgab. Hier eine Zusammenfassung der Aussagen und der verschwiegenen Informationen.
Was Google als SICHER bezeichnet
SAFE ist ein automatisiertes forensisches System. Im Gegensatz zu herkömmlichen Ansätzen, die auf einer geschlossenen Liste bekannter Verstöße basieren, simuliert es eine manuelle Untersuchung durch einen forensischen Analysten, um potenziellen Sicherheitslücken entgegenzuwirken. Der Artikel beschreibt einen Versuch, Inhalte zu erkennen, die gegen den Sinn und Zweck der Google-Richtlinien verstoßen, selbst wenn keine entsprechenden Einschränkungen existieren.
Die Studie trägt den Titel „The Synthetic Gap: Automated Forensic Investigation of AI Slop with the Scaled Abuse Forensics Examiner (SAFE)“. Google definiert die „synthetische Lücke“ als den Zeitraum zwischen dem Auftreten neuer generativer Angriffe und der Reaktion in Form einer Gegenmaßnahme. SAFE zielt darauf ab, dieses Intervall zu verkürzen.
Videofokus, aber nicht ausschließlich Video
Im Abstract und in mehreren Abschnitten des Artikels wird viel Wert auf Video gelegt. Beschrieben werden ein synthetisches Video und ein Kanalmissbrauchsdesign, wobei Begriffe wie synthetische Medien, adversarial synthetic media und multimodale Signale verwendet werden.
Obwohl die Studie nicht explizit behauptet, SAFE sei ausschließlich ein Videodetektor, zeigt sie doch, dass das Programm weitere Funktionen besitzt. So beschreiben die Forscher beispielsweise eine Pipeline zur Inhaltsanalyse mit multimodalen semantischen Einbettungen und erörtern generative Inhaltsartefakte im Allgemeinen. Roger Montti vom Search Engine Journal hebt hervor, dass dies ein wichtiges Detail ist, da ein Tool, das ausschließlich Videos erkennt, vermutlich auch so bezeichnet würde.
Das zweite System, das Google in diesem Jahr benannt hat
SAFE scheint das zweite System zu sein, das Google laut eigenen Angaben im Jahr 2026 zur Erkennung von KI-generiertem Spam entwickelt hat. Das erste System heißt Scalable Cluster Termination System (S-CTS). Montti ist überzeugt, dass Googles Forschung zu diesen Systemen zeigt, dass das Unternehmen KI-Spam ernsthaft beunruhigt und dass beide Systeme mit dem Spam-Update vom September in Verbindung stehen könnten. Diesen Zusammenhang hat er aufgrund seiner Informationen hergestellt; er wurde von Google nicht öffentlich bestätigt.
Warum die manuelle Überprüfung unzureichend ist
Anders als Menschen können missbräuchliche Netzwerke KI nutzen, um enorme Mengen synthetischer Inhalte zu generieren und diese leicht abzuwandeln, um bestehende Erkennungsmechanismen zu umgehen. Die manuelle Analyse solcher Inhalte kann jedoch helfen, Verbindungen, Verhaltensweisen, Muster und sogar die für diese Netzwerke typische Infrastruktur zu identifizieren. Das Hauptproblem besteht darin, dass die manuelle Analyse nicht skalierbar genug ist, um mit KI-generiertem Spam Schritt zu halten. Die Studie stellt fest, dass bestehende manuelle forensische Arbeitsabläufe größtenteils auf der Mustererkennung und Metadatenanalyse basieren, was in diesem Umfang nicht effektiv ist. SAFE ist Googles Lösung für dieses wachsende Problem und nutzt automatisierte Methoden für diese Analysen.
Drei Grundlagen hinter SAFE
Im Hintergrundteil des Artikels werden drei Säulen beschrieben, aus denen das System besteht.
-
- Erkennung anorganischen Verhaltens. SAFE konzentriert sich auf die Erkennung koordinierten Verhaltens, das sich deutlich von den Mustern typischer Nutzer unterscheidet. Es analysiert zudem den Zeitpunkt, einschließlich Aktivitätsspitzen, die Infrastruktur, das Posting-Verhalten und andere gängige Faktoren, darunter auch Signale für gefälschtes Nutzerverhalten. Die Studie nennt Botnetze und koordinierte Angriffskampagnen als Motivation für diese Art der Analyse.
- Automatisierung der Forensik mit mehreren Agenten. SAFE unterteilt die Ermittlungen in einzelne Aufgaben und übergibt jede Aufgabe einem spezialisierten KI-Agenten. Ein Hauptagent koordiniert die übrigen Aufgaben und trifft die endgültige Entscheidung.
- Inhalte mithilfe von Transformer-Modellen verstehen. SAFE verwendet Transformer-basierte Sprachmodelle, um Kontext und Bedeutung von Inhalten, einschließlich multimodaler Informationen, zu verstehen. Die Studie zeigt, dass Verstöße gegen den Sinn und Zweck von Richtlinien primär durch ein großes Sprachmodell erkannt werden, das mit einem kleinen Beispieldatensatz trainiert wurde. Dadurch kann das Modell Inhalte identifizieren, die gegen den Sinn und Zweck einer Richtlinie verstoßen, ohne dass diese durch bekannte Verstöße erfasst werden, sowie Inhalte, die herkömmlichen Klassifizierungs- und Erkennungsansätzen entgehen.
- Lernen Sie die vier Agenten kennen. In dem Artikel werden vier Agenten in SAFE vorgestellt. Der Root-Agent, auch Orchestrator genannt, koordiniert die Untersuchung, weist den spezialisierten Agenten Aufgaben zu, wertet deren Ergebnisse aus und fasst das endgültige Urteil zusammen.
Der Content Understanding Agent ist zentral für die Erkennung des Missbrauchs synthetischer Artefakte. Er verwendet sprachmodellbasierte Ansätze, um bekannte Signalarten von KI-Missbrauch sowie neuartige Methoden zur Umgehung aktueller Klassifikatoren und richtlinienverletzender Inhalte zu erkennen.
Der Verhaltenserkennungsagent ist für die Erkennung anorganischer Verhaltensmuster zuständig. Er untersucht Verhaltensweisen, die ein Maß an Organisation aufweisen, das über die natürliche menschliche Koordination hinausgeht, und bewertet Infrastruktur- und Zeitmuster über verschiedene Kanäle hinweg, einschließlich Burst-Publishing und anderer kanalspezifischer Methoden.
Der Channel Cluster Understanding Agent nutzt graphenbasierte Beziehungsanalyse, um Verbindungen innerhalb von Spam-Netzwerken aufzudecken. Er untersucht die Zugehörigkeit eines Content-Produzenten zu einer Gruppe von Knoten, die ein erweitertes Netzwerk von Produzenten und Koordinatoren bilden. Dadurch kann SAFE gegen den gesamten Cluster vorgehen, anstatt einzelne Kanäle einzeln zu bekämpfen.
Was Google nicht mitgeteilt hat
Die Studie ist für eine Forschungsarbeit ungewöhnlich vorsichtig, da sie lediglich die Systemtests erwähnt, die Ergebnisse aber nicht veröffentlicht. Somit gibt die Studie nur an, dass das System im Einsatz ist, und berichtet, dass erste Betriebsergebnisse zeigen, dass SAFE die Identifizierung neuartiger synthetischer Bedrohungen im Vergleich zu Systemen mit menschlicher Interaktion beschleunigt.
Google gibt in dem vom Search Engine Journal behandelten Material nicht an, ob SAFE auch bei Web-Suchergebnissen zum Einsatz kommt. Da sich der Artikel auf Video- und Kanalmissbrauch konzentriert, ist unklar, ob das System über diese Funktionen hinausgeht.
Timing im Zusammenhang mit dem Spam-Update vom September
Google hat laut dem Suchstatus-Dashboard am 24. September um 9:15 Uhr PDT mit der Verteilung seines Spam-Updates vom September 2026 begonnen. Das Update ist weltweit und in allen Sprachen verfügbar, da es global ausgerichtet ist. Google schätzt, dass die Verteilung etwa zwei Wochen dauern wird.
Dies ist das vierte bestätigte Spam-Update im Jahr 2026, nach Updates im März, Juni und August, deren Installation 19 Stunden und 30 Minuten, 2 Tage und 1 Stunde bzw. 2 Tage und 16 Stunden dauerte. Für jedes dieser Updates plante Google einen mehrtägigen Rollout ein. Google hat nicht bekannt gegeben, ob das September-Update eine bestimmte Spam-Richtlinie oder -Taktik betrifft.
Was Website-Betreiber überprüfen können
Google veröffentlicht Spam-Updates für wichtige Aktualisierungen der Automatisierungstools zur Spam-Erkennung. Wenn eine Website Änderungen im Ranking oder Traffic feststellt, kann sie die Daten in der Search Console mit dem Update-Zeitraum vergleichen.
Google empfiehlt betroffenen Websites, die Spam-Richtlinien zu überprüfen. Websites, die diese Richtlinien nicht einhalten, können in den Suchergebnissen schlechter platziert werden oder gar nicht mehr angezeigt werden. Laut Google kann es mehrere Monate dauern, bis das automatisierte System die Einhaltung der Richtlinien erkennt und eine Verbesserung der Website erzielt wird.
Identifizieren Sie die Strukturen, die mit den besprochenen Kanalnetzwerken verbunden sind, wie z. B. identische Feature-Profile, Cross-Publishing, synchronisiertes Posting und die Veröffentlichung fast aller Ihrer Inhalte innerhalb weniger Tage.
Was das Papier zur Debatte um KI-Inhalte beiträgt
Einige SEO-Experten behaupten, Google erkenne Spam, indem es feststellt, ob Inhalte von einer KI generiert wurden. Montti weist jedoch darauf hin, dass die Studie nahelegt, dass Google weit mehr tut: SAFE nutzt Inhaltsanalyse, Verhaltensanalyse, Infrastrukturkartierung und die Analyse von Beziehungen zwischen Produzenten – genau wie ein forensisches Team.
Häufig gestellte Fragen
Frage 1: Was ist Google SAFE?
SAFE (Scaled Abuse Forensics Examiner) ist ein KI-System, das in einer Google-Forschungsarbeit beschrieben wird und KI-Spam und -Missbrauch ähnlich wie eine manuelle Überprüfung durch einen Menschen erkennen kann.
Frage 2: Hat Google SAFE implementiert?
Laut dem Forschungsbericht hat Google SAFE eingesetzt und zeigt „erste Ergebnisse“ bei der beschleunigten Identifizierung neuer synthetischer Bedrohungen, obwohl keine Testdaten vorliegen.
Frage 3: Erkennt SAFE nur KI-generierte Videos?
Während die Forschungsarbeit eine Tendenz zum Missbrauch von Videos und Kanälen aufzeigt, bestätigt sie nicht, dass SAFE ausschließlich KI-Videoinhalte erkennt, sondern behauptet, eine multimodale semantische Einbettungsanalyse durchzuführen.
Frage 4: Was versteht man unter dem Geist eines Richtlinienverstoßes?
Der Begriff „Richtlinienverstoß“ bezieht sich auf Inhalte, die zwar nicht explizit als Richtlinienverstoß gekennzeichnet sind, aber dennoch dem Sinn und Zweck einer Richtlinie oder Plattformvorgabe widersprechen. Laut der Studie verwendet SAFE ein anhand von Beispielen feinabgestimmtes Sprachmodell, um solche Verstöße zu identifizieren.
Frage 5: Wie viele KI-Agenten verwendet SAFE?
Die Forschungsarbeit beschreibt vier KI-Agenten: den Wurzelagenten, den Inhaltsverständnisagenten, den Verhaltensverständnisagenten und den Kanalcluster-Verständnisagenten. Der Wurzelagent koordiniert die Aktivitäten der anderen Agenten und erzeugt das Endergebnis.
Frage 6: Womit hat Google zuvor KI-Spam erkannt?
Googles vorheriges System zur Erkennung von KI-Spam-Missbrauch war als Scalable Cluster Termination System (S-CTS) bekannt. Laut Bericht ist SAFE das zweite System dieser Art, das Anfang 2026 eingeführt werden soll.
Frage 7: Ist SAFE Teil des Spam-Updates vom September 2026?
Google hat noch nicht offiziell bestätigt, dass SAFE Teil des Kernalgorithmus-Updates vom September 2026 sein wird. Das Search Engine Journal deutete jedoch an, dass diese Systeme in das Update integriert werden könnten, was aber keine offizielle Bestätigung von Google darstellt.
Frage 8: Wann wurde das Spam-Update vom September 2026 veröffentlicht?
Das Update vom September 2026 wurde am 24. September 2026 um 9:15 Uhr PDT veröffentlicht. Laut Google kann die Verteilung dieses Updates bis zu zwei Wochen dauern.
Frage 9: Was soll ich tun, wenn mein Datenverkehr durch das Update beeinträchtigt wurde?
Sie sollten Ihre Traffic-Daten in der Search Console mit dem Datum des Updates und den Google-Richtlinien vergleichen. Laut Google können Websites, die gegen die Richtlinien verstoßen, in den Suchergebnissen herabgestuft oder ganz entfernt werden.
Frage 10: Kann sich eine Website von einem Spam-Update erholen?
Laut Google können sich modifizierte Websites von dem Spam-Update erholen, wenn die Spam-Bekämpfungssysteme über mehrere Monate hinweg Verbesserungen feststellen.
