Im Kampf gegen KI-generierten Spam hat TikTok angekündigt, neue Methoden zur Erkennung dieser Art von Missbrauch zu testen, die sich speziell gegen Nutzer richten, die irreführende Inhalte zu politischen, finanziellen und medizinischen Themen veröffentlichen.
Das Unternehmen veröffentlichte die Neuigkeit in seinem Newsblog und erklärte, dieser Schritt sei Teil einer umfassenden Kampagne, um Nutzern zu verdeutlichen, was KI-generierte Inhalte auf der Plattform ausmacht. Die Tests sollen in Kürze starten, ein genaues Datum wurde jedoch noch nicht bekannt gegeben.
Der für diese Initiative gewählte Zeitpunkt ist besonders wichtig, da er die Phase markiert, in der die Menge an KI-generierten Inhalten auf Social-Media-Plattformen dramatisch zugenommen hat. Diese Entwicklung erschwert es normalen Nutzern zunehmend, zu unterscheiden, ob ein Inhalt von Menschen oder Maschinen erstellt wurde.
Warum diese drei Themen
In ihrer Pressemitteilung wies TikTok ausdrücklich auf politische Berichterstattung, aktuelle Ereignisse, Finanzberatung und medizinische Inhalte als Bereiche hin, die auf KI-generierten Spam getestet werden. Diese Schwerpunktsetzung ist angesichts des potenziell schädlichen Charakters irreführender Informationen in diesen Bereichen nachvollziehbar.
Diese Auswahl deckt sich mit den Ergebnissen unabhängiger Forscher. Laut einem Kapwing-Bericht, über den auch das Search Engine Journal im Juni berichtete, gehören gesundheitsbezogene Inhalte zu den am häufigsten KI-generierten Beiträgen auf TikTok und übertreffen damit viele andere Kategorien, in denen die Creator selbst vor der Kamera zu sehen sind. Videos mit Anleitungen zu Krankheiten lassen sich mithilfe von KI-Algorithmen leicht erstellen und erfordern keine Beteiligung von tatsächlichen Creatorn, was die hohe Anzahl qualitativ minderwertiger, KI-generierter Beiträge in dieser Kategorie erklären könnte.
Finanzberatung birgt ähnliche Probleme: Irreführende Informationen zu Investitionen, Steuern oder persönlichen Finanzen können dem Publikum erheblichen Schaden zufügen, und KI-Tools ermöglichen die schnelle und kostengünstige Produktion großer Mengen an generisch wirkenden Inhalten in diesem Bereich. Auch politische Inhalte sind mit Risiken verbunden, insbesondere angesichts des Potenzials für Desinformationskampagnen und die Beeinflussung der öffentlichen Meinung, vor allem in Zeiten heikler Nachrichten.
Wie die Erkennungstests funktionieren
Die von TikTok bereitgestellte Beschreibung deutet darauf hin, dass die Tests auf Kontoebene durchgeführt werden und nicht die Suche nach einzelnen Videos beinhalten. Dies lässt vermuten, dass der Erkennungsprozess die Posting-Muster eines Kontos als Ganzes analysiert, anstatt einzelne Beiträge zu untersuchen.
Es ist außerdem wichtig zu erwähnen, dass das Update die bestehenden Bemühungen zur Bekämpfung von Spam fortsetzt. Laut TikTok wurden allein im ersten Quartal dieses Jahres bereits über 86 Millionen Spam-Konten entfernt, was verdeutlicht, wie weit verbreitet das Spam-Problem bereits vor der Veröffentlichung des Updates war.
Da die Pressemitteilung nur wenige Informationen darüber enthält, wie TikTok ein qualifiziertes Konto definiert und was mit einem solchen Konto nach der Identifizierung geschieht, ist die genaue Durchführung der Tests etwas unklar. Es wurden keine Angaben dazu gemacht, ob die identifizierten Konten vollständig von der Plattform entfernt, in ihrer Verbreitung eingeschränkt oder anderweitig bestraft werden.
Dieser Aspekt verdient besondere Aufmerksamkeit, da die Wirksamkeit des Updates maßgeblich davon abhängt, wie streng die Definition eines qualifizierenden Kontos letztendlich ausfällt. Bei einer zu weit gefassten Definition könnten viele seriöse Content-Ersteller aufgrund ihrer häufigen Beiträge zu Gesundheits- oder Finanzthemen in Schwierigkeiten geraten, während eine zu enge Definition dazu führen könnte, dass Spam-Konten übersehen werden.
Wie andere Plattformen reagiert haben
Das TikTok-Update ist nur eine von mehreren Maßnahmen, mit denen soziale Plattformen versuchen, der Flut KI-generierter Inhalte entgegenzuwirken. So kündigte YouTube beispielsweise 2021 Aktualisierungen seiner Monetarisierungsrichtlinien an, um gegen unauthentische Inhalte vorzugehen. Kurz darauf veröffentlichte Meta eigene Maßnahmen zur Entfernung von sich wiederholenden und unoriginellen Inhalten.
Auch Google hat sich mit dem Thema befasst. Im Juni veröffentlichte das Unternehmen eine Forschungsarbeit über das System zur Identifizierung und Entfernung von Gruppen von Konten, die KI-generierten Spam produzieren.
All diese Schritte deuten klar darauf hin, dass das Problem des KI-generierten Spams von den Plattformbetreibern als eines erkannt wurde, das eine kontinuierliche und aktive Moderation erfordert. Angesichts der zunehmenden Verfügbarkeit von Tools zur Inhaltsgenerierung scheinen die Plattformen in einem Wettlauf um die Entwicklung ihrer Erkennungsalgorithmen zu stehen.
TikTok tritt dem C2PA-Lenkungsausschuss bei
Zusammen mit dem Update zur Spam-Erkennung hat TikTok seine Teilnahme am Lenkungsausschuss der Coalition for Content Provenance and Authenticity (C2PA) bekannt gegeben. Die Koalition entwickelt den C2PA-Standard, der es ermöglicht, Ursprung und Bearbeitung digitaler Inhalte nachzuverfolgen.
Mit dem Beitritt zum Lenkungsausschuss hat TikTok sein Ziel bekräftigt, die Akzeptanz der Technologie über die Plattform selbst hinaus zu fördern.
Laut TikTok hat die Plattform über 3 Milliarden Videos mithilfe einer Kombination aus Content Credentials, Creator-Labels und der firmeneigenen unsichtbaren Wasserzeichentechnologie von TikTok als KI-generierte Inhalte gekennzeichnet.
Dieses Update spiegelt den jüngsten Trend zur Einführung standardisierter Inhaltsverifizierungssysteme wider, der sich bereits auf anderen Plattformen beobachten lässt. Im Mai kündigte Google die Ausweitung der SynthID-Verifizierung auf die Suche an, während die C2PA-Verifizierung in Kürze ebenfalls implementiert wird.
Diese Schritte deuten darauf hin, dass die Branche die Bedeutung einer breiten Nutzung von Systemen zur Inhaltsherkunftsnachverfolgung auf sozialen Netzwerken und Suchplattformen anerkennt. Die Teilnahme am Lenkungsausschuss anstelle der regulären Übernahme der Technologie könnte darauf hindeuten, dass TikTok an der Gestaltung der zukünftigen Entwicklung des C2PA-Standards interessiert ist.
Warum das für Kreative und Vermarkter wichtig ist
Diese Meldung ist besonders wichtig für Content-Ersteller in den drei von TikTok hervorgehobenen Kategorien Gesundheit, Finanzen und Politik. Diese Themen zählen zu den gefragtesten Marketingnischen für Nutzer, die ein engagiertes Publikum erreichen möchten, und sind daher für Spam-Erkennungstests von großem Interesse.
Das bedeutet, dass Ihr Konto genauer geprüft werden kann, wenn Sie Inhalte zu einem dieser Themen erstellen – selbst wenn alle Ihre Beiträge den Regeln entsprechen und originell und legitim sind. Der Grund dafür ist, dass die Prüfung auf Kontoebene erfolgt; daher kann die Art und Weise, wie Sie Ihre Inhalte veröffentlichen, in die Bewertung Ihres Profils einfließen.
Wenn Sie TikTok für Beiträge zu Politik, Gesundheitswesen oder Finanzberatung nutzen, sollten Sie die weitere Entwicklung der Testphase aufmerksam verfolgen. Falls die Testphase die Sichtbarkeit oder Reichweite Ihres Kontos beeinflusst, werden sich die Ergebnisse voraussichtlich auch auf Ihre Kampagnen auswirken.
Darüber hinaus sollten Marken, die mit TikTok-Creatorn aus den oben genannten Interessensgebieten zusammenarbeiten, ihre aktuellen Beziehungen zu diesen Creatorn analysieren, um sicherzustellen, dass sie originelle, korrekt zitierte Inhalte produzieren und sich nicht auf KI-Generierungstools verlassen.
Weiter denken
Es gibt noch einige offene Fragen. Das Unternehmen hat keine Informationen zu den Kriterien für die Einstufung eines Kontos als Spam oder zum weiteren Vorgehen nach der Erkennung eines Kontos im Rahmen solcher Tests bereitgestellt. Darüber hinaus gibt es außer der vagen Angabe „in den kommenden Wochen“ noch immer kein genaues Startdatum für den Prozess.
Was die Kennzeichnung von Inhalten angeht, so scheint TikTok im Zusammenhang mit den Neuigkeiten über das neue Komitee keine Änderungen an seinem Kennzeichnungssystem vorgenommen zu haben.
Häufig gestellte Fragen
Frage 1: Was testet TikTok, um KI-generierten Spam zu bekämpfen?
TikTok testet Verbesserungen an seinen Erkennungssystemen, die auf Konten abzielen, die KI-generierten Spam veröffentlichen, mit einem Schwerpunkt auf Politik, Finanzberatung und medizinischen Inhalten.
Frage 2: Warum hat TikTok diese drei Kategorien ausgewählt?
TikTok erklärte, dass es sich bei diesen Kategorien um Bereiche handele, in denen irreführende Inhalte das Vertrauen der Öffentlichkeit oder das persönliche Wohlbefinden beeinträchtigen könnten, und dass externe Untersuchungen ergeben hätten, dass Gesundheitsinhalte eine wichtige Quelle für KI-generierte Inhalte auf der Plattform seien.
Frage 3: Wann beginnen die neuen Erkennungstests von TikTok?
TikTok gab bekannt, dass die Tests in den kommenden Wochen beginnen werden, nannte aber kein genaues Startdatum.
Frage 4: Funktioniert die Erkennungsmethode von TikTok auf Kontoebene oder auf Videoebene?
TikTok erklärte, dass diese Tests auf Kontoebene durchgeführt werden, d. h. es wird das allgemeine Verhalten des Kontos betrachtet, anstatt nur einzelne Videos zu scannen.
Frage 5: Wie viele Fake-Accounts hat TikTok bereits entfernt?
TikTok gab an, in den ersten drei Monaten dieses Jahres mehr als 86 Millionen gefälschte Konten entfernt zu haben, unabhängig von diesem neuen Erkennungstest.
Frage 6: Was ist der C2PA und warum ist TikTok seinem Lenkungsausschuss beigetreten?
Die C2PA (Coalition for Content Provenance and Authenticity) entwickelt Standards zur Rückverfolgung der Herkunft digitaler Inhalte. TikTok ist dem Lenkungsausschuss beigetreten, um die breitere Akzeptanz dieser Technologie zu fördern.
Frage 7: Wie viele Videos hat TikTok als KI-generiert gekennzeichnet?
TikTok gab an, mehr als 3 Milliarden Videos mithilfe von Content Credentials, Creator-Labels und unsichtbaren Wasserzeichen als KI-generierte Inhalte gekennzeichnet zu haben.
Frage 8: Haben andere Plattformen ähnliche Schritte gegen KI-Spam unternommen?
Ja. Sowohl YouTube als auch Meta haben ihre Richtlinien zur Bekämpfung von unauthentischen oder sich wiederholenden Inhalten aktualisiert, und Google hat eine Studie zur Erkennung koordinierter KI-Spam-Netzwerke veröffentlicht.
Frage 9: Wer sollte sich aufgrund dieser neuen Testverfahren am meisten Sorgen machen?
Kreative und Marketingfachleute, die politische, finanzielle oder medizinische Inhalte auf TikTok produzieren, sollten genau hinschauen, denn genau diese Kategorien zielt TikTok ab.
Frage 10: Hat TikTok mitgeteilt, was mit Konten passiert, die während der Testphase markiert wurden?
Nein. TikTok hat nicht detailliert dargelegt, welche Maßnahmen ergriffen werden, sobald ein Konto gemeldet wird, und dies bleibt eine der offenen Fragen im Zusammenhang mit der Einführung.
