Google hat die Computernutzungsfunktion direkt in Gemini 3.5 Flash integriert. Diese Funktion war zuvor einem bestimmten Modell vorbehalten, ist nun aber in einem der beliebtesten KI-Tools verfügbar. Gemini kann jetzt den Bildschirm eines Nutzers analysieren, die Informationen auswerten und browser- und anwendungsübergreifend direkt Aktionen ausführen. Dies ist ein großer Fortschritt für die Fähigkeiten von KI-Systemen, birgt aber auch einige Sicherheitsrisiken, vor denen Google selbst warnt.
Von KI als reinem Textverarbeitungswerkzeug hin zu KI als Software-Operator – eine bedeutende Entwicklung im Hinblick auf die Interaktion von KI-Systemen mit der digitalen Welt. Da immer mehr Anwendungen diese Fähigkeit erlangen, warnen Sicherheitsforscher und Googles eigene Wissenschaftler davor, dass Angreifer bereits an Möglichkeiten arbeiten, sie auszunutzen.
Was Computernutzung tatsächlich bedeutet
Vor diesem Update nutzten Agenten API-Aufrufe zur Interaktion mit bestimmten Anwendungen und Diensten. Durch die Nutzung von Computern benötigen Agenten keine API-Aufrufe mehr und können mit Anwendungen interagieren, die auf einer grafischen Benutzeroberfläche basieren. Wenn ein Mensch mit einer bestimmten Anwendung interagieren kann, kann dies auch ein Agent mit dieser Fähigkeit.
Entwickler können nun Agenten erstellen, die komplexe Arbeitsabläufe ohne API-Integration der beteiligten Anwendungen ausführen. Ein Agent kann sich in ein Dashboard einloggen, die Daten von gestern abrufen, sie mit den Zahlen der Vorwoche vergleichen, die Ergebnisse in eine Tabelle übertragen und eine zusammenfassende E-Mail versenden.
Besonders nützlich ist dies, wenn ein Unternehmen Anwendungen ohne API-Integration nutzt. Manche Firmen setzen noch immer auf veraltete Software, die weder Automatisierung noch API-Verbindungen unterstützt. In solchen Fällen macht agentenbasierte KI die Software nutzbar.
Was das für SEO bedeutet
Im Bereich SEO eröffnet die Nutzung von KI-Systemen neue Möglichkeiten. Aktuell unterstützen viele SEO-Tools die Datenanalyse, zukünftig könnten jedoch Tools verfügbar sein, die den Zustand von Websites prüfen, diese mithilfe von Anwendungen crawlen, Daten analysieren, Probleme identifizieren und Websites optimieren.
Diese Art von Agenten beschleunigt den Optimierungsprozess erheblich, da alle Vorgänge automatisiert ablaufen. Darüber hinaus ist diese Funktionalität äußerst praktisch für Agenturen, die Dutzende von Kundenwebsites analysieren müssen, sowie für interne SEO-Experten, die Websites regelmäßig überwachen und Berichte erstellen müssen.
Diese SEO-Funktion hat noch einen subtileren Aspekt. Wenn ein SEO-Agent im Rahmen eines Workflows mit Websites interagiert, können einige seiner Aktionen von Google-Algorithmen als Aktionen echter Nutzer interpretiert werden. Das Problem liegt in der Interpretation dieser Interaktionssignale.
Googles eigene Sicherheitswarnung
Google weist in seiner Ankündigung auf die mit dieser Funktion verbundenen Risiken hin und verlinkt auf eine Seite mit Best Practices zu Sicherheitsfragen. Google erklärt, dass die Computernutzung „besondere Sicherheits- und Betriebsrisiken birgt, da ein im Auftrag eines Nutzers agierendes Modell auf nicht vertrauenswürdige Inhalte stoßen oder Fehler bei der Ausführung von Aktionen machen könnte“.
Der Ausdruck „nicht vertrauenswürdige Inhalte auf Bildschirmen“ verweist eindeutig auf eine Angriffsart – Prompt Injection. Das Prinzip dieses Angriffs ist recht einfach: Wenn der Agent mit Webseiten interagiert, führt er Aufgaben aus und empfängt Daten. Diese Daten können jedoch schädliche Anweisungen enthalten, die den Agenten zu zusätzlichen Aktionen zwingen.
Google nennt sieben bewährte Sicherheitspraktiken für die Computernutzung. Dazu gehören die Einbindung eines Benutzers bei sensiblen Aktivitäten, der Betrieb von Agenten in Sandbox-Umgebungen, die Bereinigung von Eingabeaufforderungen, um das Eindringen von Schadcode in das System zu verhindern, die Anwendung von Inhaltsrichtlinien zum Erkennen von Prompt-Injection-Angriffen oder Jailbreaking, die Verwendung von Zulassungs- und Sperrlisten zur Steuerung der Navigationsfunktionen des Agenten, die Protokollierung zu Prüfzwecken und die Sicherstellung einer sauberen und konsistenten Umgebung vor Beginn jeglicher Aufgabe.
Dies sind weit mehr als bloße technische Empfehlungen. Es handelt sich um Mindestanforderungen, um die Sicherheit agentenbasierter KI-Systeme in Umgebungen zu gewährleisten, in denen der Agent mit Inhalten von Drittanbietern arbeiten soll, die er nicht selbst erstellt hat und nicht vollständig überprüfen kann.
Hacker stellen bereits Fallen auf.
Die angesprochenen Risiken sind jedoch nicht rein theoretischer Natur. Ein leitender Wissenschaftler von Google DeepMind warnte vor bestehenden Fallen, die gezielt darauf abzielen, Menschen durch die Kompromittierung ihrer KI-Systeme Geld zu stehlen. Diese Warnungen erfolgten im Zusammenhang mit dem aktuellen Stand der Entwicklung von KI-Systemen und den damit verbundenen Anreizen für Hacker.
Kürzlich wurde in Kalifornien ein ähnlicher Fall bekannt, bei dem ein Cybersicherheitsexperte betrügerische Abbuchungen auf seiner Kreditkarte meldete, die von einem KI-Agenten namens Claude der Firma Anthropic vorgenommen wurden. Laut ABC7 News hatte der Nutzer eine Skills.md-Datei heruntergeladen, die offenbar versteckte Anweisungen enthielt, um den Agenten in eine Falle zu locken. Wie der Nutzer berichtete, wies die Datei Claude an, über die auf seinem Computer gespeicherte Wallet Geschenkgutscheine zu kaufen, und der Agent folgte dieser Anweisung.
Dies ist ein Prompt-Injection-Angriff, der gegen eine reale Person ausgeführt wurde. Claude folgte den Anweisungen, die von einer anderen Person in die Datei eingefügt worden waren. Diese Person handelte gegen die Interessen des Nutzers. Die auf dem Computer gespeicherten Zahlungsinformationen dienten als Mittel zum Zweck, und der Zugriff des Angreifers auf den Computer wurde zum Einfallstor.
Was das für Website-Betreiber bedeutet
Mit dem Aufstieg agentenbasierter KI und ihren zunehmenden Fähigkeiten werden Websites selbst zu einer der wichtigsten Angriffsflächen. Beim Surfen im Internet im Rahmen eines Arbeitsablaufs verarbeitet ein Agent die Inhalte jeder besuchten Webseite. Sollten in diesen Inhalten Anweisungen verborgen sein, kann ein Agent in eine Falle gelockt, manipuliert oder ausgenutzt werden.
Für Website-Betreiber entsteht dadurch eine zusätzliche Risikokategorie. Ihre Website kann nicht direkt, sondern durch Ausnutzung des Browsers des Besuchers kompromittiert werden. Versteckte Anweisungen im Seiteninhalt können den Browser anweisen, Aktionen zugunsten des Hackers auszuführen. Der Website-Betreiber bemerkt dies möglicherweise nicht, und der betroffene Nutzer erkennt den Schaden unter Umständen erst, nachdem er bereits entstanden ist.
Dies stellt ein Problem dar, für dessen Lösung die meisten gängigen Website-Sicherheitstools nicht gerüstet sind. Bot-Kontrollen und Sicherheitsmaßnahmen wurden entwickelt, um die Website vor den Besuchern zu schützen, nicht umgekehrt. Das Bedrohungsmodell muss erweitert werden, und das wird Zeit brauchen.
Eine Fähigkeit mit realen Konsequenzen
Die Nutzung von Computern in Gemini 3.5 Flash stellt eine legitime Funktionserweiterung dar und bietet echte Möglichkeiten zur Automatisierung vieler Aufgaben. Das Automatisierungs- und Produktivitätspotenzial ist vorhanden, die Marktnachfrage ist da, und Entwickler sowie Unternehmen werden diese Funktion nutzen. Die Sicherheitsumgebung ist jedoch noch nicht auf das Niveau der Fähigkeiten agentenbasierter KI abgestimmt.
Googles Empfehlungen zur Sicherheit des Agenten sind erst der Anfang. Der Vorfall in Kalifornien zeigt, dass die Risiken nicht darauf warten, dass die Branche vorbereitet ist. Genau die Fähigkeiten, die es einem KI-Agenten ermöglichen, Arbeitsabläufe zu automatisieren, werden zu einer ausnutzbaren Schwachstelle. Angemessene Sicherheit ist daher unerlässlich.
Häufig gestellte Fragen
Frage 1: Wozu dient die Computernutzung in Google Gemini 3.5 Flash?
Diese Funktion ermöglicht es Gemini, mit grafischen Benutzeroberflächen zu interagieren, darunter Webbrowser, Desktop-Anwendungen usw. Es ist nicht erforderlich, mit einer API zu arbeiten; der Agent kann die Benutzeroberfläche navigieren und Aktionen ausführen, genau wie ein Mensch.
Frage 2: Was können KI-Agenten mit Computerkenntnissen tatsächlich leisten?
Sie können beliebige mehrstufige Arbeitsabläufe in einer Vielzahl von Anwendungen automatisieren. Der Agent kann sich im Dashboard anmelden, die benötigten Daten extrahieren, vergleichen, in die Tabelle einfügen und eine zusammenfassende E-Mail versenden – alles automatisch und ohne Integration der beteiligten Tools.
Frage 3: Was versteht man unter einer sofortigen Injektion und warum ist sie hier wichtig?
Es handelt sich um einen Angriff, bei dem Schadcode in Inhalte eingeschleust wird, die ein KI-Agent im Rahmen seiner Aufgaben liest. Stößt der Agent beim Surfen auf einer Website oder der Verarbeitung einer Datei auf solche Anweisungen, führt er diese unbemerkt vom Benutzer aus.
Frage 4: Wurde bereits jemand durch einen KI-Agentenangriff geschädigt?
Ja. Ein Cybersicherheitsspezialist aus Kalifornien meldete betrügerische Kreditkartenabbuchungen im Zusammenhang mit einem Angriff durch den KI-Agenten Anthropic Claude, nachdem er eine Datei heruntergeladen hatte, die versteckte Anweisungen zum Kauf von Waren über seine auf dem Computer gespeicherte Wallet enthielt.
Frage 5: Welche Sicherheitsmaßnahmen empfiehlt Google für die Computernutzung?
Google empfiehlt sieben Sicherheitspraktiken, darunter die Einbindung eines Menschen bei allen sensiblen Aktionen, das Arbeiten in einer Sandbox-Umgebung, die Bereinigung von Eingabeaufforderungen, die Verwendung von Inhaltsrichtlinien, Zulassungslisten und Sperrlisten, die Protokollierung zu Prüfungszwecken und die Aufrechterhaltung einer einheitlichen Umgebung für die Aufgaben jedes Agenten.
Frage 6: Welche Auswirkungen hat dies auf Website-Betreiber?
Ihre Websites können zu einer Angriffsfläche für KI-Agenten werden. Im Website-Inhalt versteckte Anweisungen zur schnellen Einschleusung können den Agenten manipulieren oder ausnutzen, ohne dass der Website-Betreiber davon Kenntnis erhält.
Frage 7: Was bedeutet das für SEO-Experten?
KI-Agenten können selbstständigere Aufgaben wie Standortprüfungen, Datenabruf und Workflow-Optimierung übernehmen. Sie werden außerdem zu Interaktionsquellen, die menschliches Verhalten imitieren.
Frage 8: Ist agentenbasierte KI derzeit sicher im Einsatz?
Bei Einhaltung der richtigen Vorsichtsmaßnahmen kann es sicher verwendet werden, doch die Sicherheitslage befindet sich noch im Aufbau. Googles eigene Sicherheitsdokumentation bestätigt die Risiken, und Vorfälle in der Praxis zeigen, dass diese Risiken real und nicht nur hypothetisch sind.




