Google ha integrado la capacidad de usar el ordenador directamente en Gemini 3.5 Flash, una función que antes solo estaba disponible en un modelo específico, pero que ahora está presente en una de las herramientas de IA más populares. Gemini puede ahora ver la pantalla del usuario, analizar la información que observa y realizar acciones directas en diferentes navegadores y aplicaciones. Se trata de un gran avance para las capacidades de los agentes de IA, pero también conlleva varios riesgos de seguridad sobre los que la propia Google advierte.
El paso de la IA como herramienta de texto a la IA como operadora de software representa un avance significativo en la interacción entre los agentes de IA y el mundo digital. A medida que más aplicaciones incorporan esta capacidad, investigadores de seguridad y científicos de Google advierten que actores maliciosos ya están trabajando en cómo explotarla.
Qué significa realmente usar una computadora
Antes de esta actualización, los agentes utilizaban llamadas a la API para interactuar con ciertas aplicaciones y servicios. El uso de computadoras permite que un agente no necesite realizar llamadas a la API y pueda interactuar con aplicaciones basadas en interfaces gráficas de usuario. Si una persona puede interactuar con una aplicación, un agente con esta capacidad también puede hacerlo.
Ahora, los desarrolladores pueden crear agentes que ejecutan flujos de trabajo complejos sin necesidad de integrar las API de las aplicaciones involucradas. Un agente puede acceder a un panel de control, consultar los datos del día anterior, compararlos con los de la semana pasada, transferir los resultados a una hoja de cálculo y enviar un correo electrónico con un resumen.
Resulta especialmente útil cuando una empresa utiliza aplicaciones sin integración API. Algunas compañías aún utilizan software heredado que no admite automatización ni conexiones API. En estos casos, la IA automatizada hace que el software sea utilizable.
Qué significa para el SEO
En el ámbito del SEO, la IA con capacidad de procesamiento informático abre nuevas oportunidades. Actualmente, muchas herramientas de SEO ayudan a analizar datos, pero en el futuro podrían existir herramientas que auditen el estado del sitio web, realicen rastreos mediante alguna aplicación, analicen datos, detecten problemas y optimicen los sitios.
Este tipo de agentes acelera significativamente el proceso de optimización, ya que todo se puede automatizar. Además, esta funcionalidad resulta muy práctica para las agencias que necesitan analizar decenas de sitios web de clientes y para los profesionales de SEO internos que requieren monitorizar sitios web con regularidad y elaborar informes.
Existe también un aspecto más sutil de esta capacidad para el SEO. Si el agente de SEO interactúa con los sitios web como parte de su flujo de trabajo, algunas de sus acciones pueden ser percibidas por los algoritmos de Google como acciones de usuarios reales. El problema radica en la interpretación de las señales de interacción.
Advertencia de seguridad de Google
Google menciona los riesgos asociados con esta funcionalidad en su anuncio y enlaza a una página con las mejores prácticas sobre cuestiones de seguridad. Google afirma que el uso de ordenadores «presenta riesgos operativos y de seguridad únicos, ya que un modelo que actúa en nombre del usuario podría encontrar contenido no fiable en las pantallas o cometer errores al ejecutar acciones».
La frase «contenido no confiable en pantallas» hace referencia a un tipo de ataque: la inyección de comandos. La idea de este ataque es bastante simple. Cuando el agente interactúa con los sitios web, realiza tareas y obtiene datos, pero algunos de estos datos pueden incluir instrucciones maliciosas que obligan al agente a realizar acciones adicionales.
Google menciona siete buenas prácticas de seguridad relacionadas con el uso de computadoras. Estas incluyen mantener a una persona al tanto de cualquier actividad sensible, ejecutar agentes en entornos aislados, sanear las solicitudes para garantizar que no entre código malicioso al sistema, aplicar medidas de protección de contenido para detectar ataques de inyección de solicitudes o jailbreaking, usar listas de permitidos y bloqueados para controlar las capacidades de navegación del agente, registrar la actividad con fines de auditoría y asegurarse de que el entorno esté limpio y sea consistente antes de comenzar cualquier tarea.
Estas recomendaciones distan mucho de ser meras recomendaciones técnicas. Se trata de requisitos mínimos para garantizar la seguridad de los sistemas de IA con agentes en entornos donde el agente debe interactuar con contenido de terceros que no ha generado y que no puede verificar por completo.
Los hackers ya están tendiendo trampas.
Pero los riesgos de los que hablamos no son puramente teóricos. Un científico sénior de Google DeepMind ha advertido sobre las trampas existentes, diseñadas específicamente para robar dinero a los humanos mediante la manipulación de sus agentes de IA. Estas advertencias se hicieron en relación con el estado actual del desarrollo de la IA con agentes y la estructura de incentivos que esto crea para los hackers.
Recientemente, se ha dado un caso similar en California, donde un especialista en ciberseguridad denunció cargos fraudulentos en su tarjeta de crédito realizados por un agente de IA llamado Claude, proporcionado por Anthropic. Según ABC7 News, el usuario había descargado un archivo Skills.md que, al parecer, contenía instrucciones ocultas diseñadas para engañar al agente. Según explicó, el archivo le indicaba a Claude que comprara algunas tarjetas de regalo a través de la billetera almacenada en su computadora, y el agente siguió las instrucciones.
Se trata de un ataque de inyección directa, ejecutado contra una persona real. Claude siguió las instrucciones que alguien más había introducido en el archivo, actuando en contra de los intereses del usuario. La información de pago guardada en el ordenador se convirtió en el medio, y el acceso del agente al ordenador, en el vector.
Qué significa esto para los propietarios de sitios web
Con el auge de la IA con agentes y sus crecientes capacidades, los propios sitios web se están convirtiendo en una de las principales superficies de ataque. Al navegar por Internet como parte de un flujo de trabajo, un agente interactúa con el contenido de cualquier página web visitada. Si dicho contenido contiene instrucciones ocultas, el agente puede ser engañado, manipulado o explotado.
Para los propietarios de sitios web, esto supone un riesgo adicional. Su sitio puede verse comprometido no directamente, sino mediante la explotación del agente del visitante. Instrucciones ocultas incluidas en el contenido de la página pueden instruir al agente para que realice acciones que beneficien al hacker. Es posible que el propietario del sitio no se dé cuenta de lo que está sucediendo, y que el usuario cuyo agente se vio comprometido no lo perciba hasta que el daño ya esté hecho.
Esto se convierte en un problema que la mayoría de las herramientas de seguridad web actuales no están preparadas para resolver. Los controles de bots y las medidas de seguridad se desarrollan con el objetivo de proteger el sitio del visitante, no al revés. El modelo de amenazas debe ampliarse, y esto llevará tiempo.
Una capacidad con consecuencias reales
El uso de la computadora en Gemini 3.5 Flash se convierte en una expansión de capacidades legítima, brindando oportunidades reales para automatizar muchos tipos de tareas. El potencial de automatización y productividad está presente, la demanda del mercado existe y los desarrolladores y las empresas adoptarán esta función. Sin embargo, el entorno de seguridad aún no está a la altura de las capacidades de la IA con agentes.
Las recomendaciones de Google para proteger al agente son solo el comienzo. El incidente de California demuestra que los riesgos no esperan a que la industria esté preparada. Las mismas capacidades que permiten a un agente de IA automatizar el flujo de trabajo se convierten en una vulnerabilidad explotable. La seguridad adecuada no es una opción.
Preguntas frecuentes
P 1: ¿Qué uso de computadora se realiza en Google Gemini 3.5 Flash?
Se trata de una capacidad que permite a Gemini interactuar con interfaces gráficas de usuario, como navegadores web, aplicaciones de escritorio, etc. No es necesario trabajar con API; el agente puede navegar por la interfaz y realizar acciones del mismo modo que lo haría cualquier persona.
P 2: ¿Qué pueden hacer realmente los agentes de IA con capacidad de uso de ordenadores?
Pueden automatizar cualquier flujo de trabajo de varios pasos en diversas aplicaciones. El agente puede acceder al panel de control, extraer los datos necesarios, compararlos, introducirlos en la hoja de cálculo y enviar un correo electrónico de resumen, todo de forma automática y sin necesidad de integrar las herramientas implicadas.
P 3: ¿Qué es la inyección inmediata y por qué es importante en este caso?
Se trata de un ataque en el que se inyecta código malicioso en el contenido que un agente de IA lee como parte de su tarea. Cuando el agente encuentra dichas instrucciones al navegar por un sitio web o procesar un archivo, las ejecuta sin el conocimiento del usuario.
P 4: ¿Alguien ha resultado perjudicado ya por un ataque de un agente de IA?
Sí. Un especialista en ciberseguridad de California denunció cargos fraudulentos en tarjetas de crédito relacionados con un ataque realizado mediante el agente de IA Anthropic Claude tras descargar un archivo con instrucciones ocultas para comprar algo a través de su billetera digital almacenada en el ordenador.
P 5: ¿Qué prácticas de seguridad recomienda Google para el uso de ordenadores?
Google recomienda siete prácticas de seguridad, entre las que se incluyen la intervención humana en cualquier acción delicada, trabajar en un entorno aislado, desinfectar las indicaciones, utilizar medidas de protección de contenido, listas de permitidos y listas de bloqueados, registrar la actividad para su auditoría y mantener un entorno coherente para las tareas de cada agente.
P 6: ¿Cómo afecta esto a los propietarios de sitios web?
Sus sitios web pueden convertirse en una superficie de ataque para atrapar agentes de IA. Las instrucciones para la inyección directa, ocultas en el contenido del sitio web, pueden manipular o explotar al agente sin siquiera informar al propietario del sitio.
P 7: ¿Qué significa esto para los profesionales del SEO?
Los agentes de IA pueden realizar tareas más independientes, como auditorías de sitios web, extracción de datos y optimización de flujos de trabajo. Además, se convierten en fuentes de interacción que imitan el comportamiento humano.
P 8: ¿Es seguro usar IA con agentes en este momento?
Puede utilizarse de forma segura con las precauciones adecuadas, pero el entorno de seguridad aún está en desarrollo. La propia documentación de seguridad de Google reconoce los riesgos, y los incidentes reales demuestran que estos riesgos son reales y no hipotéticos.
