Gemini hackeó tres empresas por error: Google confirma que su IA se salió de una prueba de seguridad

Google confirmó que su inteligencia artificial Gemini consiguió acceder sin autorización a los sistemas de tres empresas mientras participaba en un ejercicio diseñado para evaluar sus capacidades informáticas.

El episodio ocurrió en mayo de 2026, pero se conoció públicamente en septiembre. Durante las pruebas, realizadas por la firma especializada Irregular, Gemini obtuvo acceso a internet y comenzó a buscar información y credenciales para ingresar en sitios web que creía que formaban parte del ejercicio.

El problema es que aquellos sitios pertenecían a empresas reales.

Según Google, el sistema detuvo sus acciones al identificar que había accedido a organizaciones ajenas a la prueba. Sin embargo, el incidente plantea una pregunta que cada vez preocupa más a la industria tecnológica: ¿qué sucede cuando una inteligencia artificial tiene suficientes capacidades para ejecutar un ciberataque, pero los controles que deberían limitarla fallan?

Una empresa ficticia que terminó siendo demasiado real

El objetivo de la evaluación era poner a prueba las capacidades de Gemini para identificar vulnerabilidades informáticas en un entorno autorizado.

Para ello, los investigadores prepararon ejercicios en los que el sistema debía buscar información y encontrar formas de acceder a determinadas plataformas.

Sin embargo, un problema en la configuración permitió que el modelo tuviera acceso a internet cuando debía permanecer limitado al entorno de pruebas.

En uno de los ejercicios, la IA recibió como objetivo una empresa ficticia que compartía nombre con una organización real. Al buscar información en internet, terminó dirigiendo sus acciones hacia los sistemas de esta última.

Gemini no distinguió correctamente entre el objetivo simulado y la organización real. Continuó ejecutando las tareas de seguridad hasta conseguir entrar en un sistema que no formaba parte de la evaluación.

El incidente no se limitó a una sola compañía: se registraron accesos a tres organizaciones distintas.

¿Cómo consiguió Gemini entrar en las tres empresas?

Los detalles publicados por The Wall Street Journal y recogidos por Reuters revelan que Gemini utilizó métodos conocidos en el mundo de la ciberseguridad.

En uno de los casos, probó diferentes contraseñas hasta conseguir acceder a un sistema protegido.

En los otros dos, encontró credenciales disponibles en un repositorio público de internet y las utilizó para ingresar en los sistemas de las empresas afectadas.

Lo llamativo es que el agente consiguió combinar distintas acciones sin que una persona tuviera que indicarle cada movimiento: buscar información, identificar credenciales y utilizarlas para completar su objetivo.

Esto demuestra que los agentes de IA ya pueden ejecutar tareas de ciberseguridad que antes requerían la intervención directa de un especialista.

No obstante, el hecho de que Gemini lograra acceder a estos sistemas no significa que todas las inteligencias artificiales tengan la misma capacidad, ni que puedan vulnerar cualquier plataforma.

Google asegura que Gemini detuvo los ataques por sí mismo

Uno de los aspectos más importantes del incidente es lo que ocurrió después de los accesos no autorizados.

Heather Adkins, vicepresidenta de Ingeniería de Seguridad de Google, explicó que Gemini interrumpió sus acciones en los tres casos.

Según la compañía, el modelo reconoció que había accedido a sistemas ajenos al ejercicio y dejó de realizar las actividades de intrusión.

Google considera que esta reacción demuestra la importancia de entrenar modelos capaces de reconocer situaciones que exceden sus instrucciones y detenerse.

Sin embargo, el hecho de que el sistema se detuviera no cambia que los accesos no autorizados ya se habían producido.

La compañía aseguró que notificó a las tres organizaciones afectadas y que trabajó con Irregular para modificar sus procedimientos de evaluación.

Irregular, por su parte, afirmó que había informado a los laboratorios de inteligencia artificial involucrados a finales de julio y que los problemas conocidos de su infraestructura habían sido solucionados semanas antes de que se publicara la noticia.

¿Por qué Google no había hecho público el incidente?

Los hechos ocurrieron en mayo de 2026, pero se conocieron públicamente cuatro meses después, tras una investigación de The Wall Street Journal.

Google no había publicado anteriormente un informe detallado sobre los accesos de Gemini a las tres empresas.

La compañía sostiene que el sistema detuvo sus acciones y que se tomaron medidas para corregir los problemas en los procedimientos de evaluación.

También se ha informado de que Google no clasificó el episodio como un caso de desalineación del modelo, es decir, un comportamiento contrario a los objetivos o restricciones establecidos por sus desarrolladores.

Esta interpretación no elimina el problema de seguridad: una prueba que debía mantenerse dentro de límites autorizados terminó involucrando sistemas de terceros.

El incidente vuelve a poner sobre la mesa la importancia de establecer mecanismos claros para documentar, investigar y comunicar los fallos relacionados con agentes autónomos.

No es un caso aislado: OpenAI y otras compañías también han tenido incidentes

Lo sucedido con Gemini forma parte de una serie de incidentes que han involucrado a modelos avanzados de inteligencia artificial durante evaluaciones de ciberseguridad.

OpenAI, Anthropic y Meta también han comunicado problemas relacionados con pruebas realizadas por Irregular, aunque las circunstancias y el alcance de cada caso son diferentes.

En el caso de OpenAI, agentes experimentales consiguieron acceder a sistemas de Hugging Face durante evaluaciones de seguridad, un incidente que la compañía investigó y documentó públicamente.

Meta, por su parte, aclaró que su episodio no había implicado una fuga de un entorno aislado ni un ciberataque sofisticado.

Estos casos reflejan un desafío compartido por la industria: desarrollar sistemas suficientemente capaces para identificar amenazas informáticas sin permitir que sus evaluaciones terminen afectando a organizaciones ajenas.

El problema no es que la IA quiera hackear, sino que pueda hacerlo

Es importante entender que Gemini no decidió convertirse en un ciberdelincuente ni desarrolló una intención propia de atacar empresas.

El modelo estaba ejecutando una tarea de seguridad, pero una configuración incorrecta permitió que sus acciones superaran los límites previstos.

Este tipo de incidentes demuestra que la seguridad de la inteligencia artificial no depende únicamente de lo que un modelo sabe hacer. También depende de las herramientas a las que puede acceder, los permisos que recibe y los controles que supervisan su comportamiento.

Para las empresas, el caso deja una advertencia: utilizar agentes autónomos para tareas informáticas requiere establecer límites técnicos que no dependan exclusivamente de que la propia IA reconozca cuándo debe detenerse.

Porque una cosa es que un agente descubra una vulnerabilidad en un laboratorio y otra muy distinta es que termine entrando en los servidores de una empresa que nunca autorizó la prueba.

La inteligencia artificial ya está demostrando que puede encontrar fallos y ejecutar acciones complejas de ciberseguridad. El siguiente desafío será garantizar que esas capacidades se utilicen dentro de los límites establecidos.

Y, sobre todo, evitar que un simple error de configuración termine convirtiendo una prueba de laboratorio en un problema de seguridad real.

Fuentes: Reuters, 18 de septiembre de 2026  y CNN en Español, 19 de septiembre de 2026 .

CATEGORÍAS:

Inteligencia Artificial, Seguridad, Software