Google confirmo que un modelo de Gemini accedio a sistemas protegidos de tres empresas reales durante una prueba de ciberseguridad realizada en mayo de 2026. El incidente se hizo publico el 18 de septiembre. No hay evidencia publicada de robo de datos o de danos posteriores, y las empresas afectadas no han sido identificadas.
La evaluacion estaba a cargo de Irregular, una firma externa. El modelo debia completar un ejercicio dentro de un entorno de prueba con una empresa ficticia. Segun los detalles comunicados a Axios, el escenario tenia una conexion a internet que no debia estar disponible y el nombre ficticio coincidia con el de una compania real. En un caso, el modelo adivino credenciales hasta entrar a un sistema protegido; en los otros dos encontro credenciales en un repositorio publico y las utilizo para acceder a sistemas externos.
La respuesta de Google y lo que falta saber
Heather Adkins, vicepresidenta de ingenieria de seguridad de Google, dijo a Axios que la empresa contacto a las entidades afectadas y trabajo con Irregular para cambiar el proceso de evaluacion. Un portavoz de Irregular dijo que los laboratorios pertinentes fueron notificados a finales de julio y que la firma corrigio los problemas conocidos de su lado. Google sostiene que el modelo detuvo la actividad cuando reconocio que habia llegado a empresas reales.
Ni Google ni Irregular han identificado publicamente a las companias, detallado el alcance de cualquier dato visto o publicado un informe tecnico completo de los tres incidentes. Por eso no corresponde afirmar que hubo filtracion, perjuicio economico ni que el asistente comercial usado por el publico ejecuta estas acciones de forma ordinaria. TechCrunch tambien recopilo las confirmaciones de las empresas.
El caso importa para quienes desarrollan o contratan herramientas de IA capaces de actuar sobre sistemas externos: incluso una evaluacion de seguridad puede generar riesgo real cuando los limites de red y las autorizaciones no quedan bien definidos. La pregunta de fondo no es solo que hizo el modelo, sino como se prueba una capacidad peligrosa sin exponer a terceros.
Fuentes: Axios, con declaraciones de Google e Irregular, 18 de septiembre de 2026; TechCrunch, 19 de septiembre de 2026.