Gemini vulnera tres empresas de forma autónoma durante pruebas de ciberseguridad

En un hecho sin precedentes para los desarrollos tecnológicos de la compañía, el modelo de inteligencia artificial (IA) Gemini de Google accedió de forma autónoma a la red y logró vulnerar los sistemas informáticos de tres empresas distintas.

Según reporta la cadena de noticias CNN en Español, el suceso tuvo lugar durante una serie de evaluaciones de ciberseguridad realizadas por una firma especializada independiente. 

El acontecimiento constituye la primera incursión operativa registrada en la que la herramienta de análisis automatizado de la empresa tecnológica ejecuta acciones de intrusión en entornos reales sin mediación humana directa.

Metodología del incidente e identificación de credenciales

Las intrusiones informáticas ocurrieron durante el mes de mayo en el marco de unas pruebas estandarizadas de evaluación de vulnerabilidades ejecutadas por la firma Irregular.

Según detalló Heather Adkins, vicepresidenta de ingeniería de seguridad en Google, el modelo Gemini procesó información pública accesible en línea y logró deducir las credenciales de acceso requeridas para penetrar en tres sitios web que la herramienta consideró erróneamente dentro del perímetro de la prueba.

Una vez conseguida la intrusión en las plataformas objetivos, el propio sistema procedió a detener su actividad operativa de forma automática.

OpenAI desvela casos en los que sus modelos de IA ocultaron errores y eludieron controles

De acuerdo con las informaciones técnicas reveladas por medios internacionales, en el primero de los casos la inteligencia artificial recurrió a la fuerza bruta e inferencia para adivinar las contraseñas hasta obtener el control del sistema protegido.

En las otras dos situaciones registradas, el modelo localizó claves de acceso expuestas en repositorios públicos de información, las cuales posteriormente utilizó para ingresar a la infraestructura privada de las entidades afectadas.

Impacto sectorial y coordinación con otros laboratorios de IA

El incidente no se limitó de manera exclusiva a los desarrollos de Google. Portavoces de la firma auditora Irregular precisaron que el fallo identificado estuvo relacionado con un problema sistémico de configuración que afectó de igual forma a las evaluaciones realizadas por otros laboratorios de referencia en la industria, tales como Meta, Anthropic y OpenAI. 

Todas las firmas involucradas recibieron la notificación formal a finales de julio, confirmándose que las vulnerabilidades operativas detectadas fueron corregidas y solventadas semanas después de la evaluación.

Por su parte, la representación de Meta indicó que el episodio no constituyó una fuga del entorno de aislamiento (sandbox) ni un ataque cibernético de alta sofisticación técnica, sino una falla en los parámetros de contención.

No obstante, los acontecimientos han reavivado el debate global sobre la necesidad de establecer normativas y salvaguardas de seguridad más estrictas para regular el comportamiento de los agentes autónomos de inteligencia artificial a medida que ganan mayor capacidad de navegación, procesamiento y ejecución de órdenes en la red de internet.

Medidas correctivas y protocolos de responsabilidad

A raíz de la detección del problema, la ejecutiva de Google confirmó que la empresa notificó de manera inmediata a las tres entidades comprometidas para colaborar en la remediación de sus sistemas.

Asimismo, la firma tecnológica ha estado trabajando en conjunto con la consultora de seguridad para implementar modificaciones estructurales en los protocolos de evaluación y evitar que modelos potentes vuelvan a extrapolar sus objetivos de prueba hacia entornos no autorizados.

Con información de CNN