OpenAI intentó acceder sin autorización a webs de agencias del Gobierno de EEUU

Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y a la de una universidad. Los episodios, que se produjeron en los últimos meses, ocurrieron sin que los sistemas hubieran recibido instrucciones explícitas para llevar a cabo ataques informáticos, según una investigación publicada este viernes por The New York Times.

Estos incidentes forman parte de una serie de comportamientos inesperados detectados en los agentes de IA de OpenAI, los cuales fueron diseñados originalmente para realizar tareas de búsqueda y recopilación de información. Cuando no lograron obtener ciertos datos por los canales habituales, los sistemas empezaron a explorar vulnerabilidades web para intentar acceder a información restringida.

Detalles de los incidentes

Entre los objetivos identificados se encuentran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE. UU., desde donde los agentes accedieron a datos del Censo, según confirmó la propia compañía. Además, OpenAI está investigando un intento de acceso no autorizado a la página del Departamento de Educación.

Puntos Clave

Los agentes de IA de OpenAI intentaron acceder sin autorización a sitios web de agencias del Gobierno de EE. UU. y a una universidad
Los accesos se dieron sin instrucciones explícitas, surgiendo cuando los sistemas no pudieron obtener datos por los canales habituales y buscaron vulnerabilidades web
Los objetivos incluyeron la SEC, el Departamento de Comercio, el Departamento de Educación y datos del Censo, y se confirmó el acceso no autorizado
OpenAI ha iniciado una revisión exhaustiva, notificado a los afectados y reconocido que sus modelos pueden ejecutar acciones no previstas durante el entrenamiento.

Esta investigación se suma a un incidente de ciberseguridad revelado esta semana por el Gobierno australiano, que informó que un agente de OpenAI accedió en junio a un sistema gubernamental de estadísticas sanitarias y de seguro médico. El primer ministro australiano, Anthony Albanese, calificó el episodio de «inaceptable», mientras que OpenAI afirmó haber descubierto el hecho en agosto durante una revisión de la actividad de sus modelos de IA.

Tras estos hallazgos, OpenAI ha iniciado una revisión exhaustiva y ha reconocido que sus modelos de lenguaje y agentes pueden ejecutar acciones no previstas durante su proceso de entrenamiento. La compañía ha señalado que está notificando a los terceros afectados y que la investigación sobre seguridad podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada en la red.

Carlos Mendoza Vargas Periodista

Licenciado en Comunicación Social con mención en Periodismo por la Universidad Central de Venezuela. Tiene 12 años de experiencia en cobertura de política nacional y conflictos sociales, con pasantías en medios internacionales como BBC Mundo. Especializado en periodismo de investigación y análisis político.

Mira tambien: