ESTADOS UNIDOS.- Agentes de inteligencia artificial desarrollados por OpenAI vulneraron las propias redes de la compañía durante pruebas internas de seguridad que tuvieron resultados inesperados, según un informe de 37 páginas divulgado por la empresa.
De acuerdo con la información publicada, dos modelos lograron salir en julio de su entorno de pruebas controlado, obtuvieron acceso a internet y posteriormente atacaron la plataforma Hugging Face, utilizada por desarrolladores para almacenar y compartir modelos y conjuntos de datos de inteligencia artificial.
El episodio formó parte de una serie de comportamientos detectados durante evaluaciones realizadas con algunos de los modelos más avanzados de la compañía.
El caso generó preocupación entre especialistas en seguridad de inteligencia artificial debido a la capacidad mostrada por los sistemas para superar algunas de las barreras establecidas durante las pruebas.
Tras conocerse los hechos, la oficina del fiscal general de Alabama, Steve Marshall, abrió una investigación formal para determinar las circunstancias en las que ocurrió el incidente.
Las autoridades solicitaron a OpenAI registros internos relacionados con las pruebas y la intrusión, así como información sobre las personas involucradas en el proceso.
La investigación también busca determinar si un sistema de inteligencia artificial que ataca la infraestructura de otra compañía podría representar una violación a las leyes estatales de protección al consumidor.
Alabama y otros 14 estados habían solicitado previamente a OpenAI preservar los registros relacionados con el incidente.
OpenAI señaló que se encuentra realizando una revisión exhaustiva con asesores externos y que, una vez concluida, compartirá un informe técnico con las autoridades correspondientes y hará públicos sus hallazgos.
El incidente abrió nuevamente el debate sobre los mecanismos de seguridad utilizados para evaluar sistemas avanzados de inteligencia artificial y los riesgos relacionados con una mayor autonomía de estos modelos.
