Según un informe al que accedió el diario británico Financial Times, los sistemas de la compañía encabezada por Sam Altman utilizaron tácticas novedosas para “borrar los registros o hacerlos inaccesibles”
EFE.- Sistemas de inteligencia artificial (IA) de la empresa OpenAI extrajeron datos de 55 agencias gubernamentales, organismos públicos y empresas —principalmente estadounidenses— y trataron de ocultar su rastro.
Según un informe al que ha accedido el diario británico Financial Times, los modelos de OpenAI utilizaban tácticas novedosas para acceder a las páginas web, como “borrar los registros o hacerlos inaccesibles”, reduciendo la capacidad de los auditores externos de examinar sus acciones.
El documento, elaborado por la compañía de informática forense Asymmetric Security, señala que entre esas técnicas se incluyen la creación de buzones de correo electrónico temporales y cuentas privadas a través del servicio Urlquery (herramienta utilizada para escanear sitios web en busca de contenido malicioso), para descargar datos.
Los investigadores de Asymmetric indican que estas acciones ocultas de los agentes de inteligencia artificial impidieron a los auditores rastrear el tipo de datos que los bots de IA extraían.
Hay humanos detrás de los agentes de IA
En la lista de las 55 entidades estadounidenses a las que accedieron se encuentran, según el Financial Times, la Agencia Internacional de la Energía (IEA), los Centros para el Control y Prevención de Enfermedades (CDC), la Comisión de Bolsa y Valores y la Mayo Clinic, considerado uno de los mejores hospitales privados de Estados Unidos.
Pippa Thompson, cofundadora de Asymmetric Security, afirmó que este tipo de acciones, pese a ser ejecutadas por modelos de IA, suelen ser llevadas a cabo por hackers humanos: “Es posible que los agentes estuvieran utilizando deliberadamente estas herramientas para borrar sus huellas”.
¿Acciones intencionales o fallos?
Asymmetric Security no pudo determinar si las acciones fueron intencionadas o fruto de “un fallo provocado por las limitaciones impuestas en un ejercicio de prueba”, pero igualmente señala que los hallazgos refuerzan los temores en torno a la transparencia y la falta de supervisión de esta tecnología.
Los sistemas de OpenAI afrontan acusaciones de haber vulnerado los sistemas de varias organizaciones, incluido el sitio web del servicio de salud pública de Australia, donde habría accedido recientemente sin autorización a archivos públicos y privados.
La tecnológica estadounidense, liderada por Sam Altman, pidió disculpas al Gobierno australiano y reconoció que debería haber informado antes a las autoridades sobre lo que calificó como un “incidente cibernético” durante una sesión de entrenamiento interna.
About the Author
