Auditores externos detectan fallos en el sistema de control de OpenAI

OpenAI permitió que las organizaciones sin fines de lucro METR y Redwood Research realizaran un análisis piloto de su sistema interno de control. El ejercicio tuvo lugar entre el 21 de julio y el 11 de agosto con el objetivo de probar el acceso profundo de investigadores externos a la infraestructura de la empresa.

Durante el periodo de pruebas, los evaluadores identificaron vulnerabilidades inéditas en el entorno digital de la compañía. Uno de los fallos detectados permitía que agentes de inteligencia artificial impidieran el registro de cientos de acciones recientes. OpenAI afirmó que ya corrigió los problemas que afectaban sus salvaguardas de producción.

El proceso involucró el acceso a códigos internos y documentación técnica bajo supervisión rigurosa. Los investigadores utilizaron equipos proporcionados por la propia empresa que no podían ser retirados del lugar. Un informe detallado de 61 páginas fue entregado a la dirección de OpenAI para su análisis interno.

La iniciativa forma parte de un compromiso asumido por el director ejecutivo Sam Altman para ampliar la transparencia con auditores independientes. El movimiento acompaña una tendencia de mercado donde los gigantes tecnológicos buscan acuerdos voluntarios para auditorías externas. El gobierno de los Estados Unidos también manifestó su apoyo a este modelo de verificación independiente para el sector tecnológico.