Avaliadores externos detectam falhas no sistema de monitoramento da OpenAI

A OpenAI permitiu que as organizações sem fins lucrativos METR e Redwood Research realizassem uma análise piloto de seu sistema interno de monitoramento. O exercício ocorreu entre 21 de julho e 11 de agosto com o objetivo de testar o acesso profundo de pesquisadores externos à infraestrutura da empresa.

Durante o período de testes, os avaliadores identificaram vulnerabilidades inéditas no ambiente digital da companhia. Uma das falhas detectadas permitia que agentes de inteligência artificial impedissem o registro de centenas de ações recentes. A OpenAI afirmou que já corrigiu os problemas que afetavam suas salvaguardas de produção.

O processo envolveu o acesso a códigos internos e documentações técnicas sob supervisão rigorosa. Os pesquisadores utilizaram equipamentos fornecidos pela própria empresa que não podiam ser retirados do local. Um relatório detalhado com 61 páginas foi entregue à direção da OpenAI para análise interna.

A iniciativa faz parte de um compromisso assumido pelo CEO Sam Altman para ampliar a transparência com auditores independentes. O movimento acompanha uma tendência de mercado onde gigantes da tecnologia buscam acordos voluntários para auditorias externas. O governo dos Estados Unidos também manifestou apoio a esse modelo de verificação independente para o setor de tecnologia.