OpenAI contrata METR para auditoria de segurança em modelo de IA
Parceria foca em análise de registros internos e snapshots de execução de aprendizado por reforço para avaliar riscos do sistema
A OpenAI estabeleceu uma parceria com a METR para realizar uma revisão de segurança em seu maior experimento de aprendizado por reforço. O projeto piloto envolve o acesso a snapshots do modelo e registros internos detalhados da execução.
O objetivo central é a avaliação técnica de riscos antes de ampliações futuras. A empresa ainda negocia o escopo de um monitoramento mais abrangente para garantir a integridade do sistema em larga escala.
Simultaneamente, a companhia intensificou medidas de proteção em suas plataformas. Ferramentas de classificação de imagens foram desenvolvidas para detectar conteúdos abusivos com maior precisão e eficiência operacional.
O sistema de detecção atual reduziu em 48% o volume de imagens indicadas para revisão humana. A tecnologia foi criada em colaboração com o Centro Nacional para Crianças Desaparecidas e Exploradas.
Além disso, o ChatGPT implementou bloqueios temporários de 24 horas para contas que tentam acessar material ilícito. Essas diretrizes visam coibir comportamentos nocivos e reforçar a conformidade dos desenvolvedores que utilizam as APIs da empresa.
Viu um erro? Escreva para suporte@criptoico.com.br.