Anthropic integra avaliadores externos para monitorar segurança de IA

A Anthropic anunciou uma colaboração com as organizações sem fins lucrativos METR e SecureBio. O objetivo é integrar avaliadores independentes para verificar as práticas de segurança da companhia no desenvolvimento de inteligência artificial.

O movimento ocorre após o presidente da empresa, Dario Amodei, propor uma desaceleração no ritmo de criação de modelos. A iniciativa busca maior transparência sobre os riscos tecnológicos e segue um acordo voluntário assinado por grandes nomes do setor de tecnologia.

A METR atuará como avaliadora de terceiro nível. Isso garante aos seus profissionais acesso a hardware e ferramentas da Anthropic em patamar similar ao das equipes internas de risco. A empresa não financia o trabalho da organização parceira.

A SecureBio foca a análise na seção de armas químicas e biológicas dos relatórios de risco. A Anthropic também mantém diálogos com outras entidades, como a Hugging Face, para expandir o monitoramento externo.

A estrutura de avaliação divide-se em três níveis de acesso. O segundo nível permite que os especialistas publiquem relatórios sem necessidade de autorização da empresa, enquanto o terceiro nível oferece aos avaliadores um acesso comparável ao dos funcionários.