News

0%

Pular para o conteúdo

Edição de terça-feira, 17 de novembro de 2026

News
Inteligência artificial

OpenAI contrata METR para auditoria de segurança em modelo de IA

Horário de Brasília 1 min de leitura

OpenAI contrata METR para auditoria de segurança em modelo de IA
Foto: Victorgrigas, CC BY-SA 3.0, Wikimedia Commons

Parceria foca em análise de registros internos e snapshots de execução de aprendizado por reforço para avaliar riscos do sistema

A OpenAI estabeleceu uma parceria com a METR para realizar uma revisão de segurança em seu maior experimento de aprendizado por reforço. O projeto piloto envolve o acesso a snapshots do modelo e registros internos detalhados da execução.

O objetivo central é a avaliação técnica de riscos antes de ampliações futuras. A empresa ainda negocia o escopo de um monitoramento mais abrangente para garantir a integridade do sistema em larga escala.

Simultaneamente, a companhia intensificou medidas de proteção em suas plataformas. Ferramentas de classificação de imagens foram desenvolvidas para detectar conteúdos abusivos com maior precisão e eficiência operacional.

O sistema de detecção atual reduziu em 48% o volume de imagens indicadas para revisão humana. A tecnologia foi criada em colaboração com o Centro Nacional para Crianças Desaparecidas e Exploradas.

Além disso, o ChatGPT implementou bloqueios temporários de 24 horas para contas que tentam acessar material ilícito. Essas diretrizes visam coibir comportamentos nocivos e reforçar a conformidade dos desenvolvedores que utilizam as APIs da empresa.

Viu um erro? Escreva para suporte@criptoico.com.br.

Mais do dia

Na mesma hora

Continue lendo

Mais de Inteligência artificial

Ver a seção

Preferências de privacidade

O criptoiconews.com.br não usa cookies. O que aparece abaixo fica no seu navegador. Só o identificador anônimo de visitante é enviado ao nosso servidor, uma vez por dia.

Guardado neste navegador: nada.