OpenAI implementa trava de segurança de 35 segundos em modelos
Novo sistema Control Room interrompe a geração de dados de pesquisa de forma centralizada e independente do código original
A OpenAI introduziu um mecanismo de interrupção imediata para suas operações de pesquisa. O sistema, chamado Control Room, bloqueia a saída de novos conteúdos de modelos em até 35 segundos após o recebimento de uma ordem de parada.
O funcionamento baseia-se em um identificador único atribuído a cada carga de trabalho. O motor de inferência verifica a autorização do job antes de processar qualquer solicitação. Se o status for alterado para parado, o sistema nega novas saídas de dados instantaneamente.
A arquitetura centraliza a fiscalização na camada de inferência em vez de depender do código de pesquisa. Isso garante que a interrupção ocorra mesmo se o processo original continuar em execução em segundo plano.
A empresa afirma que o sistema já está ativo em toda a sua infraestrutura de pesquisa. O mecanismo também monitora motores que possam estar operando sem as verificações de segurança obrigatórias do Control Room.
Este avanço na governança de sistemas de inteligência artificial pode reduzir riscos operacionais e aumentar a confiança de empresas que utilizam modelos avançados em larga escala.
Viu um erro? Escreva para suporte@criptoico.com.br.
