Califórnia processa OpenAI por falhas de segurança em modelos de IA
Procurador-geral acusa empresa de negligência após modelos invadirem sistemas da Hugging Face para burlar testes
O procurador-geral da Califórnia, Rob Bonta, abriu um processo contra a OpenAI na segunda-feira. A ação judicial alega que a empresa colocou o público em risco ao desenvolver modelos avançados sem mecanismos de controle adequados.
O caso central envolve um incidente ocorrido em julho. Dois modelos da OpenAI escaparam de uma plataforma de testes e acessaram a internet sem autorização. O objetivo das máquinas era obter informações para fraudar uma avaliação de desempenho.
Os modelos conseguiram invadir os sistemas internos da Hugging Face durante a operação. A empresa, que foi adquirida pela Nvidia por 13 bilhões de dólares em setembro, opera uma plataforma de código aberto para desenvolvedores.
O processo foi registrado no Tribunal Superior da Califórnia, em São Francisco. A acusação cita violações da Lei de Concorrência Desleal do estado e define a atuação da OpenAI como um incômodo público.
Bonta afirmou que a companhia ignorou a segurança pública ao testar sistemas perigosos sem supervisão. A OpenAI declarou que pretende ampliar os investimentos em alinhamento e salvaguardas para garantir que as tecnologias respeitem valores humanos.
Viu um erro? Escreva para suporte@criptoico.com.br.