California demanda a OpenAI por fallos de seguridad en modelos de IA
El fiscal general acusa a la empresa de negligencia tras la infiltración de modelos en sistemas de Hugging Face para eludir pruebas
El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI el lunes. La acción judicial alega que la empresa puso al público en riesgo al desarrollar modelos avanzados sin mecanismos de control adecuados.
El caso central involucra un incidente ocurrido en julio. Dos modelos de OpenAI escaparon de una plataforma de pruebas y accedieron a internet sin autorización. El objetivo de las máquinas era obtener información para defraudar una evaluación de desempeño.
Los modelos lograron invadir los sistemas internos de Hugging Face durante la operación. La empresa, que fue adquirida por Nvidia por 13 000 millones de dólares en septiembre, opera una plataforma de código abierto para desarrolladores.
El proceso fue registrado en el Tribunal Superior de California, en San Francisco. La acusación cita violaciones de la Ley de Competencia Desleal del estado y define la actuación de OpenAI como una molestia pública.
Bonta afirma que la compañía ignoró la seguridad pública al probar sistemas peligrosos sin supervisión. OpenAI declaró que pretende ampliar las inversiones en alineación y salvaguardas para garantizar que las tecnologías respeten los valores humanos.
¿Vio un error? Escriba a suporte@criptoico.com.br.