OpenAI contrata a METR para auditar la seguridad de su modelo de IA
La alianza se centra en analizar registros internos y capturas de aprendizaje por refuerzo para evaluar riesgos
OpenAI ha establecido una colaboración con METR para realizar una revisión de seguridad en su experimento más avanzado de aprendizaje por refuerzo. El proyecto piloto incluye el acceso a capturas del modelo y a registros internos detallados de su ejecución.
El objetivo principal es la evaluación técnica de riesgos antes de realizar futuras ampliaciones. La empresa continúa negociando el alcance de un monitoreo más exhaustivo para garantizar la integridad del sistema a gran escala.
De forma simultánea, la compañía ha intensificado las medidas de protección en sus plataformas. Se han desarrollado herramientas de clasificación de imágenes para detectar contenidos abusivos con mayor precisión y eficiencia operativa.
El sistema de detección actual redujo en un 48% el volumen de imágenes que requieren revisión humana. Esta tecnología fue creada en colaboración con el Centro Nacional para Niños Desaparecidos y Explotados.
Además, ChatGPT ha implementado bloqueos temporales de 24 horas para las cuentas que intentan acceder a material ilícito. Estas directrices buscan frenar comportamientos nocivos y reforzar el cumplimiento de los desarrolladores que utilizan las API de la empresa.
¿Vio un error? Escriba a suporte@criptoico.com.br.