News

0%

Saltar al contenido

Edición del martes, 17 de noviembre de 2026

News
Inteligencia artificial

OpenAI contrata a METR para auditar la seguridad de su modelo de IA

Hora de Brasilia 1 min de lectura

OpenAI contrata a METR para auditar la seguridad de su modelo de IA
Foto: Victorgrigas, CC BY-SA 3.0, Wikimedia Commons

La alianza se centra en analizar registros internos y capturas de aprendizaje por refuerzo para evaluar riesgos

OpenAI ha establecido una colaboración con METR para realizar una revisión de seguridad en su experimento más avanzado de aprendizaje por refuerzo. El proyecto piloto incluye el acceso a capturas del modelo y a registros internos detallados de su ejecución.

El objetivo principal es la evaluación técnica de riesgos antes de realizar futuras ampliaciones. La empresa continúa negociando el alcance de un monitoreo más exhaustivo para garantizar la integridad del sistema a gran escala.

De forma simultánea, la compañía ha intensificado las medidas de protección en sus plataformas. Se han desarrollado herramientas de clasificación de imágenes para detectar contenidos abusivos con mayor precisión y eficiencia operativa.

El sistema de detección actual redujo en un 48% el volumen de imágenes que requieren revisión humana. Esta tecnología fue creada en colaboración con el Centro Nacional para Niños Desaparecidos y Explotados.

Además, ChatGPT ha implementado bloqueos temporales de 24 horas para las cuentas que intentan acceder a material ilícito. Estas directrices buscan frenar comportamientos nocivos y reforzar el cumplimiento de los desarrolladores que utilizan las API de la empresa.

¿Vio un error? Escriba a suporte@criptoico.com.br.

Más del día

A la misma hora

Siga leyendo

Más de Inteligencia artificial

Ver la sección

Preferencias de privacidad

criptoiconews.com.br no usa cookies. Lo que aparece abajo queda en su navegador. Solo el identificador anónimo de visitante se envía a nuestro servidor, una vez al día.

Guardado en este navegador: nada.