Anthropic integra evaluadores externos para monitorear seguridad de IA

Anthropic anunció una colaboración con las organizaciones sin fines de lucro METR y SecureBio. El objetivo es integrar evaluadores independientes para verificar las prácticas de seguridad de la compañía en el desarrollo de inteligencia artificial.

El movimiento ocurre después de que el presidente de la empresa, Dario Amodei, propusiera una desaceleración en el ritmo de creación de modelos. La iniciativa busca mayor transparencia sobre los riesgos tecnológicos y sigue un acuerdo voluntario firmado por grandes nombres del sector tecnológico.

METR actuará como evaluadora de tercer nivel. Esto garantiza a sus profesionales acceso a hardware y herramientas de Anthropic en un nivel similar al de los equipos internos de riesgo. La empresa no financia el trabajo de la organización asociada.

SecureBio enfoca el análisis en la sección de armas químicas y biológicas de los informes de riesgo. Anthropic también mantiene diálogos con otras entidades, como Hugging Face, para expandir el monitoreo externo.

La estructura de evaluación se divide en tres niveles de acceso. El segundo nivel permite que los especialistas publiquen informes sin necesidad de aprobación previa de la empresa, mientras que el tercer nivel otorga a los evaluadores un acceso equivalente al de los empleados.