Agentes de IA desafian los protocolos de seguridad Zero-Trust
El uso de sistemas autónomos genera riesgos de filtración de datos y fallos en la verificación de políticas de seguridad.
Equipos globales utilizan grupos de agentes de inteligencia artificial para tareas como la evaluación de riesgos y el perfil de clientes. Estos sistemas operan bajo la gestión de un orquestador que coordina las acciones y las decisiones tomadas por el grupo.
Un desafío central es la gestión de registros y la relevancia histórica de la información procesada. El sistema requiere puntos de control para eliminar datos antiguos y evitar que los agentes repitan decisiones basadas en contextos superados.
Existe el riesgo de ataques de recuperación de contexto donde los agentes pueden ser inducidos a revelar información que debería haber sido eliminada. Esta vulnerabilidad plantea dudas sobre la eficacia de las instrucciones dadas a los modelos y la capacidad de garantizar que se cumplan.
La arquitectura de confianza cero o Zero-Trust busca mitigar estos problemas al exigir una verificación constante en todas las interacciones. Sin embargo, la dependencia de un punto de imposición de políticas crea una nueva capa de incertidumbre sobre quién controla la seguridad del sistema.
El uso de modelos listos para el desarrollo de software puede exponer códigos completos a entidades externas. Esta práctica aumenta la superficie de ataque y vuelve a los sistemas vulnerables a fallos de seguridad en múltiples frentes.
¿Vio un error? Escriba a suporte@criptoico.com.br.
