La incorporación de medidas para proteger los sistemas de inteligencia artificial puede incrementar entre un 10 y 25% el gasto en ciberseguridad de las empresas, según expertos. La supervisión adicional es necesaria debido a la exposición de información confidencial y la ejecución de instrucciones maliciosas por parte de agentes de IA.
Incremento en inversión en ciberseguridad por protección de IA
Daniel Liber, responsable de seguridad en monday.com, señaló que la protección de estas tecnologías requiere recursos específicos. La estimación del aumento en gastos es una tendencia que se espera continúe a medida que las organizaciones adoptan más herramientas de IA.
Desafíos en la integración y protección de agentes de IA
Los agentes de inteligencia artificial, que acceden a información interna y ejecutan tareas, necesitan controles estrictos. Liber explicó que, en México, muchas empresas enfrentan dificultades para entender las tecnologías disponibles y fortalecer sus capacidades de protección.
Riesgos asociados a la exposición de datos y acciones no autorizadas
El acceso a múltiples fuentes de datos y la capacidad de modificar documentos o enviar información hacen que los sistemas de IA sean vulnerables. Un ejemplo es un agente que, si recibe instrucciones maliciosas en un correo, puede divulgar información confidencial o alterar archivos.
Recomendaciones para una supervisión efectiva
Expertos recomiendan limitar los privilegios de los agentes de IA y solicitar aprobación humana en operaciones de alto riesgo. Además, la separación del contenido externo de las instrucciones ayuda a prevenir inyecciones indirectas de órdenes, una técnica que puede ser explotada por atacantes.
Perspectivas futuras y necesidades en México
Liber destacó que, aunque hay interés en adoptar IA, existe una brecha en el conocimiento de las técnicas de protección. La supervisión constante y la regulación serán clave para garantizar un uso seguro y responsable de estas tecnologías.
