El uso de la Inteligencia Artificial (IA) se ha consolidado como un motor de productividad en América Latina. No obstante, su rápida adopción plantea un desafío crítico en ciberseguridad: la utilización de plataformas de IA Generativa con información interna, bases de datos o documentos sensibles está propiciando una fuga de datos IA confidenciales, incrementando la exposición de empresas e instituciones frente al cibercrimen.

Claudio Martinelli, director general para las Américas en Kaspersky, advirtió que el uso inapropiado de estas herramientas podría derivar en una filtración masiva de información. Actualmente, los equipos de seguridad no solo deben resguardar las redes corporativas de los 467,000 objetos maliciosos detectados diariamente, sino que también deben enfrentar el riesgo que supone el uso de sistemas de IA por parte de empleados. Estos colaboradores, buscando ahorrar tiempo en sus tareas, alimentan plataformas públicas que no ofrecen garantía de protección ni privacidad de los datos.

Compartir Información sin «Inteligencia Humana»

Martinelli destacó que el temor de las empresas se centra en el uso que algunos empleados dan a estas plataformas, compartiendo datos confidenciales; es decir, «usan inteligencia artificial sin inteligencia humana». El ejecutivo enfatizó que no se trata de delegar la totalidad del trabajo a una herramienta, sino de comprender los riesgos, proteger la confidencialidad y entrenar a los colaboradores sobre cómo deben utilizar la IA de forma segura.

El riesgo se ha materializado con la reciente detección de que algunos sistemas de IA Generativa tienen la capacidad de indexar las conversaciones que mantienen con los usuarios en buscadores web. Esta exposición, que inicialmente afectó temas privados como la salud mental, abre la posibilidad real de que también se registren y expongan las consultas realizadas por empleados que involucren información sensible de la empresa.

Recomendaciones de Kaspersky para el Despliegue Seguro de IA

Para que las empresas puedan desarrollar e implementar sistemas de Inteligencia Artificial de forma segura, los expertos de Kaspersky recomiendan adoptar una serie de medidas preventivas y de protección:

Estrategias de Mitigación de Riesgos

• Capacitación Continua: Es fundamental que todos los colaboradores reciban formación constante en ciberseguridad y en el uso responsable de herramientas digitales.

• Modelado de Amenazas: Antes de la implementación de soluciones de IA, se aconseja efectuar un modelado de amenazas y una evaluación de riesgos para identificar posibles escenarios de ataque y anticipar incidentes. Herramientas como Kaspersky Threat Intelligence pueden apoyar este proceso.

• Seguridad de Infraestructura y Nube: Las configuraciones seguras y el monitoreo constante son esenciales para evitar que actores maliciosos exploten vulnerabilidades técnicas.

• Asegurar la Cadena de Suministro: Se debe exigir que los proveedores cumplan con altos estándares de ciberseguridad, ya que un eslabón débil en la cadena puede comprometer información sensible.

Validación y Cumplimiento

• Pruebas y Validación Periódica: Todo modelo o aplicación de IA debe someterse a evaluaciones constantes que verifiquen su correcto funcionamiento y confiabilidad.

• Reportes de Vulnerabilidades: Es necesario contar con mecanismos transparentes para la notificación y gestión rápida de fallas para su corrección.

• Defensa Específica: Se deben implementar medidas de protección especializadas contra ataques dirigidos específicamente a modelos de aprendizaje automático, garantizando su integridad.

• Actualizaciones Constantes: Mantener el software y la infraestructura actualizada con los últimos parches de seguridad es una práctica básica, pero crucial.

• Adopción de Estándares Globales: Cumplir con marcos normativos internacionales de ciberseguridad y protección de datos no solo garantiza la legalidad, sino que también genera confianza en socios, clientes e inversionistas.