A medida que las organizaciones de todo Canadá comienzan a utilizar la IA de forma más generalizada en sus operaciones diarias, un nuevo estudio del IBM Institute for Business Value revela que la supervisión y la gobernanza no están a la altura.

El estudio global , realizado con la Fundación Dubai Future, encuestó a más de 1.000 altos directivos de 20 países y 21 sectores, incluido Canadá, para examinar cómo las organizaciones gestionan la IA a medida que pasa de la experimentación a los sistemas en los que confían las personas.

Estos hallazgos surgen en un contexto de creciente debate sobre inteligencia artificial y soberanía digital en Canadá, impulsado por la expansión del uso de la IA en los servicios públicos, las industrias reguladas y los sistemas que influyen en las decisiones cotidianas. Esta rápida expansión impone nuevas responsabilidades a las organizaciones sin brindarles una visión clara de cómo opera la IA.

«No se pueden gobernar sistemas que no se ven», afirmó Manav Gupta, vicepresidente y director de tecnología de IBM Canadá. «Los sistemas de IA actúan ahora como infraestructura crítica, lo que plantea interrogantes importantes sobre la confianza, la rendición de cuentas y la soberanía para las empresas, los gobiernos y las instituciones canadienses. La gobernanza es lo que hace que la soberanía digital sea real y aplicable».

Los principales hallazgos muestran que la supervisión tiene dificultades para mantenerse al día con el uso de la IA.

El estudio muestra que las organizaciones canadienses quieren utilizar la IA de forma más generalizada, pero muchas carecen de la gobernanza necesaria para mantener el control.

 
Las irregularidades en la IA cuestan a las grandes empresas canadienses unos 144 millones de dólares al año , incluyendo errores, sesgos, duplicación y despliegues descoordinados.
La mitad de esas pérdidas están asociadas a deficiencias en la gobernanza , no a fallos de la propia tecnología de IA.

El creciente uso de la IA plantea interrogantes sobre el control y la rendición de cuentas. 

A medida que los sistemas de IA se integran en las operaciones diarias, las organizaciones se enfrentan a una creciente presión para explicar cómo la IA respalda las decisiones, cómo se comporta en la práctica y quién sigue siendo responsable cuando los resultados afectan a las personas o a los servicios.

"Observamos un cambio en el debate en Canadá", afirmó Gupta. "A medida que las organizaciones recurren cada vez más a la IA en situaciones reales, los canadienses exigen respuestas más claras sobre quién controla estos sistemas, cómo se toman las decisiones y quién puede intervenir cuando algo falla".

La soberanía digital depende del control, no del aislamiento.

El debate público sobre la soberanía digital suele centrarse en las fronteras o la ubicación de los datos, prestando menos atención a cuestiones como el control y el acceso. El estudio señala un desafío más inmediato a medida que se expande el uso de la IA.

A medida que los sistemas de IA influyen en las decisiones en la atención médica, el transporte, los servicios financieros y los programas públicos, las organizaciones necesitan la capacidad de ver qué herramientas de IA utilizan, comprender cómo se producen las decisiones, controlar el acceso y las actualizaciones, e intervenir cuando los sistemas se comportan de forma inesperada.

«La soberanía digital se trata de control, no de aislamiento», dijo Gupta. «Las organizaciones necesitan una gobernanza que puedan aplicar y demostrar, no solo políticas en papel».

Este enfoque refleja un consenso creciente en Canadá de que la soberanía emana de la transparencia y el control operativo, no del aislamiento tecnológico.

La gobernanza coordinada reduce el riesgo y mejora los resultados.

El estudio también examina las organizaciones que coordinan la gobernanza de la IA a lo largo de todo el ciclo de vida de los sistemas de IA, lo que se conoce como gobernanza basada en la orquestación.

A nivel mundial, las organizaciones que utilizan este enfoque reportaron mayores aumentos de productividad, un retorno de la inversión en IA superior y pérdidas significativamente menores relacionadas con errores y fallos de la IA. A pesar de estas ventajas, solo el 18 % de las organizaciones canadienses afirma contar actualmente con sistemas para coordinar y gestionar la IA en sus operaciones diarias.

Los sistemas deben permitir el control operativo.

Las organizaciones deben equilibrar el mantenimiento de la autoridad necesaria con el ritmo de la innovación, al tiempo que se enfrentan a un escrutinio cada vez mayor por parte de reguladores, auditores y consejos de administración. Sin embargo, muchos entornos tecnológicos tienen dificultades para proporcionar respuestas coherentes y auditables a estos requisitos, lo que crea una brecha entre la política y la realidad operativa. IBM Sovereign Core es una nueva plataforma de software diseñada para ayudar a las organizaciones a crear y operar entornos soberanos preparados para la IA y verificar su control, ofreciendo a las empresas y los gobiernos un enfoque integral para la soberanía digital.

El estudio completo de IBV, "Una IA en movimiento: Orquestando la IA a escala para la soberanía y la resiliencia" , está disponible en https://www.ibm.com/thought-leadership/institute-business-value/en-us/report/ai-orchestration-layer

Lorraine Baldwin,Comunicaciones de IBM Canadá
[email protected]

FUENTE IBM