Miami, FL, lunes 28 de septiembre de 2026. La carrera por desarrollar una inteligencia artificial cada vez más autónoma está entrando en una nueva etapa. Para Satya Nadella, CEO de Microsoft, el principal obstáculo para la próxima generación de esta tecnología podría no ser su capacidad, velocidad o costo, sino algo mucho más difícil de conseguir: la confianza de los usuarios.
“La confianza va a ser el mayor desafío para nosotros. ¿Realmente puedo confiarle a la inteligencia artificial todas mis credenciales cuando realiza actividades de manera autónoma?”, señaló Nadella en una entrevista con Deirdre Bosa, citada por Yahoo Finance.
La declaración llega mientras Microsoft profundiza su apuesta por los llamados agentes de inteligencia artificial: sistemas capaces de realizar tareas, utilizar herramientas, acceder a información y ejecutar acciones con un grado creciente de autonomía.
Microsoft presentó una nueva versión de Copilot que reúne capacidades de chat, programación y agentes de IA dentro de una misma plataforma. El objetivo es que la inteligencia artificial pueda participar en tareas laborales cada vez más complejas, desde preparar una presentación hasta trabajar con hojas de cálculo y analizar información para generar conclusiones.
EL NUEVO PROBLEMA: ENTREGAR LAS LLAVES A LA IA
El comentario de Nadella apunta directamente a uno de los grandes interrogantes que enfrentan actualmente las empresas.
Una cosa es pedirle a una inteligencia artificial que redacte un correo electrónico. Otra muy diferente es permitirle acceder a credenciales, documentos corporativos, bases de datos y aplicaciones para posteriormente ejecutar acciones en nombre del usuario.
“¿Cómo me aseguro de que esto sea algo sobre lo que siento que tengo el control?”, planteó Nadella durante la entrevista. Para el CEO de Microsoft, dentro del mundo empresarial este asunto resulta especialmente importante.
La propia Microsoft ha comenzado a desarrollar su estrategia de Zero Trust for AI, extendiendo los principios tradicionales de ciberseguridad a los agentes inteligentes. La compañía sostiene que estos sistemas pueden crear nuevas fronteras de riesgo entre usuarios, agentes, modelos y datos, especialmente cuando tienen permisos para actuar de manera autónoma.
Entre las medidas propuestas se encuentran limitar los privilegios de los agentes, verificar continuamente sus identidades y comportamientos, monitorear sus actividades y establecer mecanismos que permitan intervenir cuando sea necesario.
DE LA INTELIGENCIA A LA CONFIANZA
La advertencia de Nadella muestra cómo está cambiando la competencia por la inteligencia artificial.
Durante los últimos años, las compañías tecnológicas se concentraron en desarrollar modelos más potentes. Ahora comienza una segunda batalla: conseguir que consumidores y empresas estén dispuestos a permitir que esos sistemas actúen por ellos.
Para Microsoft, esa confianza será particularmente importante. La compañía informó recientemente que Microsoft 365 Copilot ya supera los 30 millones de puestos pagos, mientras que los ingresos anuales de Azure superaron por primera vez los US$100.000 millones.
El futuro de la IA empresarial, por lo tanto, podría depender tanto de lo que las máquinas sean capaces de hacer como de cuánto control estén dispuestos los seres humanos a entregarles.
Fuentes: Yahoo Finance; Microsoft.
Compartir
