Miami, FL, lunes 14 de septiembre de 2026. El llamado resulta especialmente llamativo porque proviene de uno de los empresarios que está liderando precisamente la carrera que ahora propone moderar. Dario Amodei, cofundador y CEO de Anthropic, publicó el sábado 12 de septiembre en su sitio personal un ensayo titulado We Must Pace the Frontier, en el que sostiene que la industria debería reducir deliberadamente la velocidad con la que aumenta las capacidades de los modelos de inteligencia artificial.
Amodei no propone detener la IA. Su argumento es más complejo: la tecnología continúa avanzando, pero las medidas de seguridad, supervisión y alineamiento necesitan tiempo para mantenerse al mismo ritmo. Para el empresario, en los últimos meses la situación cambió porque los sistemas de IA están adquiriendo una capacidad cada vez mayor para contribuir al desarrollo de nuevas generaciones de inteligencia artificial, un fenómeno conocido como mejora recursiva.
El CEO de Anthropic considera que una carrera dominada exclusivamente por la competencia comercial podría llevar a las compañías a desarrollar sistemas cada vez más poderosos antes de comprender completamente cómo controlarlos.
Su advertencia más impactante se refiere a los agentes autónomos. Amodei plantea que, si las capacidades continúan acelerándose sin suficientes salvaguardas, dentro de seis a doce meses sistemas más avanzados podrían llegar a crear una botnet persistente capaz, en un escenario extremo, de comprometer una enorme cantidad de computadoras conectadas a internet y provocar daños económicos de cientos de miles de millones de dólares. Se trata de una proyección de riesgo de Amodei, no de una predicción demostrada de que vaya a ocurrir.
UNA PROPUESTA EN TRES PASOS
Amodei propone comenzar con una medida poco habitual en Silicon Valley: permitir que evaluadores independientes tengan acceso permanente dentro de las compañías de IA, con capacidades similares a las de empleados dedicados a evaluar riesgos. Anthropic asegura que implementará voluntariamente esta iniciativa y permitirá que esos especialistas comuniquen públicamente hallazgos importantes.
El segundo nivel requeriría coordinación entre las principales compañías de IA de países democráticos para establecer estándares comunes de seguridad y límites al desarrollo sin controles adecuados. El tercero sería mucho más ambicioso: buscar algún grado de coordinación internacional, incluida China.
Aquí aparece una de las grandes contradicciones del desafío. Estados Unidos quiere evitar una carrera tecnológica fuera de control, pero tampoco quiere perder su liderazgo frente a China. Amodei sostiene que cualquier desaceleración debe preservar esa ventaja estratégica.
Y quizás allí se encuentre lo más interesante de su mensaje para el mundo empresarial. Durante décadas, Silicon Valley convirtió la velocidad en una virtud: innovar primero, crecer primero y conquistar el mercado primero. Ahora, uno de los empresarios situados en la frontera tecnológica plantea una idea diferente: cuando una tecnología adquiere suficiente poder, avanzar responsablemente puede ser tan importante como avanzar rápidamente.
La inteligencia artificial continúa prometiendo enormes beneficios para la medicina, la productividad y el crecimiento económico. Amodei no cuestiona ese futuro. Lo que cuestiona es si llegar antes siempre significa llegar mejor.
Compartir
