La carrera de la IA avanza más rápido de lo que les gustaría a las empresas de IA

Por Benjamin Cook

Anthropic argumentó recientemente que la IA podría alcanzar pronto un punto en el que acelere significativamente su propio desarrollo y, al hacerlo, supere todas las barreras que se le imponen. Si eso ocurre, los gobiernos se enfrentarán a preguntas difíciles sobre el control, la supervisión y si es necesaria alguna forma de desaceleración coordinada.

El problema es que toda propuesta de pausa acaba encontrándose con el mismo obstáculo: la aplicación de la ley. Si crees que destruir un programa de enriquecimiento nuclear enterrado es difícil, prueba a destruir datos digitales que pueden existir (casi) en cualquier lugar.

Es fácil imaginar a empresas americanas y europeas aceptando restricciones. Es mucho más difícil imaginar que Rusia o China acepten restricciones significativas sobre tecnologías que cada vez consideran más centrales para el poder militar. Aún más difícil es imaginar un régimen de verificación capaz de detectar violaciones dentro de sistemas estatales opacos.

Eso nos muestra el verdadero problema: no todos los participantes asumirían los costes por igual.

El ciclo de adaptación militar de Ucrania está profundamente conectado con empresas tecnológicas occidentales, software comercial, infraestructuras en la nube y startups de defensa occidentales. Gran parte de su innovación en tiempos de guerra ha surgido de integrar rápidamente tecnologías civiles, incluida la IA, en aplicaciones militares y luego perfeccionarlas mediante retroalimentación en el espacio de batalla. Esas relaciones son visibles y documentadas. Fácil de regular.

El sistema ruso es diferente. Es más centralizado, mucho menos transparente y, por tanto, menos expuesto al escrutinio occidental. Si un futuro régimen de gobernanza de la IA impusiera fricciones reales a las empresas occidentales mientras dependía del cumplimiento voluntario de los estados autoritarios, la carga probablemente recaería desproporcionadamente en el bando que ya cumple con las reglas.

Esa es la preocupación estratégica que encontré poco explorada en el argumento de Anthropic.

Kate Bondar hizo recientemente una observación relacionada al hablar sobre drones e inteligencia artificial en la guerra. Rusia está invirtiendo fuertemente en la recopilación de datos, la anotación y la infraestructura necesaria para soportar sistemas cada vez más autónomos. Ucrania está haciendo lo mismo, pero a través de un ecosistema más descentralizado y con ayuda occidental. El equipo que aprende más rápido obtiene una ventaja. Cualquier política que ralentice un ciclo de aprendizaje asumiendo que el otro también lo hará voluntariamente merece escepticismo.

Hay otro problema que recibe mucha menos atención que los escenarios de IA descontrolada de Anthropic.

Preocupaciones antrópicas sobre la superación recursiva de sí mismo. Me preocupa el error recursivo.

La comunidad de defensa ya avanza hacia un mayor uso de datos sintéticos, resultados generados por IA, etiquetado automatizado y canales de entrenamiento asistidos por máquina. Parte de esto es necesario. Los datos militares del mundo real son caros, sensibles y a menudo difíciles de obtener. Los entornos sintéticos ayudan a rellenar huecos.

Pero toda abstracción introduce distorsión (error).

Cada modelo es una simplificación de la realidad. Cada conjunto de datos sintético refleja suposiciones. Todo proceso de etiquetado automatizado conlleva errores ocultos. Cuando esos resultados se convierten en entradas para la siguiente generación de sistemas, los errores pueden acumularse de formas difíciles de detectar.

Shumailov y sus colegas describieron una versión de este problema como el colapso del modelo. Los sistemas entrenados recursivamente con datos generados por máquina pierden gradualmente información sobre la distribución subyacente que debían representar.

El peligro más inmediato no es necesariamente que un sistema de IA se vuelva incontrolable, sino que se vuelva con confianza, incluso desafiante, equivocado.

La adquisición de defensa ya crea incentivos que van en esta dirección. Las organizaciones optimizan naturalmente en torno a las métricas que son más fáciles de medir. La Ley de Goodhart no se suspende porque la tecnología sea sofisticada.

Un sistema puede rendir excepcionalmente bien en pruebas y aun así fallar en condiciones operativas.

Ucrania es un recordatorio útil de cómo son realmente las condiciones operativas.

Durante el masivo ataque aéreo combinado de Rusia del 1 al 2 de junio de 2026, los defensores ucranianos rastrearon 729 amenazas aéreas, incluyendo cientos de drones junto a misiles de crucero y balísticos. El reto no era simplemente identificar objetos en el cielo. Era entender las relaciones entre ellos. ¿Qué pistas representaban amenazas reales? ¿Cuáles eran señuelos? ¿Qué vectores importaban más? ¿Qué interceptores deberían asignarse dónde? ¿Cómo cambiaría la imagen en los siguientes minutos?

Y es precisamente el tipo de entorno donde los errores acumulados de modelado se vuelven peligrosos.

Imaginen un pequeño error incrustado en un modelo diseñado para rastrear ataques entrantes y recomendar cómo asignar recursos defensivos escasos. Quizá clasifica un poco mal un perfil de vuelo concreto, subestima un eje de amenaza o sobrecarga una entrada de sensor. Por sí solo, el error puede ser difícil de notar.

Ahora imaginen que las salidas del modelo se utilizan para generar datos sintéticos de entrenamiento, ayudar con el etiquetado o informar recursivamente a la siguiente generación de modelos. El error original ya no es solo un defecto. Se convierte en parte del estándar de entrenamiento. Con cada ciclo de reentrenamiento, el error se refuerza en lugar de corregirse. Con el tiempo, el error se incrusta en la propia línea de origen del modelo: la base asumida contra la que los sistemas futuros aprenden.

Todo puede parecer mejorar. Las puntuaciones de referencia pueden subir. El rendimiento en entornos controlados puede parecer impresionante. Sin embargo, el fallo subyacente permanece, esperando el momento en que la realidad se desvíe de las suposiciones incrustadas en el proceso de entrenamiento.

Esa posibilidad me preocupa más que la mayoría de las discusiones sobre la superación recursiva hasta el punto de que la IA abandona las barreras de seguridad. De hecho, si la IA abandona autónomamente las barreras de seguridad, será por un error acumulado que los modelos y motores de inferencia ven como "hecho".

La lección de Ucrania en los últimos años ha sido sorprendentemente constante: la realidad gana (datos). Los sistemas solo sobreviven al contacto con el espacio de batalla si se actualizan continuamente en condiciones reales. Los datos recogidos en condiciones de combate importan más que las elegantes suposiciones.

Por eso encuentro interesantes los argumentos más amplios de la exsecretaria de Estado Condoleezza Rice sobre la "Carrera de la IA". Las democracias deben seguir siendo competitivas en tecnologías de vanguardia no porque sean inherentemente más sabias, sino porque poseen mecanismos de rendición de cuentas, corrección y adaptación. Esas ventajas desaparecen si los sistemas democráticos se limitan voluntariamente mientras se asume que competidores autoritarios harán lo mismo.

Una pausa que no puede verificarse no es una pausa. Es una oportunidad para que los adversarios recorten la distancia.

Si los responsables políticos se toman en serio la gobernanza de la IA, la verificación debe ser lo primero. También lo hace una evaluación honesta de quién asume los costes de la contención (EE.UU./Ucrania) y quién se beneficia de la evasión (Rusia/China).

No hay una buena respuesta al problema que ha descripto Anthropic. El gato de la IA ya se ha revelado. Pero hay una buena manera de empeorar las cosas. Confíar en China y Rusia para que digan la verdad sobre cualquier ralentización o pausa relacionada con la IA.