Modelo conceptual para el empleo de sistemas de armas autónomos aéreos
- Comandante de Grupo (A) Juan Pablo Benavente Nitsche
- hace 3 horas
- 22 Min. de lectura
Por Comandante de Grupo (A) Don Juan Pablo Benavente Nitsche - Centro de Estudios Estratégicos y Aeroespaciales de la Fuerza Aérea de Chile *
“Hoy en día, las formas de hacer la guerra están cambiando rápidamente. El crecimiento tecnológico exponencial está acelerando esta tendencia. Mantenerse al día con los métodos de guerra cambiantes requiere enfoque y estudio” (Antal, 2022, p. 2)[1]
Los Sistemas de Armas Autónomos (SAA) y la Inteligencia Artificial (IA) están cambiando los métodos y formas de hacer la guerra. Propuestas internacionales y las experiencias de los conflictos en Libia, Nagorno Karabaj y Rusia-Ucrania han develado estas nuevas formas de empleo y beneficios asociados a la autonomía de estos sistemas. Sin embargo, internacionalmente existen cuestionamientos sobre los principios que aseguren su uso responsable. Por lo que el aprovechamiento de los beneficios de su empleo muchas veces se contrapone en la balanza con la determinación del alcance y nivel de control humano requerido para asegurar el cumplimiento del Derecho Internacional Humanitario (DIH), en especial para el uso de Sistemas de Armas Autónomos Letales (SAAL), los que ya son parte del arsenal mundial y regional.
El exponencial desarrollo de la Inteligencia Artificial (IA) en los últimos años ha acelerado y masificado la producción de sistemas aéreos, terrestres y marítimos capaces de funcionar de manera autónoma; esto significa que, una vez activados pueden operar sin mayor intervención humana (DoD (USA), 2023). Este crecimiento de tecnologías emergentes y el auge de la IA en aplicaciones militares ya está transformando los métodos de hacer la guerra, ya sea en el campo de batalla mediante el uso armas autónomas, como también en los centros de mando y control mediante sistemas de soporte con IA, agilizando el ciclo de toma de decisiones (Antal, 2022).
En el caso específico de las armas autónomas, algunas de las funciones en las que ya están siendo empleadas es en transporte logístico; inteligencia, vigilancia y reconocimiento (ISR); y ataques letales o no letales (Chakoar, 2022). Desde la perspectiva del empleo desde el aire, los Sistemas de Armas Autónomos Aéreos (SAA-A) han demostrado y validado sus capacidades en guerras modernas, como Libia en 2020 (ONU CS, 2021), Nagorno Karabaj en 2020 (Postma, 2021), y en la actual guerra entre Rusia y Ucrania, desde 2022 (Watts & Bode, 2023).
Uno de los tipos de Sistemas de Armas Autónomos que operan en el dominio aéreo y que mayormente han sido usado en estas guerras son las denominadas municiones merodeadoras o drones kamikaze, las que a juicio del experto internacional en sistemas autónomos Paul Scharre (2018) son un ejemplo de SAA-A. Estos sistemas son capaces de sobrevolar un área específica por largos periodos en busca de blancos potenciales, hasta detectar y atacar de forma autónoma o con mínima intervención del operador, demostrando capacidades letales contra tropas, vehículos, sistemas de defensa antiaérea, unidades de superficie navales e infraestructuras.
Por otro lado, en relación con estas capacidades letales, a nivel internacional existe preocupación sobre los dilemas éticos y legales que genera el uso de la IA en los SAA. Algunas de estas preocupaciones, de acuerdo al Comité Internacional de la Cruz Roja (CICR, 2021), tienen relación con la tendencia a deshumanizar la toma de decisiones sobre la vida y muerte, la disipación de la responsabilidad de la cadena de mando y la transgresión a los principios del Derecho Internacional Humanitario (DIH).
Por esta razón, se han creado diversos grupos internacionales que buscan generar acuerdos sobre su regulación o prohibición. Uno de los primeros y más representativos es el Grupo de Expertos Sobre las Tecnologías Emergentes en el Ámbito de los Sistemas de Armas Autónomos Letales (en sus siglas en inglés GGE LAWS) (UN, 2023),creado en 2016 en las Naciones Unidas. Por su parte el Grupo REAIM (Responsable AI in the Military Domain), creado en 2023, es uno de los más recientes, en donde Chile ha tenido una importante participación como organizador del único taller regional en Latinoamérica durante 2024.
Esta nueva variable en el campo de las operaciones militares ha irrumpido con fuerza, generando sorpresa y desarrollándose de manera vertiginosa en los últimos años, sorprendiendo a los teóricos del arte militar y también a las Fuerzas Armadas, muchas de ellas están hoy retrasadas en la incorporación de esta nueva realidad en su estrategia y en sus doctrinas.
En este sentido, es necesario elaborar un modelo conceptual que permita comprender los factores que orientarán el empleo de estos ingenios en la doctrina de empleo de las fuerzas y que además sirvan como guía para aportar a los procesos de regulación que se deben abordar en el futuro y que permita no solo entregar una mirada hacia los beneficios de su operación, sino también a los principios que posibiliten asegurar el empleo ético, legal y responsable de éstos.
El modelo conceptual elaborado en este estudio consideró las propuestas y experiencias internacionales sobre las formas y beneficios del empleo de los SAA, vinculadas con las operaciones aéreas que se definen regularmente para el poder aéreo. Además, estableció la relación entre los principios de uso ético y responsable de la IA, con los Principios Guía del Grupo de Expertos de las Naciones Unidas sobre SAA, identificando además los principios del Poder Aéreo que mayormente se ven fortalecidos con su integración. Finalmente, se consideró las fortalezas y debilidades de las propuestas internacionales sobre la regulación de los SAA, “Control Humano Directo” y “Control Humano Significativo”, estableciendo un conjunto de consideraciones que permiten ampliar la comprensión sobre estas dos propuestas.
Definiendo el problema
La capacidad de adaptarse a los cambios y anticipar las amenazas es esencial para la supervivencia de las especies. Tal como lo expusiera Darwin en su libro «El origen de las especies» (Darwin, C.R, 2002), no son las especies más fuertes las que perduran en la evolución, sino aquellas que poseen la mayor capacidad de adaptación. Es por esto que capitalizar las innovaciones de la industria de defensa en beneficio de la Seguridad Nacional, adoptando nuevas capacidades, tomando la iniciativa o disminuyendo la brecha con otros Estados u organizaciones que puedan tener intereses contrapuestos con nuestro país, representa un principio que debe ser permanentemente visualizado y fomentado.
El poder aéreo, flexible por naturaleza y tecnológico por esencia, ha tenido cada vez mayor protagonismo en los conflictos modernos, exponiendo nuevos métodos y medios en el campo de batalla, donde la tecnología se ha convertido en un catalizador para su permanente y acelerada evolución. Hoy, una nueva evolución del poder aéreo se avecina en el horizonte, las tecnologías emergentes, como la Inteligencia Artificial y los Sistemas de Armas Autónomos, presentan nuevos desafíos que ponen en jaque aspectos éticos, legales y operacionales. Esto nos obliga a actuar con flexibilidad y agilidad para comprender y explotar en beneficio propio estos nuevos medios y métodos de hacer la guerra, pero, además, anticipar y contrarrestar la amenaza naciente de estas nuevas tecnologías disruptivas.
Estas profundas y rápidas innovaciones tecnológicas aplicadas a las operaciones pueden producir cambios en las tácticas y los códigos de actuación de los combatientes y operadores. De la capacidad de asimilar eficaz y éticamente estas innovaciones en todos los escalones de mando, y de cómo esta interactúe con operadores, comandantes y la organización en general, dependerá la eficacia del empleo táctico de las capacidades militares (MDNa, 2023).
En este escenario, las posturas que se adopten en cuanto a la prohibición, regulación o adopción de principios de empleo ético y responsable de los SAA, tendrán una directa relación con el ámbito operacional. Algunas de estas regulaciones serán necesarias para asegurar el empleo responsable, pero también podrían tener repercusiones en la posibilidad de explotar al máximo los beneficios asociados al empleo de todas las capacidades que poseen estos sistemas.
En este sentido, es interesante teorizar sobre estas tecnologías que emplean el dominio aéreo aportando así con conocimientos y posturas que le permitan aportar a procesos de evaluación, regulación o integración de SAA-A, complementando desde la perspectiva del Poder Aeroespacial y la Seguridad Nacional, su visión sobre estas nuevas tecnologías que revolucionarán los futuros conflictos.
La falta de una base de conocimientos amplio sobre el empleo de estos sistemas se plantea como un problema actual y relevante. En lo particular en el cómo se podrían emplear estos sistemas como complemento a las operaciones aéreas, qué beneficios podría aportar al cumplimiento de la misión asignadas a una componente aérea, cuáles serían los principios a considerar para el uso responsable que permita asegurar un empleo ético y legal, y finalmente cómo se podrían abordar las principales propuestas de regulación internacional.
Un modelo conceptual para empleo de los sistemas de armas autónomos aéreos (SAA-A)
Para lograr un entendimiento común entenderemos los SAA-A como los “Sistemas de Armas Autónomos diseñados para operar en el ámbito aéreo, los que una vez activados usan su conocimiento programado o aprendido y su percepción del entorno para planificar cursos de acción, tomar decisiones y ejecutar acciones, en función de lograr un objetivo asignado, sin depender de la supervisión y control humano, aunque estos aún puedan estar presentes mediante comunicación bidireccional” (Elaboración propia).
El modelo conceptual que se propone considera, en primer lugar, la descripción del empleo en relación con operación aéreas, indicando además ejemplos de los SAA-A cuyo empleo ha sido observado en guerra o sistemas que se encuentran en desarrollo. En segundo lugar, define un listado de beneficios asociados al empleo de los SAA-A, indicando además tres Principios de la Guerra y tres Principios de ISR que mayormente se ven fortalecidos por el empleo de los SAA-A. En tercer lugar, considera un listado de Principios de IA Responsable (RAI). Finalmente, incluye un listado de consideraciones relacionadas con los modelos de Control Humano Directo y Control Humano Significativos.
Empleo de los SAA-A en operaciones aéreas
A continuación, se describen las operaciones de aéreas en las que, con el conocimiento que se tiene a la fecha, se estima que se han o podrían emplear los SAA-A, considerando el ámbito del Poder Aéreo:
Operaciones Contra Fuerza Aérea Ofensiva
En este ámbito, los SAA-A pueden ser empleados en misiones de Supresión de Defensa Antiaérea (SEAD), en cuyo caso existen evidencias del uso de municiones merodeadoras para la eliminación de sistemas de defensa antiaérea en las guerras de Libia, Nagorno Karabaj y Rusia - Ucrania, en las cuales se han utilizado sistemas del tipo Harpy, Harop y Lancet-3.
Sumándose en misiones SEAD, pero además en barridos de caza o escolta, los proyectos como el F-16 Vista, XQ-58 Valkyrie o el MQ Ghost Bat, formarían parte de bandadas hibridas entre aviones autónomos y tripulados, bajo el concepto de Aeronaves de Combate Colaborativo.
En complemento a lo anterior, el empleo en tácticas de enjambre permitiría incrementar la eficiencia y reducir el riesgo para el empleo de esta gama de misiones.
Operaciones Contra Fuerza Aérea Defensiva
En estas operaciones se puede considerar el futuro empleo de SAA-A del tipo aviones de combate colaborativo en misiones aire-aire defensivas, ya sea en patrullas aéreas de combate, como también en misiones de interceptación de reacción rápida. Esta capacidad se encuentra en desarrollo en proyectos como el F-16 Vista, XQ-58 Valkyrie o el MQ Ghost Bat.
En estas operaciones también se puede considerar el empleo de SAA-A del tipo SUAS[2] como interceptadores de drones o municiones merodeadoras adversarias, capacidad que actualmente se encontraría ya en desarrollo, en proyectos como el DroneHunter F700. Es interesante señalar que este tipo de empleo es clasificado por EE. UU, dentro del concepto C-UAS y por Australia como C-RAS[3].
Operaciones Aéreas Contra Fuerzas de Superficie
El empleo de SAA-A del tipo Municiones Merodeadoras en Operaciones Contra Fuerzas Terrestres es quizás una de las más conocidas y documentadas, ya que esta forma de empleo ha sido observada en la guerra de Libia, Nagorno Karabaj y Rusia-Ucrania, en las que se habrían empleado sistemas Kargu-2, Skystriker y Warmate, entre otros.
También, se debe considerar el empleo de SAA-A del tipo municiones merodeadoras en operaciones contra fuerzas marítimas, tal como se ha evidenciado en la guerra Rusia-Ucrania en que se habrían utilizado sistemas rusos Lancet-3M para atacar objetivos navales ucranianos.
En ambos tipos de operaciones además se debe considerar el posible empleo de tácticas de enjambre de SAA-A destinados a saturar los medios de defensa, incrementar la eficiencia y reducir el riesgo.
Por último, se debe considerar el posible empleo de los SAA-A contra las capacidades de Sistemas Autónomos y Robóticos (RAS) y contra las capacidades de inteligencia, vigilancia, reconocimiento y selección de blancos (ISRT) del adversario. Este tipo de empleo no ha sido aún observado en combate, sin embargo, es destacable que estos conceptos ya han sido considerados en la doctrina de las Fuerzas de Defensa de Australia (ADF) como operaciones Contra RAS (C-RAS) y Contra ISRT (C-ISRT).
Operaciones Aéreas de Apoyo al Combate
Una de las formas en que se ha evidenciado el empleo de los SAA-A en operaciones aéreas de apoyo al combate es la realización de actividades de ISR y targeting dinámico, lo que ha sido observado en la guerra de Nagorno Karabaj y Rusia-Ucrania, particularmente mediante el empleo de los sistemas Skystriker y Drone 40.
También dentro de este tipo de operaciones se puede considerar el empleo de los SAA-A para el transporte logístico, capacidad que actualmente se encuentra en desarrollo, en proyectos como el sistema aéreo no tripulado de reabastecimiento táctico TRV-150C.
De igual forma, se debe considerar el posible empleo de SAA-A bajo la modalidad de aviones de combate colaborativos o UAS autónomos para explotación del espectro electromagnético, como inteligencia de señales, relay de comunicaciones y data, medidas de apoyo electrónico, ataque y protección electrónica y ciberataques, capacidad que se encontraría actualmente en desarrollo.
Asimismo, los SAA-A están llegando al área de reabastecimiento en vuelo de combustible, por ejemplo, tenemos al dron MQ-25 T1 Stingray de Boeing que realizó su primer reabastecimiento autónomo de un avión de combate F/A 18 Super Hornet en junio de 2021.
Operaciones Aéreas Estratégicas
En el ámbito de las operaciones aéreas estratégicas este tipo de ingenios también tienen cabida. Es así como se ha observado el empleo de municiones merodeadoras para ataque a infraestructura crítica en la guerra Rusia-Ucrania en la que se han empleado sistemas como Shahed-136 y Geran-2 para atacar este tipo de blancos. Sumado a los anterior, S-UAS han sido capaces de atacar en la profundidad de territorio Ruso, donde los sistemas de negación de acceso de área (A2/AD) no permiten que el poder aéreo convencional logre accionar.
También en este tipo de operaciones se debe considerar el posible empleo de SAA-A en modalidad de enjambre contra blancos estratégicos, con énfasis a contrarrestar una estrategia A2/AD. Esta capacidad se encontraría ya en desarrollo, en proyectos como tácticas ofensivas habilitadas por enjambre OFFSET.
Por último, se debe considerar el potencial empleo de SAA-A del tipo aviones de combate colaborativos contra blancos estratégicos. Capacidad que se encuentra en desarrollo en proyectos tales como el XQ-58 Valkyrie o el MQ Ghost Bat.
Operaciones Aéreas Integradas
El empleo de múltiples SAA-A como parte de equipos Humano Máquina en operaciones aéreas Integradas o COMAO considerarán los conceptos de Aviones de Combate Colaborativos o también conocidos como Loyal Wingman. La flexibilidad y bajo costo permitirá explotar el principio de “Masa Costeable” (Affordable Mass). Esta capacidad ya se encuentra en desarrollo en proyectos tales como el XQ-58 Valkyrie o el MQ Ghost Bat.
De igual forma, se estima que el empleo de SAA-A en modalidad de enjambre será la evolución de las Operaciones Aérea Integradas. En estas formas de empleo los sistemas autónomos operarán con el ser humano fuera del Loop de decisión, lo que requerirá de nuevos métodos para asegurar el cumplimiento de la misión dentro de las restricciones impuestas al enjambre. Esta capacidad se encontraría en desarrollo, en proyectos como tácticas ofensivas habilitadas por enjambre OFFSET.
Operaciones Terrestres de Combate
En el ámbito de este tipo de operaciones se pueden señalar el empleo de los SAA-A del tipo S-UAS autónomos o municiones merodeadoras con fuerzas especiales e infantería de aviación, en operaciones de comandos o de protección de las fuerzas, complementando capacidades de ISR o como arma. Su empleo fue observado en la guerra de Nagorno Karabaj y Rusia-Ucrania con los sistemas Skystriker y Drone 40.
De igual forma es posible considerar el empleo de los SAA-A del tipo S-UAS autónomos o municiones merodeadoras en tácticas de enjambre como parte de un Sistema Integrado de Defensa Aérea, participando en operaciones de defensa antiaérea. Este empleo aún no ha sido observado en combate.
Beneficios del empleo de sistemas de armas autónomos aéreos
"La guerra es una cuestión de velocidad: velocidad en la toma de decisiones, en la acción y en la coordinación, y la velocidad gana guerras. La velocidad es el arma más poderosa en la guerra. Acelerar el Kill Chain[4] es la esencia de la guerra moderna."(Antal, 2022, p. 1)
Los principales beneficios que derivan del empleo de los SAA-A, como también los tres Principios de la Guerra y tres Principios de ISR que mayormente se verán fortalecidos por el empleo de los SAA-A, son los que se detallan a continuación.
Rapidez en la toma de decisiones
Los SAA-A permitirán procesar, explotar y diseminar información a velocidades superiores a las humanas. Esta capacidad, integrada con otros sistemas podrá acelerar el proceso de toma de decisiones por parte de los operadores o comandantes, o bien permitir la automatización del ciclo OODA[5]. Esto podría traducirse en un aumento en el ritmo operativo a velocidad de máquina y una superioridad en la toma de decisiones logrando controlar el tempo de las operaciones (accionar más que reaccionar).
Soporte al ISTAR autónomo
La autonomía de los SAA-A acelerará las funciones de ISTAR (Inteligencia, Vigilancia, Identificación de Objetivos y Reconocimiento), mejorando la conciencia al recopilar, procesar y priorizar información de redes de sensores avanzados, transformando los datos en conocimiento para comandantes y operadores, entregando valor al ciclo de toma de decisiones. Por otro lado, la flexibilidad de cargas, la capacidad de operar en enjambre, su reducido costo, su diversidad de tamaños, su autonomía y la integración con otros sistemas terrestres o marítimos, extenderán la eficiencia del sistema de ISR a nivel conjunto en operaciones multidominio.
Targeting Dinámico Autónomo
Las funciones autónomas de identificación, seguimiento, selección, ataque y evaluación de blancos permitirán acelerar el ciclo de targeting dinámico. En este sentido los SAA-A contribuirán operando de manera unitaria o como parte de un enjambre, en cada una de las etapas del proceso de encontrar, localizar, traquear, designar, atacar y evaluar. Finalmente, considerando la operación en modo completamente autónomo, los SAA-A serían capaces de ejecutar el Targeting Dinámico de forma autónoma.
Precisión
Los SAA-A permitirán una mayor precisión en la aplicación de efectos, logrando con esto un empleo de la fuerza de una manera más efectiva y discriminada.
Economía de los medios
Los sistemas no tripulados pueden incurrir en menores costos, tanto en términos de producción como de operación. Los sistemas tripulados requieren características como sistemas de soporte vital, alojamiento para la tripulación o instalaciones médicas. Los sistemas no tripulados eliminan la necesidad de estas características, lo que resulta en un diseño más simple y menos costoso. De igual manera, la capacidad de que un operador controle múltiples SAA-A permitirá reducir la cantidad de operadores necesarios, disminuyendo el gasto de entrenamiento y hora hombre.
Reducción del riesgo al personal
Los SAA-A podrán ser empleados en tareas repetitivas, complejas y peligrosas, reemplazando al ser humano, reduciendo así el riesgo de bajas entre las fuerzas propias y disminuyendo además otros efectos como la fatiga o el estrés producido por las operaciones. Además, alejaría a operadores del frente, reduciendo el riesgo de ataques adversarios. Esto podría traducirse en fuerzas más resiliente al combate.
Mayor accesibilidad
Como los SAA-A pueden ser más pequeños y ligeros, pueden acceder a ubicaciones a las que no logran acceder los sistemas tripulados, permitiendo operar además en zonas donde no se logre establecer comunicaciones con el operador, como por ejemplo dentro de túneles, áreas denegadas por interferencia de comunicaciones o GPS y zonas altamente congestionadas, como las urbanas.
Mayor Flexibilidad
Los SAA-A serán reconfigurables rápidamente, intercambiando hardware modular y/o descargando nuevos softwares que actualicen capacidades. Los SAA-A incrementarán capacidades mediante una flexibilidad de misiones (capacidad de adaptarse a cambios de misión), flexibilidad con los pares (capacidad de proyectar el empleo conjunto en equipos de humano-máquina o máquina-máquina) y la flexibilidad cognitiva (capacidad de aprender nuevos métodos para el cumplimiento de las misiones).
Mejora de capacidades humanas
Los sistemas militares autónomos pueden permitir reducir el número de operadores, al mismo tiempo que aumentan su eficiencia. La autonomía permitirá multiplicar las capacidades del operador tradicional de una plataforma, por una gestión de múltiples SAA-A bajo un controlador o supervisor. Por otro lado, esto mejorará la conciencia situacional, reducirá la carga física y cognitiva de los operadores, facilitará la maniobra en el campo de batalla y extenderá la permanencia y supervivencia de los medios. Reemplazar a los soldados con sistemas prescindibles en el frente, será especialmente valioso para llevar a cabo operaciones de combate futuras en entornos subterráneos y urbanos.
Posibilidad de empleo en masa
Los SAA-A permitirán un aumento del empleo en masa de medios de bajo costo, con una precisión nunca vista, proporcionando más opciones para generar una concentración ventajosa de poder de combate, dispersar la fuerza o crear engaño. Este empleo en masa se lograría mediante el desarrollo y uso de un gran número de plataformas relativamente económicas, las que, en conjunto con otras plataformas, permitirán el empleo más eficiente de las fuerzas. De esta forma, un gran número de drones pequeños, económicos y fáciles de fabricar, capaces de exhibir comportamientos de enjambre, aumentará la masa y permitirá incrementar el nivel aceptable de atrición, potenciando el principio de “masa costeable” (Affordable Mass).
Negación de área
Los SAA-A podrán ser empleados para negar a los adversarios el acceso o el paso a través de una determinada zona. Las tácticas de enjambre lograrán un efecto multiplicador y multidominio de este beneficio, complementando las estrategias A2/AD.
Reducción de daño colateral
Múltiples capacidades previstas para los SAA-A están asociadas a la reducción del daño colateral. La automatización del procesamiento y análisis de datos permitirá la identificación, traqueo, selección, ataque y evaluaciones, incrementando las capacidades de los sistemas para atacar blancos militares y combatientes, distinguiendo de manera autónoma a no combatientes, o blancos no legítimos que no hayan sido aprobados previamente en procesos de targeting deliberado o que ya estén neutralizados. En complemento con esto, mecanismos autónomos de autodestrucción, desactivación o neutralización, sumado a mayores capacidades de predicción de efectos letales, reducirán el riesgo de daños no intencionados a civiles o a infraestructura civil. Por otro lado, la autonomía de los SAA-A no se vería degradada por factores humanos como el estrés, fatiga, cansancio o motivaciones negativas como la venganza, disminuyendo con esto el Daño Colateral, resguardando además el cumplimiento del DIH. Además, considerando su bajo costo relativo y que la destrucción de un SAA-A no traerá inmediatamente la muerte de un operador, se podrán establecer limitaciones a respuestas defensivas inmediatas, lo que reducirá daños colaterales, sobre todo en ambientes densamente poblados.
Fortalece la aplicación de los principios de la guerra
Todos los principios de la guerra se ven fortalecidos por el empleo de los SAA-A. Los principios mayormente fortalecidos son los de Objetivo, Ofensiva y Sorpresa.
Fortalece la aplicación de los principios de ISR
Todos los principios asociados a ISR se ven fortalecidos por el empleo de los SAA-A. Los principios mayormente fortalecidos son los de Objetivo, Persistencia sobre el Objetivo y Oportunidad de la Información.
Principios de IA responsable para empleo de los SAA-A
La historia de la innovación tecnológica muestra que la innovación en sí misma no es lo que importa, sino cómo y por qué se utiliza. En su esencia, la preocupación principal es cómo incorporamos nuestros valores fundamentales en cada paso del desarrollo y despliegue de los sistemas. (GGE on LAWS Chile & México, 2022, p. 5)
Los principios de IA responsable (RAI por sus siglas en inglés) son principios generales que orientan el empleo ético y legal de las aplicaciones habilitadas por IA en el ámbito militar. A continuación, se describen los Principios de IA responsable específicos para el empleo de los SAA-A:
Legalidad
Los SSA-A se desarrollarán y utilizarán de acuerdo con las leyes y regulaciones nacionales, leyes internacionales, incluyendo el Derecho Internacional Humanitario (DIH) y los Derechos Humanos, según sea aplicable.
Responsabilidad y Rendición de Cuentas
El personal relevante como desarrolladores, operadores y tomadores de decisión ejercerán niveles apropiados de juicio y cuidado. Se aplicará una responsabilidad humana clara para asegurar la rendición de cuentas, durante el desarrollo, despliegue y uso de los SAA-A.
Gobernabilidad
Los SAA-A se desarrollarán y utilizarán de acuerdo con sus funciones previstas y su control se ejecutará mediante una interacción humano-máquina adecuada. Permitiendo la capacidad de detectar y evitar consecuencias no deseadas, y la capacidad de desenganchar o desactivar sistemas desplegados que demuestren comportamiento no deseados.
Transparencia y explicabilidad
Se deberá garantizar la transparencia y la capacidad de rastrear y entender las decisiones de los SAA-A, como también el factor humano en el proceso de consentimiento. Se fomentará la explicabilidad de los SAA-A, la comprensión adecuada del personal relevante y la trazabilidad de metodologías, fuentes de datos y documentación.
Confiabilidad y seguridad
Los SAA-A necesitan ser confiables para los usuarios y operadores, para los comandantes y el personal de apoyo, para militares, gobierno y la población civil de una nación. Los SAA-A tendrán casos de uso explícitos y bien definidos, resguardarán la seguridad operacional, seguridad militar y ciber seguridad. Para lo cual se implementarán procesos de certificación y de gestión de riesgo.
Mitigación de Sesgos
Se tomarán medidas proactivas para minimizar cualquier sesgo no intencionado en el desarrollo y uso de los SAA-A, considerando además aquellos que pudieran estar en el conjunto de datos de entrenamiento.
Gobernanza
Establecer una estructura de gobernanza disciplinada, con procesos que permitan una efectiva supervisión y la mantención de la responsabilidad por sobre los SAA-A. Considerando su efectividad, integración y resiliencia, como también el factor humano en el ámbito de acción del sistema.
No Antropomorfizar
Los SAA-A no presentarán formas o cualidades humanas, que induzcan a una sobre confianza o falsa percepción de humanidad, que pueda provocar la disipación del sentido de responsabilidad y rendición de cuenta, o la deshumanización en la toma de decisiones sobre el empleo ético y legal del sistema.
Consideraciones para modelos de control humano de los SAA-A
A continuación, se describen las consideraciones para los usos de modelos de control de empleo de los SAA-A que han sido levantados por el grupo REIM y el GGE LAWS. Se presenta una breve descripción y las consideraciones para el modelo de Control Humano Directo y el Control Humano Significativo. Cabe destacar que las consideraciones utilizadas se basan principalmente en acciones en relación con las debilidades encontradas para cada modelo y otras de desarrollo del investigador.
Control Humano Directo
En este modo de empleo de SAA-A el operador debe mantener el control durante las funciones críticas para la aplicación de la fuerza letal en contra de personas, como por ejemplo la identificación positiva y el ataque. Esta modalidad considera la prohibición del empleo letal completamente autónomo sobre humanos. Las consideraciones más relevantes relacionadas con esta modalidad son:
Requiere de un enlace de comunicaciones bidireccional y data entre el operador y el SAA-A, con un ancho de banda apropiado y la latencia requerida para ejercer el control en tiempo real. Este enlace de comunicaciones permanentes entre el operador y el SAA-A presentan la vulnerabilidad de ser detectadas, interferidas o manipuladas por la acción adversaria. Esto aumentará el riesgo al operador y el SAA-A.
Permite una mayor aplicación de los Principios de IA responsable en el empleo de los SAA-A, pero en contraposición limita aquellos beneficios asociados al empleo completamente autónomo de los SAA-A.
Condiciona el empleo de múltiples SAA-A por parte de un único operador a la capacidad de éste para controlar la ejecución de las funciones críticas de cada sistema.
Las operaciones en entornos disputados, congestionados, complejos o sin comunicaciones, como túneles o zonas altamente pobladas, afectarán la capacidad de mantener las comunicaciones y data con el ancho de banda y latencia adecuada para mantener un control en tiempo real de los SAA-A.
Requiere mantener una supervisión por sobre los operadores de SAA-A para detectar sobre confianza, que conlleve a complacencia en el control del empleo, ya que esto induciría a un modo de empleo completamente autónomo del SAA-A producto de negligencia del operador.
Se deberán considerar los factores humanos en el proceso de toma de decisiones, en relación con las degradaciones cognitivas producto del estrés o la fatiga o por motivaciones negativas. De igual forma la interfaz hombre-máquina de los SAA-A debe cumplir con estándares de explicabilidad que le permitan al operador mejorar su capacidad de toma de decisiones en el control del empleo letal.
Se debe considerar que este modo es recomendable cuando no se puede obtener información de inteligencia actualizada y precisa en relación con el contexto de la misión, el entorno de la operación, evaluación del daño colateral o características específicas del SAA-A.
Control Humano Significativo
En esta modalidad de empleo los SAA-A operan en forma completamente autónoma en todas sus funciones críticas. Mediante una serie de normas, restricciones y características (sistema-situación-blanco), le permitirían al operador o al comandante, ejercer un juicio razonable sobre la confiabilidad del empleo letal autónomo de los SAA-A. Esta propuesta de regulación del empleo letal completamente autónomo propone restricciones y condiciones para el uso letal contra personas, sin prohibirlo.
Las consideraciones más relevantes relacionadas con esta modalidad son:
Permite obtener mayores beneficios en el empleo de los SAA-A. al posibilitar su trabajo completamente autónomo, en contraposición se debe considerar que limitaría la aplicación de los principios de IA responsable para el empleo de los SAA-A.
El uso del modo completamente autónomo para funciones asociadas al empleo letal, como identificación y ataque, se limitará en áreas preestablecidas, con tiempos acotados de uso y sobre un set de blancos limitado, aprobado y controlado. Cuando no se tenga un juicio razonable sobre la confiabilidad del empleo completamente autónomo, se deberá emplear con el operador en el Loop.
Los comandantes dispondrán reglas de enfrentamiento para el empleo de sistemas autónomos, que le permitan a los tomadores de decisión de niveles inferiores y operadores establecer los juicios razonables para la decisión de empleo de los SAA-A en modos completamente autónomos.
Las reglas de enfrentamiento aprobadas previamente para el empleo en modo completamente autónomo establecerán las condiciones y casos de uso explícitos que deberán utilizar el comandante u operador, antes del empleo letal de los SAA-A.
Se deberá planificar los puntos estimados de pérdida de comunicaciones para una activación anticipada de las restricciones asociadas al empleo completamente autónomo.
El empleo de los SAA-A deberá considerar un proceso formal, trazable y transparente de gestión de riesgos.
En caso de que las capacidades de mantener las comunicaciones y data con el ancho de banda y latencia sean adecuadas, se mantendrá un operador en el loop del empleo, claramente identificable con la función de detectar y evitar enfrentamientos o acciones no intencionados, o fallas en el SAA-A.
Los procesos de instrucción, entrenamiento y certificaciones de operadores y comandantes, que tengan relación la toma de decisiones sobre el empleo de SAA-A en modo de Control Humano Significativo, deberán fortalecer y medir las capacidades de comprensibilidad y predictibilidad que ejercerán durante las operaciones.
El interfaz humano máquina de los SAA-A deberá cumplir con estándares de explicabilidad que le permitan al operador mejorar su capacidad de toma de decisiones en la activación del modo completamente autónomo.
Se deberá mantener una supervisión sobre los operadores de SAA-A para detectar sobre confianza que conlleve a complacencia en la evaluación de requerimientos para la activación de los sistemas completamente autónomos.
Se deberán tomar acciones para evitar la deshumanización en los procesos de toma de decisiones asociadas al empleo letal de los SAA-A en modo completamente autónomo. Especial atención se deberá tener sobre los SAA-A que presenten una interacción que simule características humanas y que puedan generar una sobre confianza o falsa sensación de humanidad.
Diagrama gráfico del modelo conceptual
A continuación, se presenta el diagrama gráfico del modelo conceptual para el empleo de los Sistemas de Armas Autónomos Aéreos. Este diagrama se compone de un resumen de los cuatro componentes descriptos previamente y se incluye además la definición de SAA-A.
Diagrama gráfico del modelo conceptual (elaboración propia)
Conclusión
El modelo Conceptual desarrollado permite establecer las bases para futuros análisis y representa un trabajo inicial en la formación de una base de conocimiento que permita generar mayor comprensión sobre los factores que deben ser considerados cuando se evalúe este tipo de sistemas. El desarrollo de la investigación permitió evaluar una serie de principios asociados al empleo ético, legal y responsable de la Inteligencia Artificial, donde se pudo determinar un conjunto de Principios de IA responsable en el Ámbito Militar, los cuales finalmente fueron desarrollados en base a su aplicabilidad en los SAA-A para elaborar la propuesta específica en esta área.
Sin embargo, es necesario considerar que el impacto de estas tecnologías cambiará también los paradigmas asociados con las funciones de mando y control y los de planificaciones de operaciones ofensivas y defensivas.
Considerando los antecedentes planteados, parece evidente que es necesario considerar este tipo de sistemas como parte de la estructura de la fuerza de una componente aérea, lo que implica su utilización en las operaciones aéreas y la necesaria adecuación de las doctrinas existentes. Los SAA-A ya están presentes en los conflictos que hoy en día se están librando. Ignorar o retrasar su incorporación puede constituir una vulnerabilidad a explotar por posibles adversario, implicado un alto costo para la seguridad nacional.
*Oficial de la Fuerza Aérea de Chile. Oficial de Estado Mayor. Piloto de Combate. Piloto de F-16. Magíster en Inteligencia Artificial en la Universidad Adolfo Ibáñez.
Bibliografía
Antal, J. (2022). 7 Seconds to Die: A Military Analysis of the Second Nagorno-Karabakh War and the Future of Warfighting.
Chakoar, S. (2022). Artificial Intelligence (AI) for Weapons Systems – DSIAC. https://dsiac.org/state-of-the-art-reports/artificial-intelligence-ai-for-weapons-systems/
CICR. (2021, July 20). Posición del CICR sobre los sistemas de armas autónomos [Artículo]. Comité Internacional de la Cruz Roja. https://www.icrc.org/es/document/posicion-del-cicr-sobre-los-sistemas-de-armas-autonomos
Darwin, C.R. (2002). Darwin, C. R. 1859. On the origin of species by means of natural selection, or the preservation of favoured races in the struggle for life. Chapter XIV [1st edition]. https://darwin-online.org.uk/content/frameset?itemID=F373&pageseq=1&viewtype=text
DoD (USA). (2023). DOD Directive 3000.09 Autonomy in Weapon System. https://www.esd.whs.mil/portals/54/documents/dd/issuances/dodd/300009p.pdf
GGE on LAWS Chile & México. (2022). Working Paper N°5 “Elements for a Legally Binding Instrument to Address the Challenges Posed by Autonomy in Weapon Systems.” https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-_Group_of_Governmental_Experts_(2022)/CCW-GGE.1-2022-WP.5.pdf
MDNa. (2023). DNC 00 2023 Doctrina para la acción Conjunta de las FF.AA.
ONU CS. (2021). Informe final del Grupo de Expertos sobre Libia establecido en virtud de la resolución 1973 (2011) del Consejo de Seguridad. https://documents-dds-ny.un.org/doc/UNDOC/GEN/N21/037/75/PDF/N2103775.pdf
Postma, J. (2021). Drones over Nagorno-Karabakh: A glimpse at the future of war? Atlantisch Perspectief, 45(2), 15–20.
Scharre, P. (2018). Army of none: Autonomous weapons and the future of war (First edition). W. W. Norton & Company.
UN. (2023). Background on LAWS in the CCW – UNODA. https://disarmament.unoda.org/the-convention-on-certain-conventional-weapons/background-on-laws-in-the-ccw/
Watts, T. F. A., & Bode, I. (2023). Loitering Munitions and Unpredictability. https://doi.org/10.5281/ZENODO.7860762
[1] Cita de John Antal en “7 Seconds to Die: A Military Analysis of The Second Nagorno-Karabakh War and The Future of Warfighting”.
[2] SUAS: Small Unmanned Aereal System
[3] RAS: Robotic and Autonomous System
[4] Kill Chain o cadena de eliminación: Proceso que comprende desde el encontrar un blanco hasta atacarlo.
[5] OODA: Observar, Orientar, Decidir y Actuar.