DISEC

La regulación internacional de las armas

autónomas letales

USIL
School 2025

XI Edición
ÍNDICE
1. Carta de la Secretaria General​ 2
2. Carta de la Directora​ 3
3. Presentación del tema​ 4
4. Historia del Comité​ 4
5. Historia del Tema​ 6
6. Contexto del Tema​ 7
a. Aplicación del Tema en el Comité​ 9
7. Acciones Internacionales​ 10
8. Casos de Estudio​ 12
a. Tensiones geopolíticas​ 12
b. Rol del sector privado​ 16
Caso de Estudio 1: Project Maven (Google y el Departamento de Defensa de [Link].)​
17
Caso de Estudio 2: Contrato JEDI y la militarización de la nube​ 17
Caso de Estudio 3: Booz Allen Hamilton​ 18
9. Situación Actual​ 19
10. [Link]​ 21
11. Preparación para la conferencia​ 22
12. Guía para elaborar el Position Paper​ 24
a. Formato​ 24
b. Forma​ 24
13. Referencias Bibliográficas​ 26
 1.​ Carta de la Secretaria General

Mucho gusto con todos, mi nombre es Andrea Valentin y este año tengo el honor de
desempeñar el cargo de Secretaria General de la XI edición de USILMUN School, reto que
asumo con enorme gratitud y responsabilidad junto a mi gran equipo Geraldine Romaní,
Camila Rojas, Alessandra Marín y una gran amiga: Ana Cecilia Ccamsaya.

Hace ya cuatro años que conocí el mundo de los Modelos de Naciones Unidas, y no puedo
estar más agradecida por las oportunidades y amistades que me ha brindado. Cada
experiencia, tanto las más bonitas como las más difíciles, me han enseñado algo y me han
acompañado en este camino. Son esas vivencias, con sus altos y bajos, las que me recuerdan
que crecer también significa aprender de cada paso y de cada persona que cruza por nuestra
vida.

Sé que el camino no es sencillo: los días de debate, las sesiones intensas y las negociaciones a
veces ponen a prueba nuestros nervios y nuestra confianza. Yo también me pregunté en más
de una ocasión qué significaba para mí el MUN, cuál era el verdadero sentido de competir, de
ganar, de dar lo mejor de uno mismo. Y después de años de experiencia, he comprendido que
el MUN es mucho más que resoluciones o reconocimientos: es la oportunidad de defender
valores. Porque prometer un voto es fácil, pero ejercerlo con honestidad y respeto es un
verdadero desafío.

Como bien dijo San Ignacio de Loyola: “El amor se debe poner más en las obras que en las
palabras.” Y creo que esa es también la esencia del MUN: que nuestras palabras en debate
estén siempre respaldadas por nuestras acciones, nuestros valores y la forma en que
impactamos a los demás. Cada conferencia, ya sea la primera o la última, nos da la
posibilidad de reflexionar sobre lo que somos capaces de lograr. El verdadero fin de todo esto
no es solo debatir, sino generar un cambio, por pequeño que sea, en nosotros mismos y en
quienes nos rodean.

Gracias por ser parte de esta edición y por apostar por un espacio que busca inspirar a los
jóvenes a convertirse en líderes con empatía, diplomacia y visión de futuro.

Bienvenidos a la XI edición de USILMUN School. Estoy convencida de que esta experiencia

será inolvidable, y que juntos, con esfuerzo y compromiso, escribiremos una nueva página en
la historia de este modelo.

Con gratitud y entusiasmo,

Andrea Lucila Valentin Timoteo

Secretaria General
 2.​ Carta de la Directora

Estimados delegad@s,

¡Bienvenid@s a USIL MUN! Mi nombre es Jasmine Delgado Aparicio y en esta edición

tengo el honor de ser la Directora del Comité de Desarme y Seguridad Internacional. Karla,
Alvaro, Joaquin y yo daremos lo mejor de nosotros para que ustedes aprendan y disfruten de
esta experiencia.

Actualmente estudio Relaciones Internacionales en la UPC y empecé a participar en Modelos

de Naciones Unidas desde secundaria. He sido delegada en Peruvian Universities, con quienes
representé al Perú en HNMUN-LA 2024 (donde gané Outstanding Delegate) y en WMUN
(donde obtuve una Verbal Commendation). Fui Secretaria General de MUN Metropolitano y
ex Directora General en GDP. Estas experiencias han sido clave para seguir creciendo en el
circuito MUN y motivar a más jóvenes a involucrarse.

Elegimos este tema porque sabía que permitiría una variedad de enfoques y posturas entre los
países representados. Confío en que esto dará lugar a discusiones enriquecedoras,
resoluciones complejas y una dinámica de comité activa y memorable. Como directora, estoy
aquí para acompañarlos en todo momento. Valoro mucho la transparencia y la
retroalimentación constante, así que, estoy muy entusiasmada por ver cómo ponen en práctica
su creatividad y pensamiento crítico en las resoluciones y sesiones.

No duden en contactarme en cualquier momento si tienen preguntas sobre el tema o dinámica

del comité, y espero con ansias conocerlos a tod@s este septiembre.

Un abrazo,
Jasmine Delgado Aparicio
Directora del Comité de Desarme y Seguridad Internacional
japaricio1311@[Link]
disecusilmunschools@[Link]
 3.​ Presentación del tema

En la era moderna, el poder militar está impulsado principalmente por los avances
tecnológicos que amplían las capacidades de las fuerzas armadas. Si bien algunas
innovaciones, como la radionavegación y los satélites de comunicación, han sido adoptadas
sin mayores complicaciones, muchas tecnologías siguen siendo el centro de intensos debates.
Este año, DISEC se centrará en las respuestas internacionales ante el surgimiento de los
sistemas de armas autónomas letales (LAWS, por sus siglas en inglés), que utilizan
inteligencia artificial y aprendizaje profundo para localizar, identificar y atacar objetivos con
una supervisión humana mínima o nula. Tanto los gobiernos como las corporaciones con fines
de lucro enfrentan incentivos significativos para fomentar el desarrollo de los LAWS, pero
actualmente existe una marcada ausencia de legislación que regule este progreso.

Dado que gran parte de la atención de la comunidad internacional está dirigida a otras
cuestiones de seguridad como las armas nucleares y los drones, es probable que el ritmo del
avance tecnológico en los LAWS continúe superando la velocidad de la creación de
normativas. En este comité, los delegados trabajarán en la creación de resoluciones que
permitan continuar con este proceso, impongan restricciones para detenerlo o encuentren un
equilibrio entre ambas posturas.

Al participar en este comité, los delegados deberán comenzar a comprender el

equilibrio que DISEC debe mantener entre respetar la soberanía de las naciones especialmente
en lo que respecta a sus programas de defensa y garantizar la seguridad de las futuras
generaciones. No existen tratados ni convenciones actuales que aborden los LAWS, por lo que
los delegados tendrán la tarea de sentar las bases para futuras acciones, así como de
determinar respuestas ante problemas inmediatos. En este sentido, deberán considerar qué rol
juega Naciones Unidas en la influencia sobre el ritmo del desarrollo tecnológico, y si
realmente puede influir en las actividades del sector privado. ¿Cuándo se considera que una
tecnología militar es demasiado peligrosa y merece una prohibición universal? ¿Qué tiene
cada país para ganar o perder con un desarrollo así, y cómo puede Naciones Unidas calibrar
estos intereses muchas veces opuestos para construir consenso? ¿Tienen los líderes mundiales
una mayor responsabilidad de desarrollar y utilizar tecnologías que fortalezcan sus sistemas
de defensa, o deberían priorizar colectivamente la seguridad de la humanidad en su conjunto?

4.​ Historia del Comité

El 24 de octubre de 1945, la Carta de las Naciones Unidas fue ratificada por China,
Francia, la Unión Soviética, el Reino Unido, los Estados Unidos y la mayoría de los otros 46
signatarios. Esta acción dio origen a la Organización de las Naciones Unidas, lo que a su vez
estableció simultáneamente la Primera Comisión: la Comisión de Desarme y Seguridad
Internacional (DISEC, por sus siglas en inglés). DISEC aborda temas de “desarme, desafíos
globales y amenazas a la paz que afectan a la comunidad internacional, y busca soluciones a
los retos del régimen de seguridad internacional” (United Nations, s.f.-a). Es además la
primera comisión de la Asamblea General de las Naciones Unidas (AGNU), la cual constituye
el centro de casi todas las negociaciones multilaterales y acciones de formulación de políticas
dentro del sistema de la ONU. La AGNU está compuesta por los 193 Estados miembros de
las Naciones Unidas, y cada uno cuenta con un voto cuando este órgano establece normas y
leyes internacionales (United Nations, s.f.-b).

La Asamblea General puede hacer recomendaciones a sus Estados miembros sobre

cualquier asunto que esté dentro del alcance de la Carta de las Naciones Unidas, lo que
incluye cuestiones de seguridad internacional, desarrollo económico, asistencia humanitaria y
más. Además de los asuntos de desarme y seguridad internacional que caen dentro del ámbito
de la Carta de la ONU, DISEC también trabaja para preservar “los principios generales de
cooperación en el mantenimiento de la paz y la seguridad internacionales, así como los
principios que rigen el desarme y la regulación de los armamentos”, y promueve “medidas y
acuerdos de cooperación orientados al fortalecimiento de la estabilidad mediante niveles más
bajos de armamento” (United Nations, s.f.-a).

DISEC cuenta con su propia Secretaría compuesta por nueve personas, y trabaja
estrechamente con la Comisión de Desarme de las Naciones Unidas, un órgano del Consejo
de Seguridad cuyo mandato es “preparar propuestas para un tratado sobre la regulación,
limitación y reducción equilibrada de todas las fuerzas armadas y armamentos, incluida la
eliminación de todas las armas de destrucción masiva” (United Nations Office for
Disarmament Affairs, s.f.-a). Además, DISEC colabora con la Conferencia de Desarme (CD),
el principal foro internacional para negociaciones multilaterales sobre desarme (United
Nations Office at Geneva, s.f.), con la Oficina de Asuntos de Desarme de las Naciones Unidas
y con el Instituto de las Naciones Unidas de Investigación sobre el Desarme, a fin de cumplir
con sus objetivos (United Nations Office for Disarmament Affairs, s.f.-b).

DISEC se reúne anualmente, pero pueden convocarse sesiones especiales por solicitud
del Consejo de Seguridad de la ONU o por la mayoría de sus Estados miembros.
Estructuralmente, la Primera Comisión sigue tres fases durante sus sesiones: debate general,
discusiones temáticas y votación de borradores, los cuales son sometidos a votación por los
miembros con derecho a voto.

DISEC ha trabajado con sus organizaciones asociadas en el desarrollo de varios

tratados históricos sobre no proliferación, entre los que se incluyen el Tratado sobre la No
Proliferación de las Armas Nucleares, la Convención sobre Armas Químicas y la Convención
sobre Armas Biológicas (United Nations Office for Disarmament Affairs, s.f.-c). Durante el
72º período de sesiones de la Asamblea General, DISEC ha estado dedicado a reducir los
presupuestos militares, establecer el Océano Índico como una Zona de Paz, prevenir una
carrera armamentista en el espacio ultraterrestre, lograr el desarme nuclear, controlar las
armas convencionales y más (United Nations, 2017).
 5.​ Historia del Tema

Para muchas personas, la inteligencia artificial está representada por películas como
Ex Machina, Terminator y Avengers: Age of Ultron. Sin embargo, la mayoría de las formas de
IA son simplemente algoritmos que ajustan su programación para minimizar errores, lo que
las hace “auto aprendientes”.

En 1950, el científico británico Alan Turing exploró la idea de que las máquinas
podían utilizar información disponible y razonar para resolver problemas y tomar decisiones,
en su artículo “Computing Machinery and Intelligence”. Sin embargo, hubo varios factores
que impidieron que las ideas de Turing se implementaran ampliamente, entre ellos la falta de
datos, financiamiento y poder de cómputo.

Entre 1956 y 1975, el interés por la IA creció a medida que las computadoras ganaban
la capacidad de almacenar información y los algoritmos de aprendizaje automático
mejoraban. Los defensores de la IA trabajaban en la creación de máquinas capaces de
procesar lenguaje natural, pensar de forma abstracta y reconocer su propia existencia.

A pesar del optimismo y los avances tecnológicos, las computadoras de finales del
siglo XX aún no eran lo suficientemente potentes. De 1974 a 1980, el mundo entró en el
primer “invierno de la IA”, una etapa en la que disminuyó el interés por el desarrollo de esta
tecnología. Esto se debió a que la mayoría de los algoritmos se basan en un enfoque de prueba
y error que requería enormes cantidades de poder de procesamiento al aplicarse a problemas
reales. Las limitaciones de memoria y velocidad de los procesadores fueron las principales
causas de frustración.

Desde entonces, la comunidad científica ha atravesado varios ciclos de “primaveras” e

“inviernos” de la IA, a medida que los sistemas informáticos evolucionaban. Hoy, avances
como el big data, el deep learning, las redes neuronales, entre otros, han desatado una
revolución de la inteligencia artificial. No obstante, conforme la IA ha avanzado y se ha
expandido, también lo han hecho sus posibles aplicaciones. El interés de los gobiernos por las
aplicaciones militares de la IA se remonta a la primera primavera de la IA, y el interés del
sector privado ha crecido significativamente desde entonces.

Desde los diseños de Leonardo da Vinci para un “caballero mecánico” hasta las
demostraciones del “telautómata” de Nikola Tesla en 1898 en el Madison Square Garden, la
idea de delegar la guerra a creaciones humanas ha estado presente a lo largo de la historia.
Aunque las máquinas de guerra controladas a distancia datan de la Primera Guerra Mundial,
el primer ejemplo de autonomía letal verdadera es la mina terrestre, cuyo uso se remonta al
siglo XVII.

En 1963, el temor de que la Unión Soviética superara a Estados Unidos en innovación

tecnológica llevó a la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA)
del Pentágono a otorgar al Instituto Tecnológico de Massachusetts (MIT) un financiamiento
de 2 millones de dólares para investigar sobre “cognición asistida por máquina”, lo que
impulsó las investigaciones en IA.

En mayo de 1972, la Fuerza Aérea de los [Link]. utilizó por primera vez aeronaves no
tripuladas autónomas con fines de vigilancia, y en julio de 1988, el sistema de defensa aérea
Aegis, en el Golfo Pérsico, derribó un avión comercial iraní, matando a 290 civiles durante la
guerra entre Irán e Irak. El uso de fuerza letal por parte de armas semiautónomas continuó en
la guerra de Bosnia, cuando el gobierno estadounidense encargó a General Atomics en 1994
la construcción del dron RQ1 Predator, inicialmente destinado a la vigilancia, pero
posteriormente modificado para portar misiles Hellfire, dando inicio a una nueva era de
drones con capacidad letal.

Desde entonces, el mundo ha presenciado la aparición de los robots centinela SGRA1

de Samsung Techwin en Corea del Sur, el vehículo aéreo de combate no tripulado X47B de
Northrop Grumman en [Link]., y el dron Taranis de BAE Systems en el Reino Unido. Todos
estos sistemas son capaces de rastrear y apuntar objetivos de forma autónoma, aunque aún
requieren aprobación humana para atacar. Sin embargo, a medida que estos sistemas
adquieren mayor autonomía, diversas organizaciones han comenzado a advertir sobre los
riesgos de otorgar a las máquinas la capacidad de matar.

El Centro para el Estudio de Riesgos Existenciales de la Universidad de Cambridge

advirtió: “Corremos el riesgo de ceder el control del planeta a inteligencias que simplemente
son indiferentes a nosotros y a cosas que consideramos valiosas como la vida y un entorno
sostenible”. En abril de 2013, un grupo de organizaciones no gubernamentales formó la
Campaña para Detener a los Robots Asesinos, que exige una prohibición universal de los
sistemas de armas autónomas letales. En mayo del mismo año, el relator especial de la ONU
sobre ejecuciones extrajudiciales, sumarias o arbitrarias, Christof Heyns, pidió una moratoria
en el desarrollo y despliegue de estos sistemas hasta que el derecho internacional sea
suficientemente capaz de regular su uso.

A pesar de ello, casi todos los países con capacidades militares avanzadas han seguido
invirtiendo en el desarrollo de armas y tecnologías de vigilancia con inteligencia artificial, y
esta tendencia no parece que vaya a revertirse en los próximos años.

6.​ Contexto del Tema

Gracias a la ciencia ficción y a la cultura popular, la inteligencia artificial (IA) es una

de las tecnologías modernas más incomprendidas y mal interpretadas. Definida como el
estudio de sistemas informáticos capaces de realizar tareas que normalmente requieren
inteligencia humana, la IA no solo representa el futuro de la guerra, sino también el futuro del
transporte, las finanzas, la salud, el comercio minorista, la manufactura e incluso la estrategia
deportiva: cualquier cosa que pueda automatizarse ya ha comenzado a integrarse con
inteligencia artificial o lo hará pronto.
 La IA emplea algoritmos de auto-aprendizaje capaces de procesar grandes cantidades
de datos y ofrecer soluciones a problemas de manera mucho más rápida y precisa que los
humanos; muchos de los desafíos más complejos en distintas industrias se han vuelto casi
fáciles de resolver con la aplicación de la inteligencia artificial. El robot humanoide social
Sophia de Hanson Robotics y los bots de Facebook que crearon su propio lenguaje son
algunos de los ejemplos más notorios de IA, pero no todas las aplicaciones de esta tecnología
revolucionaria han captado la atención de los medios por igual. La IA está en todas partes:
desde Siri hasta Google Maps, Uber y los depósitos móviles de cheques; incluso los filtros de
spam del correo electrónico y el enfoque de la cámara del iPhone usan inteligencia artificial
para cumplir sus funciones.

Hoy en día, las máquinas pueden ser entrenadas para reconocer rostros, convertir
escritura a mano en texto digital, traducir voz entre distintos idiomas y más; sería deshonesto
decir que las posibilidades son ilimitadas, pero sin duda son mayores que nunca antes.

Sin embargo, es inevitable que una tecnología con capacidades tan amplias y
aplicaciones tan variadas conlleva riesgos inherentes. La IA existe para hacer más eficientes
los procesos cuáles sean esos procesos dependerá de las corporaciones que invierten en
investigación y desarrollo, los gobiernos que redactan legislación y contratan empresas
privadas, y los científicos de datos que crean algoritmos cada vez más poderosos. Stephen
Hawking, Bill Gates y Elon Musk han expresado su preocupación de que, algún día, la IA
permita que las máquinas superen la inteligencia humana y desarrollen agendas
potencialmente dañinas.

No obstante, con el estado actual de la tecnología, la creación de “robots asesinos”

que actúen conscientemente para exterminar a los humanos está muy lejos de ser una realidad
si es que acaso es posible. Lo que los gobiernos deberían considerar con más urgencia son las
aplicaciones prácticas de la IA en máquinas y programas que ya están en uso. La IA puede
entrenar a las máquinas para que reconozcan ciertas características o patrones, como un color
de piel común, un estilo de vestimenta o una determinada altura. También puede dotarlas de
capacidad de actuar de forma autónoma; si esto se manifiesta en drones no tripulados,
enjambres o sistemas de armas autónomas letales, dependerá de las decisiones de múltiples
actores.

La inteligencia artificial, a pesar de la desconfianza que suele generar en el público,

es uno de los avances más importantes de la tecnología moderna. En su esencia, la IA permite
a los humanos procesar más información a mayor velocidad; abandonar esta tecnología por
miedo sería perjudicial para la sociedad, pero también se deben considerar los peligros de su
mal uso y los riesgos que representa para la humanidad.

Los sistemas de armas autónomas letales representan, sin duda, la tercera gran
evolución en la forma de hacer la guerra, y muchos países ya han comenzado a integrar IA en
sus sistemas de defensa. El Departamento de Defensa de los Estados Unidos ha colaborado
con Google en la implementación del Proyecto Maven, que usará inteligencia artificial para
mejorar las operaciones de vigilancia con drones.

Rusia y China también han priorizado el desarrollo e integración de la IA en sus

sistemas de defensa, y han resaltado su importancia ante sus poblaciones. El problema que
debe resolverse y la pregunta que debe responderse es cómo fomentar el desarrollo de esta
tecnología con fines beneficiosos, al tiempo que se previene su desarrollo descontrolado, una
carrera armamentista en inteligencia artificial y la pérdida de control operativo. ¿Podemos
imaginar un mundo lleno de autos autónomos, pero sin armas autónomas letales (LAWS)?

a.​ Aplicación del Tema en el Comité

El desarrollo de los sistemas de armas autónomas letales (LAWS, por sus siglas en
inglés) está impulsado principalmente por tres fuerzas: las tensiones geopolíticas, las
corporaciones privadas con objetivos capitalistas y el ritmo de la innovación tecnológica. En
este comité, los delegados tendrán la tarea de establecer un marco internacional para abordar
esta evolución en la tecnología militar. Sin embargo, la decisión de regular o no regular los
LAWS dependerá no sólo de analizar el impacto de cada una de estas fuerzas, sino también de
considerar las interacciones entre ellas.

Estos posibles puntos de intersección pueden incluir, entre otros, las alianzas
público-privadas, los programas de investigación y desarrollo corporativos y las agencias
gubernamentales de investigación. Será útil que los delegados se pregunten: ¿qué podría
motivar a un gobierno a apoyar una regulación estricta de los LAWS o, por el contrario, a
promover el libre desarrollo de esta tecnología? Luego, al hacer la misma pregunta respecto a
las corporaciones privadas y los investigadores, los delegados deberán determinar cómo las
distintas interacciones entre las tres partes podrían influir en estos incentivos, ya sea
intensificándolos o debilitándolos. Esta guía enmarca el problema tratando a las tres fuerzas
por separado, resaltando los puntos de intersección a lo largo del debate.

Además, se espera que los delegados definan formalmente qué significa que un arma
sea autónoma y letal. ¿Existe alguna manera de predecir completamente los resultados letales
cuando se aplica la fuerza? ¿Cómo deberían clasificarse las armas que son totalmente
autónomas, pero que aún requieren aprobación humana para atacar un objetivo? ¿Y acaso las
armas autónomas no letales no representan ningún motivo de preocupación? Los delegados
también deben tener en cuenta el futuro del desarrollo tecnológico. Si los algoritmos pudieran
ser “enseñados” con códigos morales y éticos, ¿cómo cambiaría esto el tratamiento de los
LAWS en el ámbito regulatorio?

En el derecho internacional humanitario, la legalidad de un arma depende de si causa

daños innecesarios y de su capacidad para distinguir entre combatientes y civiles, de acuerdo
con el Principio de Distinción entre Civiles y Combatientes. Este principio establece que “las
partes en conflicto deben distinguir en todo momento entre civiles y combatientes. Los
ataques sólo pueden dirigirse contra combatientes. Los ataques no deben dirigirse contra
civiles”. Cualquier incumplimiento de ambas condiciones haría que un arma fuera
considerada ilegal según el derecho internacional. Uno de los desafíos del despliegue de los
LAWS es que sus opositores argumentan que las máquinas no tienen la capacidad de distinguir
adecuadamente entre civiles y combatientes, lo cual complica su legalidad bajo la legislación
internacional. Este es otro elemento que los delegados deben incorporar en sus resoluciones.

Asimismo, al discutir sobre los LAWS, los delegados deben procurar abordar no solo
las armas completamente autónomas que aún no existen, sino también las armas
semiautónomas y los sistemas de armas automatizados. Es fundamental diferenciar entre
armas autónomas y automatizadas: mientras que las armas autónomas replican el proceso de
toma de decisiones humanas para llegar a resultados por sí solas, las armas automatizadas
simplemente ejecutan secuencias predefinidas de instrucciones informáticas, con resultados
completamente determinados por el programa. Existen tres niveles de autonomía en las
armas: man in the loop, man on the loop y man off the loop. Las armas man in the loop
requieren autorización humana para actuar; las man on the loop son monitoreadas por
humanos que pueden intervenir para detener su funcionamiento; y las man off the loop se
consideran totalmente autónomas, operando sin ninguna supervisión humana.

7.​ Acciones Internacionales

Si bien las tensiones geopolíticas crean incentivos para que los gobiernos desarrollen
armas y las corporaciones enfrentan fuertes incentivos económicos para apoyar ese objetivo,
los avances tecnológicos que impulsan esta revolución de la inteligencia artificial no surgen
exclusivamente de intenciones militaristas. Por el contrario, la amplia aplicabilidad de la
inteligencia artificial (IA) y el aprendizaje automático (machine learning), así como los
beneficios que conllevan, alientan a la comunidad científica a fortalecer los esfuerzos de
investigación y desarrollo.

No obstante, aunque la mayoría de científicos se opone al uso de la IA y el aprendizaje

automático para aplicar la fuerza letal, existe una mayor ambigüedad en torno a las
implicancias éticas de aceptar contratos de defensa y colaborar con instituciones militares.
Algunos científicos especializados en IA rechazan categóricamente el uso de estas tecnologías
para dañar a personas ya sean civiles o combatientes, pero muchos científicos que trabajan en
empresas con contratos activos en defensa mantienen posturas menos rígidas.

También es importante señalar que, aunque el campo de la inteligencia artificial ha

experimentado un crecimiento acelerado en la última década, los científicos aún están lejos de
desarrollar sistemas con inteligencia artificial general, es decir, aquella capaz de replicar
perfectamente el proceso intelectual humano. Los sistemas actuales se limitan a funciones
específicas y acotadas. Por ello, los especialistas en IA están menos preocupados por
escenarios apocalípticos como los de las películas distópicas, y más por el uso de esas
funciones concretas en actividades potencialmente dañinas. Además, una preocupación
significativa dentro de la comunidad de inteligencia artificial es la estigmatización
generalizada de esta tecnología; temen que su asociación con la creación de “robots asesinos”
genere una reacción pública negativa y frene la innovación, en lugar de fomentar el uso de la
IA para fines constructivos y beneficiosos.

FeiFei Li, directora del laboratorio de IA de la Universidad de Stanford y científica

jefe de IA en Google Cloud, es ampliamente reconocida como una de las mentes más
brillantes del campo. Cuando Google obtuvo su primer contrato con el Pentágono a través del
Proyecto Maven, Li participó activamente en la estrategia de comunicación pública sobre el
contrato. En un correo a sus colegas, escribió que los directivos de Google debían “evitar A
TODA COSTA" cualquier mención o implicación de IA. La IA “armamentizada” es
probablemente uno de los temas más sensibles en IA si no el más. Es carne roja para que los
medios encuentren formas de dañar a Google.” Para empresas como Google, y los científicos
que trabajan en ellas, los contratos de defensa que asumen suelen tener fines no combativos;
sin embargo, la percepción pública es extremadamente variable y propensa a cambios, lo que
lleva a las compañías a adoptar posturas cautelosas. Aun así, estos riesgos no bastan para
disuadir a los científicos de seguir avanzando en su campo.

El éxito del sector comercial se debe, en gran parte, a una tendencia reciente en las
estrategias adquisitivas de las empresas tecnológicas. En su afán por expandir sus capacidades
en IA, se dejó de lado el crecimiento orgánico a través de la incubación interna, y se prefirió
el crecimiento inorgánico, como adquisiciones de startups valoradas en mil millones de
dólares, tal como ocurrió con la compra de DeepMind por parte de Google, o la absorción de
grupos de investigación universitarios. En 2015, Uber adquirió a cuarenta expertos en
robótica del Centro Nacional de Ingeniería Robótica de la Universidad Carnegie Mellon.

En 2013, Google compró Boston Dynamics, una de las principales empresas de

investigación y desarrollo en robótica militar de [Link]., para desarrollar su división de
robots domésticos. En 2016, también se reportó que Toyota estaba interesada en adquirir
Boston Dynamics como parte de su programa de desarrollo de autos autónomos. Según The
New York Times, la compra de Boston Dynamics por parte de Google fue una clara señal de su
intención de construir “una nueva clase de sistemas autónomos que podrían hacer de todo,
desde trabajo en almacenes hasta reparto de paquetes e incluso cuidado de ancianos”.

De ello se deduce que las corporaciones con grandes cantidades de capital no dudarán
en captar al mejor talento, ya sea de la academia o de empresas más pequeñas y
especializadas. Como resultado, los científicos que pasan a formar parte de estos centros de
I+D pierden cierto grado de autonomía e independencia; los avances que impulsan ya no se
orientan únicamente al descubrimiento científico, sino a su aplicación directa en problemas
reales, como ofrecer servicios de computación en la nube o mejorar la capacidad de puntería
de drones. Y sin importar el propósito específico de su trabajo, los avances impulsados por la
comunidad científica también sientan las bases tecnológicas que podrían contribuir a la
creación de sistemas autónomos letales. Incluso si la intención original de Google al
desarrollar su división robótica era optimizar procesos en hogares de ancianos, esa tecnología
puede fácilmente adaptarse o utilizarse como base para cumplir con otros objetivos, como
ejecutar contratos de defensa con el Departamento de Defensa.

Además, numerosas empresas de diversos sectores han convertido la integración

acelerada de la IA en una prioridad estratégica. Muchas están ejecutando esta visión mediante
la creación de laboratorios internos de innovación en IA, adquisiciones de empresas de IA,
alianzas con empresas tecnológicas, centros de excelencia, estrategias agresivas de
contratación de talento y programas de formación para su personal. El mercado de talento en
IA está experimentando una demanda acelerada, y es poco probable que esta tendencia se
revierta en los próximos años. Este acceso al financiamiento y al respaldo de grandes
corporaciones impulsará la innovación, pero en última instancia serán estas empresas quienes
retengan el derecho de usar esa tecnología como mejor lo consideren.

En respuesta a estos desarrollos, así como a la cancelación de la primera reunión del

Grupo de Expertos Gubernamentales sobre Armas Autónomas Letales (LAWS, por sus siglas
en inglés), 116 empresas de IA y robótica de 26 países firmaron una petición instando a los
líderes mundiales a establecer una prohibición en el desarrollo de estas armas. Un organizador
clave de la carta fue Toby Walsh, profesor de inteligencia artificial en la Universidad de
Nueva Gales del Sur, en Sídney. Esta petición fue la primera vez que empresas de IA y
robótica adoptaron una postura conjunta sobre el tema, lo que aumentó la presión sobre los
líderes mundiales para que inicien conversaciones sobre la regulación de los sistemas de
armas autónomas letales.

Figuras como Elon Musk y Mustafa Suleyman (de Google DeepMind) firmaron la
carta, junto con otros científicos en IA y directores ejecutivos opuestos al uso de la IA para
aplicar fuerza letal. Algunos firmantes destacados incluyen a Esben Østergaard, fundador y
director de tecnología de Universal Robotics (Dinamarca); Jerome Monceaux, fundador de
Aldebaran Robotics (Francia); Jürgen Schmidhuber, experto en deep learning y fundador de
Nnaisense (Suiza); y Yoshua Bengio, líder en aprendizaje profundo y fundador de Element AI
(Canadá). Los países representados en esta petición incluyen Australia, Canadá, China,
República Checa, Dinamarca, Estonia, Finlandia, Francia, Alemania, Islandia, India, Irlanda,
Italia, Japón, México, Países Bajos, Noruega, Polonia, Rusia, Singapur, Sudáfrica, España,
Suiza, Reino Unido, Emiratos Árabes Unidos y Estados Unidos.

En este comité, los delegados deberán considerar cuidadosamente el rol que la IA

desempeñará en el desarrollo del futuro. Es importante ser conscientes de hasta qué punto la
inteligencia artificial y el aprendizaje automático ya han sido aplicados a objetivos militares.

8.​ Casos de Estudio

a.​ Tensiones geopolíticas

Existen numerosos beneficios militares y económicos asociados al uso de sistemas de

armas autónomas, incluyendo, pero no limitándose a, una mayor velocidad y precisión en la
planificación y logística del campo de batalla, la minimización de errores humanos motivados
emocionalmente, y la reducción de bajas humanas. Aunque la inteligencia artificial no es un
arma en sí misma, es un habilitador poderoso que puede expandir significativamente las
capacidades de los sistemas de defensa nacional. Esto crea la posibilidad de una nueva carrera
armamentista internacional centrada en los sistemas de armas autónomas, sean letales o no. Y
los precedentes históricos muestran que las consecuencias de las carreras armamentistas
pueden ser catastróficas e impredecibles.

Una vez que la escalada comienza, el incentivo para que las naciones firmen tratados
de prohibición o limitación disminuye rápidamente. La carrera armamentista nuclear ilustra
cuán rápido puede propagarse la fiebre por el desarrollo de armamento, y cómo, incluso
después de que se forma un movimiento internacional de regulación, las naciones pueden
continuar construyendo arsenales para aumentar su poder político. El Proyecto Manhattan,
una iniciativa de 2 mil millones de dólares, se estableció en 1942, seguido rápidamente por
los bombardeos de Hiroshima y Nagasaki en 1945.

Aunque la ONU pidió la eliminación total de las armas nucleares en su primera

resolución el 24 de enero de 1946, la Unión Soviética probó su bomba “Primer Rayo” en
Semipalátinsk, Kazajistán, en agosto de 1949. El Reino Unido realizó su primera prueba
nuclear en octubre de 1952, seguida por Francia en febrero de 1960, China en octubre de
1964, India y Pakistán en mayo de 1998, y Corea del Norte en octubre de 2006. Estos
desarrollos ocurrieron a pesar del manifiesto RussellEinstein de marzo de 1954, la firma del
Tratado de No Proliferación Nuclear en julio de 1968, la decisión de 1996 de la Corte
Internacional de Justicia que ilegalizó el uso de armas nucleares, y la firma en septiembre de
1996 del tratado de prohibición total de pruebas nucleares. Más de cincuenta años después del
primer uso de un arma nuclear, las negociaciones para eliminar su presencia en el mundo aún
continúan.

Caso de Estudio 1: El caso del SGRA1 en la frontera intercoreana

Aunque no existen armas completamente autónomas operativas, los sistemas

semiautónomos como el SGRA1, desarrollado por Samsung Techwin y la Universidad de
Corea, representan una fase transitoria hacia los Sistemas de Armas Letales Autónomas
(LAWS). Este sistema, desplegado en la zona desmilitarizada entre Corea del Sur y Corea del
Norte, identifica y puede disparar contra intrusos con o sin intervención humana, lo cual ha
generado controversia internacional.

Su existencia plantea múltiples desafíos a la seguridad internacional: por un lado,

aumenta la eficiencia militar y reduce la dependencia del personal humano, y por otro, genera
incertidumbre sobre la legalidad, transparencia y control de los sistemas autónomos en
escenarios de conflicto. Además, si bien el SGRA1 es técnicamente un arma “con un humano
en el bucle”, cuenta con un modo automático que lo convierte en un arma “con el humano
sobre el bucle”, lo que implica que podría tomar decisiones letales sin intervención directa.
 En términos geopolíticos, este tipo de sistemas podría tener un efecto disuasivo al
elevar el umbral para la agresión, como sucede en la frontera coreana, donde su despliegue ha
reducido los errores humanos y aumentado la capacidad de respuesta. Sin embargo, también
puede detonar una carrera armamentista silenciosa entre naciones que buscan ventajas
similares, sin una regulación clara o efectiva. El ocultamiento o ambigüedad en las
capacidades de estas armas, como se ha observado en declaraciones contradictorias del
gobierno y la empresa desarrolladora, agrava la falta de confianza y supervisión.

Caso de Estudio 2: AGM158C LRASM

La introducción del AGM158C Long Range AntiShip Missile (LRASM) por parte de
los Estados Unidos representa una nueva fase en la evolución de los Sistemas de Armas
Letales Autónomas (LAWS). A diferencia de misiles convencionales como el Harpoon, el
LRASM incorpora algoritmos de navegación autónoma, sensores multiespectrales, evasión
inteligente de obstáculos, y capacidad de identificar y seleccionar objetivos sin asistencia
humana directa una vez lanzado. Su desarrollo responde a un contexto de creciente
competencia militar con potencias como China y Rusia, cuyas capacidades misilísticas
superaron temporalmente a las de [Link]., forzando una reevaluación estratégica.

Esta tecnología permite a los misiles actuar de forma independiente si las

comunicaciones son interrumpidas, tomar decisiones de navegación en entornos hostiles, y
coordinar ataques en enjambre con otros misiles sin intervención humana. Estos atributos
hacen del LRASM no solo un sistema de defensa avanzado, sino también un precedente
preocupante en cuanto a autonomía letal y proliferación tecnológica. La colaboración entre el
Departamento de Defensa estadounidense y empresas como Lockheed Martin, así como su
futura exportación a aliados como Australia, Polonia o Finlandia, demuestra cómo el
armamento autónomo se convierte en una herramienta geopolítica con potencial
desestabilizador.

Caso de Estudio 3: IAI Harpy

El desarrollo y comercialización del sistema IAI Harpy, producido por Israel

Aerospace Industries, representa un ejemplo paradigmático del avance y la proliferación de
municiones merodeadoras con capacidades autónomas. Diseñado como un arma "dispara y
olvida", el Harpy puede detectar, atacar y destruir emisores de radar sin intervención humana
una vez lanzado. Equipado con un sistema de enlace de datos bidireccional y sensores ópticos
para misiones diurnas y nocturnas, este sistema es un precursor de los drones suicidas
autónomos utilizados en conflictos contemporáneos.

Más allá de sus capacidades técnicas, el Harpy encarna los desafíos que plantea la
difusión internacional de tecnologías autónomas de uso militar. Vendido a países como Corea
del Sur, India, Turquía y China, su exportación generó tensiones diplomáticas, especialmente
entre Israel y Estados Unidos. En 2003, un contrato de actualización con China fue objeto de
presión por parte de Washington, que temía que dichas armas pudieran ser empleadas en un
posible conflicto en el estrecho de Taiwán. A pesar de que Israel afirmó que el Harpy no
contenía componentes estadounidenses, se vio obligado a suspender la transferencia. Esta
situación evidenció el rol geopolítico que juega la transferencia de tecnologías autónomas
avanzadas, y cómo puede afectar alianzas estratégicas.

El caso del Harpy también refleja una evolución táctica significativa: desde el uso de
drones señuelo en la Guerra del Yom Kippur hasta el despliegue masivo de municiones
merodeadoras en operaciones como “Mole Cricket 19”. La transición hacia sistemas
autónomos fue impulsada por la necesidad de reducir riesgos humanos, aumentar la eficiencia
táctica y consolidar superioridad aérea mediante la automatización del ciclo detección–ataque.

A pesar de los intentos de limitar su proliferación, otros países como China han
desarrollado sistemas similares (ASN301), evidenciando la capacidad de los Estados para
replicar tecnologías militarmente eficaces aún bajo restricciones.

Caso de Estudio 4: Taranis y el desarrollo de UCAVs autónomos en Europa

El Taranis es un vehículo aéreo de combate no tripulado (UCAV) desarrollado por el

Reino Unido con capacidades avanzadas de vigilancia, identificación y ataque, bajo
supervisión humana en decisiones letales. Concebido como una iniciativa demostrativa y
tecnológica, no operacional, el proyecto refleja el interés británico por liderar el desarrollo de
aeronaves no tripuladas furtivas y autónomas.

Impulsado por BAE Systems y financiado parcialmente por el Ministerio de Defensa

británico, Taranis reúne a empresas clave como RollsRoyce y GE Aviation. Aunque no fue
diseñado para entrar en combate, su objetivo es establecer las bases para sistemas aéreos del
futuro, en particular dentro del marco del Future Combat Air System (FCAS), un esfuerzo
europeo más amplio para desarrollar una nueva generación de aviones de combate.

El FCAS inicialmente una colaboración francobritánica evolucionó hacia un proyecto

liderado por Francia y Alemania tras el Brexit, reflejando cómo los cambios políticos influyen
en la cooperación en defensa. Estas colaboraciones regionales buscan reducir costos de
desarrollo y reforzar la autonomía estratégica frente a potencias extranjeras como Estados
Unidos o Rusia.

Para el Comité de DISEC, este caso evidencia la falta de regulación internacional

sobre armas autónomas letales (LAWS), lo que representa un vacío normativo preocupante.
La posibilidad de que decisiones letales sean tomadas por máquinas sin control humano
significativo pone en riesgo principios fundamentales del derecho internacional humanitario y
de la seguridad colectiva.

Además, proyectos como el Taranis pueden desencadenar nuevas dinámicas de carrera

armamentista tecnológica, generando desequilibrios estratégicos y tensiones geopolíticas. Este
contexto exige una respuesta multilateral urgente para establecer principios éticos, jurídicos y
operativos sobre el desarrollo y uso de sistemas de armas autónomas.
 b.​ Rol del sector privado

Además de las tensiones geopolíticas y las dinámicas que impulsan el desarrollo de

armas autónomas, también debe considerarse el papel de los incentivos que enfrentan las
empresas con fines de lucro en lo que respecta a la investigación y el desarrollo de la
inteligencia artificial. Aunque las actividades de producción de las compañías aeroespaciales
y de defensa (A&D) están estrechamente vinculadas con los gobiernos nacionales, los
avances sin precedentes logrados por empresas ajenas al sector defensa han llevado a los
ejércitos a considerar métodos no tradicionales para ampliar sus capacidades.

El mercado comercial de sistemas autónomos aéreos y terrestres está creciendo

rápidamente, y cualquier regulación relacionada con las armas autónomas letales (LAWS, por
sus siglas en inglés) debe tener en cuenta este mercado. Si bien prohibir el desarrollo de armas
autónomas impediría que los ejércitos contraten directamente con compañías A&D, esta
medida no afectaría el desarrollo de tecnologías que posibilitan las LAWS. Es decir, lo que los
militares no puedan lograr por sí mismos podría estar fácilmente disponible en los mercados
comerciales, en versiones más eficientes y económicas.

Los estudios han demostrado que, debido a la amplia aplicabilidad de la inteligencia

artificial en diversas industrias, los avances logrados en sistemas autónomos comerciales
como los drones y los autos sin conductor han superado con creces a los del ámbito militar.
Esto también se debe a un mercado cada vez más competitivo por atraer a los ingenieros y
expertos en robótica más capacitados. La financiación en la industria A&D es superada por la
de sectores como el automotriz o el de información y comunicaciones, lo cual incentiva a
estos profesionales a incorporarse a equipos de investigación y desarrollo comerciales.

Un ejemplo claro del poder de los incentivos del mercado comercial es el desarrollo de
autos sin conductor, originalmente un proyecto de la Agencia de Proyectos de Investigación
Avanzada de Defensa (DARPA) en 2004. Al finalizar el programa en 2007, los vehículos
desarrollados por los militares apenas podían moverse lentamente en recorridos controlados y
distaban mucho de ser seguros. Diez años después, la industria de autos autónomos se ha
convertido en un mercado de rápido crecimiento, próximo a alcanzar su comercialización a
escala global. Este ejemplo muestra la diferencia de resultados entre la inversión en I+D
liderada por la industria privada frente a la liderada por el ámbito militar.

Solo en 2016, el gasto en I+D de la industria automotriz fue casi tres veces mayor que
el de la industria A&D; ese mismo año, el sector de información y comunicaciones gastó más
de seis veces esa cantidad. En 2016, General Motors adquirió la startup Cruise Automation,
especializada en tecnología de autos autónomos, por USD 1,000 millones. X, anteriormente
conocido como Google X, ha desarrollado programas de investigación tanto en drones como
en vehículos autónomos; Facebook y Amazon también han lanzado iniciativas propias de
desarrollo de drones, mientras que se cree que Apple trabaja en un proyecto de auto
autónomo.
 Como resultado, no sorprende que los avances más significativos en sistemas
autónomos provengan del sector comercial. Y aunque algunas empresas puedan oponerse al
uso militar de sus tecnologías, muchas ya han sido contactadas por gobiernos para colaborar
en proyectos específicos. Ya hemos observado los incentivos económicos que enfrentan las
empresas privadas de defensa para desarrollar armas autónomas, pero ¿pueden existir
incentivos similares en otros sectores? Si es así, ¿qué tan fuertes son y cómo han influido en
los objetivos corporativos? Aunque son pocas las compañías privadas ajenas al ámbito A&D
que han sido contratadas para desarrollar un arma completamente autónoma, muchas sí han
sido convocadas para crear tecnologías que permitan autonomía dentro de los sistemas
armamentísticos.

Caso de Estudio 1: Project Maven (Google y el Departamento de Defensa de [Link].)

En 2018, el Departamento de Defensa de [Link]. firmó un contrato con Google para

desarrollar algoritmos de inteligencia artificial que facilitaran el análisis de imágenes captadas
por drones, con el objetivo de optimizar la vigilancia y mejorar la precisión del
reconocimiento de objetivos. Este proyecto, denominado Project Maven, generó una fuerte
reacción interna en Google, con más de 4,000 empleados firmando una petición contra la
militarización de la tecnología desarrollada por la empresa.

El proyecto buscaba automatizar el reconocimiento de objetos y personas en

grabaciones aéreas mediante visión computarizada. Aunque el Departamento de Defensa
afirmó que se trataba de usos no ofensivos, el riesgo de que estos avances contribuyeron
indirectamente al desarrollo de armas autónomas letales (LAWS) fue una gran preocupación
ética. Además, el sesgo algorítmico como el reportado por ProPublica en 2016 intensificó las
alertas sobre el uso de IA en contextos de seguridad.

Google decidió no renovar el contrato tras meses de controversia y lanzó sus

"Principios de IA", comprometiéndose a no diseñar tecnología que cause daño o viole
derechos humanos. Sin embargo, el Departamento de Defensa continuó buscando alianzas con
otras grandes tecnológicas, como Microsoft y Amazon.

Este caso evidencia cómo el desarrollo de inteligencia artificial con fines militares
puede avanzar sin consenso internacional ni regulaciones claras. También demuestra el rol
central del sector privado en la carrera tecnológica militar. Aunque Google se retiró del
proyecto por principios éticos, otras empresas podrían asumir su lugar, lo que refuerza la
urgencia de establecer marcos normativos globales que regulen la participación del sector
privado en el desarrollo de tecnologías con potencial ofensivo o de uso dual.

Caso de Estudio 2: Contrato JEDI y la militarización de la nube

En 2018, el Departamento de Defensa de [Link]. lanzó el proyecto JEDI, un contrato

de USD 10 mil millones para modernizar su infraestructura tecnológica mediante servicios de
computación en la nube. El objetivo era mejorar el flujo de datos en tiempo real durante
operaciones militares. Aunque Google se retiró por razones éticas, Amazon y Microsoft
siguieron como principales competidores, generando una fuerte rivalidad en el sector.

El contrato fue controversial porque exigía condiciones técnicas que solo pocas
empresas como Amazon Web Services (AWS) podían cumplir, lo que llevó a denuncias por
competencia desleal. AWS ya gestionaba datos clasificados para la CIA, dándole una ventaja
significativa. Además, la estructura de contrato único (single mandate) excluía a proveedores
más pequeños y elevaba las barreras de entrada, lo que podría concentrar el poder tecnológico
en manos de unas pocas empresas.

Esto marcó una tendencia preocupante: el creciente rol de empresas privadas en el

desarrollo tecnológico militar. Muchas compañías como Microsoft, IBM u Oracle vieron en el
JEDI una oportunidad de influir en el diseño de herramientas para la defensa, incluyendo
inteligencia artificial y machine learning. Aunque algunos intentaron frenar el modelo de
contrato único, los esfuerzos fueron en vano.

Este caso refleja cómo los gobiernos pueden externalizar el desarrollo de capacidades
militares avanzadas a través de contratos con empresas privadas. Aunque el JEDI no se refiere
directamente a armas autónomas, demuestra cómo algoritmos y tecnologías con potencial
ofensivo pueden surgir del sector comercial sin regulación internacional.

Caso de Estudio 3: Booz Allen Hamilton

Booz Allen Hamilton es una firma estadounidense de consultoría que trabaja

frecuentemente con el Departamento de Defensa (DoD). En 2018, recibió un contrato por
cinco años y USD 885 millones para ayudar al DoD a integrar inteligencia artificial (IA) y
redes neuronales en el procesamiento de grandes volúmenes de datos de reconocimiento a
través de una plataforma llamada eMAPS. Aunque el DoD afirma que el proyecto no está
dirigido a crear armas autónomas letales, el uso de IA apunta a mejorar capacidades militares,
incluyendo potencialmente la vigilancia y el análisis de datos para operaciones de combate.

Históricamente, Booz Allen ha colaborado en proyectos que buscan tanto mejorar la

eficiencia operativa como desarrollar herramientas bélicas, lo que genera interrogantes sobre
cuándo el uso de IA se considera simplemente funcional o se cruza con la militarización y
armamento. El contrato refleja el creciente interés militar en la IA y el aprendizaje automático
(ML), lo que a su vez crea un mercado amplio para empresas tecnológicas y consultoras en el
ámbito de la defensa.

Este caso destaca la dificultad de definir y regular el “armamento” de la inteligencia

artificial. ¿Cuándo el uso de IA en contextos militares se convierte en desarrollo de armas?
¿Qué criterios deben usarse para esta distinción? Además, plantea un desafío para DISEC:
cómo equilibrar el fomento de usos beneficiosos de IA (como aplicaciones médicas) frente a
la prevención de su uso en sistemas de fuerza letal. La integración creciente de IA en
funciones militares obliga a considerar normas que regulen tanto la colaboración entre sector
privado y fuerzas armadas como los límites de desarrollo tecnológico en armas autónomas.

9.​ Situación Actual

Además de que las tensiones geopolíticas generan incentivos para que los gobiernos
desarrollen armas y las corporaciones enfrentan importantes incentivos económicos para
apoyar este objetivo, los avances tecnológicos que impulsan esta revolución de la inteligencia
artificial no nacen únicamente de intenciones militaristas. Más bien, la amplia aplicabilidad de
la inteligencia artificial y el aprendizaje automático, así como los beneficios que aportan,
motivan a la comunidad científica a fortalecer los esfuerzos de investigación y desarrollo. Sin
embargo, mientras la mayoría de los científicos se oponen al uso de IA y aprendizaje
automático para aplicar fuerzas letales, existe mayor ambigüedad en torno a las implicaciones
éticas de aceptar contratos de defensa y colaborar con instituciones militares. Algunos
científicos de IA se oponen vehementemente a usar IA y aprendizaje automático para dañar a
individuos, sean civiles o combatientes, pero muchos científicos que forman parte de
empresas con contratos activos de defensa tienen principios menos rígidos.

También es importante señalar que, aunque el campo de la inteligencia artificial ha

crecido rápidamente en la última década, los científicos aún están lejos de desarrollar sistemas
con inteligencia artificial general (AGI, por sus siglas en inglés), capaz de replicar
perfectamente el proceso intelectual humano, a diferencia de los sistemas actuales que
realizan funciones muy específicas y limitadas. Por ello, los especialistas en IA se preocupan
menos por una visión apocalíptica donde películas distópicas se vuelvan realidad, y más por
la aplicación de esas funciones específicas a actividades potencialmente dañinas. Además,
una preocupación significativa compartida por la comunidad de IA es la estigmatización
generalizada de esta tecnología; temen que asociar la IA con la creación de “robots asesinos”
provoque rechazo público y frene la innovación, en lugar de promover usos valiosos y
beneficiosos.

FeiFei Li, directora del laboratorio de IA de la Universidad de Stanford y científica

principal de IA en Google Cloud, es conocida como una de las mentes más brillantes en
inteligencia artificial. Cuando Google obtuvo su primer contrato con el Pentágono para el
Proyecto Maven, Li participó activamente en cómo anunciar el contrato al público. En un
correo electrónico a colegas, escribió que los directivos de Google debían “evitar a TODA
COSTA cualquier mención o implicación de IA. La IA armamentista es probablemente uno
de los temas más sensibles de la IA sino EL más. Esto es un blanco para los medios para
encontrar todas las formas de dañar a Google.” Para empresas como Google y los científicos
que trabajan en ellas, los contratos de defensa suelen tener propósitos no bélicos; sin embargo,
la percepción pública es muy variable y puede cambiar, lo que naturalmente induce a las
compañías a adoptar una actitud precavida. Aun así, estos riesgos no son suficientes para
detener a los científicos en sus avances.
 El éxito del sector comercial se ha basado en una reciente estrategia de adquisición de
empresas tecnológicas. Al buscar expandir sus capacidades en IA, se abandonó el crecimiento
orgánico para favorecer el crecimiento inorgánico, con adquisiciones multimillonarias de
startups, como DeepMind y Google, o grupos de investigación universitarios. En 2015, Uber
adquirió a cuarenta expertos en robótica del Centro Nacional de Ingeniería Robótica de
Carnegie Mellon. En 2013, Google compró Boston Dynamics, una empresa líder en
investigación y desarrollo de robótica militar, para fortalecer su área doméstica de desarrollo
robótico. En 2016, se reportó que Toyota también buscaba adquirir Boston Dynamics para
expandir su programa de autos autónomos.

The New York Times señaló que la compra de Boston Dynamics por Google indicaba
su intención de crear “una nueva clase de sistemas autónomos que podrían hacer desde trabajo
en almacenes hasta entrega de paquetes e incluso cuidado de ancianos.” Esto muestra que las
corporaciones con grandes recursos no dudan en atraer el mejor talento, ya sea de la academia
o de compañías más pequeñas. Como resultado, los científicos en los centros de investigación
adquiridos pierden autonomía; los avances que buscan ya no son sólo para la ciencia, sino
para aplicaciones concretas, ya sea en servicios de computación en la nube o en mejorar
capacidades de drones. Y sin importar su propósito original, esos avances también crean bases
para tecnologías que contribuyen a la creación de sistemas autónomos letales. Por ejemplo,
aunque la intención inicial de Google fuera optimizar procesos en hogares para ancianos, esa
tecnología fácilmente puede adaptarse para contratos de defensa con el Departamento de
Defensa.

Además, muchas corporaciones en distintas industrias han hecho de acelerar la

integración de IA una prioridad. La mayoría ha creado laboratorios internos de innovación en
IA, adquirido compañías especializadas, formado alianzas tecnológicas, establecido centros
de excelencia, aplicado estrategias agresivas para atraer talento e invertido en capacitar a su
personal. La demanda por talento en IA crece rápidamente y esta tendencia probablemente
continúe. Este acceso a financiamiento y apoyo empresarial impulsará la innovación, pero
finalmente serán esas corporaciones las que mantengan los derechos sobre el uso de la
tecnología como deseen.

En respuesta a estos desarrollos, y tras la cancelación de la primera reunión del Grupo

de Expertos Gubernamentales sobre LAWS, 116 compañías de IA y robótica de 26 países
firmaron una petición para pedir a los líderes mundiales que prohíban el desarrollo de armas
autónomas letales. Uno de los organizadores fue Toby Walsh, profesor de IA en la
Universidad de New South Wales. La petición fue la primera acción conjunta de empresas de
IA y robótica sobre este tema, aumentando la presión para empezar a regular estos sistemas.
Figuras como Elon Musk y Mustafa Suleyman de Google DeepMind firmaron la carta, junto
con otros científicos y CEO destacados del área. Los países representados incluyen Australia,
Canadá, China, Francia, Alemania, Japón, Rusia, Reino Unido, Estados Unidos, entre otros.
 En este comité, los delegados deben considerar el papel de la IA en el futuro y cómo
estructuras de tratados o una prohibición total de LAWS impactarían el avance tecnológico en
esta área. También es clave pensar cómo la rapidez del desarrollo tecnológico influye en la
regulación. Es importante reconocer hasta qué punto la IA y el aprendizaje automático ya se
aplican en objetivos militares y establecer definiciones claras en la resolución.

10.​[Link]

Estas son áreas del tema que deben ser abordadas en cualquier documento de trabajo o
resolución que el dais apruebe para discutir. Aunque la profundidad con la que investigues y
escribas sobre cada pregunta en las propuestas del comité puede variar, por favor asegúrate de
abordarlas de manera integral en tu redacción y tenerlas en cuenta durante tu proceso de
investigación. He dividido estas preguntas en tres categorías generales que buscan ayudarte a
articular la política de tu país, así como a traducir tus ideas en una resolución. Por favor,
también presta mucha atención a las preguntas presentadas en el cuerpo sustantivo de esta
guía de antecedentes.

●​ ¿Cómo deberíamos regular las armas semiautónomas en comparación con las

totalmente autónomas?
●​ ¿Cómo prevenir una carrera armamentista en tecnologías de misiles autónomos y
garantizar su control sin comprometer la soberanía tecnológica ni la seguridad
nacional de los Estados?
●​ ¿Cuál es el papel de la comunidad internacional en la regulación de las interacciones
entre las instituciones militares nacionales y los actores del sector privado, donde la
rendición de cuentas es difusa y el desarrollo ocurre fuera del escrutinio directo del
derecho internacional humanitario?
●​ ¿Cómo puede la comunidad internacional establecer estándares efectivos de
transparencia, rendición de cuentas y control sobre el desarrollo y uso de armas
autónomas sin obstaculizar el progreso tecnológico legítimo ni la seguridad nacional?
●​ ¿Cómo se relacionarán las regulaciones y tratados recién establecidos con las armas
semi autónomas existentes, como el Samsung SGRA1, el AGM158C LRASM, el IAI
Harpy y el BAE Systems Taranis? ¿Se tomarán medidas precautorias para detener su
desarrollo hacia armas totalmente autónomas?
●​ ¿Bajo qué autoridad y marco DISEC, la ONU o cuerpos regionales podrán regular
nuevos casos de armamentización de la inteligencia artificial?
 11.​Preparación para la conferencia

Actualmente, hay tres fuerzas distintas que están influyendo en el desarrollo y la

regulación de los LAWS: las tensiones geopolíticas, la actividad del sector privado impulsada
por objetivos capitalistas y el ritmo del avance tecnológico. Una comprensión completa del
tema requerirá un entendimiento profundo de estos tres factores, lo cual debe reflejarse en sus
soluciones. Los delegados pueden estructurar sus resoluciones como deseen, pero las mejores
propuestas demostrarán una comprensión de la historia del tema y de la interconexión entre
sus subtemas. Dado que existe una falta de legislación vigente, los delegados deben mirar
ejemplos pasados de regulaciones de tecnología militar por parte de las Naciones Unidas para
orientar sus esfuerzos de redacción. Recuerden siempre considerar las funciones del comité al
crear soluciones, así como las limitaciones impuestas a sus competencias.

Además, debe quedar claro que cada resolución es producto de sus autores; si una
resolución es creada por un grupo de países que comparten una perspectiva pro regulación, la
mesa prestará especial atención a que cada cláusula esté alineada con dicha perspectiva. Por
otro lado, si un grupo de países decide combinar sus diferentes posturas en una resolución
más multifacética, esto también debe reflejarse en el cuerpo de la resolución. La mesa no
tiene preferencia por un enfoque u otro, pero sí buscará evidencia constante de que las
delegaciones se mantienen fieles a sus políticas.

En un comité grande como DISEC, es importante hacerse escuchar y tener impacto al

hacerlo. Sin embargo, esto no significa que se valorará más la teatralidad que el contenido; la
mesa buscará delegados que puedan articular claramente sus posturas y propuestas, en las
cuales debe notarse su investigación, pasión y creatividad.

Las contribuciones al debate deben estar bien construidas y ser presentadas de manera
eficaz. Además, DISEC es un comité en parejas, lo que implica un conjunto particular de
expectativas y consideraciones. Si bien se anima a que las delegaciones se especialicen en las
tareas que asumen, también se valoran las dinámicas de equipo en las que el trabajo está
distribuido equitativamente y hay evidencia clara de las contribuciones de cada delegado. Las
delegaciones también deben mantener una presencia activa tanto dentro como fuera del
comité; está bien que un delegado sea el redactor principal, ¡pero eviten desaparecer durante
sesiones completas! En cuanto a las dinámicas fuera del comité, los delegados deben
recordar que el propósito del Modelo de Naciones Unidas es utilizar métodos
diplomáticos para resolver los problemas más urgentes del mundo; si bien el liderazgo es
una habilidad valiosa, también lo es la capacidad de escuchar, negociar y construir
consensos.

Por otro lado, un elemento importante de este comité es mantenerse al día con los
desarrollos recientes en el ámbito de la inteligencia artificial y las armas autónomas letales.
Cualquier tipo de fuente confiable es un buen lugar para buscar contratos de defensa recién
anunciados, innovaciones en armamento y avances en el espacio regulatorio. La Campaña
para Detener a los Robots Asesinos, que es el grupo antiLAWS que inició el movimiento para
establecer una prohibición total sobre los LAWS, ofrece actualizaciones regulares sobre el
tema y sus subtemas relevantes en su sitio web.

Al investigar la historia del tema en relación con tu país y la postura oficial de este, los
sitios web nacionales de defensa y militares proporcionan amplios lineamientos estratégicos,
y la lista de signatarios del llamado a una prohibición internacional del desarrollo de LAWS
es un buen punto de partida. Para comprender mejor qué son la inteligencia artificial y el
aprendizaje automático, así como cómo se pueden aplicar a múltiples funciones industriales,
los tutoriales y videos resumen en YouTube son extremadamente útiles para ilustrar conceptos
generales y ejemplos específicos de aplicación.

En cuanto a la línea de tiempo de la conferencia, planeo dedicar toda la sesión del

comité del viernes al debate formal. Esto incluye, pero no se limita a, la exposición de las
posiciones nacionales, discusión de subtemas y propuestas preliminares de soluciones. La
redacción de working papers será permitida desde la primera sesión del comité (nosotros
avisaremos la hora exacta), y los delegados deben planear entregarlos al terminar la segunda
sesión. Una vez que se hayan entregado todos los working papers, se abrirán mociones para
presentarlos brevemente y realizar sesiones de preguntas y respuestas. La mesa estará
disponible para brindar retroalimentación cláusula por cláusula sobre cada working paper.

Se espera que los delegados entreguen el proyecto de resolución al finalizar la cuarta

sesión, también con un límite que se anunciará esa mañana.

¡Felicidades por llegar al final de esta guía! Si bien incluye cierta información técnica,
su objetivo central es ofrecerte una base firme para comprender el tema y los factores que han
influido en su evolución. No obstante, deseo resaltar que, además de los aspectos esenciales
que espero sean tratados por los delegados en el comité, los invito a profundizar con su propia
investigación, analizar sus conclusiones y construir una narrativa alineada con las metas de su
país.

Estoy realmente emocionada no solo por ver cómo brillan su creatividad e ideas
originales en sus resoluciones, sino también por observar la dinámica que generarán entre
ustedes fuera del comité. Elegí este tema específicamente porque sabía que habría una
diversidad de posiciones entre países, lo cual espero permita debates interesantes,
resoluciones multifacéticas, dinámicas de comité emocionantes y una experiencia
enriquecedora para todos. Como su directora, estoy aquí para apoyarlos en cada paso del
camino. Creo plenamente en el valor de ser transparente y enfocada en la retroalimentación
con mis delegados, por lo que los animó a acercarse al menos una vez durante la conferencia
y presentarse personalmente.

No duden en contactarme en cualquier momento si tienen preguntas sobre cualquier

tema, y espero con ansias conocerlos a tod@s este septiembre.

Correo del comité: disecusilmunschools@[Link]

12.​Guía para elaborar el Position Paper

a.​ Formato

i.​ Tipo de letra: Times New Roman

ii.​ Tamaño: 12
iii.​ Interlineado simple (1.0)
iv.​ Alineado: Justificado
v.​ Extensión: Máximo 1 página con una adicional exclusivamente para
bibliografía de ser necesario.
vi.​ Bibliografía en APA 7
1.​ Apellido del autor, inicial del primer nombre. (Año de
publicación o s/f en caso no se encuentre). Nombre del artículo
en cursiva. Nombre del origen de la fuente. Link sin
hipervínculo.
2.​ Ejemplo: Zuniga, J. (2024). Evolución y Perspectiva de la
Economía Latinoamericana. PANORÁMICA.
[Link]
de-la-economia-latinoamericana/

b.​ Forma

i.​ Información
1.​ Comité (Nombre oficial y siglas en paréntesis)
2.​ Tema
3.​ Delegación (Nombre oficial del país asignado)
ii.​ Extensión: 03 Párrafos
1.​ Primer párrafo de contextualización
2.​ Segundo párrafo de acciones pasadas (internacionales,
regionales y nacionales)
3.​ Tercer párrafo de proyecto/plan/propuesta
iii.​ El escudo oficial del país va en la esquina superior derecha
iv.​ Enviar en formato PDF al siguiente correo:
disecusilmunschools@[Link] con el nombre de la asignación y el
comité.
1.​ Ejemplo: PERÚ_DISEC
 13.​Referencias Bibliográficas

United Nations. (s.f.). About the General Assembly.

[Link]

United Nations. (s.f.). First session of the General Assembly. [Link]

United Nations. (s.f.). First session of the General Assembly.

[Link]

United Nations Office for Disarmament Affairs. (s.f.). Disarmament Commission.

[Link]

United Nations Office at Geneva. (s.f.). Document

BF18ABFEFE5D344DC1256F3100311CE9.
[Link]
C1256F3100311CE9?OpenDocument

United Nations Security Council. (s.f.). Document A/C.1/72/1.

[Link]

SAS Institute. (s.f.). What is artificial intelligence?.

[Link]

TechEmergence. (s.f.). Everyday examples of AI.

[Link]

Fortune. (2018). Google, Department of Defense, drone AI.

[Link]

CNN. (2017). US military artificial intelligence, Russia and China.

[Link]
a/[Link]

Stanford University. (2025). AI Techniques for Game Programming.

[Link]

Harvard Medical School. (2017). History of artificial intelligence.

[Link]

Foreign Policy. (2014). Lethal autonomy: A short history.

[Link]

The Conversation. (s.f.). Artificial intelligence: Can we keep it in the box?.

[Link]
Campaign to Stop Killer Robots. (s.f.). Chronology.
[Link]

International Committee of the Red Cross (ICRC). (s.f.). Customary international

humanitarian law: Rule 1.
[Link]

International Campaign to Abolish Nuclear Weapons (ICANW). (s.f.). The nuclear age.
[Link]

IEEE Spectrum. (s.f.). A robotic sentry for Korea's Demilitarized Zone.

[Link]
ized-zone

Lawfare. (s.f.). Foreign policy essay: South Korean sentry — killer robot to prevent war.
[Link]
killer-robot-prevent-war

Lockheed Martin. (s.f.). Long Range Anti-Ship Missile.

[Link]

Business Insider. (2018). Google drops out of $10 billion Jedi contract bid.
[Link]
8-10

The New York Times. (2018). Google Project Maven and the Pentagon.
[Link]
l