Aportes Teóricos sobre el uso de la Inteligencia Artificial en los Sistemas de Armas Autónomas desde la perspectiva del Derecho Internacional Humanitario

Barra lateral del artículo

pdf
Publicado: mar 3, 2025
DOI: https://doi.org/10.32870/dgedj.v10i29.809
Palabras clave:
inteligencia artificial, armas autonomas, derecho internacional humanitario, Principios, Convenio de Ginebra

Contenido principal del artículo

Maria Fatima Pinho De Oliveira
Universidad Simón Bolivar
https://orcid.org/0000-0002-7539-5620
Alexander Bueno Montilla
Universidad Simón Bolívar

Resumen

El abordaje de las armas autónomas, drones o robots, ha causado un gran impacto en estos tiempos producto de la Inteligencia Artificial (IA), aunque no existen definiciones únicas de los Sistemas de Armas Autónomos (SAA), pueden entenderse como cualquier tipo de sistemas de armas con autonomía en sus funciones críticas. Esto es, un arma que puede seleccionar y atacar objetivos sin intervención humana. En el ámbito de los Derechos Humanos y del Derecho Internacional Humanitario (DIH), varias organizaciones se han unido en una sola lucha: la prohibición del desarrollo y el uso de armas letales autónomas controladas por IA en conflictos armados. Los principios del Protocolo I del Convenio de Ginebra buscan proteger a las personas que no combaten o que han dejado de combatir; el problema radica en el hecho de que no hay claridad si las armas autónomas logran distinguir entre un combatiente herido o enfermo, uno que depone sus armas, un prisionero de guerra o un civil que no combate. La metodología del estudio se basa en una investigación documental apoyada en el enfoque cualitativo. Se concluye que actualmente no puede asegurarse que los llamados robots autónomos letales sean capaces de ajustarse a los principios del DIH.

Detalles del artículo

Cómo citar
Pinho De Oliveira, M. F., & Bueno Montilla, A. . (2025). Aportes Teóricos sobre el uso de la Inteligencia Artificial en los Sistemas de Armas Autónomas desde la perspectiva del Derecho Internacional Humanitario . Derecho Global. Estudios Sobre Derecho Y Justicia, 10(29), 479–511. https://doi.org/10.32870/dgedj.v10i29.809
Número
Vol. 10 Núm. 29 (2025): Derecho Global. Estudios sobre Derecho y Justicia
Sección
Artículos de investigación
Creative Commons License

Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.

En este apartado se tratan los asuntos concernientes a los derechos de autor en lo que respecta a la revista, los autores y usuarios.

Se establece en conformidad a lo dispuesto en la Ley Federal del Derecho de Autor, Ley de Ciencia y Tecnología, Ley General de Educación, Ley Orgánica del Consejo Nacional de Ciencia y Tecnología, lo particular del Estado de Jalisco, de la Ley Orgánica, de sus Estatutos y de sus Reglamentos de la Universidad de Guadalajara.

De la revista

  • Derecho Global está registrada con el Número de Reserva de Derechos al Uso Exclusivo del Título de la versión electrónica: 04-2015-021708234800-203, e-ISSN: 2448–5136; número de Reserva de Derechos al Uso Exclusivo del Título de la versión impresa: 04-2015-021109191900-102, ISSN: 2448-5128, otorgados por el Instituto Nacional del Derecho de Autor; con número de certificado de Licitud de Título y Contenido 16827 y es editada por la Universidad de Guadalajara.
  • Derecho Global protegerá los derechos de autor en lo que respecta a sí misma y de los titulares del contenido en ella publicado. Cualquier violación a los mismos se resolverá en conformidad a lo establecido en la Ley Federal del Derecho de Autor.

De los autores

  • Los autores tienen el derecho de colección y al autoarchivo.
  • La licencia de uso que otorgan los autores no los priva de publicar sus obras reunidas en colección escogida o completa.
  • El derecho de autor no está ligado a la propiedad del objeto material en el que la obra esté incorporada.
Biografía del autor/a

Maria Fatima Pinho De Oliveira, Universidad Simón Bolivar

Profesora Asociado adscrita al Departamento de Ciencias Económicas y Administrativas de la Universidad Simón Bolívar. Abogado con Especialización y Maestría en Derecho Penal. Autora de aproximadamente 12 artículos de investigación en las áreas de participación ciudadana, derecho y sociología política. Cargos Desempeñados: Coordinadora de las carreras de TSU en Administración aduanera, Comercio Exterior y Licenciatura en Comercio Internacional, Coordinadora de Ciencias Sociales y Administrativas del Decanato de Investigación y Desarrollo y Jefa de Departamento Académico. Premios y distinciones:  a la Destacada Labor Docente,  a labor de Investigación  y  a las actividades de Extensión desarrolladas en la Universidad Simón Bolívar por el Vicerrectorado Académico, Decanatos y Asociación de profesores, así mismo me fue otorgado el Premio a la Labor Docente por la organización internacional Alumnusb.org.     

Citas

Agencia de los Derechos Fundamentales de la Unión Europea, (FRA). (2021). Construir correctamente el futuro. La Inteligencia Artificial y los Derechos Fundamentales. Resumen. Viena, Austria.

Aravena F., M. (2024). Dilemas derivados del uso de sistemas autónomos de armas letales en el derecho internacional humanitario. Justicia, Vol. 29 Núm. 46. DOI: https://doi.org/%2010.17081/just.29.45.7072

Ayuso-del Puerto, D; Gutiérrez-Esteban, P. (2022). La Inteligencia Artificial como recurso educativo durante la formación inicial del profesorado. RIED. Revista Iberoamericana de Educación a Distancia, vol. 25, núm. 2, Disponible en: https://www.redalyc.org/articulo.oa?id=331470794017 DOI: https://doi.org/10.5944/ried.25.2.32332

Baca, P. (diciembre 18, 2023). La Inteligencia Artificial en tiempos de guerra…Voces del Periodista, Opinión. URL: https://vocesdelperiodista.mx/voces-del-periodista/opinion/la-inteligencia-artificial-en-tiempos-de-guerra/

Becerril Gil, A. A., (2021). Retos para la regulación jurídica de la Inteligencia Artificial en el ámbito de la Ciberseguridad. IUS. Revista del Instituto de Ciencias Jurídicas de Puebla A.C., 15(48), 9-34. https://doi.org/10.35487/rius.v15i48.2021.705

Cervantes Hidalgo, J. (2021). Inteligencia Artificial y sus alcances en la Educación Superior. Revista Académica Institucional RAI. Sección Academia, Edición 5, pp1-14. Disponible en: https://www.usanmarcos.ac.cr/servicios/crai-biblioteca/inteligencia-artificial-alcances-educacion-superior

Comité Internacional de la Cruz Roja. (1986). Los Cuatro Convenios de Ginebra de 1949. Ginebra: Comité Internacional de la Cruz Roja.

Comité Internacional de la Cruz Roja (CICR). (2019a). La inteligencia artificial y el aprendizaje automático en los conflictos armados: un enfoque centrado en las personas. International Review of the Red Cross, N.° 913. Las tecnologías digitales y la guerra, Informes y Documentos.

Comité Internacional de la Cruz Roja (CICR). (2019b). El derecho internacional humanitario y los desafíos de los conflictos armados contemporáneos. Reafirmar el compromiso con la protección en los conflictos armados en el 70º aniversario de los Convenios de Ginebra. XXXIII Conferencia Internacional de la Cruz Roja y de la Media Luna Roja, Ginebra, Suiza, 9-12 de diciembre de 2019.

Chengeta, Thompson, (2016). Accountability Gap: Autonomous Weapon Systems and Modes of Responsibility in International Law, Denver Journal of International Law & Policy, vol. 45, núm. 1, otoño.

Drnas de Clément, Z. (2022). Inteligencia artificial en el Derecho Internacional, Naciones Unidas y Unión Europea. Revista Estudios Jurídicos. Segunda Época (22) https://doi.org/10.17561/rej.n22.7524

Farinella, F. (2021). Sistemas de armas autónomos y principios del Derecho Internacional humanitario. Revista Quaestio Iuris, 14(02), 504–514. https://doi.org/10.12957/rqi.2021.54593

Garcia-Prieto, J. (2018). ¿Qé es un robot?, en Moisés Barrio Director (dir), Derecho de los Robots (1ra ed., Cap I., pp. 25-60). Editorial Wolters Kluwer España, S.A

García-Peña, V. R., Mora-Marcillo, A. B., & Ávila-Ramírez, J. A. (2020). La inteligencia artificial en la educación. Dominio De Las Ciencias, 6(3), 648–666. https://doi.org/10.23857/dc.v6i3.1421

García, D. (2021). Implicaciones jurídicas y bioéticas de la Inteligencia Artificial (IA). Especial consideración al marco normativo internacional. Cuadernos de Derecho Transnacional , Vol. 13, Núm.1, 255-276.

Gross, B. (1992). La inteligencia artificial y su aplicación en la enseñanza. Comunicación, Lenguaje y Educación, 13, 73-80.

Gutiérrez E., C; Cervell H., MJ. (2013). Sistemas de armas autónomas, drones y Derecho Internacional. Revista del Instituto Español de Estudios Estratégicos, Núm. 2, 2013, 27-57.

Hurtado G., M. (2017). Los límites del DIH a las armas autónomas. Revista Científica General José María Córdova, 15(20), 85-100. https://doi.org/10.21830/19006586.176

Ilica S., A. (2023). El Debate sobre los sistemas de armas autónomos letales: perspectivas en el sistema internacional. Estudios CEEAG. Centro de Estudios Estratégicos de la Academia de Guerra (CEEAG).

Jiménez-Segovia, R (2019). Los sistemas de armas autónomos en la convención sobre ciertas armas convencionales: sombras legales y éticas de una autonomía ¿bajo el control humano? Revista Electrónica de Estudios Internacionales, Núm. 37,1-33. DOI: https://doi.org/10.17103/reei.37.07

Madrid Moreno, J. A. (julio 25, 2023). Las armas autónomas desafían los principios del Derecho Internacional Humanitario. Diario Constitucional.cl. Opinión. URL: https://www.diarioconstitucional.cl/2023/07/25/las-armas-autonomas-desafian-los-principios-del-derecho-internacional-humanitario-por-julian-ariel-madrid-moreno/

Mariño, S., y Primorac, C. (2016). Propuesta metodológica para desarrollo de modelos de redes neuronales artificiales supervisadas. IJERI: International Journal of Educational Research and Innovation, 6, 231-245. Recuperado de: https://www.upo.es/revistas/index.php/IJERI/article/view/1654/1569

Marín Tovar, C. J. & Ramírez Sanguino, W. G. (2022). Sistemas de armas autónomas letales: regulación de su uso en escenarios de conflicto armado. Derechos Humanos, Conflicto y Justicia, 1(1), 27-47. https://doi.org/10.25062/2955-0262.4409

Moreno Padilla, R. D. (2019). La llegada de la inteligencia artificial a la educación. Revista De Investigación En Tecnologías De La Información, 7(14), 260–270. https://doi.org/10.36825/RITI.07.14.022

Ocaña-Fernandez, Y., Valenzuela-Fernandez, L., y Garro-Aburto, L. (2019). Inteligencia artificial y sus implicaciones en la educación superior. Propósitos y Representaciones, 7(2), 536-568. doi: http://dx.doi.org/10.20511/pyr2019.v7n2.274

Persi., G.; Vignard. K.; Danks. D; and Meyer. P., (2020). Modernizing arms control: exploring responses to the use of AI in military decision-making, UNIDIR, Geneva, Switzerland.

Porcelli, A., (2020). La inteligencia artificial y la robótica: sus dilemas sociales, éticos y jurídicos. Derecho Global. Estudios sobre Derecho y Justicia. Año 2020, Vol. VI. Número 16, Noviembre 2020 – Febrero 2021, pp. 49-105, https://DOI.org/10.32870/dgedj.v6i16.286

Protocolo I adicional a los Convenios de Ginebra de 1949 relativo a la protección de las víctimas de los conflictos armados internacionales (1977), URL: https://www.icrc.org/es/document/protocolo-i-adicional-convenios-ginebra-1949-proteccion-victimas-conflictos-armados-internacionales-1977#GUERRA

Real Academia Española. (2022). Inteligencia Artificial. Diccionario de la lengua española, 23.ª ed., [versión 23.6 en línea]. <https://dle.rae.es/ inteligencia> [10 de junio de 2023].

Puentes ´s Blog. (16, junio 2023) IA militar: preocupación por los avances de los sistemas de armas autónomas letales. Infografía. URL: https://www.7puentes.com/blog/2023/06/16/ia-militar-avance-armas-autonomas/

Sifontes, Efrén (3, julio 2021). Sociedad civil en la reunión de expertos de la CCW sobre SAALs. URL: https://sehlac.org/f/sociedad-civil-en-la-reuni%C3%B3n-de-expertos-de-la-ccw-sobre-saals

Vigevano, M. (2021). Inteligencia artificial aplicable a los conflictos armados: límites jurídicos y éticos. Arbor, 197(800): https://doi.org/10.3989/arbor.2021.800002

Viveros A., J. (2022). La Inteligencia Artificial y la Responsabilidad Internacional de los Estados. Revista Estudios en Derecho a la Información, núm. 14, pp. 83-105.