La inteligencia artificial ya forma parte de ámbitos como la economía, la investigación, la industria o la seguridad. Su incorporación a la Defensa abre, además, un debate especialmente delicado: hasta dónde puede llegar la autonomía de estos sistemas y qué capacidad debe conservar el ser humano para supervisarlos.

Ese desafío ha centrado este martes en Soria la apertura de las II Jornadas de Inteligencia Artificial Responsable en el Ámbito Militar, inauguradas por la secretaria de Estado de Defensa, María Amparo Valcarce, en el Palacio de la Audiencia.

Durante dos días, representantes de Defensa, empresas, universidades y centros de investigación analizarán las posibilidades que ofrece esta tecnología, pero también los riesgos que aparecen a medida que los sistemas adquieren una mayor capacidad para operar y tomar decisiones.

Valcarce ha resumido la posición de Defensa en una premisa: a mayor autonomía de la inteligencia artificial, mayor debe ser también la capacidad humana para controlarla.

La secretaria de Estado ha defendido que cualquier aplicación de la IA en el ámbito militar debe garantizar su seguridad y fiabilidad, permitir conocer sus limitaciones y dejar claramente establecidas las responsabilidades derivadas de su utilización.

"Cuanto mayor es la autonomía de una inteligencia artificial, mayor debe de ser nuestra capacidad para controlarla", ha señalado.

De las posibilidades a los riesgos

Defensa considera que la inteligencia artificial ha dejado de ser una tecnología asociada únicamente al futuro. Sus aplicaciones ya permiten procesar grandes cantidades de información, acelerar los análisis, anticipar escenarios, mejorar la logística y servir de apoyo a la toma de decisiones.

Pero ese desarrollo lleva aparejados nuevos riesgos. Valcarce ha mencionado los sesgos de los algoritmos, la manipulación de contenidos, la pérdida de confianza pública o el incremento progresivo de la autonomía de los sistemas.

Por ello, el debate se desplaza desde lo que técnicamente puede hacer una inteligencia artificial hacia los límites que deben establecerse para su utilización.

La secretaria de Estado ha defendido la necesidad de disponer de mecanismos que permitan evaluar los algoritmos antes de incorporarlos a capacidades militares, conocer la procedencia y calidad de los datos utilizados y proteger los sistemas ante posibles manipulaciones o ataques.

Todo ello, ha insistido, debe desarrollarse bajo una premisa fundamental: el control humano debe mantenerse en todo momento.

Numant-IA entra en el debate desde Soria

Las jornadas también han servido para situar en primer plano uno de los proyectos tecnológicos que Defensa prevé desarrollar en Soria.

Numant-IA contará con una inversión de 70 millones de euros para crear un centro de capacidades tecnológicas avanzadas destinado al almacenamiento y tratamiento de datos y al desarrollo de herramientas relacionadas con la inteligencia artificial.

La futura infraestructura permitirá al Ministerio de Defensa disponer de una nube privada e independiente desde la que respaldar el desarrollo y la incorporación de sistemas avanzados.

Valcarce ha relacionado Numant-IA con cuatro grandes ámbitos: tecnología, ciberseguridad, soberanía del dato y atracción de talento, además de destacar las posibilidades que el proyecto puede generar en forma de empleo cualificado y actividad económica para Soria.

El centro soriano se integra, junto al Centro Tecnológico de Desarrollo y Experimentación (CETEDEX) que el INTA desarrolla en Jaén, entre las apuestas de Defensa para reforzar sus capacidades tecnológicas vinculadas a la inteligencia artificial.

Soria busca aprovechar el proyecto más allá de Defensa

El alcalde de Soria, Javier Antón, ha considerado que la celebración de estas jornadas constituye una "declaración de futuro" para la ciudad y ha defendido que el desarrollo de la inteligencia artificial aplicada a la seguridad y la defensa avance desde criterios responsables, éticos y seguros.

Antón ha puesto especialmente el foco en las oportunidades que puede abrir Numant-IA en empleo, formación y colaboración con universidades y centros de investigación.

También ha aprovechado la cita para reivindicar la descentralización de capacidades públicas, inversiones y conocimiento hacia ciudades medias y territorios del interior.

El objetivo planteado por el Ayuntamiento es que Numant-IA esté plenamente consolidado e integrado en el ecosistema tecnológico, educativo y empresarial de Soria en 2028.

Las jornadas continuarán este miércoles con nuevas conferencias, mesas de debate y encuentros sobre inteligencia artificial responsable en el ámbito militar, soberanía tecnológica, ciberseguridad y los límites que deben acompañar a la creciente autonomía de estos sistemas.