La convergencia entre ciencia nuclear e inteligencia artificial (IA) está generando una poderosa sinergia que aprovecha las capacidades de la IA para mejorar la tecnología nuclear: desde la seguridad y el diseño de los reactores, hasta la gestión de residuos y la investigación en el campo de la fusión. El futuro parece alentar ventajas prometedoras, pero también retos y riesgos importantes.

Texto: Víctor Santiago Vélez

El profesor de la Universidad de San José (California) y experto en IA, Ahmed Banafa, se refiere a la «IA nuclear» en el Open Mind del BBVA para definir la convergencia entre inteligencia artificial y tecnología nuclear. En su opinión, las principales ventajas de la «IA nuclear» pasan por la mejora de la seguridad a través de sistemas de mantenimiento predictivo basados en IA que puedan predecir fallos y reducir la probabilidad de accidentes y algoritmos de aprendizaje automático pueden detectar anomalías en tiempo real; la generación eficiente de energía limpia, mejorando la eficiencia de las plantas de energía nuclear e incrementando la producción energética; la gestión de residuos, facilitando el desarrollo de métodos de eliminación más seguros e identificando posibles emplazamientos donde ubicar depósitos de residuos nucleares en función de factores geológicos y medioambientales; la aceleración de la investigación en fusión nuclear, ayudando a analizar ingentes volúmenes de datos de los experimentos de fusión nuclear, y por último, el cumplimiento normativo, con la automatización de análisis de datos y la generación de informes que ayuden a cumplir las normas en materia de seguridad y medioambiente.

Por otro lado, el Organismo Internacional de Energía Atómica (OIEA) relaciona actuales aplicaciones de la IA con el uso de la tecnología nuclear que afectan a sectores diversos, tal como se muestra en la infografía superior.

Dada la innegable convergencia entre IA y tecnología nuclear, el Consejo de Seguridad Nuclear (CSN) constituyó un grupo técnico para seguir el desarrollo de las aplicaciones de IA en seguridad nuclear y evaluar la posibilidad de introducirlas en su propia regulación. Como explica el consejero del CSN, Francisco Castejón, el «paso fundamental» es permitir que la IA opere un reactor nuclear «sin estar sometida a errores humanos y con todo el aprendizaje de la experiencia operativa como bagaje integrado en el proceso de toma de decisiones. Para dar este paso se hace imprescindible una serie de requisitos de seguridad de todos los equipos que sustentan la IA, así como de los resultados del algoritmo que aún no están al alcance de la mano. Lo más sensato es hacer una transición gradual que abra paulatinamente nuevas áreas de aplicación de la inteligencia artificial».

Por su parte, José Antonio Rodríguez Díaz, experto del Área de Experiencia Operativa y Normativa del CSN, considera que un programa de IA sí podría operar, con la supervisión de los técnicos, un reactor nuclear. De hecho, aunque no sea exactamente esta tecnología, muchos procesos corrientes de las centrales ya están controlados por programas informáticos y los operadores vigilan que todo funcione de forma adecuada. «Sin embargo, en caso de accidente, los procedimientos no siempre se pueden aplicar en unos tiempos determinados. En estos casos, hay guías que deben ser valoradas por operadores entrenados que deciden qué medida tomar y en qué momento es adecuado realizar las maniobras», puntualiza Rodríguez Díaz.

Aliado o amenaza 

Aunque quizá sea demasiado pronto para dejar que la IA opere un reactor nuclear, hay expertos que consideran que es hora de avanzar en esta línea, al entender que la IA será positiva para la seguridad nuclear y para otras disciplinas que requieran un manejo inteligente de un gran número de datos, siempre que se use con sentido común y se realicen las pruebas y comprobaciones necesarias antes de dejar que la IA opere por sí misma en un área.

Aunque el principio de prudencia sea generalizado, el número de ataques no ha aumentado y la eficacia de las medidas defensivas «está perfectamente demostrada». En todo caso, el uso de IA basada en grandes dispositivos de cálculo y repositorios de datos requerirá de nuevas medidas de protección.

Para Francisco Castejón, los problemas «vienen de la falta de regulación y de control de estas actividades por parte de las autoridades». Por ello, el papel de los supervisores y los reguladores resulta clave para graduar el ritmo de penetración de esta tecnología tanto en la seguridad nuclear como en otras áreas críticas. El uso de la IA en los diferentes procesos relacionados con la seguridad nuclear debe ser regulado basándose en los datos existentes y en las experiencias que se vayan desarrollando. Su despliegue, y esto puede valer también para otras actividades humanas críticas, debería permitirse en la medida que se tiene certeza de que el funcionamiento de los algoritmos y del hardware que los sustenta tiene un funcionamiento  seguro garantizado. Para ello, son necesarias experiencias limitadas e impulsar la investigación para conocer a este nuevo aliado.

El uso inadecuado de la «IA nuclear» puede tener graves consecuencias e incluso provocar situaciones catastróficas: sistemas de IA mal diseñados o implementados podrían desencadenar, por ejemplo, reacciones nucleares, fusiones o fugas radiactivas; la IA podría utilizarse para acelerar el desarrollo de armas nucleares y aumentar la proliferación nuclear o el riesgo de conflicto; los sistemas de IA que controlan los activos nucleares podrían ser vulnerables a ciberataques si no están debidamente protegidos; la excesiva dependencia de sistemas de IA autónomos podrían reducir la participación y la supervisión humanas, circunstancia que dificultaría el mantenimiento del control sobre las operaciones nucleares, etc.  

Estos inconvenientes, a su vez, podrían socavar la cooperación internacional en iniciativas de desarme nuclear y provocar mayor inestabilidad mundial o posibles carreras nucleares. Por no hablar de posibles dilemas éticos sobre la responsabilidad en caso de catástrofes provocadas por las decisiones de la IA o problemas legales relativos a las obligaciones y la culpabilidad.

Para atenuar estos riesgos es fundamental garantizar la aplicación de una regulación rigurosa, una labor de vigilancia y un uso responsable de la IA en operaciones nucleares. La cooperación internacional y el cumplimiento de principios éticos son esenciales para protegerse frente al uso inadecuado de la IA nuclear, así como para promover la seguridad y la estabilidad mundiales.

En este sentido, el OIEA organiza foros interdisciplinares en los que expertos y profesionales intercambian posturas y colaboran para promover el buen uso de la IA nuclear. En su plataforma AI for Atoms, divulga información y promueve alianzas para la adecuada convivencia entre la IA y la tecnología nuclear. Entre ellas, destaca la cooperación con la Unión Internacional de Telecomunicaciones, el Grupo de Trabajo Interinstitucional de Naciones Unidas sobre Inteligencia Artificial y decenas de organismos de las Naciones Unidas.

Aprendiendo del pasado

El CSN participa en diversas iniciativas relacionados con IA. Cabe destacar el proyecto para utilizar bases de datos heterogéneas, que precisa el uso de IA en materia de seguridad nuclear y está enfocado en la experiencia operativa, que consiste en acumular conocimiento de incidentes ocurridos en centrales nucleares de todo el mundo y cómo se han solucionado.

El proyecto, denominado Inteligencia Artificial para la extracción de Conocimiento de la Experiencia Operativa (Proyecto CERO), está ventivo y prestaría apoyo técnico para entender mejor los incidentes pasados y, así, definir mejor las respuestas y estrategias de protección en el futuro.

Según el CSN, el Proyecto CERO «contribuirá a mejorar el conocimiento de la experiencia operacional compartida, ayudando a prevenir futuros incidentes». Para Rodríguez Díaz, el objetivo es aprender de los errores propios y ajenos, y hacer análisis más allá de la razón directa de un suceso –como podría ser el fallo de un equipo– y encontrar las causas raíz –problemas de organización, formación o garantía de calidad– para corregirlas y minimizar riesgos en las plantas. «Disponiendo de una herramienta de IA bien diseñada, se puede obtener mucha más información para hacer estos análisis de causa raíz más completos, reduciendo los tiempos de búsqueda y cribado de sucesos similares, por lo que supondrá un gran avance en este sentido», asegura.

El propósito del CSN pasa por probar estas funcionalidades «de forma pausada» para verificar su utilidad. De este modo, el Consejo tendrá a su disposición una serie de herramientas digitales que faciliten la búsqueda de incidencias y la asociación de las mismas mediante la combinación de IA y lenguaje natural. Los resultados de Proyecto CERO posibilitarán la búsqueda sencilla y efectiva de sucesos, siempre con la posibilidad de filtrar resultados según variables como el tipo de central nuclear, su potencia o la Escala Internacional de Sucesos Nucleares y Radiológicos.

El CSN lleva tiempo apostando por iniciativas de I+D+i relacionadas con IA. En la convocatoria de 2022 ya aparecía un proyecto de la Universidad Complutense de Madrid dirigido al análisis de datos de realidad virtual para la formación en emergencias radiológicas y otros dos de la Universitat Politècnica de València: uno para introducir mejoras en las nuevas técnicas de inteligencia artificial para la detección de anomalías en reactores nucleares y otro para el diseño optimizado del patrón de carga del núcleo de reactores de agua ligera (LWR) asistido por IA. En relación al Proyecto CERO, el CSN también ha impulsado una propuesta para gestionar el envejecimiento de los componentes.