La reciente Declaración de Roma, firmada por una amplia gama de científicos, líderes religiosos y expertos en inteligencia artificial (IA) y armamento nuclear, subraya la grave preocupación sobre la integración de la IA en sistemas de armamento nuclear. Este documento surge tras la Asamblea Global de Premios Nobel llevada a cabo en el Vaticano, donde se discutieron los peligros que plantea la posibilidad de que máquinas tomen decisiones críticas en situaciones de crisis.
Con el colapso de tratados de control de armas como el INF y el reciente expiración del START III, las tensiones nucleares entre potencias como Estados Unidos y Rusia se han incrementado, generando un entorno de mayor riesgo. La comunidad internacional, representada en esta reunión, aboga por un tratado que limite el uso de la IA en los sistemas de lanzamiento nuclear para asegurar que las decisiones sobre el uso de armas nucleares permanezcan bajo supervisión humana.
Los firmantes de la declaración resaltan que la IA no solo tiene el potencial de revolucionar las operaciones militares, sino que también puede aumentar el riesgo de errores catastróficos y de ciberataques, enfatizando la necesidad de mantener el control humano en estos sistemas críticos. Además, el informe destaca el crecimiento de arsenales nucleares en varias naciones, especialmente en China, que está expandiendo rápidamente su capacidad nuclear, lo que plantea nuevas preguntas sobre la seguridad global y la gobernanza internacional.
En resumen, la integración de la IA en los sistemas de armamento nuclear representa un desafío apremiante que requiere atención inmediata y acciones concertadas para preservar la seguridad y dignidad humana en el contexto de la guerra y la paz.