La inteligencia artificial se ha convertido en una nueva dimensión del poder global. Así lo ha planteado António Guterres, secretario general de Naciones Unidas, durante su discurso de apertura del 81º periodo de sesiones de la Asamblea General, en el que ha situado la tecnología y, especialmente, la inteligencia artificial, entre los principales factores que están transformando las relaciones de poder en el mundo.
“Hoy, el poder procede cada vez más de los datos, la capacidad de computación y los algoritmos”, ha afirmado Guterres, quien ha continuado asegurando que esta nueva forma de poder está “muy concentrada”, avanza a una velocidad extraordinaria y lo hace más rápido que la capacidad de las instituciones para comprender todas sus consecuencias. “La cuarta gran prueba del poder es la tecnología y, sobre todo, la inteligencia artificial”, ha señalado, antes de destacar las posibilidades de esta tecnología para impulsar avances en medicina, acelerar el descubrimiento científico, ampliar oportunidades y mejorar la vida de las personas.
Pero el potencial de la IA convive con riesgos que, según Guterres, requieren nuevos mecanismos de control. “El peligro no es la tecnología. El peligro es la tecnología sin responsabilidad”. A su juicio, el problema aparece cuando la capacidad tecnológica avanza sin supervisión, las decisiones se toman sin transparencia o los sistemas evolucionan más deprisa que los mecanismos diseñados para controlarlos.
Guterres ha vinculado el desarrollo de la IA con una transformación de las estructuras de poder. Durante siglos, ha explicado, el poder estuvo asociado al territorio; después, a la industria y las finanzas. Ahora, cada vez depende más de los datos, la capacidad de computación y los algoritmos. Esta transformación coincide, además, con una creciente concentración de las capacidades tecnológicas en manos de un número reducido de empresas y actores privados. Guterres ha advertido de que el poder está desplazándose progresivamente desde los gobiernos hacia grandes corporaciones y determinados individuos, cuyo alcance se extiende a la política, la economía, los flujos de información y el desarrollo tecnológico.
La velocidad de evolución de la inteligencia artificial es otro de los elementos que preocupan al secretario general. “La inteligencia artificial avanzó a una velocidad que dejó sorprendidos incluso a quienes la crearon”, ha señalado al comienzo de su intervención.
Cooperación para controlar los riesgos
Ante el rápido desarrollo de estas tecnologías, Naciones Unidas reclama una mayor coordinación internacional. Guterres considera que “los países que lideran esta revolución tecnológica deben compartir información sobre los nuevos riesgos para la seguridad, cooperar en las pruebas y evaluaciones y trabajar en salvaguardas comunes que nos protejan a todos”.
Es más, el secretario general ha comparado este desafío con la gestión de los riesgos nucleares durante la Guerra Fría. En aquel momento, ha recordado, rivales estratégicos desarrollaron mecanismos para reducir malentendidos, gestionar las escaladas y evitar una catástrofe. “Hoy, la inteligencia artificial exige la misma claridad de propósito y sentido de urgencia”. La propuesta pasa por avanzar hacia un marco multilateral de gestión de riesgos de la IA, respaldado por mecanismos de supervisión independientes y creíbles. Guterres también ha reivindicado el papel de Naciones Unidas como espacio de coordinación internacional y ha citado iniciativas como el Pacto Digital Global, el Diálogo Global sobre la Gobernanza de la IA y el Panel Científico Internacional Independiente sobre IA.
La creciente capacidad de los sistemas de inteligencia artificial plantea también una cuestión sobre quién mantiene el control cuando las máquinas pueden tomar decisiones o ejecutar acciones. Guterres ha defendido que determinados límites deben quedar fuera del alcance de la autonomía de los sistemas. “Los niños nunca deben convertirse en sujetos de prueba de sistemas no regulados”, ha señalado, a la par que ha aseverado que “las decisiones de vida o muerte nunca deben entregarse a las máquinas”. La preocupación se extiende especialmente al ámbito militar. “Los robots asesinos no tienen cabida en nuestro futuro”, ha afirmado, en referencia a las armas autónomas capaces de seleccionar y atacar objetivos sin una intervención humana directa.
El discurso de Guterres no plantea la tecnología únicamente como una amenaza. También reconoce su capacidad para contribuir a resolver algunos de los grandes desafíos globales, desde la medicina hasta la investigación científica. El reto, según su planteamiento, consiste en establecer las condiciones para que ese potencial se desarrolle bajo reglas compartidas y con mecanismos suficientes de control. “La inteligencia artificial debe estar moldeada por la humanidad, con la humanidad y para toda la humanidad. Gobernemos la inteligencia artificial antes de que ella nos gobierne a nosotros”.
