CNN
—
Las Naciones Unidas deberían crear un nuevo organismo internacional para ayudar a gobernar el uso de la inteligencia artificial a medida que la tecnología revela cada vez más sus riesgos y beneficios potenciales, según el Secretario General de la ONU, António Guterres.
La ONU tiene la oportunidad de establecer reglas de camino acordadas a nivel mundial para monitorear y regular la IA, dijo Guterres el martes en una primera reunión del Consejo de Seguridad de la ONU dedicada a la gobernanza de la IA.
Así como la ONU convocó a organismos similares para administrar el uso de la energía nuclear, impulsar la seguridad de la aviación y enfrentar los desafíos del cambio climático, dijo Guterres, la ONU tiene un papel único que desempeñar en la coordinación de la respuesta internacional a la IA.
La ONU ya ha estado desplegando inteligencia artificial en sus propias operaciones para monitorear los altos el fuego e identificar patrones de violencia, agregó, y las operaciones humanitarias y de mantenimiento de la paz de la ONU también están siendo atacadas por actores hostiles que utilizan la IA con fines maliciosos, “causando un gran sufrimiento humano. ”
“El uso malicioso de los sistemas de inteligencia artificial con fines terroristas, criminales o estatales podría causar niveles terribles de muertes y destrucción, trauma generalizado y daños psicológicos profundos en una escala inimaginable”, advirtió Guterres. “La IA generativa tiene un enorme potencial para el bien y el mal a escala. Sus propios creadores han advertido que se avecinan riesgos mucho mayores, potencialmente catastróficos y existenciales. Sin acciones para abordar estos riesgos, estamos abandonados en nuestras responsabilidades para con las generaciones presentes y futuras”.
Para 2026, la ONU debería desarrollar un acuerdo legalmente vinculante que prohíba el uso de IA en armas de guerra completamente automatizadas, dijo Guterres. También se comprometió a reunir un consejo asesor que desarrollará propuestas para regular la IA de manera más amplia para fin de año, y se burló de un próximo resumen de políticas con recomendaciones para los gobiernos sobre cómo abordar la tecnología de manera responsable.
El líder de la reunión del martes fue el secretario de Relaciones Exteriores del Reino Unido, James Cleverly, quien pidió que la gobernanza internacional de la IA esté vinculada a los principios que defienden la libertad y la democracia; el respeto de los derechos humanos y el estado de derecho; seguridad, incluida la seguridad física, así como la protección de los derechos de propiedad y la privacidad; y confiabilidad.
“Estamos aquí hoy porque AI afectará el trabajo de este consejo”, dijo Cleverly. “Podría mejorar o interrumpir la estabilidad estratégica global. Desafía nuestras suposiciones fundamentales sobre la defensa y la disuasión. Plantea cuestiones morales sobre la responsabilidad por decisiones letales en el campo de batalla… La IA podría ayudar en la búsqueda imprudente de armas de destrucción masiva por parte de actores estatales y no estatales por igual. Pero también podría ayudarnos a detener la proliferación”.
Mientras tanto, el gobierno chino argumentó que las reglas de la ONU deberían reflejar los puntos de vista de los países en desarrollo, ya que busca evitar que la tecnología se convierta en «un caballo salvaje desbocado».
Las leyes y normas internacionales en torno a la IA deben ser flexibles para dar a los países la libertad de establecer sus propias regulaciones a nivel nacional, dijo el embajador chino Zhang Jun, quien también criticó a los «países desarrollados» no identificados por tratar de lograr el dominio en la IA.
“Ciertos países desarrollados, con el fin de buscar la hegemonía tecnológica, se esfuerzan por construir sus pequeños clubes exclusivos y obstruyen maliciosamente el desarrollo tecnológico de otros países y crean artificialmente barreras tecnológicas”, dijo Zhang. “China se opone firmemente a estos comportamientos”.
Los comentarios de Zhang se producen inmediatamente después de los informes de que el gobierno de EE. UU. podría tratar de limitar el flujo de potentes chips de inteligencia artificial a China.
Un funcionario que representó a los Estados Unidos en la reunión no abordó directamente las acusaciones del gobierno chino, pero agregó que “ningún estado miembro debería usar la IA para censurar, restringir, reprimir o desempoderar a las personas”, una posible referencia velada al uso de la tecnología por parte de China para vigilar las etnias. minorías.
La reunión también incluyó algunas voces de la industria tecnológica.
Dirigiéndose al consejo de seguridad a través de una teleconferencia, Jack Clark, cofundador de la empresa de inteligencia artificial Anthropic, instó a los estados miembros a no permitir que las empresas privadas dominen el desarrollo de la inteligencia artificial.
“No podemos dejar el desarrollo de la inteligencia artificial únicamente a los actores del sector privado”, dijo Clark. “Los gobiernos del mundo deben unirse para desarrollar una capacidad segura y hacer que un mayor desarrollo de poderosos sistemas de IA sea un esfuerzo compartido en todas las partes de la sociedad, en lugar de uno dictado únicamente por un pequeño número de empresas que compiten entre sí en el mercado”.
