El Consejo de Seguridad de la ONU celebró por primera vez una sesión el martes sobre la amenaza que representa la inteligencia artificial para la paz y la estabilidad internacionales, y el secretario general António Guterres pidió un organismo de control mundial para supervisar una nueva tecnología que ha suscitado al menos tantos temores como esperanzas
El Sr. Guterres advirtió que la IA puede allanar el camino para criminales, terroristas y otros actores que intentan causar “muerte y destrucción, trauma generalizado y daño psicológico profundo en una escala inimaginable”.
El lanzamiento el año pasado de ChatGPT – que puede crear textos a partir de indicaciones, imitar la voz y generar fotos, ilustraciones y videos – ha dado la voz de alarma sobre la desinformación y la manipulación.
El martes, diplomáticos y destacados expertos en el campo de la IA expusieron ante el Consejo de Seguridad los riesgos y amenazas, junto con los beneficios científicos y sociales, de la nueva tecnología emergente. Aún se desconoce mucho sobre la tecnología, incluso a medida que avanza su desarrollo, dijeron.
“Es como si estuviéramos construyendo motores sin entender la ciencia de la combustión”, dijo Jack Clark, cofundador de antrópico, una empresa de investigación de seguridad de IA. Las empresas privadas, dijo, no deberían ser los únicos creadores y reguladores de la IA.
El Sr. Guterres dijo que un organismo de control de la ONU debería actuar como un organismo rector para regular, monitorear y hacer cumplir las regulaciones de IA de la misma manera que otras agencias supervisan la aviación, el clima y la energía nuclear.
La agencia propuesta estaría compuesta por expertos en el campo que compartirían su experiencia con gobiernos y agencias administrativas que podrían carecer de los conocimientos técnicos para abordar las amenazas de la IA.
Pero la perspectiva de una resolución jurídicamente vinculante sobre su gobierno sigue siendo lejana. Sin embargo, la mayoría de los diplomáticos respaldó la noción de un mecanismo de gobierno global y un conjunto de reglas internacionales.
“Ningún país quedará libre de la IA, por lo que debemos involucrar y comprometer a la coalición más amplia de actores internacionales de todos los sectores”, dijo el secretario de Relaciones Exteriores de Gran Bretaña, James Cleverly, quien presidió la reunión porque Gran Bretaña ocupa la presidencia rotatoria del Consejo este mes. .
Rusia, apartándose de la opinión mayoritaria del Consejo, expresó su escepticismo de que se sabía lo suficiente sobre los riesgos de la IA para plantearla como una fuente de amenazas a la inestabilidad global. Y el embajador de China ante las Naciones Unidas, Zhang Jun, rechazó la creación de un conjunto de leyes globales y dijo que los organismos reguladores internacionales deben ser lo suficientemente flexibles para permitir que los países desarrollen sus propias reglas.
Sin embargo, el embajador chino dijo que su país se opone al uso de la IA como un “medio para crear hegemonía militar o socavar la soberanía de un país”.
El uso militar de armas autónomas en el campo de batalla o en otro país para asesinatos, como el robot de IA controlado por satélite También se mencionó que Israel envió a Irán para matar a un importante científico nuclear, Mohsen Fakhrizadeh.
El Sr. Guterres dijo que las Naciones Unidas deben llegar a un acuerdo legalmente vinculante para 2026 que prohíba el uso de IA en armas de guerra automatizadas.
La profesora Rebecca Willett, directora de IA en el Data Science Institute de la Universidad de Chicago, dijo en una entrevista que al regular la tecnología, era importante no perder de vista a los humanos detrás de ella.
Los sistemas no son totalmente autónomos. y las personas que los diseñan deben rendir cuentas, dijo.
“Esta es una de las razones por las que la ONU está analizando esto”, dijo el profesor Willett. “Realmente tiene que haber repercusiones internacionales para que una empresa con sede en un país no pueda destruir otro país sin violar los acuerdos internacionales. Una regulación real que se pueda hacer cumplir puede hacer que las cosas sean mejores y más seguras”.
