Anja Manuel, exfuncionaria del Departamento de Estado y ahora directora del grupo consultor Rice, Hadley, Gates y Manuel, escribió recientemente que incluso si China y Rusia no están listas para las conversaciones sobre el control de armas sobre la IA, las reuniones sobre el tema darían lugar a debates. de qué usos de la IA se consideran «más allá de los límites».
Por supuesto, el Pentágono también se preocupará por aceptar muchos límites.
“Luché muy duro para conseguir una política de que si tienes elementos autónomos de armas, necesitas una forma de apagarlos”, dijo Danny Hillis, un científico informático que fue pionero en las computadoras paralelas que se usaron para la inteligencia artificial. El Sr. Hillis, quien también sirvió en la Junta de Innovación de Defensa, dijo que los funcionarios del Pentágono respondieron diciendo: “Si podemos apagarlos, el enemigo también puede apagarlos”.
Los mayores riesgos pueden provenir de actores individuales, terroristas, grupos de ransomware o naciones más pequeñas con habilidades cibernéticas avanzadas, como Corea del Norte, que aprenden a clonar una versión más pequeña y menos restringida de ChatGPT. Y pueden descubrir que el software de IA generativa es perfecto para acelerar los ataques cibernéticos y atacar la desinformación.
Tom Burt, que dirige operaciones de confianza y seguridad en Microsoft, que es acelerando con el uso de la nueva tecnología para renovar sus motores de búsqueda, dijo en un foro reciente en la Universidad George Washington que pensaba que los sistemas de IA ayudarían a los defensores a detectar comportamientos anómalos más rápido de lo que ayudarían a los atacantes. Otros expertos no están de acuerdo. Pero dijo que temía que la inteligencia artificial pudiera «sobrealimentar» la propagación de desinformación dirigida.
Todo esto presagia una nueva era de control de armas.
Algunos expertos dicen que dado que sería imposible detener la propagación de ChatGPT y software similar, la mejor esperanza es limitar los chips especiales y otra potencia informática necesaria para avanzar en la tecnología. Sin duda, ese será uno de los muchos planes de control de armas presentados en los próximos años, en un momento en que las principales potencias nucleares, al menos, parecen no estar interesadas en negociar sobre armas viejas, y mucho menos sobre nuevas.
