CNN
—
microsoft, Google y otros líderes inteligencia artificial las empresas se comprometieron el viernes a someter los nuevos sistemas de IA a pruebas externas antes de que se publiquen y a etiquetar claramente el contenido generado por IA, anunció la Casa Blanca.
Las promesas son parte de una serie de compromisos voluntarios acordados por la Casa Blanca y siete empresas líderes de inteligencia artificial, que también incluyen a Amazon, Meta, OpenAI, Anthropic e Inflection, con el objetivo de hacer que los sistemas y productos de inteligencia artificial sean más seguros y confiables mientras el Congreso y la Casa Blanca desarrolla regulaciones más completas para gobernar la industria en rápido crecimiento. El presidente Joe Biden se reunió con altos ejecutivos de las siete empresas en la Casa Blanca el viernes.
En un discurso el viernes, Biden calificó los compromisos de las empresas como “reales y concretos”, y agregó que ayudarán a cumplir con sus “obligaciones fundamentales para con los estadounidenses de desarrollar tecnologías seguras y confiables que beneficien a la sociedad y defiendan nuestros valores y nuestros valores compartidos”.
“Veremos más cambios tecnológicos en los próximos 10 años, o incluso en los próximos años, que los que hemos visto en los últimos 50 años. Esa ha sido una revelación asombrosa”, dijo Biden.
Los funcionarios de la Casa Blanca reconocen que algunas de las empresas ya han promulgado algunos de los compromisos, pero argumentan que, en conjunto, elevarán «los estándares de seguridad y confianza de la IA» y servirán como un «puente hacia la regulación».
“Es un primer paso, es un puente hacia donde debemos ir”, dijo en una entrevista el subjefe de gabinete de la Casa Blanca, Bruce Reed, quien ha estado administrando el proceso de políticas de IA. “Ayudará a la industria y al gobierno a desarrollar las capacidades para garantizar que la IA sea segura y protegida. Y presionamos para avanzar tan rápido porque esta tecnología está avanzando más lejos y más rápido que cualquier cosa que hayamos visto antes”.
Si bien la mayoría de las empresas ya realizan ejercicios internos de «equipo rojo», los compromisos marcarán la primera vez que se comprometan a permitir que expertos externos prueben sus sistemas antes de que sean lanzados al público. Un ejercicio de equipo rojo está diseñado para simular lo que podría salir mal con una tecnología determinada, como un ataque cibernético o su potencial para ser utilizado por actores maliciosos, y permite a las empresas identificar de manera proactiva las deficiencias y evitar resultados negativos.
Reed dijo que el equipo rojo externo «ayudará a allanar el camino para la supervisión y regulación del gobierno», lo que podría sentar las bases para que un regulador o licenciante del gobierno lleve a cabo esas pruebas externas.
Los compromisos también podrían dar lugar a marca de agua generalizada de contenido de audio y visual generado por IA con el objetivo de combatir el fraude y la desinformación.
Las empresas también se comprometieron a invertir en ciberseguridad y «protección contra amenazas internas», en particular para proteger los pesos de los modelos de IA, que son esencialmente la base de conocimientos en la que se basan los sistemas de IA; crear un mecanismo sólido para que terceros informen las vulnerabilidades del sistema; priorizar la investigación sobre los riesgos sociales de la IA; y desarrollar e implementar sistemas de inteligencia artificial “para ayudar a abordar los mayores desafíos de la sociedad”, según la Casa Blanca.
Cuando Jake Tapper de CNN le preguntó el viernes sobre las preocupaciones que tiene con respecto a la IA, el vicepresidente y presidente de Microsoft, Brad Smith, señaló «lo que la gente, los malos actores, los individuos o los países harán» con la tecnología.
“Que lo usarán para socavar nuestras elecciones, que lo usarán para intentar entrar en nuestras redes informáticas. Ya sabes, que lo usarán de maneras que socavarán la seguridad de nuestros trabajos”, dijo.
Pero, argumentó Smith, “la mejor manera de resolver estos problemas es centrarse en ellos, comprenderlos, unir a las personas y resolverlos. Y lo interesante de la IA, en mi opinión, es que cuando hacemos eso, y estamos decididos a hacerlo, podemos usar la IA para defendernos de estos problemas de manera mucho más efectiva de lo que podemos hoy”.
Presionado por Tapper sobre la IA y las preocupaciones de compensación enumeradas en una carta reciente firmada por miles de autores, Smith dijo: “No quiero que socave la capacidad de nadie para ganarse la vida creando, escribiendo. Ese es el equilibrio que todos deberíamos querer alcanzar”.
Todos los compromisos son voluntarios y los funcionarios de la Casa Blanca reconocieron que no existe un mecanismo de aplicación para garantizar que las empresas cumplan con los compromisos, algunos de los cuales también carecen de especificidad.
Common Sense Media, una organización de seguridad infantil en Internet, elogió a la Casa Blanca por tomar medidas para establecer barreras de protección de IA, pero advirtió que «la historia indicaría que muchas empresas de tecnología en realidad no siguen el camino con un compromiso voluntario de actuar de manera responsable y apoyar regulaciones estrictas».
“Si hemos aprendido algo de la última década y la mala gestión total del gobierno de las redes sociales, es que muchas empresas hablan mucho de la boca para afuera”, dijo el director ejecutivo de Common Sense Media, James Steyer, en un comunicado. “Y luego priorizan sus ganancias hasta tal punto que no se hacen responsables de cómo sus productos impactan al pueblo estadounidense, particularmente a los niños y las familias”.
El fracaso del gobierno federal para regular las empresas de redes sociales en sus inicios, y la resistencia de esas empresas, ha cobrado gran importancia para los funcionarios de la Casa Blanca, ya que han comenzado a elaborar posibles regulaciones de IA y acciones ejecutivas en los últimos meses.
“Lo principal que enfatizamos a lo largo de las discusiones con las empresas fue que deberíamos hacer esto lo más sólido posible”, dijo Reed. “La industria de la tecnología cometió un error al evitar cualquier tipo de supervisión, legislación y regulación hace una década y creo que la IA está progresando incluso más rápido que eso y es importante que este puente hacia la regulación sea sólido”.
Los compromisos se elaboraron durante un mes de ida y vuelta entre las empresas de IA y la Casa Blanca que comenzó en mayo cuando un grupo de ejecutivos de IA acudió a la Casa Blanca para reunirse con Biden, la vicepresidenta Kamala Harris y funcionarios de la Casa Blanca. La Casa Blanca también buscó aportes de expertos en seguridad y ética de IA que no pertenecen a la industria.
Los funcionarios de la Casa Blanca están trabajando para ir más allá de los compromisos voluntarios, preparando una serie de acciones ejecutivas, la primera de las cuales se espera que se dé a conocer a finales de este verano. Los funcionarios también están trabajando en estrecha colaboración con los legisladores en el Capitolio para desarrollar una legislación más integral para regular la IA.
“Esta es una responsabilidad seria. Tenemos que hacerlo bien. También hay un potencial enorme, enorme”, dijo Biden.
Mientras tanto, los funcionarios de la Casa Blanca dicen que las empresas comenzarán a implementar «inmediatamente» los compromisos voluntarios y esperan que otras empresas se sumen en el futuro.
“Esperamos que otras empresas vean cómo también tienen la obligación de cumplir con los estándares de seguridad, protección y confianza. Y pueden elegir, y les daríamos la bienvenida a que elijan, unirse a estos compromisos”, dijo un funcionario de la Casa Blanca.
Esta historia ha sido actualizada con detalles adicionales.
