CNN
—
Algunos de los nombres más importantes de la tecnología están pidiendo que los laboratorios de inteligencia artificial detengan el entrenamiento de los sistemas de IA más poderosos durante al menos seis meses, citando «riesgos profundos para la sociedad y la humanidad».
Elon Musk, Bill Gates y Steve Wozniak se encuentran entre las decenas de líderes tecnológicos, profesores e investigadores que firmaron la carta, que fue publicado por el Future of Life Institute, una organización sin fines de lucro respaldado por almizcle.
La carta llega solo dos semanas después de OpenAI Anunciado GPT-4, una versión aún más poderosa de la tecnología que sustenta la herramienta de chatbot de IA viral, ChatGPT. En las primeras pruebas y en una demostración de la empresa, se mostró la tecnología redactando demandas, aprobando exámenes estandarizados y creando un sitio web funcional a partir de un boceto dibujado a mano.
La carta, que también fue firmada por el CEO de OpenAI, decía que la pausa debería aplicarse a los sistemas de IA «más poderosos que GPT-4». También dijo que los expertos independientes deberían usar la pausa propuesta para desarrollar e implementar conjuntamente un conjunto de protocolos compartidos para herramientas de IA que sean seguras «más allá de toda duda razonable».
“La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes”, dice la carta. dicho. “Desafortunadamente, este nivel de planificación y gestión no está sucediendo, a pesar de que en los últimos meses los laboratorios de IA se han visto envueltos en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender. , predecir o controlar de forma fiable”.
Si no se establece una pausa pronto, la carta decía que los gobiernos deberían intervenir y crear una moratoria.
La ola de atención en torno a ChatGPT a fines del año pasado ayudó a renovar una carrera armamentista entre las empresas de tecnología para desarrollar e implementar herramientas de IA similares en sus productos. OpenAI, Microsoft y Google están a la vanguardia de esta tendencia, pero IBM, Amazon, Baidu y Tencent están trabajando en tecnologías similares. Una larga lista de nuevas empresas también está desarrollando asistentes de escritura y generadores de imágenes de IA.
Los expertos en inteligencia artificial están cada vez más preocupados por el potencial de las herramientas de IA para dar respuestas sesgadas, la capacidad de difundir información errónea y el impacto en la privacidad del consumidor. Estas herramientas también han generado preguntas sobre cómo la IA puede cambiar las profesiones, permitir que los estudiantes hagan trampa y cambiar nuestra relación con la tecnología.
Lian Jye Su, analista de ABI Research, dijo que la carta muestra preocupaciones legítimas entre los líderes tecnológicos sobre el uso no regulado de tecnologías de IA. Pero calificó partes de la petición de «ridículas». incluida la premisa de pedir una pausa en el desarrollo de IA más allá de GPT-4. Dijo que esto podría ayudar a algunas de las personas que firmaron la carta a preservar su dominio en el campo.
Musk fue miembro fundador de OpenAI en 2015, pero se fue tres años después y desde entonces criticado la empresa. Gates cofundó Microsoft, que tiene invertido miles de millones de dólares en OpenAI.
“Las ambiciones corporativas y el deseo de dominio a menudo triunfan sobre las preocupaciones éticas”, dijo Su. “No me sorprendería si estas organizaciones ya están probando algo más avanzado que ChatGPT o [Google’s] Bardo mientras hablamos.
Aún así, la carta insinúa la incomodidad más amplia dentro y fuera de la industria con el rápido ritmo de avance de la IA. Algunas agencias gubernamentales en China, la UE y Singapur han introducido primeras versiones de los marcos de gobernanza de la IA.
