YouTube ha anunciado algunas de las medidas que tomará para abordar el manejo de contenido creado por inteligencia artificial (IA) en su plataforma. Con una serie de nuevas políticas relacionadas con la divulgación responsable, así como nuevas herramientas para solicitar la eliminación de deepfakes, se espera tener un mayor control de la nueva tendencia. La compañía señala que, aunque ya tiene políticas que prohíben los medios manipulados, se hacen cambios necesarios debido a la capacidad para engañar que tienen estos desarrollos.
Uno de los cambios que se implementarán implicará la creación de nuevos requisitos de divulgación para los creadores de YouTube. Ahora, deberá revelar cuando hayan creado contenido alterado o sintético que parezca realista, incluidos vídeos realizados con herramientas de IA. Por ejemplo, esto se debe realizar si un creador sube un contenido que parece representar un evento del mundo real que nunca ocurrió -o muestra a alguien diciendo algo que nunca dijo o haciendo algo que nunca hizo-. Es importante señalar que esta información se limita al contenido que «parece realista» y no es un requisito de divulgación general para todos los vídeos creados mediante IA.
YouTube quiere tener a la IA bajo control
El contenido generado por IA es un área importante cara al futuro, ya que no hay que olvidar que la propia YouTube está probando su implementación en algunos apartados. De hecho, la compañía anunció en septiembre que se preparaba para lanzar una nueva función de IA generativa llamada Dream Screen a principios del próximo año, que permitiría a los usuarios de la plataforma crear un vídeo o imagen generado por inteligencia artificial al escribir lo que quieren ver. Pero en este caso, todos los contenidos y funciones de IA generativa de YouTube se etiquetarán automáticamente al respecto.
la compañía también advierte que los creadores que no divulguen adecuadamente su uso de IA de manera consistente que estarán sujetos a «la eliminación de contenido, la suspensión del Programa de Socios de YouTube u otras sanciones». La plataforma indica que trabajará con los creadores para asegurarse de que comprenden los requisitos antes de que estos sean efectivos. Pero también señala que algunos contenidos de IA, incluso si están etiquetados, pueden eliminarse si se utilizan para mostrar «violencia realista» con el objetivo de impactar o disgustar a los espectadores. Esto parece ser una consideración apropiada, dado que los deepfakes ya se han utilizado para confundir a los espectadores.
Eso sí, YouTube adopta ahora una postura más permisiva respecto a la IA al permitir que los creadores cometan «errores» que puedan ser subsanados. Por otro lado, la compañía tampoco es clara sobre qué tan «consistentemente» se deben infringir sus reglas de divulgación de IA antes de tomar medidas punitivas en la plataforma.
Más cambios en la plataforma
Uno es la capacidad para que cualquier usuario de youtube solicitar la eliminación de contenido generado por IA -u otro contenido sintético o alterado que simule a una persona identificable, también conocido como profundo, incluyendo su rostro o voz-. Sin embargo, la compañía aclara que no todo el contenido señalado se eliminará, dejando espacio para la parodia o sátira. También señala que consideran si la persona que solicita la eliminación puede ser identificada de manera única o si el vídeo presenta a un funcionario público u otra persona conocida, en cuyo caso «puede haber un umbral más alto.
Junto con la herramienta de eliminación de contenidos profundo, la compañía está presentando una. YouTube dijo que estaba desarrollando un sistema nueva capacidad que permitirá a los socios musicales solicitar la eliminación de música generada por IA que imita la voz de un artista al cantar -algo que eventualmente compensaría a los artistas y titulares de derechos por la música generada por IA, por lo que esto parece ser un paso intermedio que simplemente permitiría las eliminaciones de contenido mientras tanto-. El sistema de eliminación de contenido solo estará disponible para sellos y distribuidores que representan a artistas que participan en los experimentos de IA de YouTube.
Importantes cambios en las políticas de uso del servicio de Google, especialmente si se tiene en cuenta que la IA se está utilizando en otras áreas del negocio de YouTubeincluido el aumento del trabajo de sus 20.000 trabajadores que revisan contenido en todo el mundo y la identificación de nuevas formas en que surgen los abusos y las amenazas, señala el comunicado. La compañía dice que evolucionará constantemente sus protecciones y políticas según los comentarios de los usuarios.
