YouTube ha revelado un nuevo enfoque en relación con los contenidos producidos por IA, además de varias mejoras en sus sistemas de seguridad que comenzarán a implementarse en los próximos meses. Según explica la plataforma en un anuncio, la meta es conservar un ecosistema con información saludable, así como salvaguardar a los espectadores de contenidos manipulados que «resulten engañosos y que puedan provocar daños severos».
De esta forma, se hará necesario notificar a los usuarios cuando el material que están visualizando sea sintético o haya sido alterado por herramientas de inteligencia artificial.
Requisitos para la divulgación de contenido: comunicar el uso de la IA
La política de YouTube ha prohibido desde hace tiempo los contenidos alterados con tecnología que sean engañosos o perjudiciales, pero con el nuevo paradigma que representa la IA, YouTube ha decidido reforzar y ajustar su enfoque. Para ello, se establecerán nuevas alternativas que permitirán al creador informar a sus seguidores que su vídeo es total o parcialmente sintético.
En concreto, los creadores de contenido de YouTube deberán indicar si el material que están subiendo es manipulado o sintético, lo que incluye notificar el uso de herramientas de IA. Como ejemplo de este tipo de contenido delicado, la plataforma menciona «un vídeo generado por IA que exponga de manera realista un evento que realmente no ha sucedido o que muestre a una persona real diciendo o haciendo algo que en realidad no realizó».
Esta medida adquiere mayor importancia en contenidos que abordan asuntos delicados, como elecciones, conflictos vigentes, crisis de salud pública o funcionarios públicos. Los vídeos de los creadores que no revelen esta información serán eliminados, además de enfrentarse a sanciones en el programa de socios de YouTube y penalizaciones.
Etiquetas para contenido delicado
Para asegurar que los espectadores estén al tanto sobre contenido manipulado o sintético, YouTube introduce dos nuevas etiquetas explícitas, basadas en el contenido del vídeo. Cuando parte del material haya sido alterado o generado digitalmente, aparecerá una etiqueta en el panel de descripción. Para ciertos tipos de contenido relativo a temas delicados, se mostrará una etiqueta más destacada directamente en el reproductor del vídeo.
Asimismo, el contenido creado por herramientas y funciones de IA generativa será claramente etiquetado como «generado por IA».
Desde YouTube advierten que «en algunas ocasiones poner una etiqueta no será suficiente para reducir el riesgo de daño», por lo tanto, algunos medios sintéticos, estén etiquetados o no, serán eliminados de la plataforma si infringen las Normas de la comunidad.
Los creadores, espectadores y artistas podrán solicitar la eliminación de un vídeo
En los próximos meses, YouTube implementará un nuevo procedimiento de reclamación de privacidad, mediante el cual espectadores, creadores y artistas podrán pedir la eliminación de contenidos que hayan sido generados por IA o contenidos sintéticos o manipulados que incluyan el rostro y voz de alguien real sin su consentimiento.
Para evaluar las peticiones, YouTube considerará diversos factores y cita, como ejemplo, que se tendrán en cuenta aspectos tales como: «si el contenido es una parodia o sátira, si la persona que presenta la solicitud puede ser identificada de manera inequívoca o si el contenido muestra a un político o alto funcionario, o a una persona famosa, en cuyo caso puede admitirse una mayor indulgencia». Después del análisis, YouTube decidirá si eliminar o no el contenido denunciado.
Además de esto, los músicos podrán solicitar que se eliminen contenidos musicales producidos por IA que recreen su voz o estilo de canto. En este caso, también se considerarán varios factores, como «si el contenido ha recibido cobertura mediática, análisis o críticas por el uso de voces sintéticas».
Foto: Canva
