La plataforma refuerza normas y etiquetado para mitigar el riesgo de contenidos manipulados por inteligencia artificial
YouTube ha anunciado la admisión del uso de inteligencia artificial (IA) para crear contenidos en su plataforma, con la condición de que no violen sus normas de la comunidad. Ante la posibilidad de manipulación engañosa, usuarios, personajes públicos y artistas musicales pueden solicitar la retirada de dichos contenidos.
La plataforma establece que todos los contenidos, incluso aquellos generados por herramientas de IA, deben cumplir con las normas de la comunidad, despliega Europa Press.
En ese sentido, y ante el potencial de la tecnología de IA generativa para crear contenidos dañinos o engañosos, YouTube tomará medidas adicionales para informar a los usuarios sobre la naturaleza sintética de ciertos contenidos.
En los próximos meses, se exigirá a los creadores informar a los usuarios cuando utilicen herramientas de IA generativa para generar contenido, especialmente si incluye material realista manipulado.
YouTube permitirá a personas cuyo rostro o voz sea generado digitalmente sin su permiso solicitar la eliminación de dicho contenido a través del proceso de reclamación de privacidad.
Al respecto, YouTube introducirá etiquetas en el panel de descripción para indicar que parte del contenido ha sido alterado o generado digitalmente.
Para casos de contenido potencialmente manipulado o sintético, la plataforma implementará una etiqueta más destacada en el reproductor de vídeo, especialmente en temas sensibles. En situaciones de alto riesgo de daño, se eliminará el contenido incluso si tiene etiqueta.
En el ámbito de la privacidad, YouTube permitirá a personas cuyo rostro o voz sea generado digitalmente sin su permiso solicitar la eliminación de dicho contenido a través del proceso de reclamación de privacidad.
Esta solicitud también se extiende a los músicos, quienes podrán solicitar la retirada de contenidos musicales generados por IA que reproduzcan su voz o estilo de canto.
Esta solicitud también se extiende a los músicos, quienes podrán solicitar la retirada de contenidos musicales generados por IA que reproduzcan su voz o estilo de canto.
Para ese objetivo, la herramienta inicialmente se proporcionará a sellos discográficos y distribuidoras, extendiéndose posteriormente a otros actores de la industria musical.
YouTube destaca que combina personas y tecnología de aprendizaje automático para moderar contenidos y hacer cumplir las normas de la comunidad.
La incorporación de la IA generativa en los sistemas de moderación permite identificar y capturar contenidos infractores de manera más eficiente, reduciendo la exposición de los revisores humanos a contenidos dañinos.
La compañía indica que trabaja activamente en barreras para prevenir el uso indebido de sus herramientas de IA en la generación de contenidos no permitidos en la plataforma.
