YouTube declara guerra al deepfake: Ahora detectará videos generados con inteligencia artificial

YouTube se pone fuerte con esta medida.

YouTube anunció la expansión de su programa piloto diseñado para identificar contenido generado por inteligencia artificial que utiliza el “parecido” de creadores. La plataforma también declaró su apoyo a la legislación conocida como NO FAKES ACT, que busca abordar el problema de los deepfakes que simulan la imagen de alguien para engañar y crear contenido.

image.png

Quizás te interese leer: YouTube revolucionará con su actualización 2025: Podrás comentar con audios

¿Cuáles son los nuevos planes de YouTube con esta herramienta?

La compañía colaboró en el proyecto de ley con sus patrocinadores, los senadores Chris Coons y Marsha Blackburn, junto con otros actores de la industria, incluyendo la Asociación de la Industria Discográfica de América (RIAA) y la Asociación Cinematográfica (MPA).

En una publicación en su blog, YouTube explicó las razones detrás de su continuo apoyo, afirmando que aunque comprende el potencial de la IA para "revolucionar la expresión creativa", también conlleva desventajas significativas.

Embed - Teaching @fake_celebrity about trends #fakedicaprio #jennaortega #fakeortega #wednesday #netflix

" También sabemos que existen riesgos con el contenido generado por IA, incluido el potencial de uso indebido o para crear contenido dañino. Las plataformas tienen la responsabilidad de abordar estos desafíos de manera proactiva", según el comunicado.

El sistema de detección y sus beneficios

El nuevo sistema de detección de parecidos se implementó en colaboración con la Agencia de Artistas Creativos (CAA) en diciembre de 2024. Esta tecnología se basa en los esfuerzos existentes de YouTube con su sistema Content ID, que detecta material protegido por derechos de autor en videos subidos por usuarios.

image.png

Por primera vez, YouTube también está compartiendo una lista de los testers iniciales del programa piloto, que incluye a destacados creadores como MrBeast, Mark Rober, Doctor Mike, el podcast Flow, Marques Brownlee y Estude Matemática.

Durante el período de prueba, la plataforma trabajará con los creadores para ampliar la tecnología y perfeccionar sus controles. El programa se expandirá para llegar a más creadores durante el próximo año, aunque la compañía no indicó cuándo espera lanzar el sistema de detección de manera más amplia al público general.

Además de este piloto, la compañía actualizó previamente su proceso de privacidad para permitir que las personas soliciten la eliminación de contenido alterado o sintético que simule su apariencia. También agregó herramientas de gestión que permiten a los usuarios detectar y controlar cómo se utiliza la IA para representarlos en YouTube.

Esta iniciativa representa un paso significativo en los esfuerzos de la plataforma por combatir la desinformación y proteger la identidad digital de creadores y personalidades frente al avance de las tecnologías de IA cada vez más sofisticadas.

--------------------------------------------------------