image.png
Plataformas como Udio y Suno permiten agregar letras personalizadas a canciones generadas por IA.
Usan homófonos y cambian la ortografía de términos discriminatorios (por ejemplo, escriben "jooz" en lugar de "judíos"), alteran los espacios entre palabras al referirse a actos violentos y otras artimañas del estilo.
TechCrunch comprobó que algunas de esas técnicas sí lograban burlar los controles. Udio bloqueó parte de los ejemplos probados, pero Suno los dejó pasar todos.
Eso no es todo, hay algo peor
Para ActiveFence, el mayor riesgo es que, ante la facilidad de estas herramientas, se multiplique la creación y difusión de canciones de odio a gran escala por parte de usuarios que antes no tenían forma de hacerlo.
"Los actores maliciosos identificaron rápido las vulnerabilidades para abusar de estas plataformas y generar contenido dañino", explicaron. Y advierten que, si estas tendencias continúan, se intensificará la propagación de música discriminatoria.
La IA definitivamente llegó para quedarse en la industria musical. ¿Pero seremos capaces de aprovechar su potencial evitando los riesgos? El desafío está servido.
---------------------------------------------------------------------------
Más contenido en Urgente24
Samsung lanza el Galaxy S24 en Argentina con opciones de financiación y Plan Canje
Apple + Inteligencia artificial: iPhone se prepara para el salto evolutivo con iOS 18
La plataforma streaming que te permite crear tus historias con inteligencia artificial
