Ya no alcanza con crear playlists en Spotify. Ahora, gracias a la inteligencia artificial, cualquiera puede convertirse en compositor de sus propias canciones. Pero esta novedad tecnológica, como suele pasar, tiene una cara oscura: algunos malintencionados la están usando para crear música cargada de odio racial, homofobia y propaganda extremista.
¿QUÉ ES ESTO?
Tendencia con inteligencia artificial: Usuarios crean canciones de odio y propaganda extremista
La nueva moda: Grupos extremistas utilizan herramientas de generación musical para difundir mensajes discriminatorios. Inteligencia artificial en jaque.
04 de junio de 2024 - 22:45
La inteligencia artificial pinta mal en el mundo de la música.
Según la empresa ActiveFence, especializada en seguridad online, hubo un aumento reciente de conversaciones en foros vinculados al "discurso de odio" sobre cómo aprovechar las herramientas musicales de IA para generar canciones ofensivas contra minorías.
Quizás también te interese leer: La inteligencia artificial para crear música que aterroriza a Spotify, Apple Music, y YouTube
Seguir leyendo
La inteligencia artificial a veces puede dar mucho miedo
Las letras creadas con este método incitan al odio étnico, de género, racial y religioso, celebran actos terroristas y contienen teorías conspirativas antisemitas, aseguran los investigadores. Lo más grave es que estas canciones resultan mucho más atractivas y "pegadizas" que un simple texto escrito.
Si bien tienen filtros para bloquear insultos y lenguaje ofensivo, los usuarios encontraron formas de evadirlos.
Usan homófonos y cambian la ortografía de términos discriminatorios (por ejemplo, escriben "jooz" en lugar de "judíos"), alteran los espacios entre palabras al referirse a actos violentos y otras artimañas del estilo.
TechCrunch comprobó que algunas de esas técnicas sí lograban burlar los controles. Udio bloqueó parte de los ejemplos probados, pero Suno los dejó pasar todos.
Eso no es todo, hay algo peor
Para ActiveFence, el mayor riesgo es que, ante la facilidad de estas herramientas, se multiplique la creación y difusión de canciones de odio a gran escala por parte de usuarios que antes no tenían forma de hacerlo.
"Los actores maliciosos identificaron rápido las vulnerabilidades para abusar de estas plataformas y generar contenido dañino", explicaron. Y advierten que, si estas tendencias continúan, se intensificará la propagación de música discriminatoria.
La IA definitivamente llegó para quedarse en la industria musical. ¿Pero seremos capaces de aprovechar su potencial evitando los riesgos? El desafío está servido.
---------------------------------------------------------------------------
Más contenido en Urgente24
Samsung lanza el Galaxy S24 en Argentina con opciones de financiación y Plan Canje
Apple + Inteligencia artificial: iPhone se prepara para el salto evolutivo con iOS 18
La plataforma streaming que te permite crear tus historias con inteligencia artificial
Te puede interesar
No te lo pierdas
CONSPIRACIONES