La inteligencia artificial podría empeorar un 100% los abusos infantiles en línea

Inteligencia artificial al servicio del mal.

Pasaron más de dos décadas desde que se creó la línea en USA para combatir la explotación de menores en internet. Pero, este canal de denuncia está al borde del colapso. Un reciente informe desvela una realidad preocupante: la amenaza de la inteligencia artificial generativa podría empeorar aún más el problema. Un tema que ya había afectado a OnlyFans.

image.png

Quizás te interese leer: TikTok/OnlyFans declararon guerra a la IA por abuso infantil

Los abusos infantiles aumentan, pero entre contenido generado por inteligencia artificial

Imagina por un instante un mar interminable de denuncias falsas inundando el sistema. Pornografía infantil generada por inteligencia artificial, indistinguible de imágenes reales. Una avalancha de contenido aberrante que sepultaría los casos auténticos de menores que necesitan ser rescatados con urgencia. Un escenario inquietante, ¿verdad?

Bueno, resulta que este peligro acecha a la esquina. Las herramientas de creación de imágenes mediante IA podrían lograr que el sistema colapse por completo, advierte Alex Stamos, experto en ciberseguridad de Stanford y coautor del informe. "Estas grietas se convertirán en abismos en un mundo donde la IA está generando pornografía infantil completamente nueva e indistinguible de fotos reales", señala.

image.png

Pero la amenaza de la IA generativa no es el único obstáculo que enfrenta esta línea de emergencia. De hecho, el informe revela que sólo entre el 5 y 8% de las denuncias recibidas logran concretarse en arrestos. ¿La razón? Una combinación letal de escasez de fondos, limitaciones legales y fallas en el proceso de priorización e investigación de los casos.

Y todo es mucho peor

Por si fuera poco, el sistema tecnológico de CyberTipline está desfasado. Muchas empresas derivan casos con datos insuficientes sobre la identidad de los agresores, dificultando la priorización de los casos más graves.

Además, la falta de ingenieros informáticos calificados en estas organizaciones sin fines de lucro es un problema crónico, ya que las firmas tecnológicas privadas pueden ofrecerles mejores salarios.

image.png

Si bien estos son datos del 2020, ya 4 años tarde, deja en evidencia cómo fueron aumentando los casos. Fuente: CyberTipline.

El informe, también levantado por The Washington Post, deja en claro que si no se resuelven estas deficiencias de manera urgente, el sistema de denuncia contra la explotación infantil en internet podría volverse totalmente inoperante en los próximos años. Un desafío tecnológico inquietante que requiere nuestra atención inmediata.

--------------------------------------------