El Congreso busca poner límites a los trolls y piden cárcel: "Hay que ponerle un freno a lo dañino"

Cualquiera que haga un breve repaso por las principales redes sociales o aplicaciones de mensajería, puede dar fe de la cantidad de información y publicaciones que circulan por segundo, sobre todo en la Argentina, un país que nunca descansa y que no deja de sorprender. Sin embargo, lo difícil es confirmar la veracidad de lo que circula, qué sí y que no es real y no un invento generado con inteligencia artificial.

Si lo trasladamos al ámbito político ya se convirtió en un problema: han circulado desde imágenes truchas de las principales figuras de la política argentina hasta audios comprometedores intentando destruir al dirigente político implicado. También pasa con la gente que no es "casta", grupo en el que ya hay cientos de víctimas -muchas son mujeres- en las que con IA han generado imágenes con su cara de índole sexual.

El Congreso pide penalizarlo

Esta es una realidad y se va acrecentando cada día más, por eso hay quienes creen que es necesario penalizar diversas acciones que puedan afectar la integridad de otros. Es decir, terminar con la impunidad con la que se vive en redes sociales, mayormente ejercida por usuarios fantasmas con un único fin: engañar.

"La inteligencia artificial, como toda creación humana, puede ser utilizada para el bien o para el mal. El problema está en su utilización con fines dañinos, de perjudicar a otra persona, porque eso tiene dos efectos: primero, que es fácilmente accesible y cualquiera puede hacer esta tarea, es decir, no se requieren muchos conocimientos y son bastante amigables para usar; y segundo, por el hecho de que está dentro del ámbito de internet, y en consecuencia, la viralización que va a tener esa imagen, ese video o ese audio, en donde se simula la voz o la imagen de una persona en situaciones no queridas y que son falsas, llegando a lugares impensados. Con lo cual, la capacidad de daño se multiplica y afecta derechos esenciales", dijo en diálogo con Urgente24 el diputado nacional del bloque de Pichetto (Hacemos Coalición Federal), Juan Fernando Brügge.

Sucede que el diputado cordobés presentó un proyecto de ley para penalizar el uso no autorizado de imágenes personales mediante tecnología de inteligencia artificial, con el objetivo de "proteger la integridad y privacidad de las personas frente al avance tecnológico".

La iniciativa consta de 4 artículos y básicamente propone modificar el artículo 139 ter, 157 ter y el 129 bis del Código Penal para incorporar que el uso no autorizado de la IA sea castigado con cárcel.

La preocupación del diputado nacional radica no sólo en el ciudadano de a pie que se pueda ver perjudicado por el uso de IA, sino que también ponderó "lo peligroso" que puede llegar a ser de cara a las elecciones del 2025, en las que a través de mensajes o información generada con inteligencia artificial se puede hacer mucho daño.

"Imaginate en una campaña electoral en donde con IA se mienta con un candidato y se lo ponga en una situación comprometedora desde el punto de vista sexual, o comprometedora desde su reputación cometiendo un delito, expresando alguna manifestación que no tiene absolutamente nada que ver con sus ideas... Eso genera en el electorado confusión y le quita chances en la elección, obviamente", argumentó.

A su vez, consideró que de cara a las elecciones, la IA es una herramienta "que puede ser utilizada para confundir al electorado, y es probable que la vayan a usar. Por eso es importante contar con estas previsiones para poner algún freno", opinó.

Qué dice el proyecto de ley

"Artículo 139° ter: Será reprimido con prisión de cuatro (4) a ocho (8) años, quien utilizando tecnología de inteligencia artificial, sin el consentimiento informado y expreso de la persona implicada o de sus herederos, cometa alguna de las siguientes acciones:

1) Genere o modifique videos, audios, rostros de personas, grabaciones de voz y/o escenarios ficticios, con la intención de hacerlos parecer como reales, en detrimento de las actividades personales y profesionales de alguna persona humana o jurídica.

2) Genere daño o perjuicio potencial o actual, a la imagen o reputación pública de las personas, mediante técnicas de manipulación de inteligencia artificial sobre registros de video, audio, imagen o cualquier representación visual o auditiva.

3) Genere o modifique videos, audios, rostros de personas, grabaciones de voz y/o escenarios ficticios, con la intención de hacerlos parecer como reales, en el marco de un proceso electoral nacional, provincial o municipal", reza la iniciativa presentada.

A su vez, aclara que en caso de que el uso de IA sin autorización sea cometido contra menores de edad, personas con discapacidad o en estado de vulnerabilidad "la escala penal se incrementa en un quinto en su mínimo y máximo".

Por otro lado, sobre la modificación del artículo 129 bis del Código Penal de la Nación, si se aprueba el proyecto el texto queda redactado de la siguiente forma:

“Artículo 129 bis Será reprimido con prisión de cuatro (4) a ocho (8) años, quien utilizando tecnología de inteligencia artificial, cree , exponga, exhiba, comunique, distribuya, reproduzca, transmita, comercialice o intercambie imágenes, audios o videos de índole sexual íntimo de una persona o grupo de personas sin su consentimiento, o simulando la imagen o voz de persona que no interviene en los mismos, ya sea por medio impreso, correo electrónico, redes sociales, o cualquier otro medio tecnológico".

Y aclara: "Si los afectados fueren menores de dieciocho años, la pena será de prisión de seis (6) a diez (10) años".

Por último, sobre la modificación del artículo 157 ter, propone: "Será reprimido con prisión de dos (2) a cuatro (4) años, quien suprima, oculte o edite el aviso e identificación clara y visible de que el contenido de un video, audio, imagen o cualquier otra representación digital, ha sido generado y/o modificado utilizando técnicas de Inteligencia Artificial.”

Los que quedan exceptuados

De todos modos, el proyecto aclara que hay quienes quedarán por fuera de la penalización del uso de inteligencia artificial sin consentimiento, para resguardar así la libertad de expresión y el libre derecho a la información.

En ese sentido, el proyecto detalla:

"Quedarán exceptuados de la penalidad prevista en este artículo, los supuestos en que exista una identificación clara y visible de que el contenido ha sido generado y/o modificado utilizando técnicas de Inteligencia Artificial, para recrear hechos de interés general, educativo, histórico, científico o cultural en relación con actos o hechos de interés público, parodia y ejercicio del derecho a informar, en todos los casos, con relación a funcionarios públicos o personas de notoria exposición pública en razón de su actividad, oficio o profesión.”

Consultado por Urgente24 sobre las chances que tiene el proyecto de avanzar en Diputados, sobre todo cuando es notorio que parte de la maquinaria comunicacional del Gobierno tiene que ver con ejércitos de trolls y mensajes creados con inteligencia artificial, el diputado respondió:

"Desconozco la postura del oficialismo sobre este proyecto porque recién lo hemos presentado esta semana y todavía no ha sido derivado a la comisión, pero ya cuento con un grupo de diputados de la oposición que van a pedir que se ponga en consideración el tema y ahí veremos qué es lo que sucede".

En esa misma línea, el cordobés aclaró: "El uso de la inteligencia artificial comunicado e informado al usuario no hay problema, el problema es cuando es dañino. Incluso, el proyecto establece que yo puedo generar un contenido con una imagen que no es real, pero se le debe comunicar al usuario; y eso es parte de lo que propone el proyecto también".

Cárcel como castigo: correctivo o exageración

Por otro lado, el diputado nacional de Hacemos Coalición Federal fue consultado sobre el castigo que pide en su proyecto a quienes hagan uso de la IA sin consentimiento, y en esa línea se planteó el debate respecto de si es necesario penar con cárcel (hasta 8 años) a una persona que use malintencionadamente la IA, o si aceptaría hacer modificaciones a su proyecto para proponer penas más blandas.

- ¿La cárcel no le parece mucho? En la cárcel hay delincuentes ¿no le parece exagerado 8 años de cárcel?

R: "El problema de la sanción es en directa proporción con el daño que se ocasiona. Acá hubo un caso, en Córdoba, donde hubo un adolescente que manejando esta tecnología clonó la cara de sus compañeras en un video pornográfico y lo difundió por todo Córdoba. Te imaginarás el daño que ha provocado eso. Si no hay una penalidad fuerte, obviamente que esto va a ir creciendo y normalizando y no va a haber ningún freno al respecto".

"Hay que ponerle un freno a lo dañino, a lo que genera daño. Y sobre todo a personas que no están en la exposición pública. Porque aquellos que estamos en la exposición pública somos más conscientes de que estas cosas pueden pasar e incluso es más flexible la jurisprudencia de que estas cosas puede pasar, de hacernos bromas o chistes, siempre y cuando no incurra falsedades que después vayan en desmedro de nuestra imagen", sentenció.