image.png
Poca prometedora la 1era normativa de IA del mundo.
Véase los cuadros de Rembrandt manipulados por la IA; la fiel interpretación de la música clásica; las letras musicales compuestas por la inteligencia artificial que supera con creces la creatividad lírica de muchos de los que hoy se autoperciben como poetas musicales.
Tal como se preguntó Urgente24, ¿cómo pretenden someterla a la ética humana mientras paralelamente se fomenta su desarrollo? ¿Cómo regular algo potencialmente indomable? ¿Cuál es el límite?
Si bien desde su concepción la IA busca mejorar significativamente las capacidades y contribuciones humanas, el veloz avance y el aprendizaje que está exhibiendo en el mundo, preocupa a muchos expertos, porque supera las limitaciones humanas.
La primera normativa mundial, indolente, no responde mucho a eso, sino que se limita a dividir los sistemas de la compleja inteligencia según el nivel de riesgo que supongan para los usuarios. “Los distintos niveles de peligro implicarán una mayor o menor regulación. Una vez aprobadas, serán las primeras normas del mundo sobre IA”, se reduce a comentar.
¿Entonces cuáles son las obligaciones previstas para proveedores y usuarios de IA?
Califica de “riesgo inaceptable” a los sistemas de IA que representan una amenaza para las personas y serán prohibidos. Incluyen: “Manipulación cognitiva del comportamiento de personas o grupos vulnerables específicos: por ejemplo, juguetes activados por voz que fomentan comportamientos peligrosos en los niños, puntuación social: clasificación de personas en función de su comportamiento, estatus socioeconómico o características personales; sistemas de identificación biométrica en tiempo real y a distancia, como el reconocimiento facial (aunque parcial)".
“Los sistemas de identificación biométrica a distancia "a posteriori", en los que la identificación se produce tras un retraso significativo, se permitirán para perseguir delitos graves y sólo cuando haya previa aprobación judicial”, aclara.
Luego la clasificación de aplicaciones de “alto riesgo” incluye también los sistemas de IA que causen daños significativos a la salud, la seguridad, los derechos fundamentales de las personas o el medio ambiente.
image.png
La normativa no responde a muchos interrogantes sobre los riesgos de la Inteligencia Artificial.
También los sistemas de inteligencia artificial utilizados para influir en los votantes y el resultado de las elecciones, y los sistemas de recomendación utilizados por las plataformas de redes sociales (con más de 45 millones de usuarios) se han agregado a la lista de alto riesgo.
Es correcto que la UE haya ampliado la lista para incluir prohibiciones sobre usos intrusivos y discriminatorios de la IA, pero debería también ocuparse de poner límites a la verosimilitud que la IA ofrece, cualidad clave de las fake news, deep fakes.
Es increíble que pese a la advertencia tech -liderado por Elon Musk y demás expertos como el filósofo Yuval Harari- de que aún la humanidad no cuenta con sistemas de seguridad fuertes ni instituciones que perciben la diferencia entre la realidad y la artificialidad, la 1er normativa que trata de regular no procura abordar aquello.
Solo dice, en una parte que “la IA generativa, como ChatGPT, tendría que cumplir requisitos de transparencia: revelar que el contenido ha sido generado por IA; diseñar el modelo para evitar que genere contenidos ilegales; publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento”.
Y en otra que “los usuarios deben ser conscientes de cuándo están interactuando con la IA. Esto incluye los sistemas de IA que generan o manipulan contenidos de imagen, audio o vídeo (por ejemplo, deepfakes)” ¿Pero cuales son los requisitos mínimos de transparencia que permitan a los usuarios tomar decisiones con “conocimiento de causa”?
¿Cuáles serán las autoridades reguladoras? Cuáles las técnicas que ayuden a distinguir entre lo real y lo artificial? ¿Como funcionará la vigilancia de los sistemas de IA, y qué instituciones harán frente a la dramática perturbación económica y política que provocará? Silencio.
Sería ideal que tras la negociaciones con los 27 países miembros, la UE pueda corregir los simplismos de la normativa para finalmente presentar a fin de año un texto definitivo, íntegro y claro.
Más contenido de Urgente24
La fruta para la próstata de la que pocos han oído hablar
La foto de la 'derrota' de Alberto Fernández en horas clave
Emerenciano Sena, millones, aprietes y cambio de abogado
Desastre migratorio en Grecia: 80 ahogados en nuevo naufragio
Patricia Bullrich está en el ojo del huracán y no lo notó
