Papa Francisco sobre IA: "Indistinguible" del humano y fuera de control

Destacó que la IA podría alimentar la “creciente crisis de la verdad en el foro público”, ya que su resultado era casi indistinguible del de los humanos, lo que plantea inquietudes éticas y sociales profundas.

En línea con el Sumo Pontífice, cabe destacar que la IA es el primer artefacto creado por el ser humano capaz de tomar decisiones por sí mismo. A través de los algoritmos, por ejemplo, decide nuestro consumo virtual en base al análisis veloz de nuestros intereses y preferencias.

image.png

IA, un tema fundamental en Davos.

Además, crea nuevas ideas por su cuenta. Ya se ha aventurado en el campo de las artes con la creación de obras inéditas e imitaciones. Hemos llegado a un punto en el que no necesariamente se pueden distinguir poemas, pinturas o incluso piezas musicales creadas por algoritmos de aquellas creadas por humanos.

Suno es una herramienta IA que permite al usuario crear música (voces e instrumentación) de cualquier género en cuestión de segundos. Aitana López es una falsa influencer de Instagram con más de 300.000 seguidores.

¿IA fuera de control?

El pontífice escribió también que "esta tecnología está diseñada para aprender y tomar ciertas decisiones de forma autónoma, adaptándose a nuevas situaciones y proporcionando respuestas no previstas por sus programadores".

La imprevisibilidad de la IA y chatbots en las respuestas aumentan la percepción de falta de control sobre estos sistemas avanzados. La IA está creciendo a un ritmo inimaginable, no tenemos control real sobre sus avances. Ya está cambiando nuestra cultura. Cada vez es más difícil prescindir de esta manipuladora tecnología que traza límites borrosos entre la realidad y la ficción.

El mismo Papa fue en varias ocasiones víctima de deeps fakes. Más allá de las alertas mundiales sobre la IA y los pedidos de paralizar los avances de la IA, las grandes corporaciones tecnológicas siguen lanzando y promocionado sus propios chatbots con mejoras cada año (ChatGpt de OpenAI, Gemini de Google, Grok de xAI, etc).

Agregó el pontífice que "cómo toda actividad humana y todo desarrollo tecnológico, la IA debe ordenarse a la persona humana y formar parte de los esfuerzos para lograr una mayor justicia".

Por ello abogó en el final de su misiva que los gobiernos y las empresas ejerzan "la debida diligencia y vigilancia" para gestionar las complejidad de la IA y para garantizar que la IA se use “para el bien de todos".

image.png

La IA relegará al humano a un rol secundario.

Si bien estas herramientas pueden impulsar el progreso en la ciencia, educación y medicina, agravan la desinformación y la manipulación masiva, hasta influyen en los resultados electorales.

Los anuncios de los magantes tecnólogos no contribuyen a mitigar el temor sobre la posible futura caída humana a manos de la IA. Semanas atrás, Elon Musk dijo que todo el conocimiento humano para seguir entrando a las IAs se había agotado y propuso que use información sintética, es decir, que se entrenen a sí mismas.

Jürgen Schmidhuber, el alemán precursor de la Inteligencia Artificial, desde los 90 ha estado intentado crear científicos artificiales para que ellos mismos forjen sus propios modelos de entrenamiento y vayan superándose todo el tiempo. En ese marco, la IA superaría las limitaciones y sesgos humanos y se convertirían en sistemas autoevolutivos. Esto, según expertos, significaría la creación de una cultura propia, indecible para el hombre, y la humanidad quedaría relegada a un rol secundario.

Más contenido de Urgente24

Inflación de enero: Un nuevo dato enciende alarmas

Drogas: Científicos identifican factores en adolescentes que no consumen

Desde febrero será obligatorio autorizar a un tercero a conducir tu auto: Cómo hacerlo

La miniserie con 6 episodios en Netflix que vas a querer maratonear ya

Giorgia Meloni y Libia: Traficante liberado en una maniobra turbia