Los interminables anuncios de OpenAI (cofundado por Elon Musk), Microsoft, Google de Larry Page y Sergey Brin, Meta de Mark Zuckerberg y demás grandes “tech” e incluso start ups confirman el despliegue de una carrera descontrolada por crear máquinas que imitan la inteligencia humana.
Si bien desde su concepción la IA busca mejorar significativamente las capacidades y contribuciones humanas, el avance y el aprendizaje que está exhibiendo en el mundo de la artes, preocupa a muchos expertos. Desde componer letras de canciones, poemas hasta interpretar música clásica e imitar con destreza pinturas de grandes artistas, su capacidad de generar y manipular lenguaje, ya sean palabras, sonidos o imágenes no tiene límites. Está claro que algunas ya han superado la mediocridad; el interrogante reside en cuánto tardará en alcanzar la sublimidad.
Seguridad necesaria
“¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y mentiras? ¿Deberíamos automatizar todos los trabajos, incluidos los gratificantes? ¿Necesitamos desarrollar mentes no humanas que algún día puedan superarnos en número, ser más inteligentes y reemplazarnos?” se preguntan no sin preocupación los autores de la carta entre los que firma también Harari.
El hecho de que las personalidades más genuinas del mundo de la IA se unan en una carta y dejen de lado la competencia por el rédito económico intranquiliza a más de uno. Lleva a reflexionar sobre la relevancia del apocalíptico documento.
Incluso aquellos reconocen que aún la humanidad no cuenta con sistemas de seguridad fuertes ni instituciones que perciben la diferencia entre la realidad y la artificialidad. A diferencia de otros sectores, este, al ser relativamente nuevo, no tiene supervisión ética o legal real.
image.png
En la petición, los expertos piden "sistemas de seguridad con nuevas autoridades reguladoras y vigilancia de los sistemas de IA".
Por ello, la petición, publicada en futureoflife.org, pide un pausa "hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IA, técnicas que ayuden a distinguir entre lo real y lo artificial, e instituciones capaces de hacer frente a la dramática perturbación económica y política (especialmente para la democracia) que causará".
Su inquietud es tan grande que incluso recomendaron la participación de “legisladores” y “autoridades reguladoras” para combatir las dramáticas perturbaciones económicas y políticas que causará la IA.
“Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”.
https://graph.facebook.com/v8.0/instagram_oembed?url=https%3A%2F%2Fwww.instagram.com%2Fp%2FCqVW-aqN6pG%2F&access_token=EAAGZAH4sEtVABAFJGazSP00Gc91GaHZCzKFFbvG3xLvL45KA3GHzScbhqLdHWNiNigAruHd2PGkjzPG7aZAjYDLdZAQZApcIRiMSvhAGX8LNw2LmITVS29EsuxLrnun33C4qPSZAkyNG67hHkYN5OYZBwHC8ZBqI3UzdoiZCsecq8ZCZAzqTJqAFEhhxowndj1ojlsZD
En la carta aclararon que este pedido no importa paralizar todo el desarrollo y conocimiento sobre IA sino que es “un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes”.
Así las cosas, los sistemas tan complejos y poderosos no deberían introducirse en las vidas de miles de millones de personas que no están preparadas para consumirlas.
“Hacemos un llamado a los líderes mundiales para que estén a la altura del desafío que presenta la hora actual. El primer paso es ganar tiempo para actualizar nuestras instituciones decimonónicas y aprender a dominar la IA antes de que ella nos domine”, concluyen los expertos en el artículo.
Más contenido de Urgente24
Futurock resignado: "Mauricio Macri se bajó y alejó al peronismo del triunfo"
Horacio Rosatti denunció que habilitaron líneas telefónicas a su nombre
El mercado de bonos dice que hay acuerdo con el FMI
Polémica: 'Papu' Gómez cancelado por 'brujería' a Lo Celso
ndonesia sin sede: Argentina candidata ¿vuelve Mascherano?