“La IA podría devorar rápidamente toda la cultura humana —todo lo que hemos producido durante miles de años—, digerirla, y empezar a escupir un diluvio de nuevos artefactos culturales”, sostienen el historiador israelí Yuval Harari, el especialista en ética de la tecnología estadounidense Tristan Harris y el empresario Aza Raskin en un artículo The New York Times. El CEO de Twitter y fundador de SpaceX y Tesla, Elon Musk, también alerta en una carta.
PREOCUPACIÓN TECH
Alerta mundial por IA: Elon Musk y miles de expertos piden pausarla
Expertos e investigadores del sector IA, entre ellos Elon Musk, encendieron las alarmas sobre los avances y pidieron suspenderlos por 6 meses.
29 de marzo de 2023 - 18:55
Precoupante carta de figuras de empresas "Tech" que advierten graves riesgos de la IA para la humanidad.
Miles de expertos e investigadores del sector, entre ellos, Musk, Steve Wozniak, cofundador de Apple, miembros del laboratorio de AI DeepMind de Google, en línea con los tres autores, pidieron suspender los avances por 6 meses.
Con tono preocupante y alarmista, los especialistas en inteligencia artificial se unieron en una carta para exigir que se paralicen concretamente las investigaciones sobre sistemas más potentes que GPT-4, el nuevo modelo de procesamiento del lenguaje lanzado recientemente por OpenAI, porque advierten “grandes riesgos para la humanidad”.
Seguir leyendo
“No solo ensayos académicos, sino también discursos políticos, manifiestos ideológicos, o libros sagrados para nuevos cultos. De hecho, es posible que la carrera presidencial de 2028 en Estados Unidos ya no sea dirigida por humanos”, continúa el artículo.
El problema es que el ámbito tecnológico de IA ha crecido tanto en los últimos años que ni siquiera los propios hacedores de la inteligencia artificial pueden comprender sus creaciones ni sus efectos en el futuro.
Los interminables anuncios de OpenAI (cofundado por Elon Musk), Microsoft, Google de Larry Page y Sergey Brin, Meta de Mark Zuckerberg y demás grandes “tech” e incluso start ups confirman el despliegue de una carrera descontrolada por crear máquinas que imitan la inteligencia humana.
Si bien desde su concepción la IA busca mejorar significativamente las capacidades y contribuciones humanas, el avance y el aprendizaje que está exhibiendo en el mundo de la artes, preocupa a muchos expertos. Desde componer letras de canciones, poemas hasta interpretar música clásica e imitar con destreza pinturas de grandes artistas, su capacidad de generar y manipular lenguaje, ya sean palabras, sonidos o imágenes no tiene límites. Está claro que algunas ya han superado la mediocridad; el interrogante reside en cuánto tardará en alcanzar la sublimidad.
Seguridad necesaria
“¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y mentiras? ¿Deberíamos automatizar todos los trabajos, incluidos los gratificantes? ¿Necesitamos desarrollar mentes no humanas que algún día puedan superarnos en número, ser más inteligentes y reemplazarnos?” se preguntan no sin preocupación los autores de la carta entre los que firma también Harari.
El hecho de que las personalidades más genuinas del mundo de la IA se unan en una carta y dejen de lado la competencia por el rédito económico intranquiliza a más de uno. Lleva a reflexionar sobre la relevancia del apocalíptico documento.
Incluso aquellos reconocen que aún la humanidad no cuenta con sistemas de seguridad fuertes ni instituciones que perciben la diferencia entre la realidad y la artificialidad. A diferencia de otros sectores, este, al ser relativamente nuevo, no tiene supervisión ética o legal real.
Por ello, la petición, publicada en futureoflife.org, pide un pausa "hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IA, técnicas que ayuden a distinguir entre lo real y lo artificial, e instituciones capaces de hacer frente a la dramática perturbación económica y política (especialmente para la democracia) que causará".
Su inquietud es tan grande que incluso recomendaron la participación de “legisladores” y “autoridades reguladoras” para combatir las dramáticas perturbaciones económicas y políticas que causará la IA.
“Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”.
En la carta aclararon que este pedido no importa paralizar todo el desarrollo y conocimiento sobre IA sino que es “un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes”.
Así las cosas, los sistemas tan complejos y poderosos no deberían introducirse en las vidas de miles de millones de personas que no están preparadas para consumirlas.
“Hacemos un llamado a los líderes mundiales para que estén a la altura del desafío que presenta la hora actual. El primer paso es ganar tiempo para actualizar nuestras instituciones decimonónicas y aprender a dominar la IA antes de que ella nos domine”, concluyen los expertos en el artículo.
Más contenido de Urgente24
Futurock resignado: "Mauricio Macri se bajó y alejó al peronismo del triunfo"
Horacio Rosatti denunció que habilitaron líneas telefónicas a su nombre
El mercado de bonos dice que hay acuerdo con el FMI
Te puede interesar
No te lo pierdas