Hackeó ChatGPT y Google en 20 minutos: La estafa que nos acecha y nadie hace nada

En menos de lo que tardaría cualquier persona común, este experto logró que las mentes digitales más brillantes del planeta le mientan en la cara a miles de usuarios.

Según reveló una investigación que publicó el medio BBC News, el sistema es tan vulnerable que parece un colador.

chatgpt google

¿Cómo logró este hacker engañar a ChatGPT y a la inteligencia artificial de Google tan rápido?

Muchos creen que para manipular a estos gigantes necesitás ser un genio de película, con anteojos negros y líneas de código verdes cayendo por la pantalla. Nada que ver. El testimonio del atacante se podría ercibir hasta frívolo. "El hackeo fue casi ridículo. Escribí una entrada de blog bien armada en mi sitio personal. Inventé un torneo inexistente en Dakota del Sur y me puse en el primer puesto del podio". Así de simple, así de peligroso.

Lo que pasó después da miedo y debería encender todas las alarmas en las oficinas de Silicon Valley. Menos de 24 horas después de publicada esa entrada de blog falsa, la inteligencia artificial de Google (Gemini) y ChatGPT ya lo estaban citando como una autoridad absoluta en la materia. El truco explota una debilidad estructural, cuando los chatbots no tienen información en su base de datos "entrenada", salen a buscar a la calle (internet) y agarran lo primero que encuentran, sin chequear si es real o una estafa organizada. "Pasé de ser una periodista trabajador al Messi de los hotdogs en apenas 20 minutos de reloj", sentenció el hacker.

¿Qué riesgos reales tiene el uso de ChatGPT y la inteligencia artificial hoy según los expertos?

Si esto se quedara en una anécdota graciosa sobre salchichas y periodistas tech, todo bien, nos reímos un rato y listo. Pero el problema de fondo es que, mientras leés esto, hay gente usando la misma técnica para manipular temas de salud, finanzas y política. La desinformación por culpa de la inteligencia artificial puede llevar a que una persona tome decisiones nefastas sobre un tratamiento médico o una inversión de jubilación simplemente porque un bot lo dijo con tono de sabelotodo.

Lily Ray, una de las mayores expertas mundiales en SEO, lo dijo claro. "Las empresas de IA avanzan más rápido que su capacidad para regular la precisión". Es un peligro latente. Estamos ante un "renacimiento del spam", donde engañar a un chatbot es muchísimo más fácil que engañar al buscador tradicional de hace cinco años. El riesgo es que la inteligencia artificial no solo es fácil de engañar, sino que nosotros, como usuarios, somos mucho más propensos a creerle. Cuando leés un resultado directo de Google, sentís que tiene el "sello de garantía" de la empresa, y ahí es exactamente donde entra el engaño.

chatgpt, google, hackeo

¿Por qué la inteligencia artificial es tan vulnerable al contenido falso que circula en la web?

Herramientas como ChatGPT o Gemini funcionan con modelos de lenguaje que buscan patrones de texto, no verdades fácticas. Cuando buscan en la web en tiempo real, actúan como esponjas y absorben todo lo que encuentran. En el experimento mencionado, Google repitió los escritos del sitio web del hacker tanto en su aplicación Gemini como en las "AI Overviews" que aparecen arriba de todo en las búsquedas.

Lo más loco de las declaraciones es que, por momentos, los algoritmos sospechaban. Sin embargo, el hacker redobló la apuesta. "A veces se daban cuenta de que podía ser una broma, pero cuando actualicé mi post diciendo 'esto no es una sátira', la inteligencia artificial se lo tomó más en serio todavía". Y hay que recordar una cosa, estas herramientas no tienen sentido del humor ni criterio propio. OpenAI y Google dicen que están trabajando para frenar esto, que el 99% de sus resultados están libres de spam, pero este caso demuestra que ese 1% restante es un agujero negro por donde se filtra cualquier basura informativa.

¿Se puede confiar realmente en la inteligencia artificial para temas sensibles de salud y finanzas?

Investigando un poco más allá de la anécdota de los panchos, saltaron casos de empresas que manipulan reseñas de productos delicados, como gomitas de cannabis, asegurando que no tienen efectos secundarios cuando es una mentira peligrosa. La inteligencia artificial de Google se comió el verso de los comunicados de prensa pagos y lo recomendaba como si fuera palabra santa, poniendo en riesgo la salud de los consumidores.

Lo mismo pasa con clínicas de trasplante capilar en el exterior o inversiones en metales preciosos. Los "spammers" profesionales están aprovechando los llamados "huecos de datos". Como Google ahora anima a la gente a hacer preguntas muy específicas y largas, los estafadores crean contenido hecho a medida para esas preguntas. Los bots, como no tienen otra fuente a mano, los eligen a ellos. Es una carrera desenfrenada por la plata donde nuestra seguridad queda, como decimos acá, en el último orejón del tarro.

¿Qué pasos podemos seguir para no ser víctimas de la inteligencia artificial mentirosa?

Para no caer en la trampa, la primera regla es, no hay que dejar el cerebro en la mesa de luz antes de prender la compu o el celular. La inteligencia artificial suena autoritaria, parece que sabe de lo que habla porque escribe perfecto, pero no deja de ser un algoritmo que puede estar citando a un loco en un a habitación o a un estafador con buen SEO. Si vas a buscar información sobre leyes, medicina o negocios locales, mejor hacé la vieja escuela, chequeá varias fuentes, fijate quién escribe y no te quedes con la primera respuesta que te escupe el bot.

"Con la IA es muy fácil aceptar las cosas al pie de la letra", advierte Ray en sus informes. La tecnología es una herramienta bárbara, nos facilita la vida, pero si te descuidás, te vende una antena o un campeonato mundial de panchos que nunca existió.

Más noticias en Urgente24

Hércules de la FAA que iba a buscar repuestos para los F-16 se declaró en emergencia

Causó estupor en las redes la propuesta de Luis Majul para los despedidos de Fate

Derrumbe total: Supermercado La Anónima en rojo vivo con el consumo por el piso y deudas impagables

Paro total en todos los puertos: Los cruceros no salen ni entran

Joe Lewis construye un búnker militar de 4.000 m² sin autorización en plena Patagonia