¿Creés que podés detectar un texto hecho con IA? Probablemente te equivoques

Durante meses, internet se llenó de personas convencidas de que podían detectar un texto escrito por inteligencia artificial con solo leer un par de párrafos. Pero los lingüistas vienen llegando a la conclusión opuesta: distinguir entre una persona y una IA es cada vez más difícil.

Tres reseñas de hotel. Una es real, dos son generadas por inteligencia artificial. ¿Cuál es cuál?

Claire Hardaker, profesora de lingüística forense en la Universidad de Lancaster, hace esa pregunta en un test online llamado Bot or Not. El resultado promedio de quienes lo completan es 60% de aciertos. Apenas por encima del azar.

Y sin embargo, cuando en mayo circularon sospechas sobre un cuento premiado de un escritor llamado Jamir Nazir, las redes sociales se llenaron de personas que aseguraban reconocer la escritura de IA. "Si sabés, sabés", escribió alguien. Nazir luego dijo que no había usado IA.

En las tres reseñas del comienzo, solo la primera era auténtica. La que parece más obvia, más genérica, más formulaica.

Por qué los "indicios" de IA no son indicios confiables

El problema con intentar detectar escritura de IA a ojo es que los patrones que la gente aprendió a reconocer como señales de alerta también son característicos del lenguaje humano. Los modelos de IA fueron entrenados sobre escritura humana, por lo que imitan sus tics con bastante fidelidad.

El guión largo (—) se repite en debates sobre detección de IA como marca sospechosa. Pero Charles Dickens también lo usaba.

La "regla de tres", esa tendencia a agrupar palabras o ideas en tríos, aparece en todo texto persuasivo desde que Julio César dijo veni, vidi, vici.

Los detectores automáticos tampoco son solución: Hardaker señala que personas neurodivergentes, por ejemplo, suelen escribir de maneras que los algoritmos clasifican como artificiales. Y el texto de IA puede modificarse para parecer más humano, generando resultados aún más impredecibles.

Lo que complica todo todavía más es que los humanos estamos siendo estilísticamente influidos por la IA.

La exposición masiva y cotidiana a respuestas de chatbots, sugerencias automáticas de correo, resúmenes generados por algoritmos, está filtrándose en la forma en que escribimos cuando no usamos ninguna herramienta.

El resultado, según un artículo publicado por The Guardian, es un espejo de espejos: la IA imita al humano, el humano empieza a imitar a la IA, y distinguir uno del otro se vuelve cada vez más difícil.

Los modelos de lenguaje fueron entrenados con escritura humana y hoy producen textos cada vez más difíciles de diferenciar.

Las palabras que la IA popularizó sin que nadie lo notara

Hay algo más concreto y verificable en este fenómeno. Un investigador rastreó en 2024 el ascenso súbito de la palabra "delve", que en inglés significa indagar o profundizar, en bases de datos de artículos científicos y lo vinculó directamente a los modelos de lenguaje.

No son errores ni palabras inventadas: son palabras perfectamente válidas que los modelos aprendieron a usar con una frecuencia que los humanos no tenemos.

En el español también pasa lo mismo. Frases cada vez mas repetidas en artículos, mails y publicaciones dan indicios que el lenguaje de alguna u otra manera esta cambiando y todo empieza a verse similar.

La hipótesis más interesante sobre por qué esto ocurre apunta no a los modelos en sí sino a los humanos que los entrenan. En el proceso de ajuste fino de estos sistemas, trabajadores evalúan respuestas y las califican."Delve" puede haberse popularizado precisamente porque no sonaba como algo que una IA diría.

El efecto, además, ya es bidireccional: un estudio que analizó miles de conversaciones no guionadas encontró que estas palabras aumentaron en el habla humana después del lanzamiento de ChatGPT.

Otro mostró que algunas palabras en abstracts académicos empezaron a caer después de que se señalara públicamente su asociación con la IA, como si los escritores empezaran a autocensurarse.

Algunas palabras empezaron a aparecer con mucha más frecuencia tras la popularización de la IA generativa.

Lo que la IA no puede hacer, según quienes estudian el lenguaje

Peter Stockwell, profesor de lingüística literaria en la Universidad de Nottingham, ofrece una manera de pensar el límite real de la escritura de IA.

El lenguaje tiene capas: palabras, frases, oraciones, párrafos, estructura narrativa. Los modelos son muy buenos en las capas bajas, donde todo suena gramaticalmente correcto y bien formado. A medida que se sube hacia la estructura del relato, hacia el arco emocional de una historia, hacia lo que hace que una narrativa sea memorable, el desempeño cae.

"Si le pedís a una IA que escriba una narrativa, puede producir una secuencia de eventos con algo que pase al final. Pero no sería una narrativa que valga la pena contar. No pasaría nada sorprendente ni interesante. Y si pasa algo sorprendente, va a parecer un error más que un giro brillante."

El punto más profundo que señalan los lingüistas es que los modelos no tienen cuerpo ni existencia social. No saben lo que se siente estar en el mundo.

Gary Shteyngart, novelista que enseña escritura en Columbia, lo describe así: "Si hoy es el primer día cálido en Nueva York y me siento a escribir una novela, creo que lo que escriba va a ser más cálido. Voy a filtrar lo que sé a través de esa calidez."

Ese tipo de contaminación sensorial y emocional es lo que da textura al lenguaje literario. Los modelos no tienen acceso a ella.

Varios autores sostienen que la IA puede escribir textos correctos, pero todavía no reemplaza la experiencia humana detrás de una historia.

Las escritoras que toman posiciones opuestas

Jennifer Egan, cuyas novelas fueron usadas sin permiso para entrenar a Claude, optó por una abstinencia total.

No solo se niega a usar herramientas de IA sino que ahora cuestiona sus propios tics de escritura, de usar mucho el guión largo, y los grupos de tres. "Me encuentro interrogando cada uno más de lo que solía. No me molesta, porque el punto entero es no escribir algo que cualquier otro pudiera haber escrito."

Jeanette Winterson, que escribió extensamente sobre IA y arte, tiene una postura diferente. "Los humanos somos animales que usan herramientas. Esa ha sido nuestra historia de éxito. ¿Trabajaría con un modelo de lenguaje? Por supuesto. ¿Por qué no?"

Pero también advierte que la competencia lingüística de los modelos no equivale a expresión humana real: "Más allá de lo básico, el significado es una serie de realidades interiores. Las máquinas no comparten nuestra realidad, entre otras cosas porque no tienen sistema límbico."

La IA ya puede escribir, en volúmenes enormes, todos los días. Ahora... ¿puede crear algo que nunca existió antes o ver el mundo de una manera que nadie más ve?

Stockwell recuerda que el surrealismo nació del agotamiento de la Primera Guerra Mundial, que lo psicodélico nació de la austeridad de la posguerra. Ese tipo de ruptura requiere un cuerpo que haya sentido el agotamiento, y una mente que quiera rebelarse contra él.

Difícil ver cómo se programa eso.

-------------------