ZONA $ IA > empresas > chatbot

SE LES FUE DE LAS MANOS

Las empresas tienen un nuevo problema con la IA: ya crearon demasiados agentes y perdieron el control

Crear un agente de IA ya es tan fácil que las empresas empezaron a perder visibilidad sobre cuántos existen, qué hacen y cuánto cuestan.

Lyft, DaVita y GitLab están entre las compañías que enfrentan el "AI agent sprawl": la proliferación descontrolada de bots de IA creados por empleados de todos los niveles. Según el Wall Street Journal, en dos años una empresa Fortune 500 promedio va a tener más de 150.000 agentes corriendo al mismo tiempo.

Qué es un agente de IA y por qué cualquiera puede crear uno ahora

Un agente de IA es un bot que no solo responde preguntas sino que ejecuta tareas de forma autónoma como revisar correos, redactar documentos, analizar datos o gestionar flujos de trabajo completos. La diferencia con un chatbot tradicional es que el agente actúa, no solo habla.

Lo que cambió en el último año es que crear uno ya no requiere saber programar. Plataformas como Claude Cowork de Anthropic permiten que un empleado de recursos humanos, marketing o finanzas arme su propio agente en minutos, sin pasar por el área de tecnología.

El resultado que reportó el WSJ, es que las empresas más avanzadas en adopción de IA están descubriendo que tienen cientos, miles o decenas de miles de estos bots corriendo en paralelo, muchos haciendo exactamente lo mismo.

PODS15_336x280_C

Los números que muestran la escala del problema

En Fair Isaac, la empresa conocida por el score crediticio FICO, sus 3.500 empleados crean docenas de agentes nuevos por día. "Literalmente cada día se crean nuevos agentes, en prácticamente todos los niveles de la estructura jerárquica", dijo Mike Trkay, director de información de la empresa, al WSJ.

En DaVita, una compañía de atención renal, los empleados ya crearon más de 10.000 agentes de IA.

En Lyft, el volumen fue suficiente como para que la empresa tuviera que desarrollar una plataforma centralizada con controles de tecnología específicamente para gestionarlos.

La consultora Gartner proyecta que en los próximos dos años una empresa Fortune 500 promedio va a tener más de 150.000 agentes corriendo simultáneamente. Y solo el 13% de las organizaciones cree tener una gobernanza adecuada para manejar esa cantidad.

Por qué tener demasiados agentes es un problema

El inconveniente tiene consecuencias concretas en tres áreas.

La primera es el costo. Cada agente consume tokens, la unidad con que se cobra el uso de modelos de IA. Si hay diez agentes haciendo la misma tarea porque diez empleados distintos los crearon sin coordinarse, la empresa está pagando diez veces por el mismo resultado.

Michael Friedlander, director de información de Magnum Ice Cream, lo resumió al WSJ: "Dependiendo de cómo resulte todo esto, habrá tokens, habrá costo, y entonces terminarás preguntándote cómo manejar esto bajo un modelo financieramente responsable".

La segunda es la ciberseguridad. Los agentes pueden correr en la laptop de un empleado, en un servidor o en otros sistemas de la empresa, lo que hace difícil para el área de tecnología saber cuántos hay, qué hacen y a qué datos tienen acceso.

DaVita, que maneja información médica sensible de pacientes, directamente prohibió el uso de herramientas de agentes de IA "de consumo" en su entorno corporativo. "Porque cuidamos a nuestros pacientes, tenemos que escalar con seguridad", dijo la directora de información Madhu Narasimhan.

La tercera es la consistencia. Cuando hay múltiples agentes analizando el mismo problema de formas distintas, pueden llegar a conclusiones contradictorias.

Fair Isaac está implementando prácticas de gobernanza específicamente para evitar que agentes distintos den resultados conflictivos para el mismo problema.

AI-sprawl-Urgente-24
Las empresas ya tienen miles de bots internos haciendo tareas en paralelo.

Las empresas ya tienen miles de bots internos haciendo tareas en paralelo.

Cómo están respondiendo las empresas

La solución que están explorando la mayoría de las compañías consultadas por el WSJ es centralizar sin prohibir. La idea es crear plataformas internas con controles de tecnología que permitan registrar qué agentes existen, qué hacen y cuánto cuestan, sin desincentivar que los empleados los usen.

Lyft, por ejemplo, desplegó Claude para sus empleados y desarrolló un sistema aprobado por tecnología para compartir las "habilidades", el conjunto de instrucciones que le dicen a un agente cómo manejar una tarea específica. La centralización de esas instrucciones evita que cada área reinvente la rueda de forma independiente.

Anthropic, por su parte, dijo al WSJ que lanzó funciones específicas para ayudar a los equipos de tecnología con controles de acceso por rol, límites de gasto, análisis de uso y registros de auditoría.

La parte que a veces se pierde en el debate: el sprawl también tiene beneficios

No todas las empresas ven la proliferación de agentes como un problema urgente que hay que frenar. Manu Narayan, director de información de GitLab, fue directo al WSJ: "Va a haber sprawl de agentes en el corto plazo, y en realidad estamos bien con eso porque la oportunidad que presenta la IA lo justifica".

La lógica es que en este momento de adopción temprana, la experimentación masiva, aunque desordenada, genera aprendizaje sobre qué funciona y qué no.

Las empresas que centralicen demasiado pronto pueden frenar la innovación antes de entender dónde están los casos de uso más valiosos. Las que no centralicen a tiempo pueden perder el control de los costos y los riesgos de seguridad.

El equilibrio entre esos dos extremos es, por ahora, el problema sin resolver más común en los departamentos de tecnología de las empresas que adoptaron IA más agresivamente.

-------------------

Más contenido de Urgente 24

Patricia Bullrich, Domingo Cavallo, Karina Milei, IERAL, Luis Caputo: Complicado

Trabajadores de una panificadora clave en PBA anticipan colapso

Telefe no lo puede creer: Esperaba romperla con su nueva apuesta pero cayó enseguida

OpenAI alerta a usuarios de Mac: pide actualizar ChatGPT tras un ciberataque

Electrodomésticos en Argentina: BGH y Groupe SEB firman acuerdo histórico