Mustafa Suleyman, CEO de IA de Microsoft, declaró recientemente en MIT Technology Review que la informática está en el umbral de "agentes casi humanos". Lo cual es genial, suponiendo que podamos descubrir cómo evitar que accidentalmente envíen tus registros médicos privados por correo electrónico a un extraño.
Según el informe State of AI Agents de Databricks, solo el 19% de las organizaciones han implementado agentes de IA, y la mayoría de manera limitada. Craig Wiley, jefe de IA de Databricks, le dijo a ZDNET que los CFO tienen tres preocupaciones: control, calidad y costo. Básicamente, las mismas preocupaciones que tienen sobre sus hijos adolescentes, pero con más fuga de datos.
La primera mejor práctica de Wiley es la gobernanza, específicamente, controlar a qué datos puede acceder un agente. Señaló la aplicación de salud femenina Flow, que tiene 75 millones de usuarios y un miedo legítimo de mezclar el gráfico de ovulación de una persona con el de otra. "Lo último que querrían es que un usuario de la aplicación reciba una respuesta que incluya información de otro usuario", dijo Wiley, con el eufemismo de un hombre que nunca ha visto un titular de violación de datos.
El gestor de activos Franklin Templeton enfrenta un desafío similar con los informes de cartera. Nadie quiere recibir un correo electrónico de su asesor financiero que comience "Estimado cliente, aquí está el patrimonio neto de otra persona". Wiley enfatiza que la segmentación de datos debe ser "forzada determinísticamente", no simplemente sugerida en un prompt, porque la IA, como un pasante distraído, tomará el camino de menor resistencia.
La segunda práctica es la evaluación. Cuando los desarrolladores de Flow necesitaron garantizar precisión, no pidieron a programadores que juzgaran el resultado; preguntaron a médicos reales. "Los programadores escriben lo que se llama el sistema de orquestación", explicó Wiley, "pero fueron los médicos quienes decían: 'esta respuesta necesita contexto o color adicional'". La evaluación debe ser continua, verificando no solo las respuestas finales sino cada paso intermedio del pensamiento del agente. Las empresas que hacen esto tienen seis veces más probabilidades de llevar agentes a producción, lo que es un testimonio de la evaluación o una condena para todos los demás.
La tercera preocupación, el costo, es esencialmente la recompensa por hacer bien las dos primeras cosas. "Una vez que puedes hacer esas dos cosas, para ser honesto, el resto se convierte en detalles de implementación", dijo Wiley. Pero el costo debe considerarse desde el principio: "¿Es esto algo que podemos resolver hoy dentro de un presupuesto razonable? Y suponiendo que podamos resolverlo, ¿realmente va a mover la aguja en tu empresa?"
Wiley aconseja empezar pequeño. La cadena de tiendas de conveniencia 7-Eleven construyó un "super asistente" para técnicos de servicio que accede a toneladas de documentación sobre equipos, reduciendo la necesidad de llamar a un colega y preguntar "¿Has visto este problema antes?". El resultado: un aumento del 25% en las tasas de reparación en la primera visita y una reducción del 40% en el tiempo de reparación. La Universidad de Baylor utiliza agentes para revisar grabaciones de llamadas con posibles estudiantes, analizando factores de decisión que los tomadores de notas humanos inevitablemente pasan por alto.
La automatización del análisis de carteras de inversión de Franklin Templeton identificó más de $15 millones en oportunidades de nuevos productos, presumiblemente al notar brechas en las carteras de clientes que los humanos estaban demasiado ocupados para ver.
Wiley compara el estado actual de la IA agéntica con "el equivalente a 2001 en la web, donde las empresas invertían en sus páginas web pero no entendían realmente el propósito de todo esto". La conclusión clave: primero pon tus datos en orden. "Si tus datos están en buen estado, podríamos hacerlo [construir e implementar un sistema agéntico] esta misma tarde", dijo Wiley. "Si tus datos están en mal estado, entonces el verdadero problema será cuánto tiempo nos lleve poner tus datos en orden".
Así que el camino hacia agentes casi humanos está pavimentado con datos limpios, evaluación rigurosa y la esperanza eterna de que tu IA no revele accidentalmente tus secretos más profundos a un extraño. Bienvenido al futuro.