Mustafa Suleyman, le PDG de l'IA chez Microsoft, a récemment déclaré dans MIT Technology Review que l'informatique est au seuil des « agents presque humains ». Ce qui est génial, à condition que nous puissions les empêcher d'envoyer accidentellement vos dossiers médicaux privés à un inconnu.

Selon le rapport State of AI Agents de Databricks, seules 19 % des organisations ont déployé des agents d'IA, et encore, principalement de manière limitée. Craig Wiley, responsable de l'IA chez Databricks, a déclaré à ZDNET que les directeurs financiers ont trois préoccupations : le contrôle, la qualité et le coût. Donc fondamentalement les mêmes préoccupations qu'ils ont pour leurs enfants adolescents, mais avec plus de fuites de données.

La première bonne pratique de Wiley est la gouvernance – en particulier, contrôler les données auxquelles un agent peut accéder. Il a cité l'application de santé féminine Flow, qui compte 75 millions d'utilisateurs et une peur légitime de mélanger le tableau d'ovulation d'une personne avec celui d'une autre. « La dernière chose qu'ils voudraient, c'est qu'un utilisateur de l'application reçoive une réponse contenant les informations d'un autre utilisateur », a déclaré Wiley, avec l'euphémisme d'un homme qui n'a jamais vu un titre de fuite de données.

Le gestionnaire d'actifs Franklin Templeton est confronté à un défi similaire avec les rapports de portefeuille. Personne ne veut recevoir un e-mail de son conseiller financier commençant par « Cher client, voici la valeur nette de quelqu'un d'autre ». Wiley souligne que la segmentation des données doit être « imposée de manière déterministe », pas simplement suggérée dans une invite – parce que l'IA, comme un stagiaire distrait, prendra le chemin de moindre résistance.

La deuxième pratique est l'évaluation. Lorsque les développeurs de Flow avaient besoin de garantir l'exactitude, ils n'ont pas demandé aux programmeurs de juger la sortie ; ils ont demandé à de vrais médecins. « Les programmeurs écrivent ce qu'on appelle le système d'orchestration », a expliqué Wiley, « mais ce sont les médecins qui disaient : 'cette réponse a besoin de contexte ou de couleur supplémentaire' ». L'évaluation doit être continue, vérifiant non seulement les réponses finales mais chaque étape intermédiaire de la réflexion de l'agent. Les entreprises qui font cela sont six fois plus susceptibles de mettre des agents en production – ce qui est soit un témoignage de l'évaluation, soit une condamnation cinglante de tous les autres.

La troisième préoccupation, le coût, est essentiellement la récompense pour avoir bien fait les deux premières choses. « Une fois que vous pouvez faire ces deux choses, honnêtement, le reste devient des détails d'implémentation », a déclaré Wiley. Mais le coût doit être considéré en amont : « Est-ce quelque chose que nous pouvons résoudre aujourd'hui dans une enveloppe de coûts raisonnable ? Et en supposant que nous puissions le résoudre, est-ce que cela va réellement faire bouger les choses dans votre entreprise ? »

Wiley conseille de commencer petit. La chaîne de magasins de proximité 7-Eleven a construit un « super assistant » pour les techniciens de service qui accède à des tonnes de documentation sur l'équipement, réduisant le besoin d'appeler un collègue et de demander : « As-tu déjà vu ce problème ? » Résultat : une augmentation de 25 % des taux de réparation du premier coup et une baisse de 40 % du temps de réparation. L'Université Baylor utilise des agents pour examiner les enregistrements d'appels avec des étudiants potentiels, analysant les facteurs de décision que les preneurs de notes humains manquent inévitablement.

L'automatisation de l'analyse des portefeuilles d'investissement par Franklin Templeton a identifié plus de 15 millions de dollars d'opportunités de nouveaux produits – probablement en remarquant des lacunes dans les portefeuilles des clients que les humains étaient trop occupés pour voir.

Wiley compare l'état actuel de l'IA agentique à « l'équivalent de 2001 sur le web, où les entreprises investissent dans leurs pages web mais ne comprennent pas encore le but de tout cela ». Le point clé : mettez d'abord vos données en ordre. « Si vos données sont en bon état, nous pourrions le faire [construire et déployer un système agentique] cet après-midi », a déclaré Wiley. « Si vos données sont en mauvais état, alors le vrai problème sera le temps qu'il nous faudra pour mettre vos données en ordre. »

Ainsi, le chemin vers des agents presque humains est pavé de données propres, d'évaluation rigoureuse et de l'espoir éternel que votre IA ne révélera pas accidentellement vos secrets les plus profonds à un inconnu. Bienvenue dans le futur.