Mustafa Suleyman, Microsofts KI-Chef, erklärte kürzlich im MIT Technology Review, dass die Computertechnik an der Schwelle zu „fast menschlichen Agenten“ stehe. Was großartig ist, vorausgesetzt, wir können verhindern, dass sie versehentlich Ihre privaten medizinischen Daten an einen Fremden mailen.

Laut dem State of AI Agents Report von Databricks haben nur 19 % der Organisationen KI-Agenten eingesetzt, und selbst dann meist nur in begrenztem Umfang. Craig Wiley, Databricks‘ KI-Chef, sagte gegenüber ZDNET, dass CFOs drei Bedenken haben: Kontrolle, Qualität und Kosten. Also im Grunde die gleichen Bedenken, die sie gegenüber ihren Teenagern haben, nur mit mehr Datenlecks.

Wileys erste bewährte Praxis ist Governance – insbesondere die Kontrolle, auf welche Daten ein Agent zugreifen kann. Er verwies auf die Frauen-Gesundheits-App Flow, die 75 Millionen Nutzer hat und die berechtigte Angst, den Eisprungkalender einer Person mit dem einer anderen zu verwechseln. „Das Letzte, was sie wollen, ist, dass ein App-Nutzer eine Antwort erhält, die die Informationen eines anderen App-Nutzers enthält“, sagte Wiley mit der Untertreibung eines Mannes, der noch nie eine Datenpanne-Schlagzeile gesehen hat.

Der Vermögensverwalter Franklin Templeton steht vor einer ähnlichen Herausforderung mit Portfolioberichten. Niemand möchte eine E-Mail von seinem Finanzberater erhalten, die mit „Sehr geehrter Kunde, hier ist das Nettovermögen von jemand anderem“ beginnt. Wiley betont, dass die Datensegmentierung „deterministisch erzwungen“ werden muss, nicht nur in einem Prompt vorgeschlagen – denn KI, wie ein abgelenkter Praktikant, nimmt den Weg des geringsten Widerstands.

Die zweite Praxis ist die Evaluierung. Als die Entwickler von Flow die Genauigkeit sicherstellen mussten, baten sie nicht Programmierer, die Ausgabe zu beurteilen, sondern echte Ärzte. „Die Softwareprogrammierer schreiben das sogenannte Orchestrierungssystem“, erklärte Wiley, „aber es waren Ärzte, die sagten: ‚Diese Antwort hier braucht zusätzlichen Kontext oder Farbe.‘“ Die Evaluierung sollte kontinuierlich erfolgen und nicht nur die endgültigen Antworten, sondern jeden Zwischenschritt des Denkens des Agenten überprüfen. Unternehmen, die dies tun, haben eine sechsmal höhere Wahrscheinlichkeit, Agenten in die Produktion zu bringen – was entweder ein Zeugnis für die Evaluierung oder ein vernichtendes Urteil über alle anderen ist.

Das dritte Anliegen, die Kosten, ist im Wesentlichen die Belohnung dafür, die ersten beiden Dinge richtig zu machen. „Sobald man diese beiden Dinge tun kann, wird der Rest ehrlich gesagt zu Implementierungsdetails“, sagte Wiley. Aber die Kosten müssen von Anfang an berücksichtigt werden: „Ist das etwas, das wir heute innerhalb eines angemessenen Kostenrahmens lösen können? Und vorausgesetzt, wir können es lösen, wird es tatsächlich etwas in Ihrem Unternehmen bewegen?“

Wiley rät, klein anzufangen. Die Convenience-Store-Kette 7-Eleven baute einen „Super-Assistenten“ für Servicetechniker, der auf Unmengen von Dokumentationen über Geräte zugreift und die Notwendigkeit reduziert, einen Kumpel anzurufen und zu fragen: „Hast du dieses Problem schon einmal gesehen?“ Das Ergebnis: eine 25%ige Steigerung der Erstlösungsrate und eine 40%ige Verkürzung der Reparaturzeit. Die Baylor University setzt Agenten ein, um Aufzeichnungen von Gesprächen mit potenziellen Studenten zu überprüfen und Entscheidungsfaktoren zu analysieren, die menschliche Notizenmacher zwangsläufig übersehen.

Franklin Templetons Automatisierung der Anlageportfolioanalyse identifizierte über 15 Millionen Dollar an neuen Produktmöglichkeiten – vermutlich durch das Erkennen von Lücken in Kundenportfolios, die Menschen zu übersehen beschäftigt waren.

Wiley vergleicht den aktuellen Stand der agentischen KI mit „dem Äquivalent des Jahres 2001 im Web, wo Unternehmen in ihre Webseiten investieren, aber noch nicht wirklich den Zweck all dessen verstehen.“ Die wichtigste Erkenntnis: Bringen Sie zuerst Ihre Daten in Ordnung. „Wenn Ihre Daten in guter Form sind, könnten wir es [ein agentisches System aufbauen und bereitstellen] heute Nachmittag schaffen“, sagte Wiley. „Wenn Ihre Daten in schlechter Form sind, dann wird das eigentliche Problem sein, wie lange es dauert, Ihre Daten in Ordnung zu bringen.“

Der Weg zu fast menschlichen Agenten ist also gepflastert mit sauberen Daten, rigoroser Evaluierung und der ewigen Hoffnung, dass Ihre KI nicht versehentlich Ihre tiefsten Geheimnisse einem Fremden preisgibt. Willkommen in der Zukunft.