Мустафа Сулейман, генеральный директор по ИИ в Microsoft, недавно заявил в MIT Technology Review, что вычисления находятся на пороге «агентов почти человеческого уровня». Что замечательно, если мы сможем разобраться, как не дать им случайно отправить ваши личные медицинские записи незнакомцу.

Согласно отчету Databricks «Состояние ИИ-агентов», только 19% организаций внедрили ИИ-агентов, и то в основном ограниченно. Крейг Уайли, глава ИИ в Databricks, сказал ZDNET, что у финансовых директоров три проблемы: контроль, качество и стоимость. То есть те же проблемы, что и с их детьми-подростками, но с большей утечкой данных.

Первая лучшая практика Уайли — управление, а именно контроль над тем, к каким данным агент может получить доступ. Он указал на приложение для женского здоровья Flow, у которого 75 миллионов пользователей и законный страх перепутать график овуляции одного человека с другим. «Последнее, чего бы они хотели, — чтобы пользователь приложения получил ответ, содержащий информацию другого пользователя», — сказал Уайли с недооценкой человека, который никогда не видел заголовков об утечках данных.

Управляющая компания Franklin Templeton сталкивается с аналогичной проблемой с отчетами по портфелям. Никто не хочет получить электронное письмо от своего финансового консультанта, начинающееся с «Уважаемый клиент, вот чей-то чужой капитал». Уайли подчеркивает, что сегментация данных должна быть «детерминированно принудительной», а не просто предложенной в подсказке — потому что ИИ, как рассеянный стажер, пойдет по пути наименьшего сопротивления.

Вторая практика — оценка. Когда разработчикам Flow нужно было обеспечить точность, они не просили программистов оценивать результат; они попросили настоящих врачей. «Программисты пишут так называемую оркестрационную систему, — объяснил Уайли, — но именно врачи говорили: „этому ответу нужен дополнительный контекст или оттенок“». Оценка должна быть непрерывной, проверяя не только конечные ответы, но и каждый промежуточный шаг мышления агента. Компании, которые это делают, в шесть раз чаще доводят агентов до производства — что либо свидетельствует в пользу оценки, либо является убийственным приговором для всех остальных.

Третья проблема, стоимость, по сути, является наградой за правильное выполнение первых двух. «Как только вы сможете сделать эти две вещи, честно говоря, остальное становится деталями реализации», — сказал Уайли. Но стоимость должна учитываться заранее: «Это то, что мы можем решить сегодня в рамках разумного бюджета? И если мы можем это решить, действительно ли это изменит ситуацию в вашей компании?»

Уайли советует начинать с малого. Сеть магазинов 7-Eleven создала «супер-помощника» для сервисных техников, который получает доступ к тоннам документации об оборудовании, уменьшая необходимость звонить коллеге и спрашивать: «Ты видел эту проблему раньше?» Результат: увеличение процента первого исправления на 25% и сокращение времени ремонта на 40%. Университет Бэйлора использует агентов для анализа записей звонков с потенциальными студентами, выявляя факторы принятия решений, которые неизбежно упускают люди-секретари.

Автоматизация анализа инвестиционных портфелей Franklin Templeton выявила возможности для новых продуктов на сумму более 15 миллионов долларов — предположительно, заметив пробелы в портфелях клиентов, которые люди были слишком заняты, чтобы увидеть.

Уайли сравнивает текущее состояние агентного ИИ с «эквивалентом 2001 года в интернете, когда компании вкладывались в свои веб-страницы, но еще не понимали цели всего этого». Главный вывод: сначала приведите свои данные в порядок. «Если ваши данные в хорошем состоянии, мы могли бы сделать это [построить и развернуть агентную систему] уже сегодня днем», — сказал Уайли. «Если ваши данные в плохом состоянии, то реальная проблема будет в том, сколько времени нам потребуется, чтобы привести их в порядок».

Так что путь к агентам почти человеческого уровня вымощен чистыми данными, тщательной оценкой и вечной надеждой, что ваш ИИ случайно не раскроет ваши самые сокровенные тайны незнакомцу. Добро пожаловать в будущее.