Одно из самых неловких ощущений от общения с технарями — слушать, как они с восторгом объясняют своё «очень важное открытие». Недавно один знакомый замучил меня рассказом об удивительном открытии, которое он сделал с помощью больших языковых моделей: знание структурировано в языке! Можно ввести одно слово в ChatGPT, и он поймёт, чего ты хочешь! Он заключил, что LLM — это открытие, сопоставимое с изобретением письменности.

Обычные люди додумались до этого примерно век назад; самое щедрое моё предположение — что он наткнулся на наивную, запутанную версию структурализма; Соссюр через игру в испорченный телефон. Я попытался поскорее выйти из разговора, не в последнюю очередь потому, что он, казалось, был раздражён, что я не вижу всё в точности так же, как он — новое поведение и, вероятно, симптом чрезмерного использования LLM.

Не каждое открытие, новое для вас, на самом деле ново. Например, Илон Маск восхищается сложностью рук; я мог бы указать на художников, хирургов, музыкантов, фокусников, нейробиологов и психологов, для которых это базовые знания. Или Палмер Лаки утверждает, что «никто не проводил посмертного анализа» проекта One Laptop Per Child — потому что он не знал, что об этом есть целая книга под названием *The Charisma Machine*. В самом абсурдном падении вспоминается Juicero, компания, продававшая соковыжималку за 400 долларов, которая делала ту же работу, что и сжатие её фирменных пакетов с соком голыми руками.

Слушайте, открыть что-то новое для себя — это захватывающе (спросите любого, кто слушал, как я кричал о радостях европейского (более жирного) масла), но нельзя принимать как данность, что то, что ново для вас, ново для всех. У этих случаев есть общая черта — определённое отсутствие любопытства, эндемичное для определённого типа технических энтузиастов, особенно тех, кто больше всего интересуется стартапами и предпринимательством. Возможно, они были настолько изолированы, что не осознавали, что их «открытие» хорошо известно в других местах, или, возможно, их самовосприятие таково, что они самые умные, и если они чего-то не знают, то этого никто не знает.

Требуется определённая доля высокомерия, чтобы броситься на нерешённую проблему — нужно верить, что ты можешь её решить. Но в других местах это высокомерие — недостаток. Оно заставляет вас делать странные вещи, например, объявлять, что Фрейд изобрёл интроспекцию и что это бонус, которым вы просто не пользуетесь.

Когда мне кажется, что я заметил что-то важное, мой первый порыв — пойти в библиотеку, на Википедию или к знающему человеку и посмотреть, что ещё было замечено. Например, когда у меня было сотрясение мозга, я хотел посмотреть, писал ли кто-нибудь ещё о восстановлении. Когда я не смог легко найти описание, я написал своё. Я до сих пор получаю письма об этом, спустя годы, от людей, переживающих собственные сотрясения. Но чтобы сделать что-то подобное, нужно принимать как данность, что другие люди умны, что умные люди всегда существовали и что в человеческом опыте мало что является новым. Это требует интеллектуальной скромности — и готовности думать об опыте других людей.

Хотя этот особый вид высокомерия делает людей невыносимыми занудами, это не просто раздражающая личная черта. Кажется, оно просочилось и в профессиональную сторону Кремниевой долины. В недавней памяти люди, создававшие программное и аппаратное обеспечение, понимали, что их работа — служить клиенту. Она заключалась в том, чтобы выявить потребность и затем удовлетворить её. Но в какой-то момент после финансового кризиса будущие предприниматели засели в голове мысль, что их работа — изобретать будущее, а задача потребителей — следовать этому изобретённому будущему. Я подозреваю, что они копируют то, что, по их мнению, делал Стив Джобс, когда, например, убрал оптические приводы из MacBook Air.

Но Стив Джобс, как известно, потерпел неудачу в изобретении будущего в 1980-х и был выгнан из Apple. iMac, iPod, iPhone создавались с учётом потребности. iMac победил, потому что им было легко пользоваться. iPod было легче носить с собой, чем CD-плеер и стопку дисков. (Это также был способ воспроизводить MP3, которые вы могли скачать нелегально.) У iPhone был App Store, который расширил его полезность далеко за пределы любого другого мобильного устройства. В какой-то момент наши повелители из Кремниевой долины забыли, что для того, чтобы их видение будущего было принято, люди должны были его хотеть.

Частично это была удача — представление правильного продукта в нужное время. Но каждый продукт предлагал потребителям чёткое ценностное предложение. Конечно, ранние последователи набрасывались на каждую из этих вещей, потому что они были крутыми, но некрутые массы не заботятся об этом. Они купят что-то, если это явным образом улучшит их жизнь.

Вместо технологий, решающих проблемы, компании запрыгнули на последовательные подножки, такие как NFT, метавселенная и большие языковые модели. Что общего у всего этого, так это то, что они созданы не для того, чтобы действительно решить рыночную проблему. Они созданы, чтобы обогатить венчурных капиталистов и компании. NFT, как и криптовалюта, позволяют венчурным капиталистам быстро избавляться от инвестиций с сокращёнными периодами блокировки. Метавселенная обещала обогатить такие компании, как Facebook, заставив людей перенести всё своё общение в онлайн, где за ним можно следить и монетизировать. Кроме того, метавселенная Facebook требовала покупки оборудования, которое затем нужно было регулярно обновлять.

В какой-то момент наши повелители из Кремниевой долины забыли, что для того, чтобы их видение будущего было принято, люди должны были его хотеть. Вот почему NFT, метавселенная, Oculus и Vision Pro так и не нашли свою клиентскую базу. ИИ, признаю, более полезен — он хорош, например, для организации больших массивов данных. LLM получили широкое распространение среди потребителей, по крайней мере, пока они остаются бесплатными. Но есть только один клиент для LLM, который может оправдать колоссальный процесс сжигания денег, потребовавшийся для их создания: правительство США.

Однако победителей на государственных контрактах может быть лишь несколько. Так что теперь мы наслаждаемся зрелищем, как компании, занимающиеся ИИ, мечутся. OpenAI, пожалуй, самая смешная, потому что она пытается позиционировать себя как потребительский продукт. Вспомните Сэма Олтмана, рассказывающего миру, что ему нужен ChatGPT, чтобы научить его растить ребёнка. Вы существуете. Я существую. У наших родителей не было LLM или даже ИИ, и всё же каким-то образом мы пережили своё детство, как и почти все, кого мы знали в детстве, потому что уровень детской смертности в США был чрезвычайно низким — по сравнению с большей частью остальной человеческой истории — на протяжении десятилетий. Технологии, которые позволили нам всем пережить детство, — это санитария, вакцины и антибиотики. Я готов поспорить, что обязательная вакцина против кори сделает для выживания американских детей больше, чем всё, чего OpenAI достигла на сегодняшний день на все свои миллиарды долларов. В любом случае, я полагаю, что Олтман на самом деле нанял няню.

Или вспомните Илона Маска, рассказывающего нам о наших будущих гуманоидных роботах-слугах. У меня есть робот-слуга. Несколько, на самом деле: посудомоечная машина, стиральная машина для моей одежды и сушилка. Они не очень мобильны, и всё же они сэкономили мне огромный труд. Мой холодильник из 90-х, и моя микроволновка ненамного моложе, и обе эти вещи были замечательны в том, что они сделали для меня: облегчили хранение еды и готовку, без участия ИИ. Не похоже, что ИИ может многое улучшить по сравнению с базовым уровнем, который эти машины уже установили, особенно учитывая, что моя «тупая» техника не требовала обновления более 20 лет. Экономия денег тоже ценна для меня.

Люди, которые говорят нам, что ИИ будет доминировать в нашем будущем и займёт наши рабочие места, — это те, кто надеется, что это будет правдой. Возможно, они надеются на это, потому что это заставляет их чувствовать себя важными, или потому что они хотят стать миллиардерами, или потому что они просто не понимают других людей. Я думаю, что последний пункт недооценён. Если вы собираетесь предоставить мне робота-слугу, у меня есть очень чёткий критерий: он должен давать мне как минимум такую же отдачу за мои деньги, как моя посудомоечная машина.

Обычные люди не бегают, как курицы с отрубленными головами, пытаясь автоматизировать каждую часть своей жизни. Действительно, в нашей жизни есть места, где эффективность нежелательна. Планирование отпуска иногда предлагается как место, где ИИ может облегчить нашу жизнь. Для меня, по крайней мере, планирование отпуска само по себе удовольствие; оно позволяет мне просматривать информацию о месте, обдумывать, что может быть весело, и представлять себя делающим это. Если у меня есть друзья, которые были в этом месте раньше, это даёт мне повод поговорить с ними, получить их рекомендации. Весь процесс усиливает предвкушение, которое я чувствую по мере приближения даты отпуска. Но если я захочу передать это на аутсорсинг, я уже могу это сделать — для этого существуют круизные лайнеры и тематические парки.

LLM — это в лучшем случае корпоративная технология, которая может облегчить организацию определённых видов данных или ускорить написание кода. Это почти не имеет отношения к жизни большинства людей. Возиться с кодом — это хобби, которым многие технари наслаждаются, а остальным просто всё равно. Упрощение написания кода не меняет того, что я не хочу писать код. У меня есть другие хобби! Фактическое применение LLM в жизни большинства обычных людей — это списывание школьных заданий. Для взрослых — это поиск информации; LLM находятся в процессе вытеснения поиска Google. Google уже некоторое время ухудшал свой поисковый проект, и результаты становились всё хуже. Это открыло дверь для альтернативы, и LLM прошли через неё. Как долго это продлится, я не знаю — самим LLM в какой-то момент потребуются деньги, а их часто неточные (а иногда и плагиатные) результаты убивают веб-сайты, на которые они полагаются для генерации информации. Конечно, переход по ссылке на качественный продукт менее эффективен, но как ещё вы планируете продолжать заставлять людей генерировать качественную информацию? Никто не решил эту проблему.

Иногда неэффективность несущая. Возьмём, к примеру, фондовый рынок. Он открыт только в определённые часы и только в определённые дни недели. Это означает, что во время паники существует искусственная граница, которая даёт людям время успокоиться. Это эффективно; это одна из причин, по которой отдельные акции иногда приостанавливают торги в периоды истерии. Теперь рассмотрим криптовалюту, которая работает 24/7/365: нет возможности приостановить панику. Одна из причин, по которой обвалы в криптовалюте такие огромные и быстрые, заключается в том, что нет выключателя, который можно было бы сработать, и нет перерыва в торговле, чтобы трейдеры могли перегруппироваться. Фактически, криптовалютные паники, возможно, усугубляются отсутствием таких неэффективностей.