Anthropic заглянула в мозг Клода и обнаружила, что он думает, прежде чем говорить — чего не скажешь о некоторых людях
Anthropic открывает чёрный ящик мозга Клода, OpenAI запускает супер-приложение, которое делает вашу работу, а голуби продолжают оставаться непризнанными героями машинного обучения.
Anthropic создала инструмент под названием Jacobian lens (J-lens) и использовала его, чтобы обнаружить скрытую область — названную J-space — внутри своего флагманского LLM, Клода. J-space содержит слова, связанные с ответом, над которым работает модель, но которые она может в итоге не произнести. Если бы Клод был человеком (а он не человек), можно было бы сказать, что эти скрытые слова раскрывают, что у него на уме, прежде чем он заговорит. То, что они нашли, варьируется от банального до тревожного.
Тем временем OpenAI представила своё долгожданное «супер-приложение» ChatGPT Work, которое объединяет чат-бота, инструмент для кодирования и новые модели. Оно создано, чтобы делать вашу работу за вас и вместе с вами — и появилось в тот же день, что и модели OpenAI GPT 5.6. Компания также разрабатывает полностью автоматизированного исследователя, потому что, видимо, нет ничего более «прогрессивного», чем машины, делающие всю мыслительную работу.
Другие новости: человекоподобные роботы провели телеуправляемую операцию на живых животных (удаление желчного пузыря у свиней) впервые в мире; SK Hynix получила крупнейший листинг в США среди иностранных компаний, привлекая 26,5 миллиардов долларов; Tencent возглавляет сделку по отмене приобретения Manus компанией Meta за 2 миллиарда долларов; реанимированные сетчатки человеческих глаз реагировали на свет через 10 часов после смерти; Meta начала взимать плату за доступ к ИИ; OpenAI и Google продали ИИ-модели попавшим под санкции китайским группам; дочь протестировала ИИ-«бота смерти» своего отца; астроном говорит, что поиски внеземной жизни нуждаются в большем количестве статистики; а игроки в Pokémon Go превратили Таймс-сквер в гигантское поле битвы, наконец-то выполнив обещание игры 2016 года.
И из глубины веков: в 1943 году психолог Б.Ф. Скиннер руководил секретным правительственным проектом по обучению голубей наводить ракеты, клюя по целям на экране внутри боеголовки. Военные так и не применили голубей-камикадзе Скиннера, но десятилетия спустя те же принципы помогли создать обучение с подкреплением — технологию, лежащую в основе некоторых самых продвинутых современных ИИ-систем. Так что в следующий раз, когда будете восхищаться возможностями ИИ, вспомните: всё началось с птиц и угощений.
The Good Times
Новости в вашей почте.
Саркастический дайджест, доставляемый по вашему расписанию. Бесплатно.
Уже подписаны, но мы так и не доходим до вашего ящика? Загляните в папку «Спам» и нажмите «Не спам» (или «Убрать из спама»), чтобы вытащить нас из чистилища нежелательной почты. Заодно поможете и всем остальным.
Rewrite Article
Select parts to regenerate with a fresh AI pass. Translations will be updated automatically.
Generate AI Image
Creates a sardonic version of the article image using OpenAI.