В машине нет ничего магического

Есть слово, которое Сэм Олтман любит использовать, говоря об искусственном интеллекте: магия. В прошлом году он назвал одну из версий ChatGPT «волшебным интеллектом в небесах». В феврале он упомянул о «магии единого интеллекта». Позже он написал, что в недавнем обновлении есть «какая-то магия, которую я раньше не чувствовал». Порой ИИ действительно может казаться волшебным. Но относиться к нему как к чему-то большему, чем просто к машине, может иметь серьёзные последствия. Сколько людей задают свои самые сокровенные вопросы чат-ботам, как всеведущему оракулу? Они спрашивают у Claude или ChatGPT: что мне делать с этими отношениями? С этой работой? С этой проблемой? Предполагаемое обещание технологиями спасения — будь то колонизация Марса, вечная жизнь или достижение «сингулярности» ИИ — стало своего рода светской религией, смесью утопических верований, граничащих с мистикой. Часть ореола таинственности ИИ проистекает из того факта, что его внутренняя работа не до конца понятна даже его создателям. Исследователи «очень часто удивляются тому, как модели ведут себя после их создания», — сказал мне Сэм Боуман, исследователь из Anthropic и профессор Центра науки о данных Нью-Йоркского университета. Исследователи могут видеть входные и выходные данные ИИ, но реальный процесс, происходящий внутри, пока чётко не известен. Эта загадка — и безграничный потенциал, который она сулит, — позволяют компаниям создавать ажиотаж. Прежде чем OpenAI выпустила GPT-2 в 2019 году, она предупредила, что её использование может быть слишком опасным. С выходом GPT-4 в 2023 году г-н Олтман заявил, что он «немного напуган» её мощью. В этом году, с появлением GPT-5, г-н Олтман в подкасте Тео Вона сравнил продукт с Манхэттенским проектом. «Что же мы натворили?» — спросил он. Во многом это — искусный маркетинг. Подобное постоянное повышение ставок само по себе стало чем-то вроде фокуса. Мы ещё не видим обещанного прорыва, но нам постоянно твердят, что он уже не за горами. Есть и некоторая искренняя вера. Огромные возможности ИИ — это то, что движет как его энтузиастами, так и пессимистами, которые часто говорят о будущем, о том, что кажется возможным, но ещё не произошло: о времени, когда ИИ станет либо спасителем, либо разрушителем. Богоподобные разговоры вокруг ИИ достигают точки кипения и затрагивают, кажется, каждый аспект культуры. «Если вы поговорите с этими инженерами и людьми, продвигающими этот ИИ, они не говорят о нём как о великом новом средстве; они даже не говорят о нём как о технологии, — сказал в недавнем интервью кинорежиссёр Ари Астер. — Они говорят о нём как о боге. Они говорят как ученики. Они очень благоговеют перед этой штукой». Основано ли это радикальное мышление на какой-либо доказуемой реальности — почти не важно. Как и в случае с любой формой магии, её психологическая сила заключается в том, чего мы не знаем, но во что выбираем верить. Чтобы усмотреть в ИИ либо значимость, подобную атомной бомбе, либо меняющую мир позитивность, мы изобретаем возможности, которых ещё нет и которые могут никогда не существовать, — призраков в машине. Мы должны ясно видеть две вещи. Первая: корпоративные лица ИИ — такие как г-н Олтман или Марк Цукерберг из Meta — имеют очевидный стимул убедить нас в предполагаемой почти безграничной силе своих продуктов. Чем более грозным представляется ИИ, тем больше оснований для дальнейших инвестиций, дальнейших скупок земли и энергии и, в конечном счёте, более высоких прибылей. Вторая вещь, которую мы должны видеть: то, что мы не можем полностью понять ИИ, не обязательно делает его более мощным и уж тем более волшебным. У людей есть история магического мышления о технологических прорывах. Возьмём изобретение телеграфа в середине XIX века. Его способность превращать слова в передаваемое электричество и обратно заставила многих поверить в невидимый мир, писал учёный в области медиа и кино Джеффри Сконс. Вскоре после этого спиритуализм — социально-религиозное движение, последователи которого стремились общаться с мёртвыми — получил распространение в северной части штата Нью-Йорк. Он быстро распространился по Соединённым Штатам, набрав обороты во время Гражданской войны, пересёк Атлантический океан и достиг континентальной Европы, Великобритании и других стран. В своих попытках связаться с другим миром спиритуалисты участвовали в спиритических сеансах, трансах и сеансах «автоматического письма». Сёстры Фокс, один из самых известных номеров раннего спиритуализма, заявляли, что общаются с духами на сцене с помощью постукиваний и стуков. Для любого, кто обращал внимание, они очень напоминали азбуку Морзе, которую вбивали в телеграфы по всей стране. Когда одна из сестёр в конце концов призналась, что она щёлкала суставами, чтобы издавать звуки, это минимально повлияло на популярность спиритуализма. Телеграф вселил мистическую идею о других мирах, и желание верить в основном осталось. Появление радио и его невидимых волн к концу того же века укрепило веру в невидимое. Томас Эдисон работал над изобретением «телефона для общения с духами», с помощью которого надеялся говорить с мёртвыми. Даже фотоаппарат, распространившийся на массовом рынке в начале XX века и суливший стереть грань между мирами прошлого и настоящего, привёл к росту популярности «спиритической фотографии», на которой призраков якобы запечатлевали на портретах живых. Использование этих новых технологий выявило извечную истину: существует разница между тем, что они действительно могут делать, и тем, как культура выбирает воспринимать их способности. Этот мост — то место, где мы находим магическое мышление. Наблюдать за тем, как дискуссии об ИИ балансируют на этих зыбких границах, весьма показательно. Маловероятно, что г-н Олтман действительно считает, что в инструментах OpenAI есть что-то поистине магическое. Действительно, он написал в записи блога, что в будущем «мы сможем делать вещи, которые показались бы нашим дедушкам и бабушкам магией». Ключевое слово — «показались». ChatGPT также отражает это. Когда я недавно спросил его: «Ты волшебный?» — он ответил: «Не волшебный — просто математика. Но с достаточным количеством данных, хорошим дизайном и правильным запросом это может казаться очень близким к магии». Люди, описывающие движки ИИ как «волшебные», словно говорят, что ИИ стал настолько сложным, что его не отличить от того, что когда-то считалось магией. В некоторых отношениях это правда: большая языковая модель, быстро отвечающая на вопрос, может показаться пришедшей из какого-то другого мира, подобно тому как слова текли из-под пера спиритуалистов во время автоматического письма. Эти надежды на магию, тогда и сейчас, позволяют адептам принимать амбициозную веру в человеческое изобретение, опьяняющую возможность, которая заставляет людей чувствовать, будто они на краю чего-то сверхъестественного. На самом деле, это сплошное магическое мышление. Особенно с 1918 года, когда Макс Вебер заявил, что человечество стало разочарованным, сохраняется миф о том, что люди достигли научной рациональности. Но мы снова и снова обманываем себя. В XIV веке Джеффри Чосер мягко высмеивал тех, кто до него верил в фей и эльфов, даже несмотря на то, что сам был убеждённым астрологом, верившим, что человеческим телом управляют «гуморы», среди других ретроградных, но тогда популярных верований. В «Рассказе жены из Бата» он писал: «Во времена былые, при короле Артуре, О коем британцы и поныне с похвалой говорят, Вся эта земля была полна фей. Королева эльфов со своей весёлой свитой Частенько танцевала на зелёных лужайках; Таково было, как я читал, старинное поверье. Я говорю о многих сотнях лет назад; Но ныне уже никто не видит эльфов». Те простаки прошлого, видевшие земли, наполненные феями, и эльфов, танцующих на зелёных лугах. Не то что мы, в просвещённом XIV веке. Или возьмите философов и самопровозглашённых учёных XIX века, которые свысока смотрели на алхимиков и народных магов прошлого, при этом искренне принимая спиритуализм. Что скажут будущие историки о том, как мы общаемся с сегодняшними технологиями ИИ, доверяем им, влюбляемся в них, ищем у них совет, даже относимся к ним как к богам? Чем это может быть, как не ещё одним магическим мышлением, обёрнутым в одежды технологического прогресса? Одно из больших разочарований от очарованности ИИ — это ограниченность амбиций, которую оно вселяет. Есть и другие очарования в отношениях, в природе, в красоте, в творчестве. В культуре, ставящей на первое место товар, как наша, их всегда будет труднее «продать», чем выпуск очередного программного обеспечения. Что бы значило — поставить наши цели за пределами сферы такого технологического мастерства? Это непростой сдвиг, не в последнюю очередь потому, что наши тела и умы одновременно сосредоточены на ИИ и его мечтах и запутаны в них.