Как ChatGPT удивил меня

У меня, кажется, совершенно иной опыт взаимодействия с GPT-5, новейшей версией флагманской модели компании OpenAI, чем у большинства остальных. Единодушное мнение комментаторов заключается в том, что GPT-5 — это провал, разочарование и, возможно, даже свидетельство того, что прогресс в области искусственного интеллекта заходит в тупик. Тем временем я здесь переполнен изумлением и тревогой. Возможно, именно так всегда ощущается будущее, когда мы его достигаем: слишком обыденным, чтобы заметить, насколько странным стал наш мир. Основная претензия к GPT-5 заключается в том, что он подталкивает вперед границы возможностей ИИ, а не стирает прежние ограничения. Я не здесь для того, чтобы спорить с этим. OpenAI выпускает новые модели с такой неумолимой скоростью — мощная модель o3 вышла четыре месяца назад — что это свело на нет тот шок, который мы могли бы испытать, если бы между выпуском GPT-4 в 2023 году и выпуском GPT-5 в 2025 году не было ничего. Но GPT-5, по крайней мере для меня, стал скачком в том, каково это — использовать модель ИИ. Это напоминает мне настройку распознавания отпечатка пальца на айфоне: вы снова и снова прикладываете палец к сенсору, наблюдая, как изображение постепенно заполняется, пока, наконец, одним последним прикосновением у вас не появляется полный отпечаток. GPT-5 ощущается как отпечаток пальца. У меня был ранний доступ к GPT-3 много лун назад, и я едва ли когда-либо им пользовался. GPT-3.5, который лежал в основе выпуска ChatGPT в 2022 году, тоже мало что для меня сделал. Это был смутный контур полезного ИИ, а не сама вещь. GPT-4 был выпущен в 2023 году, и по мере улучшения модели в серии запутанно названных обновлений я обнаружил, что использую его больше — и гораздо реже открываю окно поиска Google. Но что-то в нем все еще казалось фальшивым и трюковым. Затем появился o3, модель, которая дольше обдумывала сложные вопросы, и я начал находить поразительные проблески проницательности или эрудиции, когда задавал вопросы, которые раньше мог адресовать только экспертам по конкретным темам. Но она оставалась медленной, и «голос» ИИ, за неимением лучшего термина, действовал мне на нервы. GPT-5 — это первая система ИИ, которая ощущается как настоящий помощник. Например, мне нужно было найти лагерь для моих детей на два нечетных дня, и ни один из лагерей, которыми я пользовался раньше, не работал. Я предоставил GPT-5 информацию о моих детях и о том, что мне нужно, и он нашел мне почти дюжину вариантов, все реальные, один из которых теперь забронирован для моих детей. Я пытался свести некоторые мысли о либерализме к исследовательскому проекту, который я мог бы реально завершить, и GPT-5 привел меня к книгам и источникам, которые, я сомневаюсь, я бы нашел иначе. Однажды утром меня поразила сыпь странного рисунка, и ИИ определил, что это контактный дерматит от новой рубашки, основываясь на рисунке пораженных и незатронутых участков кожи. Не то чтобы я не сталкивался с галлюцинациями у GPT-5. Сталкивался; он выдумал альбом музыкального продюсера Floating Points, который мне очень хотелось бы, чтобы существовал. Когда я спросил, почему он сфабриковал альбом, он извинился и сказал мне, что «‘Floating Points + DJ-Kicks’ была статистически правдоподобной парой — даже несмотря на то, что это ложь». И, как и все системы ИИ, он ухудшается по мере продолжения разговора или усложнения цепочки задач (хотя за два года продолжительность, в течение которой он может поддерживать выполнение конкретной задачи, увеличилась примерно с пяти минут до более чем двух часов). Это первая модель ИИ, с которой я почувствовал, что могу прикоснуться к миру, в котором у нас есть всегда включенный, всегда полезный компаньон ИИ из фильма «Она». В некоторых уголках интернета — я смотрю на тебя, Bluesky — стало дурным тоном реагировать на ИИ чем-либо, кроме пренебрежения или гнева. Гнев я понимаю, и частично разделяю его. Мне не по себе от того, что эти компании становятся невероятно богатыми за счет всего доступного массива человеческих знаний. Да, мы все строим на том, что было до нас. Ни одна компания, основанная сегодня, не свободна от долга перед изобретателями и новаторами, которые предшествовали ей. Но есть нечто иное в поглощении существующего корпуса человеческих знаний, алгоритмическом преобразовании его в прогнозирующее текстообразование и продаже обратно нам. (Следует отметить, что The New York Times подает в суд на OpenAI и ее партнера Microsoft за нарушение авторских прав, утверждения, которые обе компании отрицают.) Если в конечном итоге они получат прибыль, которую представляют их инвесторы и основатели, я не думаю, что обычная налоговая структура достаточна для покрытия долга, который они должны всем нам, и всем, кто был до нас, на чьих текстах и идеях построены их модели. Затем есть спрос на энергию. Прямо сейчас компании ИИ не зарабатывают столько денег на этих продуктах. Чтобы построить будущее ИИ, которое представляют эти компании и их инвесторы, требуется обилие центров обработки данных, поглощающих почти немыслимые количества электроэнергии — к 2030 году только центры обработки данных будут потреблять больше энергии, чем сейчас потребляет вся Япония. Это делает возможными новые технологии, и не только ИИ: опреснение в массовом масштабе, мясо, выращенное в лаборатории, которое может ослабить давление как на животных, так и на землю, прямое улавливание воздуха из атмосферы, чтобы начать сокращать содержание углерода в атмосфере, более чистая и быстрая транспортировка как по воздуху, так и по морю. Цель нашей энергетической политики должна заключаться не в том, чтобы использовать меньше энергии. Если бы мы потратили последние три десятилетия на установление цен на углерод и строительство необходимой нам инфраструктуры чистой энергии, то адаптация к такому росту была бы простой. Но президент Трамп ведет войну против чистой энергии, разрушая политику эпохи Байдена, которая поддерживала развертывание инфраструктуры солнечной, ветровой и аккумуляторной энергетики. Есть нечто почти комично мрачное в питании чего-то столь футуристичного, как ИИ, от чего-то столь архаичного, как уголь или необработанный метановый газ. Однако это политический выбор, который мы делаем как страна. Это не присуще ИИ как технологии. Так что же присуще ИИ как технологии? В конце концов, в этом смысл изобилия энергии. В своей статье «ИИ как обычная технология» Арвинд Нараянан и Саяш Капур, оба компьютерные ученые из Принстона, утверждают, что внешний мир будет действовать как «ограничение скорости» на то, что ИИ может делать. По их словам, мы не должны думать об ИИ как о предвестнике новой экономической или социальной парадигмы; скорее, мы должны думать о нем больше как об электричестве, которое потребовало десятилетий, чтобы начать появляться в статистике производительности. Цель нашей энергетической политики должна заключаться в том, чтобы сделать чистую энергию настолько — кхм — доступной, что мы сможем использовать ее гораздо больше и делать с ней гораздо больше. Проблема не только в галлюцинациях. Проблема в том, что адвокатам необходимо овладеть «навыками работы в реальном мире, которые гораздо труднее измерить в стандартизированном, компьютерном формате». Чтобы ИИ заменили адвокатов, нам потребовалось бы перепроектировать то, как работает право, чтобы приспособить ИИ. Я следил за дебатами между двумя разными взглядами на то, как развернутся эти ближайшие годы. В нем строится пошаговый временной график, в котором человечество теряет контроль над своим будущим к концу 2027 года. Сценарий в значительной степени зависит от одного предположения: в начале 2026 года ИИ становится искусным в автоматизации исследований ИИ, а затем становится рекурсивно самосовершенствующимся — и самоуправляемым — с поразительной скоростью, что приводит к таким фразам, как «За последние шесть месяцев в коллективе Агент-5 прошло столетие». Я не могу заставить себя поверить в скорость, с которой, по их мнению, ИИ может совершенствоваться, или в то, насколько полно общество приняло бы такую систему (хотя вы можете оценить их предположения самостоятельно здесь). Я признаю, что это может просто отражать ограничения моего воображения или знаний. Но что, если бы они предполагали ИИ 2035? Или 2045? Вероятно, что кодирование ИИ ускорится и превзойдет человеческих кодеров в течение следующего десятилетия, и это должно существенно ускорить прогресс ИИ. Я знаю, что люди внутри компаний ИИ, которые ближе всего к этим технологиям, верят в это. Так что же, я сомневаюсь во всем сценарии «ИИ 2027» или только в его временных рамках? Они отмечают, что GPT-4, как сообщается, сдает экзамен на адвоката лучше, чем 90 процентов испытуемых, но он не может даже близко выступать в роли вашего адвоката. Каждая сторона выдвигает убедительную критику другой. Авторы «ИИ как обычной технологии» сосредотачиваются на тенденции тех, кто больше всего боится ИИ, отождествлять интеллект и власть. Предполагается, что люди умнее шимпанзе и хорьков, и поэтому мы контролируем мир, а они нет. «ИИ 2027» — работа Дэниела Кокотайло, Скотта Александера, Томаса Ларсена, Эли Лифланда и Ромео Дина, чей опыт варьируется от работы в Open AI до триумфа в турнирах по прогнозированию, — занимает противоположную сторону этого аргумента. Но интеллект не преобразуется гладко во власть. Люди на протяжении большей части нашей истории были просто еще одним животным. Потребовались эпохи, чтобы построить технологическую цивилизацию, которая дала нам то господство, которым мы теперь пользуемся, и мы часто спотыкались на этом пути. Некоторые из самых умных людей, которых я знаю, наименее эффективны. Я все еще борюсь с этим вопросом. ИИ, предположительно, станет умнее людей, и поэтому ИИ будет контролировать мир, а мы нет. Я довольно скептически отношусь к сценариям, в которых ИИ достигает сверхразума, не совершая никаких очевидных ошибок в своих усилиях по достижению власти в реальном мире. В то же время критика Скотта Александера, одного из авторов «ИИ 2027», также засела у меня в голове. Центральный аргумент «ИИ как обычной технологии» заключается в том, что новым технологиям трудно распространяться через фирмы и бюрократии. Мы живем в эпоху цифровой революции десятилетиями, и я до сих пор не могу легко перенести свои медицинские записи из одного кабинета врача в другой. Трамп изменил мировую историю, хотя я сомневаюсь, что он впечатлил бы кого-либо своими баллами SAT. Даже если вы верите, что возможности ИИ будут продолжать развиваться — а я верю, хотя как далеко и как быстро, я не притворяюсь, что знаю — быстрый коллапс человеческого контроля не обязательно последует. Американская медицинская ассоциация обнаружила, что двое из трех врачей консультируются с ИИ. Логично предположить, как это делают Нараянан и Капур, что те же трудности будут преследовать ИИ. Федеральная ассоциация адвокатов обнаружила, что большое количество юристов используют генеративный ИИ в своей работе, и чаще они сообщали, что используют его самостоятельно, а не через официальные инструменты, принятые их фирмами. Вероятно, что тарифы Трампа на «День освобождения» были разработаны путем консультации с чат-ботом. И все же я немного шокирован тем, как даже зарождающиеся инструменты ИИ, которые у нас есть, проникают в нашу жизнь — не путем официальной интеграции в наши школы и рабочие места, а путем неофициального шепота в наших ушах. Опрос Stack Overflow показал, что около восьми из десяти программистов уже используют ИИ для помощи в кодировании. «Поскольку ИИ настолько общий и настолько похож (в некотором смысле) на людей, его почти тривиально интегрировать в различные рабочие процессы, так же как адвокат может проконсультироваться с помощником юриста, а политик — с сотрудником», — пишет Александр в своей критике. То, что означает использовать или консультироваться с ИИ, варьируется от случая к случаю. «Это еще не полная замена этим специалистам низшего уровня. Это хорошо для компаний ИИ, но не является значительным изменением в том, как функционирует цивилизация. Но это достаточно близко, что он представляется самой быстрораспространяющейся технологией из когда-либо существовавших». После того как вы начинаете использовать его для поиска базовой информации, вы начинаете полагаться на него для более сложных запросов и советов. Поиск был гибким в путях, по которым он мог вас вести, но ИИ гибок в ролях, которые он может играть для вас: он может быть советником, терапевтом, другом, тренером, врачом, персональным тренером, любовником, репетитором. В некоторых случаях это приводит к трагическим результатам. Google позволил своему поисковому продукту значительно деградировать на протяжении многих лет, и ИИ часто подменяет то, где раньше хватало поиска. Но поиск — это ворота в зависимость от ИИ. Но даже если самоубийства, связанные с использованием ИИ, редки, нарциссизм и самовозвеличивание, которые поощряют системы, будут повсеместными. Я думаю, что это в основном верно. Я думаю, что это уже верно для большего числа людей, чем нам хотелось бы думать. Почти каждый день я получаю электронные письма от людей, которых ИИ убедил в том, что они решили квантовую механику или нарушили какой-то ранее неизвестный предел человеческих знаний. Как гласит теперь уже клишированная строка, это худший ИИ из всех, что когда-либо будут, и это наименьшее количество пользователей, которое у него будет. Зависимость людей от искусственного интеллекта будет только расти, с непознаваемыми последствиями как для человеческого общества, так и для отдельных людей. Что будет означать постоянный доступ к этим системам для личности первого поколения, которое начнет использовать их с детства? Мы действительно не имеем ни малейшего представления. Мои дети входят в это поколение, и эксперимент, который мы собираемся провести над ними, пугает меня. Я не знаю, будет ли ИИ выглядеть в экономической статистике следующих 10 лет больше как изобретение интернета, изобретение электричества или нечто совершенно иное. Я надеюсь увидеть, как системы ИИ продвигают вперед открытие лекарств и научные исследования, но я еще не уверен, что они будут. Но я поражен тем, как быстро мы начали относиться к его