Искусственный общий интеллект и сверхразум
Создание машины, превосходящей по интеллекту нас самих. Это многовековая тема, вызывающая в равной степени благоговейный трепет и ужас, от агентов в «Матрице» до операционной системы в «Она».
Для многих в Кремниевой долине этот захватывающий вымышленный мотив вот-вот станет реальностью. Достижение искусственного общего интеллекта, или ИОИ (или, сделав шаг дальше, сверхразума), теперь является единственной целью технологических гигантов Америки, которые инвестируют десятки миллиардов долларов в лихорадочную гонку. И хотя некоторые эксперты предупреждают о катастрофических последствиях появления ИОИ, многие также утверждают, что этот прорыв, возможно, всего через несколько лет, приведет к взрывному росту производительности, а нация и компания, которые достигнут его первыми, пожнут все плоды.
Эта лихорадка заставляет нас задуматься.
Неясно, как скоро можно достичь искусственного общего интеллекта. Мы опасаемся, что Кремниевая долина настолько увлеклась достижением этой цели, что отталкивает широкую публику и, что хуже, упускает crucialные возможности использовать уже существующие технологии. Зациклившись исключительно на этой цели, наша страна рискует отстать от Китая, который гораздо меньше озабочен созданием искусственного интеллекта, достаточно мощного, чтобы превзойти человека, и гораздо больше сосредоточен на использовании технологий, которые у нас уже есть.
Корни очарованности Кремниевой долины искусственным общим интеллектом уходят десятилетиями назад. В 1950 году пионер вычислительной техники Алан Тьюринг предложил имитационную игру — тест, в котором машина доказывает свой интеллект тем, насколько хорошо она может обмануть людей-допрашивающих, заставив их поверить, что она человек. С тех пор идея эволюционировала, но цель оставалась неизменной: сравняться с мощью человеческого мозга. ИОИ — это просто последняя итерация.
В 1965 году коллега Тьюринга Ай. Джей. Гуд описал, что так захватывает в идее машины, столь же сложной, как человеческий мозг. Гуд видел, что умные машины могут рекурсивно самосовершенствоваться быстрее, чем люди могли бы когда-либо угнаться, заявив: «Первая ультраразумная машина — это последнее изобретение, которое когда-либо понадобится человеку». Изобретение, которое положит конец всем другим изобретениям. Короче говоря, достижение ИОИ стало бы самой значительной коммерческой возможностью в истории. Неудивительно, что лучшие умы мира посвящают себя этому амбициозному начинанию.
Нынешний modus operandi — строить любой ценой. Каждый технологический гигант участвует в гонке за то, чтобы первым достичь ИОИ, возводя центры обработки данных, которые могут стоить более 100 миллиардов долларов, а некоторые, такие как Meta, предлагают бонусы за подписание контракта исследователям ИИ, превышающие 100 миллионов долларов. Стоимость обучения базовых моделей, которые служат универсальной основой для множества различных задач, продолжает расти. Стартап Илона Маска xAI, по сообщениям, ежемесячно сжигает 1 миллиард долларов. Генеральный директор Anthropic Дарио Амодеи ожидает, что стоимость обучения ведущих моделей в ближайшие два года достигнет 10 миллиардов или даже 100 миллиардов долларов.
Безусловно, ИИ уже лучше среднего человека справляется со многими когнитивными задачами, от решения некоторых из самых сложных в мире решаемых математических задач до написания кода на уровне начинающего разработчика. Энтузиасты указывают на такой прогресс как на доказательство того, что ИОИ уже не за горами. Тем не менее, хотя возможности ИИ совершили необычайный скачок с момента дебюта ChatGPT в 2022 году, наука еще не нашла четкого пути к созданию интеллекта, превосходящего человека.
В недавнем опросе Ассоциации по продвижению искусственного интеллекта, научного общества, которое включает некоторых из самых уважаемых исследователей в этой области, более трех четвертей из 475 респондентов заявили, что наши текущие подходы вряд ли приведут к прорыву. Хотя ИИ продолжает улучшаться по мере увеличения моделей и поглощения большего количества данных, существует опасение, что кривая экспоненциального роста может замедлиться. Эксперты утверждают, что для достижения цели нам нужны новые компьютерные архитектуры, выходящие за рамки тех, что лежат в основе больших языковых моделей.
Проблема нашей сосредоточенности на ИОИ выходит за рамки технологий и упирается в расплывчатые, противоречивые нарративы, которые его сопровождают. Изобилуют как мрачные, так и оптимистичные прогнозы. В этом году некоммерческий проект AI Futures Project выпустил отчет «ИИ 2027», в котором предсказывалось, что сверхразумный ИИ к 2030 году потенциально сможет контролировать или уничтожать людей. Примерно в то же время компьютерные ученые из Принстона опубликовали статью под названием «ИИ как обычная технология», в которой утверждалось, что ИИ в обозримом будущем останется управляемым, как ядерная энергия.
Вот как мы оказываемся в этом странном месте, где крупнейшие компании Кремниевой долины объявляют о все более коротких сроках появления ИОИ, в то время как большинство людей за пределами района залива Сан-Франциско все еще barely знают, что означает этот термин. Нарастает раскол между технологами, которые ощущают ИОИ — мантру для верующих, видящих себя на пороге технологии, — и представителями широкой публики, которые скептически относятся к ажиотажу и видят в ИИ помеху в своей повседневной жизни. Поскольку некоторые эксперты высказывают мрачные предупреждения об ИИ, публика, естественно, еще менее воодушевлена этой технологией.
Теперь посмотрим, что происходит в Китае. Ученые и политики страны не так увлечены идеей ИОИ, как их американские коллеги. На недавней Всемирной конференции по искусственному интеллекту в Шанхае премьер Ли Цян подчеркнул «глубокую интеграцию ИИ с реальной экономикой» путем расширения сценариев применения.
В то время как некоторые технологи из Кремниевой долины высказывают апокалиптические предупреждения о серьезной угрозе ИИ, китайские компании заняты его интеграцией во все — от супераппа WeChat до больниц, электромобилей и даже бытовой техники. В сельских деревнях проводились соревнования среди китайских фермеров по улучшению инструментов ИИ для сбора урожая; приложение Quark от Alibaba недавно стало самым скачиваемым ассистентом ИИ в Китае отчасти благодаря своим возможностям медицинской диагностики. В прошлом году Китай запустил инициативу «ИИ+», которая направлена на внедрение ИИ во все секторы для повышения производительности.
Неудивительно, что в результате население Китая более оптимистично настроено по отношению к ИИ. На Всемирной конференции по ИИ мы видели семьи с бабушками, дедушками и маленькими детьми, которые толпились у экспонатов, ахали от мощных демонстраций приложений ИИ и с энтузиазмом взаимодействовали с человекоподобными роботами. Согласно опросу Ipsos, более трех четвертей взрослого населения Китая заявили, что ИИ кардинально изменил их повседневную жизнь за последние три-пять лет. Это самая высокая доля в мире и вдвое больше, чем у американцев. Другой недавний опрос показал, что только 32 процента американцев заявляют, что доверяют ИИ, по сравнению с 72 процентами в Китае.
Многие из предполагаемых преимуществ ИОИ — в науке, образовании, здравоохранении и тому подобном — уже могут быть достигнуты за счет тщательной доработки и использования мощных существующих моделей. Например, почему у нас до сих пор нет продукта, который обучал бы всех людей необходимым, передовым знаниям на их родных языках персонализированными, геймифицированными способами? Почему не проводятся соревнования среди американских фермеров по использованию инструментов ИИ для улучшения их урожая? Где кембрийский взрыв imaginative, неожиданных способов использования ИИ для улучшения жизни на Западе?
Вера в переломный момент ИОИ или сверхразума противоречит истории технологий, в которой прогресс и распространение были постепенными. Технологиям часто требуются десятилетия, чтобы достичь широкого распространения. Современный интернет был изобретен в 1983 году, но только к началу 2000-х годов он изменил бизнес-модели. И хотя ChatGPT показал невероятный рост числа пользователей, недавняя рабочая статья Национального бюро экономических исследований показала, что большинство людей в Соединенных Штатах все еще используют генеративный ИИ редко.
Когда технология в конечном итоге становится мейнстримом, вот тогда она действительно меняет правила игры. Смартфоны вывели мир в онлайн не благодаря самым мощным, самым элегантным версиям; революция произошла потому, что дешевые, достаточно capable устройства распространились по всему миру, попав в руки деревенских жителей и уличных торговцев.
Крайне важно, чтобы больше людей за пределами Кремниевой долины ощутили благотворное влияние ИИ на свою жизнь. ИОИ — это не финишная черта; это процесс, который включает скромное, постепенное, неравномерное распространение поколений менее мощного ИИ по всему обществу.
Вместо того чтобы только спрашивать: «Мы уже там?», пора признать, что ИИ уже является мощным агентом перемен. Применение и адаптация доступного в настоящее время машинного интеллекта запустят маховик большего общественного энтузиазма по отношению к ИИ. И по мере продвижения границы возможностей должны развиваться и наши способы использования технологии.
В то время как флагманские технологические компании Америки устремляются к неопределенной цели — первыми достичь искусственного общего интеллекта, — Китай и его руководство были более сосредоточены на развертывании существующих технологий в традиционных и emerging секторах, от производства и сельского хозяйства до робототехники и дронов. Излишняя зацикленность на искусственном общем интеллекте рискует отвлечь нас от повседневного воздействия ИИ. Нам нужно преследовать обе цели.