В застойные годы ходил анекдот про секретную контору, которая при Брежневе разрабатывала искусственное сердце, при Андропове искусственную почку, а во времена Черненко занялась искусственным интеллектом. Похоже, ребята из этого почтенного учреждения, хоть и с опозданием, добились-таки определённых успехов.
Пару лет назад я писал о программе «Порфирьевич», строившей по началу фразы грамматически правильный текст с абсолютно шизофреническим содержанием. Недавнее детище программистов по имени «ChatGPT» довело качество машинного письма до уровня среднего ботаника. Компьютер строгает невыносимо корректные тексты, отличить которые от ответов отличницы-задротки я могу разве по возникающему у меня ощущению нечеловеческой скуки. Университетская же профессура, в большинстве своем вышедшая из задроток-отличниц, в упор не различает машинного сочинения от студенческого, в связи с чем уже пошли разговоры о необходимости новых методов контроля, когда на домашнюю работу никто уже не станет обращать внимания. Мне кажется, от ЕГЭ машина не оставит камня на камне; во всяком случае экзамен на поступление в западный экономический ВУЗ она уже сдала. Программа также способна находить ошибки в компьютерном коде и решать задачи из школьной математики просто считав условие.
Возможно, я зря паникую, но при таких темпах через десяток лет ИИ по моим ощущениям выйдет на уровень реальной генерации нового знания. Это способно коренным образом изменить мир, в котором мы живем, и, разумеется, не в лучшую сторону.
Вычислительная техника развивалась по экспоненциальному закону Мура — каждые два года количество транзисторов на чипе удваивалось. Это происходило не в последнюю очередь потому, что компьютеры предыдущего поколения использовались для проектирования компьютеров следующего. Закон Мура начал выдыхаться только тогда, когда размеры деталей дошли до физических пределов в сотню атомных размеров — сильно меньше уже некуда без пересмотра самого принципа работы. В результате взрывной эволюции были созданы устройства, многократно превосходящие человеческий мозг как по производительности, так и по сложности, что еще лет 30 назад казалось нереальным. Единственным затыком на пути создания действительно мыслящей машины (если не принимать всерьез мнения о божественном происхождении сознания, которыми никто в отрасли не вдохновляется ) остается создание алгоритмов, воспроизводящих работу нашего мозга. Этот затык, похоже, успешно преодолевается у нас на глазах.
Как только ИИ научится писать алгоритмы для ИИ же, процесс имеет все шансы снова пойти по экспоненте – и на какие зияющие вершины он выведет бедного гомо остается лишь гадать. По-видимому, математика и теоретическая физика падут первыми – никакой белковый теоретик не сможет состязаться с силиконовыми мозгами. Полное бессилие шахматных гениев перед лицом «Стокфиша» и т. п. не оставляет в этом особенных сомнений. Для того, чтобы сделать полноценного процессорного ученого, надо будет дать машине возможность не только считать, но еще и проводить эксперименты. Априори это кажется чрезвычайно рискованным – где гарантия, что желязяка не сделает что-нибудь в области энергетики, что разнесёт всю планету к электронной матери, либо не создаст, к примеру, идеальный вирус, который истребит всю человеческую популяцию прежде, чем загнется от недостатка питания.
Однако основная проблема, мне кажется, состоит в том, что при нынешнем общественном строе электронные мозги неизбежно будут использоваться не столько на общее благо, сколько на благо владельцев этих мозгов. Сейчас даже трудно вообразить, в каких монстров контроля и насилия могут превратиться наши железные помощники в шаловливых ручках тех, кто управляет сегодня планетой… Наличие всемогущих электронных мыслителей под контролем ничтожной кучки фанатиков власти – верный рецепт к неприятностям плохо вообразимого сегодня масштаба.
