Футуролог, автор книги "Футурология. Краткий курс", ведущий подкаста "Смени пароль!" "Лаборатории Касперского" Алексей Андреев в интервью Волга Ньюс развенчивает популярные мифы об искусственном интеллекте, объясняет, почему навигатор в машине круче метавселенной, и радуется тому, что "Вавилонская башня" технологической монокультуры наконец начала рушиться.

Футурология в прошлом и настоящем

- Что такое футурология в вашем понимании, и на основе чего строятся прогнозы?

- Вообще, слово "футуролог" теперь используют все кому не лень, и это понятие стало очень размыто. Сейчас футурологами могут называть и фантаста, и рекламщика, даже гадалку на картах таро.

В то же время существуют науки о прогнозировании, которые не называются футурологией. А называется, это, например, "математическое моделирование". Но если посмотреть, в чем цель моделирования, то она будет описана так: по состоянию системы в прошлом мы пытаемся предсказать ее состояние в будущем.

Разные специалисты брались за эту тему с разных сторон, но общей науки о будущем у нас нет. Поэтому, когда мне предложили в РАНХиГС прочитать курс лекций по прогнозированию будущего, я сам его собирал из разных наук. Курс начинается с того, как устроен человеческий мозг, как работает интуиция. Ведь мы все время предсказываем что-то, даже нога для того, чтобы шагать правильно, должна правильно встать. Мы всю жизнь делаем огромное количество предсказаний, просто не думаем об этом.

У человека есть несколько механизмов для такого прогнозирования. Есть совсем древние врожденные инстинкты, есть условные рефлексы, есть абстрактное мышление… В общем, мы, наверное, и сами не всегда знаем, сколько видов разума у нас используется для предсказаний.

- Литература (конкретнее, научная фантастика) может относиться к футурологии?

- Научная фантастика - очень интересный способ прогнозирования, но для ее развития нужны определенные условия. Сейчас научной фантастики нет, она, как ни странно, закончилась. Расцвет научной фантастики отмечался на рубеже XIX-XX и в середине ХХ века. В основном потому, что фантастика сопровождала научно-техническую революцию, а эта революция, в свою очередь, была связана с конкуренцией. И самая сильная технологическая конкуренция советской системы и американской - "холодная война" - вытащила фантастов наверх: одновременно с технологическим соревнованием шло соревнование картин будущего.

Поэтому научная фантастика, написанная в XX веке, до сих пор определяет образы будущего в нашей культуре. Сегодня кто-то воображает из себя визионера и рассказывает об искусственном интеллекте, но, к сожалению, в XXI веке ничего нового на эту тему не придумали. Визионеры ссылаются на модели, придуманные еще в XX веке. Все, что вы сейчас слышите, "технологическая сингулярность" или какая-нибудь "индустрия 4.0" - это все оттуда, из XX века. Когда закончилась холодная война, конкуренция закончилась и в фантастике. В итоге фантастика съехала в сторону фэнтези и всякого бреда, а визионеры просто торгуют старинными баянами.

- Прогнозирование очень важно для экономики.

- Здесь тоже интересно сравнить, как это делалось у нас и на Западе. У нас был Госплан, который начался как планирование, а закончился как мощная прогностическая организация… но после 1991 года этот проект был совершенно заброшен.

А на Западе тем временем в условиях рыночного хаоса пытались предсказывать будущее. Таких ученых, как "отец фракталов" Бенуа Мандельброт и автор идеи "черного лебедя" Нассим Талеб, очень не любили биржевые аналитики, поскольку эти два математика опровергали модные экономические модели, в которых рынок изображался предсказуемым.

- Насколько можно верить современным футурологам?

- Главная болезнь современных предсказателей - реклама. Они не прогнозируют будущее, под видом "футурологии" они просто продвигают заданные товары. Может, вы помните Segway - была такая палка на колесах, гироскопический самокат, который едет, когда наклоняешься. Его рекламировали со страшной силой, его вставляли во все фантастические фильмы. Его создатель писал, что города будут перестраивать под сегвеи.

А закончилось это совершенно нелепо. Некоторое количество людей покалечилось, включая президента США Буша-младшего, который встал на сегвей и сразу упал. Потом глава компании Segway разбился насмерть на этом самокате. А потом китайцы купили компанию и через некоторое время закрыли производство, потому что это не надо было никому.

Таких примеров очень много. И я бы даже сказал, что по-хорошему современная футурология должна состоять не столько в предсказаниях, сколько во взломе этих фальшивых реальностей, которые нам навязывают крупные индустрии, особенно IT-индустрия. IT-индустрия навязывает нам очень много мифов, и мифы об искусственном интеллекте - "впереди планеты всей".

Мифы об искусственном интелекте

- Каковы самые актуальные мифы об искусственном интеллекте?

- Надо понимать, что алгоритмы искусственного интеллекта (ИИ) придуманы более пятидесяти лет назад. А главное достижение нашего времени - только в том, что появился Интернет и есть огромное количество данных, на которых можно обучать машины. Но эта речка мелеет. Чистых данных становится все меньше. Интернет в конце 1990-х на 70% состоял из оригинальных данных, сейчас есть такие подсчеты, что оригинальных данных в Интернете - только на 7%, а остальное уже переработка старого. И на этом сложно учиться. Кроме того, возникают законы о защите персональных данных. Собирать данные будет уже сложнее, и это одна из затычек ИИ, о которой не говорят "визионеры".

Очень многие позиционируют ИИ как нечто автономное. Но нужно понимать, что есть люди, которые делают разметку данных для обучения машин. То есть чтобы ИИ где-то заменил людей, нужна другая армия людей, которые собирают и размечают данные. Однако не так-то это и легко - обслуживать сложную машину.

Еще одна интересная проблема с ИИ состоит в том, что его решения плохо интерпретируются. Были разные направления в ИИ, и одно из первых называлось "нисходящий искусственный интеллект" - это когда вы описываете все как набор правил, категорий, понятий и вводите дальше логику. Ну как человек к врачу приходит, и врач спрашивает: болит голова, есть температура и т.д. Такого рода системы были примитивны, но в них была возможность проследить логику машины. А сейчас ИИ чаще строится на нейронных сетях, в которых тысячи входных параметров, и все знания размазаны по миллионам весовых коэффициентов. Если произошла ошибка, вы не сможете понять, отчего она возникла. И это проблема.

А ошибки бывают самые разные. Есть такие, которые связаны с особенностями данных. Например, есть статистика, согласно которой женщины в три раза чаще возвращают кредиты, чем мужчины. Представьте себе систему, которая обучается на таких данных; и вот пришли мужчина и женщина, и при равных возможностях женщине дали кредит, а мужчине - нет. Формально алгоритм не ошибся, он просто обучался на таких данных. 

И это мы еще не дошли до вредоносных действий. С ними появляется новый класс проблем. ИИ - интерактивная система, и атаковать ее можно на разных этапах. Например, на этапе обучения можно подсунуть системе искаженную выборку. Или можно даже построить враждебный ИИ, который будет быстро-быстро перебирать варианты и отыскивать такую комбинацию, которая, например, взломает систему распознавания, показывая ей неправильные, специально сконструированные изображения.
Обо всех этих проблемах визионеры не рассказывают. А это очень большой набор ограничений для развития ИИ.

- Но почему же сейчас только и разговоров, что об искусственном интеллекте?

- Потому что сегодня почти весь ИИ, который нам показывают, - развлекательный. Это значит, что речь идет о сферах, где не важна точность и ошибки не критичны. Получается, что нам рекламируют какие-то достижения, но совершенно не очевидно, что ИИ будет работать в жизненно необходимых и действительно важных сферах, где в приоритете безопасность, здоровье. Вот это один из кучи мифов, который сейчас продвигает IT-индустрия.

Многие слышали новость, что программа AlphaGo, созданная в компании Google, победила чемпиона по игре в го. В вашей жизни что-то изменилось после этого достижения? Нет, потому что это развлекательная программа.

А есть действительно важная история, связанная с ИИ, - та же компания Google делала проект по предсказанию эпидемии гриппа и других вирусных инфекций, Google Flu Trends. Проект тихо закрыли, потому что он облажался: начал предсказывать эпидемии там, где их не было. А это не развлекательный ИИ - это как раз то, что могло повлиять на жизнь людей. Представьте себе искусственный интеллект, который предсказал бы нам эпидемию ковида!.. Но он не предсказал, его "несло".

Вот и сравните -  как распиарили AlphaGo и как тихонько закрыли Google Flu Trends… Такого рода мифотворчество мы видим вокруг ИИ и будем видеть еще много.

- Первые люди ИТ-индустрии требуют притормозить развитие технологий ИИ. Как думаете, насколько оправданны их опасения, или это какой-то очередной маркетинговый ход?

- Мне кажется, они таким образом накачивают свою популярность. Вот, например, мы имеем некий хайп вокруг ChatGPT. Мы обсуждали с экспертами, можно ли всерьез ChatGPT использовать в кибератаках - ведь пишут же новости о том, что он написал код вируса. И все в один голос говорят, что можно его заставить написать несколько строк вредоносного кода. Но ведь это не главная работа хакера, написание кода занимает менее 10% всей работы, или вообще ничего: сегодня можно и где-то скопировать этот код.

Так что все истории вокруг Midjourney и ChatGPT - это все сфера развлечений. А если студент сдал диплом на основе ChatGPT, это не значит, что ChatGPT крутой. Это значит, что студент учится в развлекательном вузе, и этот вуз следует просто закрыть - ничему нужному и важному там не учат.

Когда Илон Маск подписывал письмо против развития генеративных сетей, там было две "страшилки". Они боятся, что такие программы создадут много дезинформации, и что эта штука может оставить многих людей без работы. Но дезинформацию и так создает профессиональная армия журналистов и копирайтеров. Какая разница, кто пишет глупости - журналист, скопировавший новость из сомнительного источника, или ChatGPT, скопировавший ее оттуда же, не проверяя и не ставя источников?

Конечно, ChatGPT сможет больше замусорить Интернет, если люди  позволят ему это делать. Ведь если ты не ставишь блокировки, к тебе начинают ходить роботы и мусорят в комментариях. Так ведь и людей с мусорными комментариями надо блокировать, какая разница?

А по поводу того, что ИИ вытеснит людей с работы... Да, многие люди обнаружат, что значительную часть своей жизни они проводят в необязательной деятельности. Это только поможет им понять, что они занимаются не особо нужными делами. Пусть занимаются другими вещами - и если это будет что-то важное, то там пока никакой искусственный интеллект ничего сделать не может.

- Насколько перспективны технологии метавселенных?

- Мне кажется, эта неудачный пузырь, который уже сдувается. Хотя, конечно, найдется некоторое количество людей, которые в этих штуках всю жизнь будут ходить. И они начнут страдать от косоглазия, у них будут когнитивные расстройства и проблемы с вестибулярным аппаратом, но какой-то процент сумасшедших там поселится. Так или иначе, я не считаю это серьезной определяющей технологией.

Мне кажется, более серьезно повлияют на всех нас технологии дополненной реальности. Например, едешь по городу, а у тебя есть навигатор, и он тебе дополняет весь мир разного рода информацией. Такого рода технологий может быть намного больше. И мы, как ни странно, их особенно не замечаем, не считаем их особо интеллектуальными - а они-то как раз меняют нашу реальность. Потому что люди, которые к этим сервисам привыкают, начинают в определенном симбиозе с ними жить. Это такая взаимовыгодная сделка: ты передаешь навигатору свою геолокацию, а он тебе передает карту и информацию о пробках. К такому симбиозу легко привыкнуть - но если ты привык к навигатору, тебе будет трудно без него.

Антиутопия, в которой мы живем

- Как вы относитесь к тезису, что технологии развиваются быстрее, чем человек, и человеку не хватает возможности адаптироваться к происходящему?

- В каком-то смысле можно считать, что технологии воюют за людей. Но это старая сказка - ты выпустил джинна из бутылки, и потом непонятно, кто кем управляет. Как правило, человек развивает свои инструменты. Происходит такая цепная реакция: человек создает инструмент, а этот инструмент позволяет увидеть что-то новое, и у человека появляется новая картина мира.

Например, изобрели телескоп и сразу начали смотреть, что там на небе. И обнаружили, что картина мира не такая, как рассказывала церковь. Проходит время, и новая картина мира становится привычной. Нужно строить следующий, более мощный телескоп.

Таким образом, технология становится как бы продолжением наших органов чувств. Исходя из этого, можно сделать вывод, что технологии могут менять наш образ мыслей. Причем некоторые расширяют образ мыслей, а некоторые сужают. Когда в средние века изобрели телескоп, люди внезапно расширили свое пространство - картина в виде купола вдруг разваливается, и получается Вселенная. А вот когда ты сидишь в современном мире и листаешь ленту соцсетей, и при этом новости у тебя отобраны одной какой-то системой, то все наоборот, твоя вселенная сжимается. А ведь так живут миллионы людей! Даже фантастам прошлого сложно было такое представить, что люди добровольно вступают в систему, которая из одного центра, как из кормушки, раздает миллионам людей какую-то стандартную информацию. Это не антиутопия, мы в этом живем. Добровольно вступаем. Меняемся.

- На кого эта страшная система влияет больше всего?

- Есть такая печальная мысль, что это сильно влияет на детей. Для развития мозга очень важна мелкая моторика, поэтому родители раньше старались заставлять детей работать руками, двигать предметы, бегать по улицам.

Ведь когда ребенок изучает физический мир, он строит и внутреннюю картину мира: чем лучше у него координация, тем лучше развивается интеллект. Это заметно по этапам развития - например, когда ребенок начинает ходить, он примерно в то же время начинает говорить.

Сейчас часто можно видеть, как современные родители отдают детям смартфон, и ребенок целый день делает лишь одно движение - листает экран. Что из этого получится, не знаю. Возможно, совершенно другие люди, которые с детства подсажены на одну ленту новостей, и у них не возникает другого представления о мире. Они даже не будут представлять, что можно переходить на другие сайты, как раньше, - почитал новости на одном сайте, не понравилось, перешел на другой, или в поиске что-то поискал сам... А у них, может, и не будет такого, не будет даже представления обо всем разнообразии Интернета - будет только лента в смартфоне.

- Оправданны ли заявления о технологической изоляции нашей страны?

- Думаю, нет. Мы живем в эпоху, когда Вавилонская башня разваливается. Под "Вавилонской башней" я подразумеваю технологическую башню, которая была выстроена за последние 20-30 лет в этом мире всеобщего рынка. К сожалению, эта башня привела к очень острой пирамиде постепенного распределения, когда очень малое количество акторов влияет на очень большое количество людей. Сколько у нас производителей микрочипов? - Всего пара компаний на Тайване. А сколько у нас операционных систем? Две-три системы контролируют весь мир. Есть много маленьких экспериментов, но они не играют роли. Накрыть 80% населения можно двумя операционками. И так в любой области IT.

Получается, очень легко воздействовать на такой мир. Миллиарды людей пользуются одной поисковой системой: она может им подсовывать, что надо найти, а что не надо, может убирать... Эта такая невидимая диктатура.

А сколько у нас мессенджеров? Их опять два. Опять всех накрыли. Получается опять острая пирамида. И она очень хрупкая, потому что чуть-чуть подкрути актора -  и посыплется вся пирамида.

Известный русский фантаст Иван Ефремов писал в 1970-е, что главная опасность будущего - это техническая монокультура. И это ровно то, что мы сейчас получили. Моно - это значит, что у тебя все ходят со смартфонами одной фирмы, и это опасно. Мир, опутанный одной системой, становится очень уязвимым.

Так что у нас сейчас история не про изоляцию, а скорее, про распад огромной пирамиды на более независимые технологические территории. У нас появится свой софт, надеюсь, и свое производство чипов. Разнообразие - это то, что нужно для выживания. Если одну систему заразили, другая будет работать. Так что не надо молиться на одну вавилонскую башню, которая разваливается, - надо учиться строить самостоятельно, строить разные системы.