Директор Института искусственного интеллекта Самарского университета, профессор Артем Никоноров рассказал Волга Ньюс о технических системах, которые способны выполнять ряд функций, присущих человеку. Сейчас они носят в основном рутинный характер, но в обозримом будущем ученые научат компьютерные программы решать и творческие задачи - такие, например, как оценка произведений искусства. Артем Никоноров объяснил, зачем это нужно и какие этические проблемы при этом возникают.
- Артем Владимирович, есть несколько определений искусственного интеллекта (ИИ). Какое из них ближе вашему пониманию этой технологии, а, говоря шире, новой научной платформы?
- Мне ближе функциональное определение, согласно которому различают сильный и слабый ИИ. Слабый ИИ может превзойти человека в решении некоторых поставленных им конкретных задач, например, победить его в каких-либо стратегических играх или в распознавании изображений, где человек допускает, скажем, 5% ошибок, а компьютер - 3%.
В системах "слабого" ИИ есть заданная человеком модель, и нужно подобрать (оптимизировать) набор ее параметров по предъявляемой человеком обучающей выборке.
"Сильный" же ИИ способен сам себе ставить задачи, и к созданию подобных когнитивных систем пока систематических подходов нет".
- Но есть задачи, которые эффективнее решать в рамках человеко-машинной (диалоговой) системы?
- Это частный случай слабого ИИ, где человек модифицирует обучающую выборку. Но задача оптимизации параметров модели так, чтобы результат ее работы соответствовал представлениям человека, остается.
Аналогичный подход работает при решении тех задач, где рутинные вычисления производит машина, а креативные процессы (например, принятие ключевых решений) остаются за человеком. Хотя граница между теми процедурами, которые можно алгоритмизировать, и теми, которые пока не поддаются алгоритмизации, достаточно размытая.
- В каких направлениях работает ваш институт?
- На основе ИИ у нас разрабатывается довольно много проектов. Это и обработка изображений с камер мобильного телефона, и генерация цифровых аватаров, и анализ изображений различной природы, и персонализированная медицина, и диагностика технических комплексов, и анализ трафика с предсказанием аномальной активности в сети, выявление атипичного поведения людей, и обработка речи, и задачи робототехники.
У нас есть прорывные разработки в сфере умной оптики (в частности, плоский объектив, который в 100 раз легче и в 100 раз дешевле аналогов), а также в нейробиологии.
- Вы и дальше будете сохранять эту множественность или выберете несколько приоритетных направлений?
- С одной стороны, распыляться не хочется, но, с другой, не зря же мы создали Институт ИИ, а не просто лабораторию. Широкий спектр компетенций нашего университета позволяет нам создать множество прикладных технологий, основанных на машинном обучении.
Так что мультидисциплинарность мы постараемся сохранять. А если какие-то направления НИОКР кристаллизуются, будем выделять их в отдельные лаборатории - под конкретного заказчика или под конкретную тематику - в рамках нашего института.
- Сколько сотрудников сейчас работает в нем?
- Если включить в их число тех исследователей и разработчиков, которые сотрудничают с нами по отдельным смежным направлениям, то около 50.
- Как, на ваш взгляд, человеку следует взаимодействовать с ИИ, чтобы, с одной стороны, развивать его себе во благо, а с другой, оставлять за собой контролирующие функции?
- Этот вопрос в наибольшей степени актуален для систем сильного ИИ, подход к которым будет разрабатываться на протяжении ближайших десятков лет. Другое дело, что уже сейчас нужно задумываться над таким проблемами, как доверие к ИИ и этика этих систем. Вопрос о доверии к результатам работы ИИ, к рекомендациям подобных систем возникает из-за их высокой сложности, в силу которой эти результаты трудно однозначно интерпретировать.
Когда речь идет о процедурах, понятных инженеру, ему ясно, что именно происходит в соответствующей системе, как она работает и как получается ее результат. В системах ИИ, где есть множество параметров, мы ничего подкрутить (изменить) не можем: они настолько сложны, что зачастую практически непредсказуемы.
Когда речь идет об игре в шашки, это не так важно. А если задуматься о применении ИИ для вождения автомобиля или самолета? Или как сделать так, чтобы персональные данные, на которых строятся многие системы ИИ, не утекали без должного контроля?
Обходя эти сущностные вопросы, предпочтение часто отдается задачам, которые решаются сравнительно легко и/или ради хайпа. К ним относятся, например, голосовые помощники в мобильных телефонах. А наиболее актуальных задач стараемся избежать.
- Совместно с исполнительным директором социально-гуманитарного института Самарского университета Александром Нестеровым вы занимаетесь разработкой цифровых моделей в эстетике. В чем вы видите практический смысл этого весьма амбициозного проекта? Стоило ли его затевать, чтобы создать робота-дизайнера, основные функции которого уже сегодня может выполнить продвинутая система автопроектирования?
- Вычислительная эстетика, с помощью которой ученые стараются оцифровать ценность того или иного произведения искусства, родилась не вчера, это уже довольно разработанная область науки об ИИ. Нам интересно, как субъективное восприятие красоты самыми разными людьми может быть смоделировано системой ИИ.
Что же касается робота-дизайнера, интерес могут представлять полученные с его помощью оценки целесообразности размещения тех или иных архитектурных объектов на заданной - частично уже застроенной - территории. Так, чтобы законы урбанистики выполнялись наилучшим образом.
- А как быть с произведениями искусства, если известно, что "на вкус и цвет товарищей нет"?
- Это действительно очень сложная задача, но смысл ею позаниматься, поискать хотя бы подходы к ее решению, на мой взгляд, есть. Конечно, трудно ожидать, что построенная нами система ИИ на данном этапе сможет отделить шедевры от заурядных картин, но она будет вполне способна оценить принадлежность картины тому или иному художнику или живописной школе. Так, недавно алгоритмы на основе ИИ усомнились в подлинности картины "Самсон и Далила" Рубенса, выставленной в Лондонской картинной галерее.
Это актуально для аукционной торговли живописью, а также для интернет-магазинов, где продаются подобные произведения искусства. Также алгоритмы вычислительной эстетики полезны разработчикам приложений, предназначенных для эстетической коррекции фотографий, сделанных с помощью мобильного телефона.
Зачатки соответствующего математического аппарата разрабатывали, например, известный художник Кандинский и академик Раушенбах, которому, наряду с работами по динамике космических аппаратов, принадлежат труды по теории перспективы применительно к живописи.
Куда мы придем, двигаясь по описанному пути, сейчас трудно предположить, но решать задачи такого класса очень интересно, в том числе для того, чтобы наметить подходы к построению систем сильного ИИ. Думаю, тут надо идти последовательными шагами, решая конкретные задачи. Тогда на каком-то этапе мы сможем понять, чем отличается, скажем, "Черный квадрат" Малевича от обычного квадрата, закрашенного черной краской.
- А зачем для решения этого класса задач вам нужен профессор философии Александр Нестеров? Почему бы не обратиться к тем, кто учит живописи в учебных заведениях соответствующего профиля?
- Эстетика - одна из философских категорий, а в последние годы получила развитие вычислительная эстетика, решающая некоторые прикладные задачи анализа данных. Это движение в сторону построения систем сильного ИИ.
Кроме того, профессор Нестеров, будучи руководителем социогуманитарного блока Самарского университета, является нашим толмачом в мире гуманитарного знания, куда мы вторгаемся, занимаясь проблемами ИИ.
На мой взгляд, чем больше смежных областей мы при этом затрагиваем, тем больше шансов на успех. Сегодня многие результаты получаются как раз на стыке разных наук. Нам сейчас, например, очень не хватает искусствоведов, которые могли бы рационально объяснить, в чем состоит ценность той или иной живописной работы. Честно говоря, многие из них сейчас даже не задумываются об этом.
Наконец, в рамках инженерного образования, которое мы даем в университете, было бы очень полезно "перекрестное опыление" - речь идет о гуманитарной компоненте в учебной программе инженерных специальностей и преподавании технических предметов гуманитариям.
- В ближайшее время в Москве состоится Международный форум "Этика искусственного интеллекта: начало доверия". Основной вопрос его повестки - обсуждение этических принципов разработки и применения ИИ. Речь, как я понимаю, идет о выработке неких этических ориентиров, которые позволят предотвратить ошибки и неблагоприятные последствия встречи человека с искусственным интеллектом. Что такое этика ИИ? Как научить разработчиков систем, работающих с использованием ИИ, соблюдать этические принципы?
- Мне кажется, что это надо делать без особой привязки к ИИ: этическими проблемами прошиты многие дисциплины, которые преподаются в университете. Хотя этические проблемы в сфере ИИ имеют свою специфику. Это, например, проблема доверия к результатам работы систем ИИ.
Как с их помощью решать задачи в сфере управления движущимся транспортом, сводящиеся к дилемме, кого предпочтительнее задавить. Этически корректное решение состоит в том, чтобы категорически избегать самой этой дилеммы. Например, огородить зону движения забором или обеспечить возможность переговоров всех участников движения, включая пешеходов и велосипедистов.
Как человеку взаимодействовать с кооперативными роботами-манипуляторами, чтобы безопасн для обеих сторон общаться с ними и вообще пребывать с ними в одном пространстве.
Еще один аспект - сочетать информационные удобства, которые достигаются за счет систем ИИ (например, подсказок, где и что купить подешевле и получше из привычного для нас потребительского набора), с информационной безопасностью (в частности, с обеспечением конфиденциальности личных данных и исключением назойливой рекламы).
- Может быть, этические принципы стоит закладывать уже на этапе проектирования систем ИИ?
- Хороший вопрос! Правда, на данном этапе далекий от универсального решения. Хотя отдельные, сугубо практические (инженерные) подходы здесь возможны уже сейчас, и мы их используем в обучении наших студентов.
- Известно, с помощью ИИ можно анализировать деятельность любого человека в соцсетях, чтобы составить характеристику его психологических и деловых качеств. В подборе претендентов на ответственные должности такая характеристика (может быть, недостаточно репрезентативная и достоверная) может сыграть роковую роль. Как с этим быть?
- ИИ может помочь и кадровику, и банковскому служащему для скоринга. Однако это не более чем дополнительная информация к принятию решения, а никак не руководство к действию: у нас не так хорошо развиты психологические модели.
Мы рассматриваем использование данных из соцсетей вкупе с рядом физиологических параметров для выявления предрасположенности человека к тому или иному виду деятельности, для профориентации. Но пока для этой задачи не хватает данных: цифровой след конкретного человека известен максимум за десять лет, а этого недостаточно для построения корректных выводов.
В то же время прогнозировать предназначение человека в его юном возрасте - достойный вызов для ИИ. Говорят, что индийские брахманы, например, это успешно делали.
По прогнозу международной исследовательской и консалтинговой компании International Data Corporation, мировой рынок решений, основанных на использовании искусственного интеллекта, по итогам 2021 г. вырастет на 16% и составит $327,5 млрд. Российский же рынок будет расти быстрее - примерно на 18% в год. По итогам 2020 г. он превысил $291 млн, а к 2024 г. его объем может увеличиться в 80 раз.