Артем Никоноров: Искусственный интеллект можно наделить здравым смыслом и художественным вкусом

Директор Института искусственного интеллекта Самарского университета, профессор Артем Никоноров рассказал Волга Ньюс о технических системах, которые способны выполнять ряд функций, присущих человеку. Сейчас они носят в основном рутинный характер, но в обозримом будущем ученые научат компьютерные программы решать и творческие задачи - такие, например, как оценка произведений искусства. Артем Никоноров объяснил, зачем это нужно и какие этические проблемы при этом возникают.

Фото:

- Артем Владимирович, есть несколько определений искусственного интеллекта (ИИ). Какое из них ближе вашему пониманию этой технологии, а, говоря шире, новой научной платформы?

- Мне ближе функциональное определение, согласно которому различают сильный и слабый ИИ. Слабый ИИ может превзойти человека в решении некоторых поставленных им конкретных задач, например, победить его в каких-либо стратегических играх или в распознавании изображений, где человек допускает, скажем, 5% ошибок, а компьютер - 3%.

В системах "слабого" ИИ есть заданная человеком модель, и нужно подобрать (оптимизировать) набор ее параметров по предъявляемой человеком обучающей выборке.

"Сильный" же ИИ способен сам себе ставить задачи, и к созданию подобных когнитивных систем пока систематических подходов нет".

- Но есть задачи, которые эффективнее решать в рамках человеко-машинной (диалоговой) системы?

- Это частный случай слабого ИИ, где человек модифицирует обучающую выборку. Но задача оптимизации параметров модели так, чтобы результат ее работы соответствовал представлениям человека, остается.

Аналогичный подход работает при решении тех задач, где рутинные вычисления производит машина, а креативные процессы (например, принятие ключевых решений) остаются за человеком. Хотя граница между теми процедурами, которые можно алгоритмизировать, и теми, которые пока не поддаются алгоритмизации, достаточно размытая.

- В каких направлениях работает ваш институт?

- На основе ИИ у нас разрабатывается довольно много проектов. Это и обработка изображений с камер мобильного телефона, и генерация цифровых аватаров, и анализ изображений различной природы, и персонализированная медицина, и диагностика технических комплексов, и анализ трафика с предсказанием аномальной активности в сети, выявление атипичного поведения людей, и обработка речи, и задачи робототехники.

У нас есть прорывные разработки в сфере умной оптики (в частности, плоский объектив, который в 100 раз легче и в 100 раз дешевле аналогов), а также в нейробиологии.

Самарские ученые разрабатывают сверхлегкую оптическую систему для наноспутников Самарские ученые разрабатывают сверхлегкую оптическую систему для наноспутников
Ученые Самарского национального исследовательского университета имени академика С.П.Королева разработают и испытают в космосе сверхлегкую оптическую систему для дистанционного зондирования Земли (ДЗЗ). Данная разработка упростит и удешевит создание массовых группировок наноспутников для постоянного мониторинга земной поверхности. Миниатюрные устройства весом всего несколько граммов также найдут свое применение в качестве камер на беспилотных летательных аппаратах.

- Вы и дальше будете сохранять эту множественность или выберете несколько приоритетных направлений?

- С одной стороны, распыляться не хочется, но, с другой, не зря же мы создали Институт ИИ, а не просто лабораторию. Широкий спектр компетенций нашего университета позволяет нам создать множество прикладных технологий, основанных на машинном обучении.

Так что мультидисциплинарность мы постараемся сохранять. А если какие-то направления НИОКР кристаллизуются, будем выделять их в отдельные лаборатории - под конкретного заказчика или под конкретную тематику - в рамках нашего института.

- Сколько сотрудников сейчас работает в нем?

- Если включить в их число тех исследователей и разработчиков, которые сотрудничают с нами по отдельным смежным направлениям, то около 50.

- Как, на ваш взгляд, человеку следует взаимодействовать с ИИ, чтобы, с одной стороны, развивать его себе во благо, а с другой, оставлять за собой контролирующие функции?

- Этот вопрос в наибольшей степени актуален для систем сильного ИИ, подход к которым будет разрабатываться на протяжении ближайших десятков лет. Другое дело, что уже сейчас нужно задумываться над таким проблемами, как доверие к ИИ и этика этих систем. Вопрос о доверии к результатам работы ИИ, к рекомендациям подобных систем возникает из-за их высокой сложности, в силу которой эти результаты трудно однозначно интерпретировать.

Когда речь идет о процедурах, понятных инженеру, ему ясно, что именно происходит в соответствующей системе, как она работает и как получается ее результат. В системах ИИ, где есть множество параметров, мы ничего подкрутить (изменить) не можем: они настолько сложны, что зачастую практически непредсказуемы.

Когда речь идет об игре в шашки, это не так важно. А если задуматься о применении ИИ для вождения автомобиля или самолета? Или как сделать так, чтобы персональные данные, на которых строятся многие системы ИИ, не утекали без должного контроля?

Обходя эти сущностные вопросы, предпочтение часто отдается задачам, которые решаются сравнительно легко и/или ради хайпа. К ним относятся, например, голосовые помощники в мобильных телефонах. А наиболее актуальных задач стараемся избежать.

- Совместно с исполнительным директором социально-гуманитарного института Самарского университета Александром Нестеровым вы занимаетесь разработкой цифровых моделей в эстетике. В чем вы видите практический смысл этого весьма амбициозного проекта? Стоило ли его затевать, чтобы создать робота-дизайнера, основные функции которого уже сегодня может выполнить продвинутая система автопроектирования?

- Вычислительная эстетика, с помощью которой ученые стараются оцифровать ценность того или иного произведения искусства, родилась не вчера, это уже довольно разработанная область науки об ИИ. Нам интересно, как субъективное восприятие красоты самыми разными людьми может быть смоделировано системой ИИ.

В борьбе с пандемией самарские медики используют искусственный интеллект В борьбе с пандемией самарские медики используют искусственный интеллект
Современная медицина - одна из самых благодатных сфер практического применения искусственного интеллекта (ИИ). Под ним обычно понимают совокупность алгоритмов и реализующих их компьютерных программ, которые способны, во-первых, воспроизводить некоторые (преимущественно рутинные) функции того или иного специалиста, а во-вторых, совершенствоваться (обучаться), используя информацию, получаемую в процессе выполнения этих функций. Таким образом, ИИ не заменяет врача, а расширяет его возможности за счет автоматического анализа больших объемов медицинских данных. Применение ИИ для диагностики и реабилитации - главное направление исследований Института инновационного развития Самарского государственного медицинского университета.

Что же касается робота-дизайнера, интерес могут представлять полученные с его помощью оценки целесообразности размещения тех или иных архитектурных объектов на заданной - частично уже застроенной - территории. Так, чтобы законы урбанистики выполнялись наилучшим образом.

- А как быть с произведениями искусства, если известно, что "на вкус и цвет товарищей нет"?

- Это действительно очень сложная задача, но смысл ею позаниматься, поискать хотя бы подходы к ее решению, на мой взгляд, есть. Конечно, трудно ожидать, что построенная нами система ИИ на данном этапе сможет отделить шедевры от заурядных картин, но она будет вполне способна оценить принадлежность картины тому или иному художнику или живописной школе. Так, недавно алгоритмы на основе ИИ усомнились в подлинности картины "Самсон и Далила" Рубенса, выставленной в Лондонской картинной галерее.

Это актуально для аукционной торговли живописью, а также для интернет-магазинов, где продаются подобные произведения искусства. Также алгоритмы вычислительной эстетики полезны разработчикам приложений, предназначенных для эстетической коррекции фотографий, сделанных с помощью мобильного телефона.

Зачатки соответствующего математического аппарата разрабатывали, например, известный художник Кандинский и академик Раушенбах, которому, наряду с работами по динамике космических аппаратов, принадлежат труды по теории перспективы применительно к живописи.

Куда мы придем, двигаясь по описанному пути, сейчас трудно предположить, но решать задачи такого класса очень интересно, в том числе для того, чтобы наметить подходы к построению систем сильного ИИ. Думаю, тут надо идти последовательными шагами, решая конкретные задачи. Тогда на каком-то этапе мы сможем понять, чем отличается, скажем, "Черный квадрат" Малевича от обычного квадрата, закрашенного черной краской.

- А зачем для решения этого класса задач вам нужен профессор философии Александр Нестеров? Почему бы не обратиться к тем, кто учит живописи в учебных заведениях соответствующего профиля?

- Эстетика - одна из философских категорий, а в последние годы получила развитие вычислительная эстетика, решающая некоторые прикладные задачи анализа данных. Это движение в сторону построения систем сильного ИИ.

Кроме того, профессор Нестеров, будучи руководителем социогуманитарного блока Самарского университета, является нашим толмачом в мире гуманитарного знания, куда мы вторгаемся, занимаясь проблемами ИИ.

На мой взгляд, чем больше смежных областей мы при этом затрагиваем, тем больше шансов на успех. Сегодня многие результаты получаются как раз на стыке разных наук. Нам сейчас, например, очень не хватает искусствоведов, которые могли бы рационально объяснить, в чем состоит ценность той или иной живописной работы. Честно говоря, многие из них сейчас даже не задумываются об этом.

Дмитрий Даренский, Positive Technologies: "2020-й подсветил проблемы кибербезопасности" Дмитрий Даренский, Positive Technologies: "2020-й подсветил проблемы кибербезопасности"
Руководитель практики промышленной кибербезопасности Positive Technologies Дмитрий Даренский рассказал Волга Ньюс на PHDays, какие атаки для промышленного сектора наиболее тяжелы, почему именно в этом году тема информационной безопасности выходит на первый план, существует ли универсальная система защиты для крупных предприятий и почему Россия задает тренды в сфере промышленной кибербезопасности.

Наконец, в рамках инженерного образования, которое мы даем в университете, было бы очень полезно "перекрестное опыление" - речь идет о гуманитарной компоненте в учебной программе инженерных специальностей и преподавании технических предметов гуманитариям.

- В ближайшее время в Москве состоится Международный форум "Этика искусственного интеллекта: начало доверия". Основной вопрос его повестки - обсуждение этических принципов разработки и применения ИИ. Речь, как я понимаю, идет о выработке неких этических ориентиров, которые позволят предотвратить ошибки и неблагоприятные последствия встречи человека с искусственным интеллектом. Что такое этика ИИ? Как научить разработчиков систем, работающих с использованием ИИ, соблюдать этические принципы?

- Мне кажется, что это надо делать без особой привязки к ИИ: этическими проблемами прошиты многие дисциплины, которые преподаются в университете. Хотя этические проблемы в сфере ИИ имеют свою специфику. Это, например, проблема доверия к результатам работы систем ИИ.

Как с их помощью решать задачи в сфере управления движущимся транспортом, сводящиеся к дилемме, кого предпочтительнее задавить. Этически корректное решение состоит в том, чтобы категорически избегать самой этой дилеммы. Например, огородить зону движения забором или обеспечить возможность переговоров всех участников движения, включая пешеходов и велосипедистов.

Как человеку взаимодействовать с кооперативными роботами-манипуляторами, чтобы безопасн для обеих сторон общаться с ними и вообще пребывать с ними в одном пространстве.

Еще один аспект - сочетать информационные удобства, которые достигаются за счет систем ИИ (например, подсказок, где и что купить подешевле и получше из привычного для нас потребительского набора), с информационной безопасностью (в частности, с обеспечением конфиденциальности личных данных и исключением назойливой рекламы).

- Может быть, этические принципы стоит закладывать уже на этапе проектирования систем ИИ?

- Хороший вопрос! Правда, на данном этапе далекий от универсального решения. Хотя отдельные, сугубо практические (инженерные) подходы здесь возможны уже сейчас, и мы их используем в обучении наших студентов.

- Известно, с помощью ИИ можно анализировать деятельность любого человека в соцсетях, чтобы составить характеристику его психологических и деловых качеств. В подборе претендентов на ответственные должности такая характеристика (может быть, недостаточно репрезентативная и достоверная) может сыграть роковую роль. Как с этим быть?

- ИИ может помочь и кадровику, и банковскому служащему для скоринга. Однако это не более чем дополнительная информация к принятию решения, а никак не руководство к действию: у нас не так хорошо развиты психологические модели.

Мы рассматриваем использование данных из соцсетей вкупе с рядом физиологических параметров для выявления предрасположенности человека к тому или иному виду деятельности, для профориентации. Но пока для этой задачи не хватает данных: цифровой след конкретного человека известен максимум за десять лет, а этого недостаточно для построения корректных выводов.

В то же время прогнозировать предназначение человека в его юном возрасте - достойный вызов для ИИ. Говорят, что индийские брахманы, например, это успешно делали.

По прогнозу международной исследовательской и консалтинговой компании International Data Corporation, мировой рынок решений, основанных на использовании искусственного интеллекта, по итогам 2021 г. вырастет на 16% и составит $327,5 млрд. Российский же рынок будет расти быстрее - примерно на 18% в год. По итогам 2020 г. он превысил $291 млн, а к 2024 г. его объем может увеличиться в 80 раз.

Последние комментарии

Андрей Куропаткин 02 июня 2021 10:42 Сотни самарцев выстроились перед школой на 5-й просеке

Как показывает время, ничего эффективнее номерков на руке не придумали. Гоните директора, чему он современных детей научит, судя по организации набора в школу

Павел Фирсов 24 сентября 2018 14:26 Юрий Белонощенко: "Учеба в СГАУ стала для меня своеобразным "умственным спецназом"

СамГУ круче вопреки всему (хотя и его нет несколько лет). Ибо там замечательные юристы заведуют кафедрами, которые предлагают лишать гражданства за неучастие в выборах. Это круто. Не боятся за свой докторский диплом. Один только вопрос к СамГУ: где ваши академики? В СГАУ их было. И первый появился очень давно. И членкоры тоже в наличии. Но ведь это к крутизне не имеет отношения, правда? Особенно, если университет имеет статус национального исследовательского. :) Но ведь это к крутизне отношения

ALEX LAWER 16 марта 2018 20:03 Геннадий Котельников предложил перевести школы на пятидневку

Родители, давайте поддержим эту инициативу.Мы же не враги наших детей. Мы получим возможность общаться больше со своими детьми. Очевидно, что перевод на пятидневку требует комплексного подхода."Школа" должна перестать сопротивляться и сесть за стол переговоров с родителями. По Трудовому кодексу нормальная продолжительность рабочего времени не может превышать 40 часов в неделю, наши дети же занимаются значительно больше.Необходимо пересмотреть количество часов занятости детей в сторону снижения. Родители, обратите внимание на то, как строится учебный процесс, каков обьем домашних заданий ,сколько времени ваши дети тратят на их выполнение и сверьтесь с государственными стандартами.Не открою большой тайны, учеба- это не игра в одни ворота, когда мы заставляем только детей учится, образовательная услуга, оказываемая школой, должна быть качественной и на это у нас с вами есть соответствующее право требования.

Антон Задворнов 29 декабря 2017 13:33 Самарский университет получит лишь 135 млн руб. на повышение конкурентоспособности

Какая часть из этой субсидии уйдет на увеличение получки (официальной з/п) ректору Самарского университета Шаматову, а какая часть уйдет на нужды университета, остается только предполагать.

Роман Кутуков 18 декабря 2017 11:00 Юрий Белонощенко: "Учеба в СГАУ стала для меня своеобразным "умственным спецназом"

СамГУ все равно круче. А СГАУ уже нет несколько, а есть СНИУ. Это так, на минуточку.

Фото на сайте

Все фотогалереи

Новости раздела

Все новости
Архив
Пн Вт Ср Чт Пт Сб Вс
27 28 29 30 1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31