ТюмГУ: новые исследования искусственного интеллекта

Новый подход к разработке искусственного интеллекта (ИИ) предложили ученые Тюменского государственного университета (ТюмГУ). По их словам, модель, созданная на основе анализа существующих систем и широкого спектра исследований в этой сфере, ляжет в основу будущего ИИ, который будет "застрахован" от ошибок и способен к абстрактному мышлению. Статья опубликована в журнале Mind and Matter.

Системы с элементами искусственного интеллекта помогают человеку облегчить и автоматизировать принятие решений во множестве сфер: от домашнего хозяйства до войны. В будущем, по словам ученых ТюмГУ, ИИ будет принимать все больше решений без вмешательства человека. Из-за этого возникает необходимость в таких подходах к архитектуре ИИ, которые гарантированно позволят избежать неприемлемых рисков.

Роботы и системы ИИ, применяемые сегодня, например, для вождения автомобилей, прогнозирования поведения потребителей и даже для вынесения судебных решений, выводят свои ответы статистически, основываясь на массиве проанализированных примеров. Подобные системы могут быть очень эффективны в определенных вычислительных задачах, но пока они далеки от "общего" или "сильного" искусственного интеллекта. Поэтому, по словам ученых, нередки случаи принятия ИИ некорректных и неэтичных решений.

Пока ИИ ориентируется на заданный набор образцов, не имея возможности переоценить или расширить его практически в реальном времени, будет риск, что автоматическое решение окажется неправильным, считают ученые ТюмГУ.

Чтобы снизить подобные риски, специалисты университета предложили подход к разработке ИИ, который позволит сделать его более интеллектуальным и "сознательным". По словам авторов, их модель архитектуры искусственного интеллекта объединяет результаты широкого спектра физических, математических, когнитивных, философских и других исследований в этой области.

“Мы вывели ключевой признак наличия у системы "общего ИИ": она должна быть способна понимать и уметь применять разные модели своего окружения, то есть, проще говоря, разные "мировоззрения" или "теории". Ориентируясь на "теории", как на определенные парадигмы оценки данных, ИИ не только сможет "смотреть на ситуацию по-разному", но и выводить новые принципы, законы, уместные для данной сферы”, – рассказал исследователь Школы перспективных исследований (SAS) ТюмГУ Луи Вервурт.

Мыслить абстрактно, как объяснили ученые, и для человека, и для машины значит использовать согласованные модели и концептуальные рамки, которые позволяют изучать мир с разных ракурсов, расширяя взаимодействие с ним.

"Этическая проблема с ИИ заключается не в том, что у машин нет общего "человеческого" понимания мира, которое включало бы однозначные моральные позиции и идею моральной ответственности. Высокоуровневое познание, сознание и этическое поведение проистекают из одного источника – из способности овладевать широкими концептуальными рамками, а не только специальными задачами. Мы считаем, что этот процесс можно воспроизвести и в машине", – объяснил Луи Вервурт.

Предложенный подход имеет некоторое сходство с теорией сознания высшего порядка Дэвида Розенталя, а также с элементами концепции глобального рабочего пространства Бернарда Баарса. По словам ученых ТюмГУ, эти теоретические модели сознания и абстрактного познания были поддержаны недавними экспериментальными исследованиями в области когнитивной нейробиологии в Массачусетском технологическом институте (Кембридж, Массачусетс, США).

13/10/2021

Источники: https://ria.ru