Если ИИ такой умный, почему он до сих пор не может понять причину и следствие?

Модели с глубоким обучением в отличие от людей имеют возможность очень точно распознавать объекты. Но программное обеспечение все еще не может объяснить, скажем, что вызвало столкновение одного объекта с другим.

Неприятный факт состоит в том, что беспилотный автомобиль, несущийся по шоссе и движущийся по пробкам, меньше понимает, что может стать причиной аварии, чем ребенок, который только учится ходить.

Новый эксперимент показывает, насколько трудно даже самым лучшим системам искусственного интеллекта установить элементарную логическую связь между причиной и следствием. В рамках данного эксперимента можно проследить направление для построения систем искусственного интеллекта, которые могут понимать взаимосвязи между явлениями.

Разработкой эксперимента занимались следующие ученые:

— Джош Тененбаум (Josh Tenenbaum), профессор Центра умственных способностей и машин Массачусетского технологического института (MIT)

— Чуанг Ган (Chuang Gan) — исследователь из MIT

— Кексин Йи (Kexin Yi) — аспирант Гарвардского университета.

По словам Джоша Тененбаума эксперимент — это  в первую очередь «попытка выйти за рамки простого распознавания образов, т. к. крупные технологические компании хотели бы иметь системы, которые могут делать подобные вещи».

Самый популярный в последнее время и передовой метод искусственного интеллекта, такой как, глубокое обучение (от англ. deep learning), в последние годы приносит ошеломляющие результаты. Многие исследователи указывают на огромный потенциал данного метода ИИ.

Если говорить коротко, то в основе глубокого обучения лежат многослойные искусственные нейронные сети, которые по сути решают задачу многомерной аппроксимации.

Важно отметить, что современные алгоритмы глубокого обучения часто могут отлично определять закономерности в данных, обеспечивая впечатляющие возможности распознавания изображений и голоса. Но эти алгоритмы абсолютно лишены способностей, свойственных человеку с рождения.

Чтобы продемонстрировать этот недостаток, Тененбаум и его сотрудники создали своего рода интеллектуальный тест для систем искусственного интеллекта. Он включает в себя демонстрацию системе искусственного интеллекта простого виртуального мира, в котором содержатся несколько движущихся объектов. Вместе с этим к каждой сцене есть набор вопросов и ответов о том, что происходит в данный момент. Вопросы и ответы имеют особую метку, по аналогии с тем, как система ИИ обучалась распознаванию кошек на фото. Этот процесс представлял собой длительную демонстрацию нейросетевой модели сотен изображений с пометкой «кошка».

Системы, использующие передовое машинное обучение (machine learning), показали большую «слепую зону». На любой описательный вопрос, такой как «Какого цвета этот объект?» современный алгоритм ИИ даст верный ответ более чем в 90% случаев. Но когда более сложные вопросы о происходящем событии были заданы, тот же алгоритм отвечает правильно лишь в 10% случаев. Вот примеры таких вопросов:

1. Что заставило мяч столкнуться с кубом?
2. Что бы произошло, если бы объекты не столкнулись?

Дэвид Кокс (David Cox), директор IBM из лаборатории MIT-IBM Watson AI Lab, которая участвовала в работе, говорит, что понимание причинно-следственной связи принципиально важно для ИИ. «Мы, люди, способны рассуждать о причине и следствии, и нам нужны системы ИИ, которые могут делать то же самое».

Отсутствие причинного понимания также может иметь реальные последствия. Промышленные роботы могут все чаще определять форму близлежащих объектов для того, чтобы захватывать или перемещать их. Но они не знают, что перемещение чего-либо может привести к его падению или поломке. Если робот не был специально запрограммирован, то невозможно предсказать каждый возможный сценарий его взаимодействия с объектом.

Однако, если робот будет способен рассуждать о причинно-следственной связи, он может избежать проблем, которые могли бы случиться. То же самое верно для беспилотных автомобилей. Новый искусственный интеллект мог бы инстинктивно знать, что, если грузовик свернет и ударится о барьер, его груз может, например, пролиться или рассыпаться на дорогу.

Причинно-следственные рассуждения были бы полезны практически для любой системы ИИ. Системы, обученные с использованием медицинских знаний, а не только на трехмерных моделях различных ситуаций, должны понимать причину заболевания и вероятный результат возможных вмешательств. Причинно-следственные рассуждения вызывают растущий интерес у многих выдающихся деятелей ИИ. 

«Все это направлено на системы ИИ, которые могут не только учиться, но и рассуждать», — говорит Кокс.

Тест, разработанный Тененбаумом, важен, говорит Кун Чжан, доцент, работающий над причинно-следственными связями и машинным обучением в Университете Карнеги-Меллона, поскольку он обеспечивает хороший способ измерения причинно-следственной связи, хотя и в очень ограниченных условиях. 

«Развитие систем ИИ общего назначения значительно выиграет от применения методов определения причинно-следственных взаимосвязей и обучения представлению», — говорит он.

Помимо выявления слабых мест в существующих алгоритмах и методах ИИ, Тененбаум и его коллеги создали новый тип системы искусственного интеллекта. Данная система способна узнавать о причине и следствии с более высокой точностью, согласно уже примененной методике тестирования. 

Их подход сочетает в себе несколько методов искусственного интеллекта. Система использует глубокое обучение для распознавания объектов в сцене. Выходной результат подается на вход программного обеспечения, которое создает 3D-модель сцены и показывает как взаимодействуют объекты.

Подход требует больше действий, выполняемых вручную, нежели многие алгоритмы машинного обучения, и Тененбаум предупреждает, что он ненадежен и плохо поддается масштабированию. При этом есть мнения, что для продвижения развития технологий ИИ потребуется сочетание подобных подходов и некоторых новых идей.

«Наши умы строят причинно-следственные модели и используют эти модели для ответа на произвольные запросы, в то время как лучшие системы ИИ далеки от эмуляции этих возможностей», — говорит Бренден Лэйк, доцент кафедры психологии и наук о данных в Нью-Йоркском университете.

Сэмюэль Гершман, доцент Гарвардского университета, который сотрудничал с Тененбаумом в других проектах, добавляет, что сближение с человеческим интеллектом будет невозможно для машин без некоторого понимания причинно-следственных связей. Он указывает на хорошо известный медицинский факт: женщины реже умирают от употребления большой дозы алкоголя, нежели мужчины. 

«Система искусственного интеллекта без понятия причинно-следственной связи может сделать вывод, что способ снижения смертности заключается в проведении операций по смене пола для мужчин», — говорит он.

Оригинальны текст: wired.com