ИИ уходит от разговора о религии, когда люди спрашивают о смысле жизни, показало исследование

В начале июля на вебинаре Форума G20 по межрелигиозному диалогу (G20 Interfaith Forum) эксперты представили данные о том, как искусственный интеллект отвечает на вопросы, касающиеся веры, сообщает «Богослов.RU».

Дэвид Уингейт (David Wingate), профессор компьютерных наук Университета Бригама Янга и руководитель Консорциума по оценке веры и этики в ИИ (CEFEAI), сообщил о четырёх ключевых наблюдениях. Анализ примерно трёх миллионов научных статей показал, что религия практически не изучается в контексте проблемы справедливости и предвзятости в ИИ. Модели проявляют неодинаковое отношение к разным конфессиям. И самое показательное: когда пользователи задают ИИ повседневные вопросы о смысле жизни, целях, утрате или счастье, системы почти никогда не упоминают религию, хотя опросы показывают, что люди ожидают её упоминания именно в этих случаях.

Майкл Грэм (Michael Graham), программный директор Центра культурной апологетики Келлера при Евангельской коалиции (The Gospel Coalition), рассказал о своём эксперименте: его команда взяла семь наиболее частых вопросов о христианстве из поисковиков и протестировала их на семи популярных платформах. Оказалось, что платформы ведут себя по-разному: две подталкивают пользователей к христианству, две — уводят от него, а три дают плюралистические ответы, в которых каждой религии отводится лишь по 75–125 слов. Грэм назвал такой подход «иллюзией религиозной грамотности» и предложил альтернативную модель «принципиального плюрализма»: если вопрос касается конкретной веры, ответ должен в основном опираться на неё, а другие точки зрения предлагаться только по запросу пользователя. В октябре выйдет обновлённый бенчмарк, который добавит сто этических ситуаций на основе Десяти заповедей, проверку на способность моделей к недопустимым эмоциональным связям с пользователем и экзамен по знанию Библии.

В ходе дискуссии эксперты пояснили, что предвзятость в ИИ возникает главным образом из-за того, что модели обучаются на данных из интернета, где много противоречивых мнений, и это не является результатом злого умысла разработчиков.