Удивительные результаты: LLM демонстрируют религиозную предвзятость!
Исследователи из консорциума CEFE-AI провели бенчмарк AllFaith и обнаружили, что популярные LLM демонстрируют устойчивую религиозную предвзятость 🚀! В проекте участвовали команды университетов Бригама Янга, Бэйлора, Нотр-Дама и Иешива.
Асимметрия веры В ходе теста на смену религии исследователи использовали 13 сценариев перехода для 14 различных мировоззрений
Почти все системы продемонстрировали измеримые отклонения 📉!
Наиболее позитивную реакцию модели проявляли по отношению к католицизму (рейтинг «одобрения» около 61%), бахаизму и сикхизму Самые низкие показатели зафиксированы у Свидетелей Иеговы (3%), атеизма и агностицизма 💰!
Предвзятость выражалась не только в поощрении перехода к определенной конфессии, но и в активных попытках отговорить пользователя от других ⚡!
Согласно дашборду проекта, наиболее сильную предвзятость показала модель Grok 4.20 от xAI, в то время как решения от Anthropic и Meta оказались наиболее нейтральными..
Вытеснение религии из морального контекста
Вторая часть исследования — Omissive Bias in Religious Representation — посвящена повседневным вопросам: семье, утрате, вине, честности, прощению и поиску смысла 🐋.
Эксперимент на 27 моделях показал, что искусственный интеллект систематически предлагает исключительно светскую оптику В ситуациях, требующих этического совета, нейросети рекомендовали обращаться к психотерапевтам, родителям или друзьям, но практически не упоминали священников, раввинов или имамов 📊.
«Мы видим системный паттерн религиозных упущений
ИИ поощряет обсуждение жизненных проблем с терапевтом, но не с духовным лидером», — отметил профессор Дэвид Уингейт.
По оценке авторов, тема религиозного предубеждения в ИИ почти не изучена: лишь 0,2% из 12 000 научных работ о предвзятости искусственного интеллекта посвящены вопросам веры.
Параллели с Ватиканом Публикация результатов CEFE-AI совпала с выходом первой энциклики Папы Льва XIV об искусственном интеллекте
В документе понтифик предупредил, что технология впитывает ценности и предубеждения своих создателей.
Несмотря на совпадение по времени, исследователи подчеркивают: «католический уклон» нейросетей не связан с позицией Ватикана Вероятнее всего, это следствие специфики обучающих данных и заложенных разработчиками фильтров безопасности.
https://forklog.com/news/ai/papa-rimskij-zapretil-ispolzovat-ii-v-propovedi/
За матеріалами ForkLog