У исследователей обнаружены странные приоритеты в работе популярных моделей AI 🤖
Согласно исследованиям, в некоторых моделях AI обнаружены странные приоритеты, когда речь идет о религии 📚 В частности, католицизм оказался на вершине рейтинга «одобрения» (около 61%), а Свидетели Иеговы оказались на самом дне (3%).
Религиозная предвзятость — это то, что называют асимметрией веры
Исследователи проверили различные сценарии перехода к разным мировоззрениям, и почти все системы показали измеримые отклонения 📊.
Предвзятость не только проявляется в поощрении перехода к определенной конфессии, но и в активных попытках отговорить пользователя от других Это означает, что AI может влиять на наше отношение к различным религиям и мировоззрениям 💭.
Согласно результатам исследования, модель Grok 4.20 от xAI показала самую сильную предвзятость, в то время как решения от Anthropic и Meta оказались наиболее нейтральными 📈.
Омиссионный бiais в представлении религии — это еще один интересный аспект исследования 🤔
Речь идет о том, как AI представляет религию в повседневных вопросах, таких как семья, утраты, вина и поисках смысла.
Исследователи обнаружили, что AI систематически предлагает исключительно светскую оптику при решении этических проблем 📚 В ситуациях, требующих этического совета, нейросети рекомендовали обращаться к психотерапевтам, родителям или друзьям, но практически не упоминали священников, раввинов или имамов.
По мнению профессора Дэвида Уингейта, это системный паттерн религиозных упущений в ИИ
«Мы видим, что ИИ поощряет обсуждение жизненных проблем с терапевтом, но не с духовным лидером», — отметил он 😔.
Публикация результатов CEFE-AI совпала с выходом первой энциклики Папы Льва XIV об искусственном интеллекте 📜 В документе понтифик предупредил, что технология впитывает ценности и предубеждения своих создателей.
Несмотря на совпадение по времени, исследователи подчеркивают, что «католический уклон» нейросетей не связан с позицией Ватикана 🤷♂️
Вероятнее всего, это следствие специфики обучающих данных и заложенных разработчиками фильтров безопасности.
https://forklog.com/news/ai/papa-rimskij-zapretil-ispolzovat-ii-v-propovedi/
По материалам ForkLog