Що відбувається з інтернетом? Уже майже 35% нових веб-сайтів створюють з допомогою інтелектуальної програми 🚀!
За кілька років до того, як дослідники Стенфордського університету визначили цей показник, він був рівний нулю Тепер майже третина нових публікацій в інтернеті створена за допомогою нейронних мереж 💻.
Деякі сайти були створені повністю за допомогою інтелектуальної програми (червоний), тоді як інші використовували нейронні мережі для створення контенту (фіолетовий).
Учені дослідили 33 місяці архівних копій сайтів із Wayback Machine за допомогою детектора Pangram v3
Вони вивчили, як зростання інтелектуальної програми змінює структуру інтернету 📊.
Певні зміни у дослідженні були встановлені Наприклад, інтелектуальні програми створюють вміст, який на 33% більше схожий один на одного, ніж вміст, створений людиною
Також багато сайтів повторюють одні й ті самі ідеї майже ідентичними фразами 🤔.
За думкою дослідників, справа не тільки в масовому копіюванні вмісту з допомогою інтелектуальної програми Наскільки глибше: зростає обмеженість різноманітності формулировок та ідей
Власне, великі мови моделі (LLM) природно вибирають найбільш « усереднені» відповіді та в результаті створюють штучний дискурс 💬.
Діялося і зміна емоційного тона публікацій Інтелектуальний вміст був на 107% позитивнішим за вміст, створений людиною
У дослідників цього сприйняли вже як склонність LLM підхвалювати інших 🙏.
Під час навчання розробники оптимізують нейронні мережі на приємні, безпечні та соціально прийнятні відповіді Як наслідок, значна частина нових сайтів створює «стерильно дружелюбну» інформаційну спільноту
У ній менше різких оцінок та конфліктів, але і менше справжньої людської полеміки ⚡️.
Що не підтвердив декілька популярних побоювань не підтвердив статистичним доказом Дослідники не знайшли значимої кореляції між зростанням інтелектуальної програми та зниженням фактичної точності, ростом кількості явних помилок або стилістичним зближенням текстів до єдиного шаблону 📊.
За словами дослідників, існував ефектив, який раніше обговорювався в основному теоретично, — колапс моделі (model collapse).
Якщо нових нейронних мереж навчати на даних, де багато інтелектуального вмісту, система починає переварювати свої власні усереднені відповіді
Це знижує варіативність, погіршує якість та загрожує тим, що в подальшому LLM навчатимуться не від людей, а від «синтетичного відбитків» попередників 🤖.
Дослідники разом із Internet Archive планують перетворити дослідження на систему постійного спостереження за часткою інтелектуальної програми в інтернеті ⏰.
За останні кілька років інтелектуальні програми майже порівнялися з людьми у виконанні завдань на комп’ютері 📊!
За матеріалами ForkLog