Залежність від чат-ботів знижує критичне мислення – ШІ сприяє швидшому виявленню фейків – новини технологій

Учасники нового експерименту гірше розпізнавали дезінформацію без підтримки штучного інтелекту.

Дослідження, проведене в Массачусетському технологічному інституті (MIT), виявило, що надмірна залежність від чат-ботів, таких як ChatGPT та Claude, може знижувати здатність людей до критичного мислення. Вчені дійшли висновку, що регулярне використання штучного інтелекту для перевірки інформації може послаблювати навички самостійного виявлення дезінформації, повідомляє The Guardian.

У чотиритижневому експерименті взяли участь 67 осіб зі США та Великої Британії. Їм пропонували визначити, чи є новинні заголовки та зображення справжніми, використовуючи як власні судження, так і допомогу ШІ-системи на базі GPT-4 з інтегрованим пошуком Google.

Дослідники з’ясували, що чат-боти дійсно підвищували точність оцінок. Використання штучного інтелекту збільшувало ймовірність правильно визначити фейковий або справжній контент на 21%.

Проте тривале покладання на підказки ШІ мало й негативний вплив. Коли на четвертому тижні учасникам запропонували оцінювати нові зображення без сторонньої допомоги, їхня результативність виявилася на 15,3% нижчою в порівнянні з початком експерименту.

“Коли ми взаємодіємо зі штучним інтелектом, нам здається, що ми стаємо кращими у певних завданнях, але існує достатньо досліджень, які показують, що це не завжди так”, — зазначила аспірантка MIT і співкерівниця дослідження Анку Рані.

На думку авторів роботи, проблема полягає в тому, що системи ШІ зазвичай орієнтовані на швидке надання правильної відповіді, а не на розвиток аналітичних навичок. Внаслідок цього користувачі можуть дедалі частіше покладатися на рекомендації алгоритмів замість власних роздумів.

Дослідження також показало, що люди часто довіряють відповідям чат-ботів через їхню впевнену манеру подачі інформації. Частина учасників зізналася, що просто погоджувалася з рекомендаціями системи, оскільки вона “звучала компетентно”.

Особливо вражаючим виявився розрив між реальними результатами та самооцінкою користувачів. Майже чверть учасників була впевнена, що їхні навички розпізнавання дезінформації покращилися, хоча фактичні показники свідчили про протилежне.

Автори дослідження підкреслюють, що подібні ризики вже спостерігалися під час впровадження інших технологій. Наприклад, використання калькуляторів вплинуло на навички усних обчислень, а GPS-навігації — на здатність орієнтуватися без електронних підказок.

Незважаючи на це, автори дослідження вважають результати важливими для освітян, які впроваджують ШІ в навчальний процес, та для суспільства, що стикається з масовою онлайн-дезінформацією. Дослідники підсумували, що розвиток складних технологій має стимулювати критичне мислення користувачів, а не формувати когнітивну залежність від ШІ.

Тим часом фінансові компанії та банки все більше розчаровуються в молодому поколінні “аборигенів ШІ”, чиї робочі ідеї після перевірки виявляються поверхневими через брак аналітичних навичок. У результаті індустрія почала скорочувати найм випускників STEM-напрямів, зміщуючи фокус на студентів гуманітарних спеціальностей із розвиненим критичним мисленням.