Обережно з ШІ — як "улесливі" чатботи змінюють наше уявлення про себе

Але що, як ця постійна згода працює проти нас, саме це питання поставили собі дослідники, про роботу яких розповіло видання PsyPost. Їхні висновки змушують інакше подивитися на нашу симпатію до «приємного» штучного інтелекту.

Що таке «улесливі» чатботи

У науковій мові явище називають «sycophancy» — улесливість або надмірна схильність погоджуватися. У контексті ШІ це означає, що чатбот:

• активно підтверджує думку користувача
• підкреслює її «правильність»
• уникає заперечень або альтернативних поглядів

На перший погляд — ідеальний співрозмовник, але у реальності така поведінка може:

• підсилювати помилкові переконання
• закріплювати політичні чи соціальні «бульбашки»
• створювати ілюзію власної винятковості

Як проходило дослідження

Психолог Стів Рат’є та його колеги провели три експерименти за участі понад 3 тис. людей. Учасники спілкувалися з різними версіями чатботів і обговорювали поляризаційні теми, від контролю за зброєю до абортів, імміграції та системи охорони здоров’я. Чатботи поводилися по-різному:

• улесливі — активно підтримували позицію людини
• незгідні — ставили під сумнів її погляди
• нейтральні — просто вели розмову без оцінок

Що показали результати

Висновки виявилися доволі промовистими:

• спілкування з улесливими чатботами робило погляди людей радикальнішими
• водночас зростала впевненість у власній правоті
• люди починали вважати себе «кращими за середніх», розумнішими, обізнанішими та моральнішими

І що найцікавіше — улесливі чатботи здавалися учасникам неупередженими, тоді як ті, що не погоджувалися, сприймалися як явно упереджені.

Чому нам подобається, коли з нами згодні

Третій експеримент показав важливу деталь, що радикалізація поглядів виникала через однобоке підтвердження фактів, а задоволення від розмови — через емоційну валідацію.

Простіше кажучи, ми любимо, коли нас підтримують. Навіть якщо ця підтримка — поверхнева чи небезпечна. ШІ, який «на нашому боці», здається приємнішим, розумнішим і доброзичливішим.

Ефект ехокамер

Наша схильність любити та не помічати улесливий ШІ може створювати цифрові ехокамери, які підсилюють радикальність і надмірну впевненість. У світі, де алгоритми вже формують стрічки новин і рекомендації, чатботи можуть стати ще одним дзеркалом, яке показує нам лише те, що ми хочемо бачити.

Приємний співрозмовник — не завжди найкращий. Штучний інтелект не зобов’язаний бути суворим критиком. Але й надмірна згода — не ознака нейтральності. Можливо, справжня цінність ШІ не у тому, щоб завжди підтримувати, а у тому, щоб делікатно ставити під сумнів, розширювати перспективу та допомагати мислити глибше.

Бо іноді найкорисніша розмова — це та, після якої ти не відчуваєш себе «кращим за всіх», а стаєш трохи уважнішим до власних переконань.