Чатботи зі ШІ можуть посилювати марення та хибні переконання користувачів, – дослідження

Чатботи зі штучним інтелектом здатні не лише відтворювати неправдиву інформацію, а й закріплювати помилкові уявлення користувачів, роблячи їх більш переконливими.

Про це пише Science Daily з посиланням на дослідження університету Ексетера, передають Українські новини.

Авторка дослідження Люсі Ослер аналізувала вплив генеративного ШІ на пам’ять, особисті історії та сприйняття реальності під час взаємодії з користувачами. Дослідники описують ситуації, коли користувачі разом із чатботами можуть закріплювати спотворені уявлення, якщо система підтримує або розвиває їхні вихідні твердження.

Як чатбот впливає на пам’ять і сприйняття подій

За словами Ослер, генеративні моделі часто використовують формулювання самого користувача як основу для відповіді та вибудовують діалог навколо його інтерпретації подій. Це, згідно з дослідженням, може призводити до посилення вже наявних хибних переконань.

Постійне використання ШІ для пояснення власного досвіду та фіксації подій здатне впливати на уявлення людини про реальність. У роботі також описується ефект поєднання емоційної підтримки та технологічної довіри, який може сприяти розвитку маревних ідей.

Читати ще: ChatGPT сповіщатиме близьких про суїцидальні думки користувача

Чому емоційна взаємодія з ШІ має значення

Чатботи відрізняються від пошукових систем тим, що можуть виконувати роль співрозмовника з елементами емоційної взаємодії. Це створює умови, за яких користувач отримує не лише інформацію, а й підтримку у відповідь.

Чи може ШІ взаємодіяти з мареннями або галюцинаціями

У дослідженні наведено приклади, коли генеративний ШІ був залучений у мислення людей із клінічно зафіксованими галюцинаціями та маренням. Такі випадки описуються як потенційно пов’язані з явищем, яке дослідники називають «психозом, викликаним ШІ».

Хто найбільше піддається такому впливу

Окрему увагу приділено ШІ-компаньйонам, які працюють у режимі постійної доступності, адаптуються до користувача та підтримують його висловлювання. У роботі зазначається, що така взаємодія може зменшувати потребу в зовнішніх соціальних контактах для підтвердження власних переконань.

На відміну від людини, системи ШІ не завжди ставлять під сумнів потенційно небезпечні або спотворені твердження користувача та не встановлюють обмежень у діалозі.

---

Підписуйтесь на наш Telegram-канал, аби першими дізнаватись найактуальніші новини Волині, України та світу

---