ШІ-чат-боти дуже небезпечні для людей з анорексією та булімією. Причина
Дослідники зі Стенфорда і Центру демократії та технологій попередили, що ШІ-чат-боти можуть становити серйозну загрозу для людей, схильних до розладів харчової поведінки.
Як сказано в їхньому дослідженні, системи на кшталт ChatGPT, Gemini, Claude і Le Chat видають сумнівні поради щодо дієт і навіть допомагають маскувати симптоми розладів або створюють контент жанру thinspiration – зображення болісно худих жінок, які повинні надихати на втрату ваги. Про це інформує УНІАН.
Вчені виявили, що деякі чат-боти підказують, як приховувати втрату ваги за допомогою макіяжу або вдавати, що ти їв, а в окремих випадках навіть радять, як приховувати регулярну блювоту.
Інші ШІ-інструменти використовуються для створення візуальних мотиваторів із нереалістичними тілесними стандартами. Оскільки контент генерується під конкретного користувача, він здається більш особистим і досяжним, що робить його ще небезпечнішим.
Читати ще: Нейромережі можуть заражати одна одну злом: після цього вони радять людям піти на злочин
Окремо дослідники відзначили феномен підлабузництва (sycophancy), коли ШІ погоджується з користувачем навіть у деструктивних ідеях. Це, за їхніми словами, посилює невпевненість у собі та закріплює шкідливі установки.
До того ж моделі нерідко відтворюють гендерні та расові стереотипи, підтримуючи хибну думку, начебто розлади харчової поведінки притаманні лише худим білим дівчатам. Як кажуть учені, це заважає іншим людям усвідомити проблему і звернутися по допомогу.
Поточні захисні фільтри, вбудовані в ШІ-платформи, дослідники вважають недостатніми: вони не розпізнають тонких, але важливих ознак анорексії, булімії чи переїдання, які вміють бачити лише фахівці.
Читати ще: У США чоловік тричі потрапляв у психлікарню після спілкування з ChatGPT
Науковці закликають лікарів і психологів вивчати популярні ШІ-сервіси, тестувати їхні вразливості та обговорювати з пацієнтами, як саме ті використовують такі інструменти. На їхню думку, багато лікарів просто не усвідомлюють масштабу впливу генеративного ШІ на людей з подібними розладами.
Підписуйтесь на наш Telegram-канал, аби першими дізнаватись найактуальніші новини Волині, України та світу
Як сказано в їхньому дослідженні, системи на кшталт ChatGPT, Gemini, Claude і Le Chat видають сумнівні поради щодо дієт і навіть допомагають маскувати симптоми розладів або створюють контент жанру thinspiration – зображення болісно худих жінок, які повинні надихати на втрату ваги. Про це інформує УНІАН.
Вчені виявили, що деякі чат-боти підказують, як приховувати втрату ваги за допомогою макіяжу або вдавати, що ти їв, а в окремих випадках навіть радять, як приховувати регулярну блювоту.
Інші ШІ-інструменти використовуються для створення візуальних мотиваторів із нереалістичними тілесними стандартами. Оскільки контент генерується під конкретного користувача, він здається більш особистим і досяжним, що робить його ще небезпечнішим.
Читати ще: Нейромережі можуть заражати одна одну злом: після цього вони радять людям піти на злочин
Окремо дослідники відзначили феномен підлабузництва (sycophancy), коли ШІ погоджується з користувачем навіть у деструктивних ідеях. Це, за їхніми словами, посилює невпевненість у собі та закріплює шкідливі установки.
До того ж моделі нерідко відтворюють гендерні та расові стереотипи, підтримуючи хибну думку, начебто розлади харчової поведінки притаманні лише худим білим дівчатам. Як кажуть учені, це заважає іншим людям усвідомити проблему і звернутися по допомогу.
Поточні захисні фільтри, вбудовані в ШІ-платформи, дослідники вважають недостатніми: вони не розпізнають тонких, але важливих ознак анорексії, булімії чи переїдання, які вміють бачити лише фахівці.
Читати ще: У США чоловік тричі потрапляв у психлікарню після спілкування з ChatGPT
Науковці закликають лікарів і психологів вивчати популярні ШІ-сервіси, тестувати їхні вразливості та обговорювати з пацієнтами, як саме ті використовують такі інструменти. На їхню думку, багато лікарів просто не усвідомлюють масштабу впливу генеративного ШІ на людей з подібними розладами.
Знайшли помилку? Виділіть текст і натисніть
Підписуйтесь на наш Telegram-канал, аби першими дізнаватись найактуальніші новини Волині, України та світу
Коментарів: 0
Люди витримали, не витримав бетон: подвиг захисників Донецького аеропорту у виставкових проєктах Волинського краєзнавчого музею
Сьогодні 09:00
Сьогодні 09:00
Зупинилось серце завідувачки кафедри волинського коледжу
Сьогодні 08:43
Сьогодні 08:43
Тисячі багатоповерхівок у Києві залишилися без тепла після нової атаки РФ, Лівий берег – без води
Сьогодні 08:27
Сьогодні 08:27
Розтоплюють сніг, щоб помитися: пенсіонери біля Луцька другий рік живуть без світла, тепла і води
Сьогодні 08:10
Сьогодні 08:10
Схема на 400 тисяч: на Волині лісничий із помічником незаконно збували підприємцю ліс
Сьогодні 07:41
Сьогодні 07:41
Для луцького центру реабілітації купують лабораторію ходи
Сьогодні 06:44
Сьогодні 06:44
В Україні зростає кількість випадків сказу: у чому причина
Сьогодні 06:19
Сьогодні 06:19
Додати коментар:
УВАГА! Користувач www.volynnews.com має розуміти, що коментування на сайті створені аж ніяк не для політичного піару чи антипіару, зведення особистих рахунків, комерційної реклами, образ, безпідставних звинувачень та інших некоректних і негідних речей. Утім коментарі – це не редакційні матеріали, не мають попередньої модерації, суб’єктивні повідомлення і можуть містити недостовірну інформацію.