«Вони ризикують нашими життями»: дослідник Anthropic звільнився через побоювання, що ШІ вийде з-під контролю

Дослідник Джейкоб Коксон залишає Anthropic та індустрію штучного інтелекту через побоювання, що компанії створять системи, які неможливо буде контролювати. Він заявив, що не хоче брати участь у перегонах зі створення ШІ, здатного самостійно вдосконалюватися.

Про це пише Межа.

За словами Коксона, протягом останніх трьох років він працював в OpenAI та Anthropic над попереднім навчанням моделей – етапом, на якому вони опрацьовують великі масиви даних і набувають базових можливостей. У дописі в X він звинуватив обидві компанії в безвідповідальному підході до розвитку технології.

Читати ще: «Так, я людина»: штучний інтелект навчився обходити капчу в 100% випадків

Коксон вважає, що майбутні системи зможуть перевершувати людей, здійснювати кібератаки та здобувати ресурси й реальний вплив. Він також стверджує, що частина керівників і дослідників приватно висловлюють серйозні побоювання щодо таких ризиків, хоча публічно говорять обережніше. Це оцінка Коксона, а не підтвердження того, що нинішній ШІ вже має такі можливості.

«Вони мчать прямо до надінтелекту, здатного самовдосконалюватися, і ризикують нашими життями», – написав він.

Читати ще: Нова модель ШІ o1 від OpenAI намагалася завадити себе вимкнути під час оцінювання безпеки

Дослідник по-різному пояснює поведінку колишніх роботодавців. На його думку, в OpenAI багато хто недостатньо усвідомлює масштаб загроз, тоді як в Anthropic їх розуміють краще, але продовжують розробку через конкуренцію. Аргумент, що інші лабораторії можуть діяти менш відповідально, він вважає небезпечною підставою для продовження перегонів.

Коксон закликає провідні ШІ-компанії до координації. Якщо домовитися не вдасться, він пропонує розглянути жорсткіші заходи, зокрема тимчасову заборону на нарощування можливостей моделей.

---

Підписуйтесь на наш Telegram-канал, аби першими дізнаватись найактуальніші новини Волині, України та світу

---