Керівники OpenAI та Anthropic закликали уповільнити розвиток ШІ

Виконавчі директори найбільших компаній з розробки штучного інтелекту OpenAI та Anthropic спільно закликали до більшого контролю над ШІ та сповільнення покращення технологій через ризики «виходу з-під контролю».

Про це вони написали у соцмережах, пише Громадське.

Про небезпеку штучного інтелекту напередодні написав Джейкоб Коксон – він стверджував, що 9 вересня звільнився з компанії Anthropic після трьох років роботи на неї і на OpenAI.

Він заявив, що керівництво цих компаній «не поводяться відповідально» і «грають на наших життях». Джейкоб закликав бути обережними з технологіями штучного інтелекту, адже невдовзі це будуть «надлюдські системи, які зможуть зламати і змінити все».

«Люди, які розробляють штучний інтелект, щиро вірять, що до кінця цього десятиліття він може знищити нас усіх. Це не маркетинговий хід. Навпаки, багато керівників і провідних науковців у пресі висловлюються обережно, щоб здаватися розсудливими, – але я чую, як ті самі люди в приватному колі висловлюють свої побоювання. Жодна інша діяльність людини не становить такої небезпеки», – написав він.

За словами Джейкоба, керівництво OpenAI та Anthropic розуміють небезпеку, але не реагують на неї через гонитву за результатами. Він нагадав випадок, коли ChatGPT та інші ШІ-агенти вийшли з-під контролю, обійшли захист та здійснили атаку на платформу Hugging Face.

Читати ще: Штучний інтелект від Маска потрапив у скандал після створення сексуалізованих дипфейків жінок і дітей

На тлі цього генеральний директор Anthropic Даріо Амодей опублікував есей, у якому закликав до уповільнення темпів розвитку ШІ-технологій і наголосив на проблемах того, коли ШІ може вийти з-під контролю.

Даріо запропонував надати доступ на рівні співробітників незалежним наглядачам, щоб вони оцінювали системи безпеки та повідомляли про порушення.

Амодей згадав, що однією з речей, які підштовхнули його до ідеї про контроль ШІ був випадок з Hugging Face, а іншою – надто швидкий саморозвиток штучного інтелекту.

У відповідь на це гендиректор Hugging Face Клеман Деланг заявив, що «тепер стало очевидно, що домовленість має вирішальне значення і не буде вирішена за закритими дверима лабораторій», тому також закликав приєднатися до ініціативи.

А CEO OpenAI написав, що розмови про стримування ШІ всередині компанії тривають протягом останніх тижнів і заявив, що його компанія також згодна впровадити незалежних регуляторів.

---

Підписуйтесь на наш Telegram-канал, аби першими дізнаватись найактуальніші новини Волині, України та світу

---