Функція «Огляд ШІ» від Google видає мільйони помилкових відповідей щогодини

Заснована на технології генеративного штучного інтелекту функція «Огляд ШІ» у пошуковій системі Google не у всіх запитах показує точну відповідь.

Про це йдеться у спільному дослідження американської газети The New York Times і стартапу Oumi, передає Укрінформ.

У 2024 році Google почав розміщувати відповіді, згенеровані штучним інтелектом, у верхній частині сторінки результатів пошуку. Новий продукт «Огляд ШІ» (AI Overviews) допоміг перетворити Google з куратора інформації на видавця.

Нещодавній аналіз AI Overviews показав, що ці відповіді були точними приблизно в дев’яти з десяти випадках.

З огляду на те, що Google обробляє понад п’ять трильйонів пошукових запитів на рік, це означає, що він видає десятки мільйонів помилкових відповідей щогодини (або сотні тисяч неточностей щохвилини).

Більше як половина точних відповідей були «необґрунтованими», тобто вони посилалися на вебсайти, які не повністю підтверджували надану ними інформацію.

На прохання The New York Times, Oumi проаналізував точність відповідей AI Overviews за допомогою тесту під назвою SimpleQA, який широко використовується в галузі для вимірювання точності систем на основі штучного інтелекту.

Читати ще: Перший український національний ШІ отримав назву «Сяйво»

Стартап протестував систему Google у жовтні, коли на найскладніші запитання відповідали за допомогою ШІ-технології під назвою Gemini 2, а потім знову в лютому, після оновлення потужнішої технології до Gemini 3.

В обох випадках аналіз Oumi зосередився на 4 326 пошукових запитах Google.

За підсумками перевірки, стартап виявив, що результати були точними у 85% випадків з Gemini 2 та у 91% випадків з Gemini 3.

У Google визнають, що його функція «Огляд ШІ» може містити помилки.

Дрібним шрифтом під кожним оглядом ШІ написано: «Штучний інтелект може помилятися, тому перевірте відповіді ще раз».

Проте у Google зауважили, що аналіз Oumi був хибним, оскільки він спирався на бенчмарк-тест, створений компанією OpenAI, який сам містив невірну інформацію.

Пратік Верма, головний виконавчий директор Okahu, компанії, яка допомагає людям розуміти та використовувати технології штучного інтелекту, вважає, що технологія Google приблизно така ж точна, як і будь-яка з провідних систем штучного інтелекту.

Водночас він закликав людей перевіряти отриману інформацію.

---

Підписуйтесь на наш Telegram-канал, аби першими дізнаватись найактуальніші новини Волині, України та світу

---