Google видалив деякі зі своїх медичних звітів на основі штучного інтелекту після того, як розслідування газети Guardian виявило, що люди наражаються на ризик через неточну та оманливу інформацію.
Компанія заявила, що її огляди штучного інтелекту, які використовують генеративний штучний інтелект для надання коротких викладів ключової інформації з певної теми чи питання, є «корисними» та «надійними».
Однак, деякі з цих зведень, які відображаються у верхній частині результатів пошуку, пропонували неточну інформацію про здоров'я, що наражало користувачів на ризик заподіяти шкоду, пише британське видання.
У випадку, який експерти охарактеризували як «небезпечний» та «тривожний», Google надав неправдиву інформацію про ключові тести функції печінки, що потенційно призвело до того, що люди із серйозними захворюваннями печінки помилково вважали себе здоровими.
Як виявило видання Guardian, введення запиту «який нормальний діапазон для аналізу крові на печінку» видало велику кількість значень з незначним контекстом та без урахування національності, статі, етнічної приналежності чи віку пацієнтів.
Експерти заявили, що те, що огляди штучного інтелекту зображують як нормальне, може разюче відрізнятися від того, що насправді вважається нормальним. Такі висновки можуть призвести до того, що тяжкохворі пацієнти помилково вважатимуть, що їхні результати аналізів нормальні, і не з’являться на подальші медичні огляди.
Після розслідування компанія видалила огляди штучного інтелекту для пошукових запитів «який нормальний діапазон для аналізів крові на печінку» та «який нормальний діапазон для аналізів функції печінки».
Речник Google заявив: «Ми не коментуємо окремі видалення в Пошуку. У випадках, коли огляди штучного інтелекту не враховують певний контекст, ми працюємо над загальними покращеннями, а також вживаємо заходів відповідно до наших правил, коли це необхідно».
Ванесса Гебдіч, директорка з комунікацій та політики British Liver Trust, благодійної організації, що займається здоров’ям печінки, сказала: «Це чудова новина, і ми раді бачити видалення оглядів штучного інтелекту від Google у цих випадках. Однак, якщо питання буде поставлено по-іншому, потенційно оманливий огляд штучного інтелекту все ще може відображатися, і ми все ще стурбовані тим, що інша інформація про здоров’я, що надається штучним інтелектом, також може бути неточною та заплутаною».
Видання The Guardian виявило, що введення незначних варіацій оригінальних запитів у Google, таких як «діапазон опорних значень lft» або «діапазон опорних значень lft-тесту», також запускає огляди ШІ. За словами Хебдіча, це викликає серйозне занепокоєння.
«Функційний тест печінки, або LFT, – це сукупність різних аналізів крові. Розуміння результатів та наступних кроків є складним і включає набагато більше, ніж просто порівняння серії цифр. Однак, AI Overviews перелічує тести жирним шрифтом, що може легко ускладнити для читачів розуміння того, що цифри можуть взагалі не відповідати їхньому тесту. Крім того, AI Overviews не попереджає, що людина може мати нормальні результати цих тестів і все одно мати серйозне захворювання печінки та потребувати додаткової медичної допомоги. Це хибне запевнення може бути дуже шкідливим».
Google, який має 91-відсоткову частку світового ринку пошукових систем, заявив, що переглядає нові приклади, надані йому The Guardian.
«Наше найбільше занепокоєння в усьому цьому полягає в тому, що навколо одного результату пошуку здіймається галас, і Google може просто вимкнути огляди штучного інтелекту для цього випадку, але це не вирішує більшої проблеми – оглядів штучного інтелекту в секторі охорони здоров’я», – сказав Хебдіч.
Сью Фаррінгтон, президент Форуму інформації для пацієнтів, організації, яка просуває медичну інформацію на основі доказів для пацієнтів, громадськості та медичних працівників, привітала видалення коротких описів, але сказала, що все ще існують занепокоєння.
«Це хороший результат, але це лише перший, дуже маленький крок у тому, що потрібно для підтримки довіри до результатів пошуку Google, пов’язаних зі здоров’ям. Досі існує забагато прикладів, коли огляди штучного інтелекту Google надають людям неточну інформацію про здоров’я».
Мільйони дорослих у всьому світі вже стикаються з труднощами в доступі до достовірної медичної інформації, сказав Фаррінгтон. «Ось чому так важливо, щоб Google направляв людей до достовірної, дослідженої медичної інформації та пропозицій щодо догляду від перевірених організацій охорони здоров’я».
В оглядах ШІ продовжують з’являтися й інші приклади, на які раніше вказувала Google газета The Guardian. Серед них – короткий виклад інформації про рак та психічне здоров’я, яку експерти назвали «абсолютно неправильною» та «дійсно небезпечною», йдеться у видання.
На запитання, чому ці короткий виклад не було видалено, Google заявила, що вони ведуть до відомих та авторитетних джерел і інформують людей, коли важливо звернутися за порадою експерта.
«Наша внутрішня команда клініцистів переглянула надану нам інформацію та виявила, що в багатьох випадках інформація не була неточною та підтверджувалася високоякісними веб-сайтами», – сказав речник.
Віктор Тангерман, головний редактор технологічного веб-сайту Futurism, заявив, що результати розслідування Guardian показують, що Google ще багато чого потрібно зробити, «щоб гарантувати, що його інструмент штучного інтелекту не поширюватиме небезпечну дезінформацію про здоров'я».
Google заявила, що огляди штучного інтелекту з’являються лише для тих запитів, щодо яких компанія має високий ступінь впевненості в якості відповідей. Як зазначалося, компанія постійно вимірює та перевіряє якість своїх зведень за багатьма різними категоріями інформації.
Старший автор Метт Саузерн у статті для Search Engine Journal написав: «Огляди ШІ відображаються вище за рейтинг результатів. Коли тема стосується здоров’я, помилки мають більшу вагу».
Бонусне відео:
