Google премахна AI обобщенията за здравни търсения заради подвеждаща информация
Google премахна AI обобщенията в здравните търсения, след като се установи, че в някои случаи предоставят неточна и подвеждаща медицинска информация на потребителите.
Важна информация:
- Изкуственият интелект на Google е давал подвеждащи и непълни отговори при здравни запитвания.
- След разкритията Google премахна AI обобщенията за медицински търсения.
- От компанията съобщиха, че работата по подобряване на системата продължава.
С навлизането на изкуствения интелект във все повече аспекти от ежедневието ни, възникват и сериозни въпроси относно надеждността му в най-чувствителната сфера – здравето. Последният пример за това са AI обобщенията, които Google показваше най-отгоре в резултатите от търсенето.
Според проведени разследвания, тези автоматично генерирани обобщения понякога са предоставяли неточна, непълна или прекалено обща медицинска информация.
Какво предизвика скандала?
Искрата беше запалена от разследване на британския вестник The Guardian. В публикувания доклад се посочва, че при търсения като:
„Какви са нормалните стойности на чернодробните изследвания?“
изкуственият интелект е показвал прекалено общи референтни стойности, без да отчита важни фактори като:
- възраст
- пол
- етническа принадлежност
- здравословно състояние
В медицината обаче тези параметри са изключително важни. В резултат:
- болен човек може да реши, че резултатите му са нормални
- здрав човек може да изпадне в излишна паника
Реакцията на Google
След публикуването на доклада Google незабавно предприе действия и премахна AI обобщенията от резултатите при здравни търсения.
В момента при заявки като:
„нормални стойности на чернодробни ензими“
вече не се показва AI обобщение. При някои по-специфични търсения системата все още понякога се активира, но в голямата си част функцията е ограничена.
Обобщенията все още са в процес на доработка
От Google излязоха с официално изявление, в което заявиха, че:
- продължават мащабни подобрения на AI обобщенията
- специален екип от лекари преглежда чувствителните заявки
- голяма част от информацията всъщност идва от реномирани медицински източници, но контекстът не винаги е правилно интерпретиран
Случаят показва, че изкуственият интелект все още не е готов да замени медицинските специалисти и че при здравни въпроси най-сигурният източник остава лекарят.
Google, изкуствен интелект, AI обобщения, здравни търсения, медицинска информация, грешна информация Google, AI в медицината, Google Search, подвеждащи резултати, здраве интернет, търсене в Google, AI грешки.
Защо AI не е готов за медицински съвети?
Въпреки огромния напредък на изкуствения интелект през последните години, медицината остава една от най-сложните и рискови области за автоматизирани системи. Причината е, че почти всеки медицински резултат трябва да се тълкува в контекст — възраст, пол, минали заболявания, медикаменти, начин на живот и десетки други фактори.
AI моделите като тези, използвани от Google, работят основно със статистически вероятности и обобщения от публично достъпна информация. Това означава, че:
- Те не могат да поставят диагноза
- Не могат да преценят индивидуален риск
- Не могат да заместят лекарска консултация
- Могат да пропуснат редки, но опасни състояния
Именно поради това дори малка неточност в здравна информация може да има реални и сериозни последици за хората.
Как работят AI обобщенията в Google?
AI обобщенията (AI Overviews) са създадени, за да събират информация от множество източници и да я представят в кратък, разбираем формат в горната част на резултатите от търсенето.
Проблемът идва от това, че:
- Системата не проверява медицинската валидност на всяка информация
- Не прави разлика между общи и клинични стойности
- Понякога комбинира данни от различни контексти
- Може да използва остарели или непълни източници
В сферата на здравето това е особено опасно, защото потребителите имат склонност да се доверяват на първия резултат, който виждат.
Какво означава това за потребителите?
След промените:
- При медицински търсения вече няма да се показват AI обобщения
- Потребителите ще виждат класическите резултати от авторитетни сайтове
- Това намалява риска от грешно самодиагностициране
- Насърчава хората да търсят лекарска помощ, вместо да разчитат на AI
Google на практика признава, че здравето не е подходяща сфера за експерименти с автоматизирани отговори.
Удар по доверието в AI?
Този случай е сериозен сигнал, че дори най-големите технологични компании все още нямат напълно надеждни решения за чувствителни теми като здравето.
Експерти предупреждават, че:
- Подобни грешки могат да доведат до регулаторни санкции
- Могат да намалят доверието в AI технологиите
- Ще принудят компаниите да въведат по-строг контрол и филтриране
Какво да очакваме в бъдеще?
Google заяви, че:
- Работи по специални медицински филтри
- Използва екипи от лекари за проверка на съдържанието
- Ще върне AI обобщенията в здравните търсения само когато станат напълно безопасни
Вероятно в бъдеще ще виждаме:
- Ясни предупреждения
- Ограничения по теми
- Специални „проверени“ медицински отговори
Решението на Google да премахне AI обобщенията от здравните търсения е правилна и отговорна стъпка. То показва, че дори най-модерните технологии имат граници, когато става въпрос за човешкото здраве.