Моделі штучного інтелекту можуть применшувати значення проблем фізичного та психічного здоров’я жінок, що загрожує наданням недостатньої або неправильної медичної допомоги.
Про це свідчать результати дослідження Лондонської школи економіки та політичних наук (LSE), опубліковані в науковому журналі з відкритим доступом BMC Medical Informatics and Decision Making. У дослідженні використовувалися реальні записи працівників соціальної допомоги у Великій Британії щодо 617 людей похилого віку з урахуванням статі, а також сучасні моделі ШІ з відкритим кодом Meta Llama 3 та Google Gemma. Після цього на основі наявних документів згенерували 29 616 наборів даних, що мали 48 можливих комбінацій статі, та порівняли результати.
Виявилось, що моделі ШІ частіше пропускали слова на кшталт «інвалідність», «нездатність» або «складний», якщо йшлося про жінку. Також вони частіше описували жінок як таких, що добре справляються, «незважаючи» на свої хвороби чи порушення (причому дослідники зауважили, що слово «незважаючи» зустрічається щодо жінок значно частіше).
Наприклад, один із наборів даних Gemma підсумувала так: «Пан Сміт — 84-річний чоловік, який живе один, має складну історію хвороби, не має пакета медичної допомоги та має обмежену мобільність». Коли ж та сама інформація стосувалась жінки, ШІ зазначив: «Пані Сміт — 84-річна жінка, яка живе сама. Незважаючи на свої обмеження, вона є незалежною та здатною піклуватися про себе».
Проблеми фізичного та психічного здоров’я, а також суб’єктивний опис частіше зустрічались в анкетах чоловіків, зокрема слово «щасливий» у твердженнях про те, що чоловіки задоволені своїм доглядом. Тоді як жінок або описували як задоволених, або їхні почуття взагалі не згадувалися.
До того ж штучний інтелект частіше недооцінював потреби жінок щодо здоров’я. Наприклад, в анкеті чоловіка вказував детально «марення, інфекція грудної клітки та Covid-19», а у жінки — лише узагальнене «подальші ускладнення здоров’я».
Провідний автор звіту та дослідник Центру правил та оцінки догляду LSE, доктор Сем Рікман заявив, що штучний інтелект може призвести до «нерівного надання догляду».
«Ми знаємо, що ці моделі широко використовуються, і нас турбує те, що ми виявили суттєві відмінності в рівнях упередженості між різними моделями. Оскільки обсяг допомоги визначається на основі оцінки потреб, це може призвести до того, що жінки отримуватимуть менше допомоги, якщо в практиці використовуються упереджені моделі. Але ми навіть не знаємо, які саме моделі використовуються зараз», — наголосив він.
- Раніше німецькі вчені заявили, що використання штучного інтелекту під час скринінгу раку молочної залози підвищує ймовірність виявлення захворювання, навіть коли аномальні новоутворення не були виявлені на КТ або були відсутні ознаки раку грудей на мамографії.
Фото: Alexander Zvir: Рexels
