Штучний інтелект має упередження щодо старших працівниць — це виявили у дослідженні, опублікованому в науковому журналі Nature. Генеративний ШІ на кшталт ChatGPT представляє жінок менш досвідченими та молодшими, тоді як старші чоловіки зображуються успішнішими на роботі. Чому так вийшло і чим це загрожує — розповідаємо на DIVOCHE.MEDIA.
Дослідники зі Стенфорду проаналізували понад 1,4 мільйона зображень та відео з онлайн-платформ, таких як Google, Wikipedia, IMDb, Flickr та YouTube. Вони виявили, що жінок на роботі систематично зображують молодшими за чоловіків, зокрема в професіях із вищим статусом та більшою оплатою праці. Той же результат показав аналіз баз даних зображень, що використовуються для алгоритмів машинного навчання. Штучний інтелект відтворює гендерні упередження, які вже існують у суспільстві, — що не дивно, враховуючи, що ШІ створили люди.
Аби глибше вивчити ці упередження, дослідники попросили ChatGPT створити понад 34 500 унікальних резюме для 54 професій, використовуючи типові чоловічі та жіночі імена. Результат повторився: трудова історія жінок зображувала їх менш компетентними. Після цього дослідники попросили ChatGPT оцінити якість усіх резюме. Найвищі оцінки отримали старші чоловіки, навіть якщо вони мали такий самий досвід, як і вигадані колеги-жінки.
Це не перше дослідження, яке показує упередження щодо жінок старшого віку. У 2017 році Національне бюро економічних досліджень США провело масштабний аналіз вікової дискримінації при працевлаштуванні, яке підтвердило поширеність гендерно-обумовленого ейджизму.
«На основі даних, отриманих із понад 40 тисяч відгуків на вакансії, ми знайшли переконливі докази вікової дискримінації жінок старшого віку при відборі кандидатів, особливо тих, які наближаються до пенсійного віку», — резюмували дослідники.
Жінки старшого віку отримували значно менше відповідей на резюме, ніж їхні молодші колеги, попри однаковий рівень досвіду. Молодші жінки не були компетентнішими, єдиною «перевагою» був вік.
ШІ відтворює вкорінені патріархальні стереотипи, створюючи додаткову «скляну стелю» для жінок
Відбір резюме, як і багато інших процесів при працевлаштуванні, сьогодні автоматизований через ШІ. Він спрощує процес відбору кандидатів за ключовими словами в резюме та визначає тих, хто найбільше відповідає вимогам вакансії.
Інтеграція ШІ в процес найму загрожує викреслити цілу групу кандидаток, зменшуючи їхні й без того знижені шанси на отримання роботи з гідними умовами, зважаючи на нерівну оплату праці та значний тягар хатніх справ.
«Якщо врахувати відмінності в моделях життєвого циклу жінок — з численними перервами в кар’єрі для догляду за дітьми або батьками похилого віку, або ж частими змінами роботи для отримання гнучкого графіка чи підтримки кар’єри партнера, — ймовірність потрапити у вибірку резюме з найвищою продуктивністю у віці старше 45 та на пізніших етапах кар’єри вкрай низька», — пояснювала в інтерв’ю Forbes фаундерка консалтингової агенції з працевлаштування Reframe Work Стела Лупушор.
Інтерв’ю вийшло ще у 2021 році, коли штучний інтелект не був масово доступним. Зараз, коли ШІ-інструменти повсюдно інтегрують у робочі процеси, проблема набуває значно більшого масштабу.
Кожен четвертий працівник може втратити роботу через ШІ. Найбільший ризик — для жінок
Бюро статистики праці США прогнозує скорочення всіх офісних та допоміжних адміністративних посад протягом наступного десятиліття. 70% цих посад займають жінки.
За словами економістки Кейт Бан, генеративний ШІ вже зараз витісняє жінок з робочих місць. Звіт Міжнародної організації праці це підтверджує: частка зайнятих жінок, які відчувають вплив генеративного ШІ, є вищою за аналогічний показник серед чоловіків і зростає зі збільшенням рівня доходу в країні. Громадянки економічно розвиненіших країн світу, таких як США чи Німеччина, мають більші ризики втрати роботи через ШІ.
Найбільше страждає галузь професійних та бізнес-послуг, яка включає юридичні послуги, бухгалтерський облік, офісне адміністрування та канцелярську роботу, що підтримує діяльність компаній. Щомісяця зайнятість жінок у цій галузі знижується, тоді як зайнятість чоловіків зростає з року в рік. З квітня 2024-го до квітня 2025 року жінки втратили загалом 165 тисяч робочих місць у цій галузі, а чоловіки отримали 134 тисячі.
Це створює довгострокові ризики для кар’єри, оскільки жінки мають менше шансів знову працевлаштуватися після звільнення, якщо порівнювати з чоловіками. Упередження штучного інтелекту тільки поглиблюють цю нерівність.
Сайти з пошуку роботи активно використовують ШІ-інструменти, які зменшують шанси знайти нове робоче місце
«Існує поширена думка, що проблема вирішена. Але це не так», — каже про гендерну й вікову дискримінацію Дуглас Гільбо, один з авторів стенфордського дослідження.
За його словами, компанії, що створюють ШІ-моделі для HR-процесів, усвідомлюють їхню упередженість. Наприклад, якщо вакансія пов’язана зі сферою будівництва, система асоціює це з «ремонтом» і пропонує тих, хто краще з цим би впорався, — чоловіків.
«Це відповідає стереотипу про те, що чоловіки краще лагодять речі», — пояснює Гільбо.
Тимчасовим розв’язанням проблеми для багатьох компаній стало застосування фільтрів, які блокують «упереджені» або «стереотипні» матеріали. «Це спрощений підхід», — каже Гільбо, пояснюючи, що фільтр не розпізнає більш комплексні проблеми, такі як гендерний ейджизм. Вони потребують фундаментального рішення — «перенавчання» моделей ШІ. У 2018 році Amazon припинив 10-річну розробку власного ШІ-інструменту для найму, адже той надавав перевагу резюме чоловіків. Перевчати алгоритм було надто довго й дорого.
«Щоб зменшити гендерну упередженість штучного інтелекту, вкрай важливо для навчання систем використовувати дані, які відображають всі статі, раси та спільноти, — наголошує директорка відділу даних, технологій та інновацій в Data-Pop Alliance Зіннья дель Вільяр. — Вони мають відображати різне соціальне походження, культури та ролі, одночасно усуваючи історичні упередження щодо певних професій чи рис характеру за ознакою статі».
На її думку, упередження ШІ значно виходять за межі робочого місця. Голосові асистенти, які за замовчуванням використовують жіночі голоси, підкріплюють стереотипи про жінок як виконавиць допоміжних ролей. Мовні моделі, такі як ChatGPT, асоціюють професію «медсестри» з жінками, а «вченого» — з чоловіками. У критично важливих сферах, як-от охорона здоров’я, штучний інтелект може враховувати саме чоловічі симптоми, що призводить до помилкових діагнозів та неправильного плану лікування жінок. Залучення жінок до процесу розробки ШІ-інструментів сприятиме подоланню гендерного ейджизму.
«ШІ відстежує гендерну репрезентацію на керівних посадах і заохочує використання гендерних квот для розв’язання проблеми нерівності», — ділиться Зіннья дель Вільяр.
Серед успішних кейсів вона називає Zest AI, що проводить незалежну кредитну оцінку за допомогою машинного навчання, покращуючи доступ до послуг мікрофінансування для підприємиць, щоб вони могли отримувати позики та фінансові послуги нарівні з чоловіками. На освітніх платформах Coursera та edX ШІ допоміг виявити нерівність у зарахуванні на курси чоловіків і жінок, а також виявив упередження в навчальних матеріалах, допомагаючи зробити їх більш інклюзивними.
Це доводить, що ШІ може сприяти зменшенню упереджень та нерівності, якщо докласти зусиль. Рішенням може стати впровадження політик, які зобов’язують компанії перевіряти алгоритми на упередженість, відкривати інформацію щодо процесу машинного навчання та відповідати за наслідки рішень. ЄС вже рухається в цьому напрямі: нова стратегія визначить межі врегулювання ШІ, щоб обмежити будь-які прояви дискримінації.
