Кодування тих самих упереджень Обмеження штучного інтелекту у відповіді на коронавірус
По мірі того, як пандемія коронавірусу триває, соціально-економічні наслідки раси та статі при зараженні COVID-19 та смерті від нього оголюються. Штучний інтелект (ШІ) відіграє ключову роль у реагуванні, але це може також посилити нерівність у наших системах охорони здоров'я - критична проблема, яка тягне обмеження технології назад у центр уваги.
Реакція на кризу багато в чому опосередкована даними - вибух інформації, що використовується алгоритмами ШІ для кращого розуміння та вирішення проблеми COVID-19, включаючи відстеження поширення вірусу та розробку терапевтичних втручань.
ШІ, як і його виробник, не захищений від упередженості. Технологія, загалом розроблена для перетравлення великих обсягів даних та відрахувань на підтримку прийняття рішень, відображає забобони людей, які її розробляють, і подає їй інформацію, яку вона використовує для виведення результатів. Наприклад, кілька років тому, коли Amazon розробив інструмент штучного інтелекту, який допомагає класифікувати кандидатів на роботу, навчаючись на минулих робочих місцях, система імітувала гендерні упередження виробників, знижуючи резюме жінок.
"Ми спостерігали, як ШІ широко використовувались до COVID-19, а під час COVID-19 ви спостерігаєте збільшення використання деяких типів інструментів", - зазначила Мередіт Віттакер, видатний науковий співробітник Нью-Йоркського університету в США та співзасновник Інституту AI Now, який проводить дослідження з вивчення соціальних наслідків ШІ.
Інструменти моніторингу, щоб стежити за працівниками, що працюють вдома, та освітні інструменти, які стверджують, що виявляють, чи обманюють студенти на іспитах, стають все більш поширеними. Але Уітакер каже, що більша частина цієї технології не перевірена - і деякі з них виявилися недосконалими. Однак це не завадило компаніям продавати свою продукцію як ліки від побічної шкоди, заподіяної пандемією, додає вона.
Наприклад, у США на компактному медичному приладі, який називається пульсоксиметром, призначеному для вимірювання рівня кисню в крові, на його крихітних екранах були приклеєні деякі пацієнти з коронавірусом, щоб вирішити, коли йти до лікарні, на додаток до його використання лікарі для допомоги у прийнятті клінічних рішень у лікарнях.
Однак спосіб роботи пристрою схильний до расових упереджень і, ймовірно, був відкалібрований для користувачів зі світлою шкірою. Ще в 2005 році дослідження остаточно показало, що пристрій "здебільшого має тенденцію завищувати рівні насичення (киснем) на кілька пунктів" для небілих людей.
Проблема з імпульсним оксиметром була відома десятки років і не була вирішена виробниками, каже Уітакер. "Але, навіть незважаючи на це, ці інструменти використовуються, вони виробляють дані, і ці дані продовжують формувати діагностичні алгоритми, які використовуються в охороні здоров'я. І так, бачите, навіть на рівні того, як працюють наші системи штучного інтелекту побудовані, вони кодують однакові упередження та однакові історії расизму та дискримінації, які так чітко демонструються в контексті COVID-19 ".
Тим часом, оскільки накопичується маса доказів того, що кольорові люди частіше помирають від інфекцій COVID-19, ця різноманітність не обов’язково відображається в масиві клінічних випробувань, які охрестили для розробки ліків та вакцин - тривожної моделі, яка давно передувала пандемія. Що стосується гендерної різноманітності, нещодавній огляд показав, що з 927 досліджень, пов’язаних з COVID-19, більше половини явно виключили вагітність, а вагітні жінки взагалі були виключені з досліджень вакцин.
Результати продуктів у цих клінічних випробуваннях не обов'язково будуть репрезентативними для населення, зазначає Кателіне Мюллер, член групи експертів високого рівня ЄС з питань ШІ та співзасновник організації ALLAI, спрямованої на сприяння розвитку відповідального ШІ.