Використання штучного інтелекту у фінансових послугах створює нові етичні пастки, пов’язані з ризиком ненавмисного упередження, а індустрія має замислитися над етичністю нових моделей. Хоч переваги ШІ очевидні, потенційні непередбачувані наслідки менш очевидні.
Як зазначає аудиторська та консалтингова компанія Deloitte, оскільки ШІ впроваджує нові методи прийняття рішень, існує потенціал для дискримінації. Це ставить під сумнів моральні зобов’язання суспільства, якщо рішення негативно впливають на окремі групи.
Там вважають, що розуміння поведінки ШІ має вирішальне значення для виявлення та запобігання моделям, які дискримінують або виключають маргіналізованих осіб чи групи. Попри те, що загадкова природа ШІ іноді може здаватися “магічною”, він має потенціал значно посилити соціальні проблеми у сфері фінансових послуг.
Deloitte вважають, що ШІ можу бути упередженим через вхідні дані, наприклад, встановлювати гендерні, расові чи ідеологічні упередження. Також несуть ризик неповні або нерепрезентативні набори даних, які обмежують здатність ШІ бути об’єктивним. Деякі методи навчання ШІ можуть приховувати, як дані використовуються у рішеннях, створюючи потенціал для дискримінації, наприклад, якщо дані про расу чи стать використовуються у кредитних рішеннях або страхових преміях.
Далі експерти наводять ризик безперервного циклу упередженості. Підсвідома упередженість або брак різноманітності серед команд розробників можуть впливати на те, як навчається ШІ, переносячи упередженість далі в моделі.
Також такі моделі також можуть бути непередбачуваними. Зі зміною ринкових умов може бути важко передбачити, як реагуватимуть моделі.
Безперервне навчання теж може призвести до дискримінації. У міру того, як системи ШІ самовдосконалюються і навчаються, вони можуть набувати нових моделей поведінки, які можуть мати непередбачувані наслідки, наприклад, якщо платформа онлайн-кредитування почне відхиляти заявки на позики від етнічних меншин або жінок частіше, ніж від інших груп. Зрештою, це може призвести до ерозії довіри між фінансовими установами, людьми та машинами.
Крім того, штучний інтелект може ускладнити пояснення рішень, посилюючи вплив потенційної дискримінації.
Водночас у Deloitte зазначають, що штучний інтелект матиме значні переваги для тих, хто бере участь у фінансовому світі. Це стосується виявлення шахрайства з кредитними картками, ШІ-радників, алгоритмічних застосунків для торгівлі акціями.
У компанії наголошують, що нині неможливо передбачити, що саме слід кодувати в ШІ, але зазначають, що це вимагатиме співпраці між державним і приватним секторами для подолання непередбачуваних наслідків для суспільства в міру того, як ШІ трансформує фінансову систему.
Зі збільшенням використання ШІ у фінансових послугах ще більш важливим стане вивчення упередженості даних. Зокрема регулятори не будуть задоволені результатами роботи будь-якого алгоритму, якщо вони не зможуть зрозуміти, що лежить в його основі.
