Наявність лише одного комітету для нагляду за всіма програмами ai покоління не є хорошим варіантом.

За даними McKinsey & Co, фінансові установи мають на меті оновити свої структури управління ШІ, щоб врахувати підвищену складність та більшу кількість точок впливу, пов’язаних з генеративним ШІ.

Більшість поточних угод передбачають наявність однієї групи або комітету, що контролюють всі додатки ШІ покоління. Однак це не підходить для систем ШІ покоління, заявила McKinsey.

«Вони часто включають суміш різних моделей і програмних компонентів, відлуння яких можуть вимагати спеціалізованого нагляду», — написали аналітики McKinsey у звіті за березень 2025 року «як фінансові установи можуть покращити своє управління ШІ покоління».

Керівники з ризиків повинні прийняти нові моделі для управління ризиками ШІ покоління в своїх компаніях, для початку.

«Завдяки новим багатозадачним моделям ШІ покоління банки можуть робити більше. Однак, оскільки моделі навчаються як на публічних, так і на приватних даних, вони можуть видавати інформацію або відповіді, які є невірними, що вводять в оману або сфабрикованими», — пише McKinsey.

Інструменти ai покоління також можуть вводити зобов’язання, пов’язані з вхідним та вихідним IP та його надмірним розповсюдженням. Наприклад, помічник з кодування ai покоління може припустити, що банк використовує обчислювальний код, який має проблеми з ліцензуванням. Це може ненавмисно розкрити фірмові алгоритми банку.

Для боротьби з цим McKinsey заявив, що фінансові установи повинні розробити системи для відстеження того, звідки беруться дані, як вони використовуються та чи відповідають вони правилам конфіденційності.

«Відсутність прив’язки кредитних рішень до вихідних даних може призвести до штрафів з боку регулюючих органів, судових позовів і навіть втрати ліцензії за недотримання. Компаніям необхідно вести облік контенту, згенерованого ШІ, який може змінюватися в залежності від того, що введено», — йдеться у звіті.

Фінансові установи також повинні встановити заходи безпеки для управління ризиками, пов’язаними з правовими та етичними факторами.

«Ці моделі стирають межі між контентом і існуючим контентом, захищеним законами про інтелектуальну власність», — попередила McKinsey. «Крім того, коли моделі покоління AI навчаються на конфіденційних даних, таких як інформація про клієнтів, потрібно більше уваги конфіденційності та дотримання вимог».

McKinsey запропонував фінансовим установам використовувати карту оцінки ризику, щоб визначити, які елементи управління AI покоління потребують оновлення та наскільки нагальною є ця потреба.

Шкала відображає ступінь впливу на клієнтів і рівень людського експертного нагляду за внутрішньою роботою програми ШІ-покоління. Вона також відображає очікуваний фінансовий вплив, стадію розробки програми ШІ-покоління і багато іншого, заявила McKinsey.

Зрештою, людський нагляд необхідний для забезпечення етичного використання ШІ-покоління.

«Наприклад, рецензенти повинні редагувати конфіденційні дані до того, як їх оброблять моделі. Коли справа доходить до якості відповідей, згенерованих ШІ-покоління, фінансові установи повинні створити «золоті списки» питань для тестування моделей», — запропонувала McKinsey.

Вони також повинні вимагати багато відгуків від клієнтів та співробітників, додала вона.