Контролери ШІ: у світі високих ставок у сфері виявлення шахрайства

2-га година ночі в командному центрі кібербезпеки Western Union, і Майя Патель, здається, вже кілька годин не моргнула оком. Система виявлення шахрайства на основі штучного інтелекту компанії щойно виявила три незвичайні схеми транзакцій. Шквал грошових переказів з рахунків у Небрасці до України, і все це трохи нижче порогу звітності. Надто схоже, щоб бути збігом, надто ідеально, щоб бути випадковим.
«Це вже третій раз цього тижня», — бурмоче Майя, з навичкою точністю постукуючи по клавіатурі. Позаду неї величезні екрани показують барвисті візуалізації глобальних потоків транзакцій. Її помічник зі штучним інтелектом вже склав звіт, виділяючи підозрілі схеми червоним кольором. Роками раніше команда аналітиків знадобилася б кілька днів, щоб це помітити. Тепер це відбувається за лічені секунди.

Ми спостерігаємо тиху війну, яка ведеться не за допомогою зброї та бомб, а за допомогою алгоритмів та даних. Оскільки цифрові транзакції стали основою нашої економіки, фінансове шахрайство перетворилося з грубих афер у витончені атаки, організовані міжнародними злочинними синдикатами та хакерами, що фінансуються державами. Тільки у 2023 році шахрайство коштувало світовій економіці понад 5,5 трильйона доларів. Поле битви всюди: транзакції з кредитними картками, заявки на кредити, страхові виплати та все частіше криптовалютні біржі. «Більшість людей не усвідомлюють, що вони захищені штучним інтелектом щоразу, коли проводять свою картку», — каже доктор Радж Шарма, головний науковець з обробки даних у Mastercard. «Системи, які ми створили, аналізують понад 75 мільярдів транзакцій щорічно, приймаючи рішення за частки секунди про те, чи схвалювати, чи відхиляти. І вони стають розумнішими з кожним днем». Я сиджу в Технологічному центрі Mastercard у Нью-Йорку, де доктор Шарма показує мені візуалізації своїх нейронних мереж у роботі. Дисплеї нагадують мені сузір'я, з яскравими вузлами, що спалахують, коли візерунки виникають з моря даних.

Традиційне виявлення шахрайства спиралося на жорсткі правила: якщо транзакція відповідає певним критеріям, її слід позначити для перевірки. Але досвідчені шахраї швидко навчилися обманювати ці системи. «Правила схожі на замки», — пояснює Сара Чен, колишній спеціаліст ФБР з кіберзлочинності, яка зараз керує власною консалтинговою компанією з питань безпеки. «Як тільки хтось зрозуміє, як вони працюють, він зможе їх зламати. Нам потрібен був замок, який постійно змінює свій механізм». З'являється машинне навчання. Замість того, щоб дотримуватися чітких правил, сучасні системи штучного інтелекту навчаються на історичних закономірностях, виявляючи тонкі кореляції, які аналітики-люди могли б пропустити. У штаб-квартирі платіжного оператора Stripe в Сан-Франциско мені показують демонстрацію їхньої системи виявлення шахрайства. Команда здає їй серію транзакцій, деякі з яких легітимні, деякі шахрайські. Штучний інтелект не просто виявляє очевидні червоні прапорці — він помічає, що шахрайські транзакції часто надходять з облікових записів, створених у вихідні, або, як правило, мають дещо інші шаблони друку під час введення інформації. «Люди — істоти звички», — каже Мігель Гонсалес, директор з ризиків Stripe. «Навіть найобережніші шахраї залишають свої шаблони поведінки. Наші системи можуть виявляти ритми натискання клавіш, рухи миші та навіть те, як хтось переміщується по веб-сайту. Ці поведінкові біометричні дані майже неможливо ідеально імітувати».

Незважаючи на технологічне диво, людський досвід залишається вирішальним. У центрі управління ризиками Paypal в Омасі аналітики розглядають випадки, позначені системами штучного інтелекту, надаючи зворотний зв'язок, який допомагає алгоритмам удосконалюватися.
«Штучний інтелект — це наша перша лінія захисту, але він не безпомилковий», — каже Дженніфер Ву, старший аналітик з питань шахрайства. «Іноді законні транзакції виглядають підозріло, а іноді шахрайство настільки нове, що система раніше не бачила нічого подібного. Нам потрібне людське судження, щоб прийняти остаточне рішення в цих крайніх випадках».
Цей гібридний підхід, що поєднує обчислювальну потужність ШІ з людською інтуїцією, виявився надзвичайно ефективним. Visa повідомляє, що їхня система виявлення шахрайства на базі ШІ допомогла запобігти спробам шахрайства на суму приблизно 25 мільярдів доларів лише за минулий рік.

Оскільки системи виявлення стають все більш складними, зростають і атаки. Шахраї тепер самі використовують штучний інтелект, створюючи дипфейки для обходу систем голосової автентифікації або генеруючи синтетичні ідентифікаційні дані, які можуть пройти перевірки.
«Це гонка озброєнь», — зітхає доктор Емілі Розенберг, дослідниця кібербезпеки в Массачусетському технологічному інституті. «Щоразу, коли ми розробляємо кращі засоби захисту, вони розробляють кращі атаки. Перевага полягає в тому, що захисний штучний інтелект може навчатися на мільйонах законних транзакцій, тоді як шахраї мають обмежені дані для роботи».
Я спостерігаю, як вона демонструє новий тип атаки — генеративно-змагальну мережу (GAN), яка створює фіктивні, але правдоподібні моделі використання кредитних карток. Система моторошно ефективна, але все ж спрацьовує певні тривоги в сучасних системах виявлення.

Методи, вперше розроблені у виявленні фінансового шахрайства, зараз застосовуються в різних галузях. Страхові компанії використовують подібні системи штучного інтелекту для позначення підозрілих заяв. Платформи електронної комерції застосовують їх для виявлення фальшивих відгуків та підроблених продуктів. Урядові установи використовують їх для виявлення ухилення від сплати податків та шахрайства з виплатами. У компанії Anthem, яка надає медичне страхування, системи штучного інтелекту щодня сканують мільйони заяв, шукаючи закономірності, які можуть свідчити про шахрайські практики виставлення рахунків постачальниками медичних послуг. «Шахрайство в охороні здоров'я коштує американським платникам податків близько 300 мільярдів доларів щорічно», — каже мені доктор Маркус Джонсон, головний аналітик Anthem. «Наші системи допомогли виявити кілька організованих шахрайських кіл, що діють у кількох штатах. В одному випадку ми виявили мережу клінік, які виставляли рахунки за процедури, які ніколи не проводилися, що потенційно заощадило сотні мільйонів на шахрайських заявах».

Ефективність цих систем пов'язана зі складними питаннями конфіденційності. Більше даних означає краще виявлення шахрайства, але також більший потенціал для зловживань.
«Завжди існує напруга між безпекою та конфіденційністю», – визнає Олена Васильєва, захисниця конфіденційності, яка раніше працювала над системами виявлення шахрайства в American Express. «Ті самі методи, які можуть виявляти шахрайство, також можна використовувати для спостереження. Нам потрібно бути обережними щодо того, скільки інформації ми збираємо та як ми її використовуємо».

Деякі компанії досліджують такі методи, як федеративне навчання, яке дозволяє навчати моделі штучного інтелекту на кількох джерелах даних без централізації конфіденційної інформації. Інші інвестують у гомоморфне шифрування, яке дозволяє аналізувати зашифровані дані без їх попереднього розшифрування.

Коли я на світанку виходжу з командного центру Western Union, Майя Патель успішно заблокувала підозрілі транзакції та подала звіт до відділу кіберзлочинності ФБР. Система вже оновила свої моделі, щоб розпізнати цю конкретну схему шахрайства. Наступний рубіж у виявленні шахрайства включає квантові обчислення та зрозумілий штучний інтелект — системи, які можуть не тільки виявляти шахрайство, але й чітко пояснювати, чому вони позначили певну транзакцію. Ця прозорість буде вирішальною, оскільки правила щодо прийняття рішень на основі штучного інтелекту посилюються. «Десять років тому ми грали в наздоганяльницю», — каже мені Майя, йдучи до ліфта. «Зараз ми починаємо випереджати шахраїв. Але це не та битва, яку ми коли-небудь повністю виграємо. Поки є гроші, люди намагатимуться обдурити систему». Вона робить паузу, перш ніж додати: «Гарна новина полягає в тому, що наші інструменти стають кращими з кожним днем. І на відміну від шахраїв, ми можемо ділитися інформацією в галузі. Кожна атака робить усіх нас сильнішими». Оскільки обсяг та складність цифрових транзакцій продовжують зростати, цей невидимий щит захисту від штучного інтелекту ставатиме лише важливішим. Наступного разу, коли компанія-емітент вашої кредитної картки надішле вам SMS-повідомлення, щоб підтвердити незвичайну покупку, пам’ятайте: це лише видима верхівка технологічного айсберга, яка непомітно захищає ваше фінансове життя цілодобово. Чи зроблять системи виявлення шахрайства зі штучним інтелектом зрештою фінансове шахрайство пережитком минулого? Чи ми завжди будемо замкнені в цій цифровій грі в кішки-мишки з дедалі складнішими атаками та захистом? Одне можна сказати напевно: майбутнє фінансової безпеки буде формуватися як рядками коду, так і людьми, які його пишуть.