Лідери фінансового сектора США зіткнулися з новим цифровим кордоном загроз. На зустрічі високого рівня у Вашингтоні вищі державні чиновники попередили керівників найбільших банків країни про те, що прорив у галузі штучного інтелекту може ненавмисно відчинити двері для витончених кібератак.
Брифінг з високими ставками
У вівторок міністр фінансів Скотт Бессент провів термінову зустріч з вузьким колом генеральних директорів, до яких увійшли керівники Bank of America, Citi і Wells Fargo. Основне побоювання викликає інтеграція просунутих моделей ІІ у внутрішні банківські системи.
В обговоренні також взяв участь голова Федеральної резервної системи Джером Пауелл, який нещодавно підкреслював уразливість світової фінансової інфраструктури перед кіберзагрозами. Консенсус серед чиновників був очевидним: хоча ІІ має колосальний потенціал, його нинішній розвиток становить пряму загрозу конфіденційним даним клієнтів та безпеці інститутів.
Дилема «Claude Mythos»
Суть попередження зосереджена навколо нової моделі штучного інтелекту, розробленої компанією Anthropic, відомої як Claude Mythos Preview.
На відміну від стандартного ІІ, ця модель спеціально спроектована для виявлення вразливостей програмного забезпечення. В Anthropic відзначили, що можливості моделі настільки просунуті, що вона здатна виявляти проломи в захисті, які часто не беруть до уваги розробники-люди і навіть традиційні автоматизовані інструменти.
Це створює сценарій «обоюдогострого меча» для банківського сектора:
– Перевага: Банки можуть використовувати модель для пошуку та усунення власних слабких місць до того, як це зроблять злочинці.
– Ризик: Якщо ця технологія буде інтегрована у внутрішні системи, вона може стати “дорожньою картою” для атакуючих. Якщо хакери або «зловмисники з третіх сторін» отримають доступ до результатів роботи моделі, вони знайдуть ідеальний посібник з експлуатації критичних прогалин у безпеці банку.
Контрольований випуск та «Project Glasswing»
Потенційна небезпека настільки велика, що Anthropic вирішила відмовитися від публічного релізу моделі. Натомість компанія керує ризиками через обмежену ініціативу під назвою Project Glasswing.
На даний момент доступ до моделі обмежений спеціалізованою коаліцією із 40 компаній. Ця стратегія стримування відображає зростаючий тренд в індустрії ІІ: у міру того, як моделі стають все більш здатними до «міркування» над складними проблемами безпеки, індустрія переходить до висококонтрольованих, закритих середовищ, щоб запобігти широкомасштабній експлуатації технологій.
Результат: Поява спеціалізованого ІІ, такого як Claude Mythos, висвічує новий парадокс у кібербезпеці: ті самі інструменти, які призначені для пошуку вразливостей, можуть стати найпотужнішою зброєю в руках тих, хто прагне ними скористатися.
