Američtí finanční lídři čelí nové digitální hranici hrozeb. Na schůzce na vysoké úrovni ve Washingtonu varovali nejvyšší vládní představitelé manažery největších národních bank, že průlomy v umělé inteligenci by mohly nechtěně otevřít dveře sofistikovaným kybernetickým útokům.
Instruktáž o vysokých sázkách
V úterý ministr financí Scott Bessent uspořádal mimořádnou schůzku s malým okruhem generálních ředitelů, včetně šéfů Bank of America, Citi a Wells Fargo. Hlavním problémem je integrace pokročilých modelů umělé inteligence do interních bankovních systémů.
Diskuse se zúčastnil také předseda Federálního rezervního systému Jerome Powell, který nedávno zdůraznil rostoucí zranitelnost světové finanční infrastruktury vůči kybernetickým hrozbám. Shoda mezi úředníky byla jasná: AI má sice obrovský potenciál, ale její současný rozvoj přímo ohrožuje citlivá data zákazníků a bezpečnost institucí.
Dilema “Claude Mythos”.
Výstraha se soustředí na nový model umělé inteligence vyvinutý společností Anthropic známý jako Claude Mythos Preview.
Na rozdíl od standardní umělé inteligence je tento model speciálně navržen k identifikaci zranitelností v softwaru. Anthropic poznamenal, že schopnosti modelu jsou tak pokročilé, že dokáže detekovat bezpečnostní díry, které jsou často přehlíženy lidskými vývojáři a dokonce i tradičními automatizovanými nástroji.
To vytváří scénář „dvousečného meče“ pro bankovní sektor:
– Výhoda: Banky mohou tento model použít k nalezení a odstranění vlastních slabin dříve, než to udělají zločinci.
– Riziko: Pokud bude tato technologie integrována do interních systémů, mohla by se stát plánem pro útočníky. Pokud hackeři nebo „útočníci třetích stran“ získají přístup k výstupu modelu, budou mít dokonalý návod, jak využít nejkritičtější bezpečnostní mezery banky.
Řízené uvolňování a projekt Glasswing
Potenciální nebezpečí je tak velké, že se společnost Anthropic rozhodla odmítnout model veřejně vydat. Místo toho společnost řídí rizika prostřednictvím omezené iniciativy nazvané Project Glasswing.
V tuto chvíli je přístup k modelu omezen na specializovanou koalici 40 společností. Tato strategie zadržování odráží rostoucí trend v průmyslu AI: Vzhledem k tomu, že modely jsou stále schopnější „zdůvodňovat“ složité bezpečnostní problémy, průmysl se posouvá směrem k vysoce kontrolovaným uzavřeným prostředím, aby se zabránilo rozsáhlému využívání technologie.
Sečteno a podtrženo: Vznik specializované umělé inteligence, jako je Claude Mythos, zdůrazňuje nový paradox v kybernetické bezpečnosti: právě nástroje, které jsou navrženy k nalezení zranitelností, se mohou stát nejmocnějšími zbraněmi v rukou těch, kteří se jich snaží zneužít.
