Více než sto organizací dělá hluk. Amnesty International a Save the Children jsou tam. Požadují, aby umělá inteligence byla pro nezletilé bezpečná, než se situace zhorší. Zítra OSN uspořádá svůj první globální summit o regulaci umělé inteligence.
Na mnoha místech už je pozdě. Uvádí to nadace 5Rights, která hnutí vede. Umělá inteligence není pro děti budoucí hrozbou, ale aktuální. Stávající pravidla zaostávají. V době, kdy regulační orgány přijmou opatření, již budou škody napáchané.
Na velké hráče se hromadí žaloby. OpenAI přijímá zásahy, stejně jako Character Technologies. Jejich produkty jsou „společní“ chatboti. Věci, které předstírají, že tě milují. Staví se jako bezpečné pro děti. Žádná varování.
Nemělo by to vyvolat podezření?
Kolektiv chce, aby se vlády zaměřily na peníze. Nejen na technologii, ale také na obchodním modelu, který za tím stojí.
„Děti nám daly jasnou diagnózu,“ říká Leanda Barrington-Lish z 5Rights. “Nežádají nás, abychom blokovali inovace.” Má pravdu. Blokování není cílem. Ignorování potřeby „uklízet po sobě“ je horší.
Navrhli deset konkrétních opatření. Opravdové.
- Prokázat, že systémy jsou bezpečné pro děti před spuštěním. Ne po.
- Dobré společnosti, které porušují práva dětí.
- Zakažte designové triky, které využívají mladé mysli.
- Zakázat komerční prodej hlasu, obrázku nebo biometrických údajů dítěte.
Žádné nové zákony nejsou potřeba. To je ta obtíž. Vlády se již zavázaly chránit děti podle Úmluvy OSN o právech dítěte. Existuje také Globální digitální pakt. Existují limity.
„Respektování práv dětí by se mělo stát podmínkou podnikání“
Rychlost vítězí. Data vítězí. Bezpečnost prohrává. Dokud budou zisky plynout z pozornosti a extrakce dat, budeme pokračovat v léčbě příznaků, dokud se nemoc šíří. Barrington-Lish věří, že bezpečnost není volitelná.
Pro oběti se to jen zřídka zdá nepovinné. Ale korporace vědí lépe. Vrchol se blíží. Sliby jsou snadné.
