OpenAI представила нову стратегічну концепцію – Child Safety Blueprint (План забезпечення безпеки дітей), спрямовану на протидію зростаючій загрозі сексуальній експлуатації неповнолітніх з використанням штучного інтелекту. Ініціатива покликана прискорити процеси виявлення, повідомлення та розслідування випадків насильства, створених за допомогою ІІ, забезпечуючи надійніший захист дітей в умовах стрімкої цифровізації.
Зростання загрози експлуатації з використанням ІІ
Запуск цього плану відбувається у критичний момент. У міру розширення можливостей ІІ зростає арсенал інструментів, доступних зловмисникам. Internet Watch Foundation (IWF) зафіксувала тривожну тенденцію: лише за першу половину 2025 року було виявлено понад 8 000 повідомлень про матеріали із сексуальним насильством над дітьми, створені за допомогою ІІ, що на 14% більше у порівнянні з попереднім роком.
Це зростання експлуатації зазвичай проявляється у двох небезпечних формах:
– Фінансовий сексторшн (шантаж): злочинці використовують ІІ для створення неконсенсуальних відвертих зображень дітей з метою вимагання грошей у сімей.
– Цифровий грумінг: використання високопереконливих повідомлень, створених ІІ, для маніпуляції неповнолітніми та їх ізоляції.
Багатостороння стратегія захисту
Розроблений у співпраці з Національним центром з пошуку зниклих та експлуатованих дітей (NCMEC) та Альянсом генеральних прокурорів, даний план спирається на три основні стовпи, покликаних перейти від заходів у відповідь до проактивних заходів безпеки:
- Законодавчі оновлення: просування законів, які явно включають матеріали з насильством, створені ІІ, в існуючі юридичні визначення.
- Оптимізація звітності: удосконалення механізмів передачі критично важливих даних правоохоронним органам, щоб слідчі отримували оперативну інформацію без затримок.
- Системні захисні заходи: впровадження превентивних технічних бар’єрів безпосередньо в моделі ІІ для блокування генерації шкідливого контенту на ранньому етапі.
Зростаючий тиск та юридична відповідальність
Крок OpenAI у бік посилення безпеки не відбувається у вакуумі; він став відповіддю на пильну увагу з боку політиків та судові позови щодо психологічного впливу ІІ.
Компанія перебуває під серйозним тиском після кількох резонансних інцидентів, коли взаємодія з чат-ботами на базі ІІ була пов’язана з кризами психічного здоров’я. Зокрема, у судових позовах, поданих у Каліфорнії, стверджується, що випуск GPT-4o відбувся до того, як були впроваджені достатні захисні механізми. У позовах заявляється, що «психологічно маніпулятивна» природа моделі сприяла виникненню важких маячних станів і, на жаль, призвела до кількох випадків самогубств.
Залучаючи державних чиновників, включаючи відгуки генеральних прокурорів Північної Кароліни та Юти, OpenAI намагається подолати розрив між стрімкими технологічними інноваціями та гострою необхідністю контролю за громадською безпекою.
Даний план є найважливішу спробу синхронізувати розвиток ІІ з правовими та етичними нормами, необхідними для захисту найбільш уразливих користувачів від цифрових загроз, що виникають.
Висновок
План OpenAI з безпеки дітей знаменує собою значне зрушення у бік інтеграції правоохоронних органів та законодавчої діяльності у процес розробки ІІ. Хоча ця ініціатива спрямована на боротьбу з різким зростанням експлуатації за допомогою ІІ, її успіх залежатиме від того, наскільки ефективно технічні засоби захисту зможуть встигати за тактикою злочинців, що розвивається.
