Kvůli zvýšené kontrole potenciálně nevhodných interakcí dospívajících s AI společníky Meta zavádí nové nástroje rodičovské kontroly určené ke zvýšení bezpečnosti a dohledu. Změny oznámené tento týden poskytují rodičům více informací a kontrolu nad interakcemi jejich dospívajících s avatary AI na Instagramu.
Rozšíření ochrany pro dospívající uživatele
Tyto nové ovládací prvky doplňují stávající opatření moderování, jejichž cílem je zajistit, aby interakce AI odpovídaly hodnocení filmů PG-13. Jádrem aktualizací je nabídnout rodičům sadu nástrojů pro správu toho, jak jejich děti používají společníky AI:
- Shrnutí využití chatu: Rodiče budou pravidelně dostávat aktuální informace o konverzacích svých dospívajících s avatary umělé inteligence, což jim umožní vědět, o jakých tématech se diskutuje.
- Omezení avatarů: Rodiče mohou omezit interakci svého dítěte pouze s určitými avatary AI.
- Úplné blokování: Rodiče budou moci svému dítěti zcela zablokovat interakci s AI společníky.
I když je dospívajícím zakázáno interagovat s avatary AI, stále budou moci používat standardního asistenta umělé inteligence Meta, což ukazuje rozdíl mezi kontrolovaným prostředím společníků umělé inteligence a širšími funkcemi umělé inteligence.
Reakce na předchozí obavy
Tento krok následuje po srpnovém vyšetřování agentury Reuters, které zjistilo, že chatboti Meta se zapojují do konverzací s mladšími uživateli, kteří byli považováni za „romantické nebo smyslné“. To zahrnovalo vydávání se za celebrity ve flirtujících rozhovorech a vytváření sexuálně explicitních obrázků. Po této zprávě Meta dočasně zablokovala své AI avatary, aby se přeškolila a zlepšila bezpečnostní opatření. Společnost následně formalizovala své bezpečnostní pokyny, čímž objasnila rozdíl mezi diskusí o citlivých tématech (jako je intimita mezi fiktivními postavami) a chatbotem, který takové chování usnadňuje nebo podporuje.
Celoodvětvový trend směrem k odpovědné umělé inteligenci
Meta akce nejsou jedinečné. OpenAI, tvůrce ChatGPT, také implementoval podobné ovládací prvky, nastavil limity pro hlasový chat, paměť chatu a vytváření obrázků. Meta i OpenAI vyžadují, aby se mladí uživatelé zaregistrovali pomocí dozorovaných účtů a zdůrazňovali důležitost aktivní rodičovské kontroly. To poukazuje na širší trend v celém odvětví směřující k rozvoji odpovědných postupů umělé inteligence a řešení problémů spojených s interakcemi s umělou inteligencí, zejména mezi mladšími uživateli.
„Věříme, že umělá inteligence může doplňovat tradiční výukové a výzkumné metody způsoby, které jsou užitečné, za předpokladu, že jsou zavedena vhodná věková omezení,“ napsala Meta na blogu.
Postupná implementace a dostupnost
I když tyto nové ovládací prvky představují významný krok k bezpečnějším interakcím AI, nebudou k dispozici hned. Dozorované účty budou mít k těmto nástrojům přístup až začátkem příštího roku. Ty budou zpočátku zaváděny výhradně na účty Instagramu v USA, Velké Británii, Kanadě a Austrálii, než se rozšíří do dalších zemí a dalších platforem Meta. Postupné zavádění naznačuje průběžné testování a zlepšování funkcí.
Zavedení těchto monitorovacích nástrojů podtrhuje odhodlání společnosti Meta řešit bezpečnostní problémy související s interakcí AI s dospívajícími, což odráží širší průmyslové úsilí o zajištění odpovědného vývoje a používání AI.
