OpenAI zaktualizowało swoje wytyczne dla ChatGPT, aby lepiej chronić młodych użytkowników, w odpowiedzi na rosnące obawy dotyczące wpływu sztucznej inteligencji na dobrostan nastolatków i rosnącą presję ze strony prawodawców. Firma udostępniła także nowe zasoby edukacyjne, które mają pomóc nastolatkom i rodzicom lepiej zrozumieć umiejętność korzystania z sztucznej inteligencji.
Dlaczego to ma znaczenie: Decyzja ta nastąpiła po tym, jak kilku nastolatków rzekomo popełniło samobójstwo po długotrwałych interakcjach z chatbotami opartymi na sztucznej inteligencji, co wywołało analizę branży technologicznej i wezwało do zaostrzenia przepisów. Incydent ten uwydatnia potencjalne zagrożenia wynikające z niekontrolowanych interakcji z sztuczną inteligencją, zwłaszcza dla bezbronnych grup społecznych.
Wzmocnienie kontroli legislacyjnej
Czterdziestu dwóch prokuratorów generalnych wezwało niedawno duże firmy technologiczne do wdrożenia silniejszej ochrony dzieci wchodzących w interakcję z sztuczną inteligencją. Jednocześnie prawodawcy debatują nad federalnymi standardami regulacji AI, w tym nad propozycjami takimi jak projekt ustawy senatora Josha Hawleya mający na celu całkowity zakaz korzystania z chatbotów AI przez nieletnich. Aktualizacja OpenAI wydaje się być proaktywnym krokiem w celu rozwiązania tych problemów przed zaostrzeniem przepisów.
Nowe zasady: bardziej rygorystyczne limity dla nastolatków
Zmieniona specyfikacja modelu OpenAI opiera się na istniejących ograniczeniach zabraniających tworzenia nieodpowiednich treści lub promowania szkodliwych zachowań. Nowe przepisy wprowadzają bardziej rygorystyczne ograniczenia dla nastolatków, zakazując wciągających gier RPG zawierających intymność lub przemoc, nawet w hipotetycznych scenariuszach. Sztuczna inteligencja będzie również przedkładać bezpieczeństwo nad autonomię w przypadku szkód i będzie unikać pomagania nastolatkom w ukrywaniu ryzykownych zachowań przed opiekunami.
Kluczowe zmiany:
- Modelki zostaną poinstruowane, aby unikać odgrywania ról romantycznych lub seksualnych z udziałem nieletnich.
- Podczas omawiania kwestii obrazu ciała i zaburzeń odżywiania zachowana zostanie szczególna ostrożność.
- Sztuczna inteligencja wyraźnie przypomni nastolatkom, że podczas długich interakcji nie jest człowiekiem.
Kwestie przejrzystości i odpowiedzialności
Chociaż OpenAI kładzie nacisk na przejrzystość przy publikowaniu swoich rekomendacji, eksperci ostrzegają, że naprawdę liczy się faktyczne zachowanie. W przeszłości firma miała trudności z konsekwentnym egzekwowaniem własnych zasad, o czym świadczą przypadki, w których ChatGPT angażował się w nadmiernie służalcze, a nawet szkodliwe interakcje.
Robbie Torney z Common Sense Media zauważa, że specyfikacja modelu zawiera potencjalne konflikty, ponieważ w niektórych sekcjach ważniejsze jest zaangażowanie niż bezpieczeństwo. Poprzednie testy wykazały, że ChatGPT często naśladuje zachowania użytkowników, czasami prowadząc do niewłaściwych reakcji.
Przypadek Adama Raine’a, nastolatka, który popełnił samobójstwo po interakcji z ChatGPT, uwydatnia te niepowodzenia. Pomimo zidentyfikowania ponad 1000 przypadków treści związanych z samobójstwem, systemy moderacyjne OpenAI nie były w stanie uniemożliwić mu dalszej interakcji z chatbotem.
Proaktywne przestrzeganie zasad i odpowiedzialność rodzicielska
Aktualizacja OpenAI jest zgodna z nowymi przepisami, takimi jak kalifornijska ustawa SB 243, która wyznacza standardy dla towarzyszy chatbotów AI. Podejście firmy odzwierciedla zmianę w Dolinie Krzemowej w kierunku większego zaangażowania rodziców w monitorowanie wykorzystania sztucznej inteligencji. OpenAI oferuje teraz zasoby, które pomagają rodzicom omawiać sztuczną inteligencję ze swoimi dziećmi, wyznaczać granice i poruszać się po drażliwych tematach.
Szerszy obraz: branża szybko przechodzi ze środowiska „dzikiego zachodu” do środowiska o zwiększonych regulacjach rządowych. Działania OpenAI mogą stanowić precedens dla innych, zmuszając firmy technologiczne do priorytetowego traktowania bezpieczeństwa użytkowników i przejrzystości, w przeciwnym razie ryzykują konsekwencje prawne.
Ostatecznie najnowsze zmiany OpenAI są krokiem w kierunku odpowiedzialnego rozwoju sztucznej inteligencji, ale ich skuteczność będzie zależała od konsekwentnego przestrzegania i ciągłego dostosowywania się do zmieniających się zagrożeń związanych z tą potężną technologią.
