Nowy generator wideo AI OpenAI, Sora 2, spotkał się z ostrą reakcją zaledwie kilka dni po jego uruchomieniu. Chociaż reklamowano je jako potencjalnie rewolucyjne narzędzie dla platform udostępniania wideo, takich jak TikTok czy Reels, niesamowita zdolność tego narzędzia do szybkiego tworzenia realistycznych filmów doprowadziła do nieprzewidywalnych konsekwencji.
Użytkownicy natychmiast zaczęli wykorzystywać możliwości Sora 2, zalewając platformę niepokojącymi deepfakemi gwiazd, treściami o charakterze politycznym, a nawet postaciami chronionymi prawami autorskimi. Zalew treści generowanych przez użytkowników wzbudził natychmiastowe obawy dotyczące implikacji etycznych i potencjalnego niewłaściwego wykorzystania tak potężnej technologii.
Pomimo zapewnień o silniejszej ochronie niż konkurenci tacy jak Grok – w tym dedykowanych mechanizmach zgłaszania szkodliwych treści, takich jak wykorzystywanie seksualne, przemoc, molestowanie i zagrożenie dla dzieci – centralna funkcja bezpieczeństwa Sora 2 nie spełnia swoich oczekiwań. Aplikacja ma na celu zapobieganie deepfake’om, uniemożliwiając użytkownikom pobieranie filmów z rozpoznawalnymi twarzami. Jednak to pozornie proste podejście ignoruje istotną wadę: własna funkcja „Cameos” OpenAI komplikuje sprawę.
Cameo to zasadniczo cyfrowe awatary utworzone na podstawie treści audio i wideo użytkowników. Użytkownicy rzekomo kontrolują wykorzystanie swojego Cameo, przyznając swojemu cyfrowemu bliźniakowi różne poziomy dostępu: tylko dla siebie, zatwierdzonych osób, znajomych lub całej platformy. System ten okazał się jednak podatny na ataki. Wcześniej, jeśli użytkownik wybrał opcję dostępu „dla wszystkich”, jego Cameo mogło zostać przekierowane do dowolnego możliwego scenariusza bez dodatkowej zgody, co w praktyce umożliwiało każdemu wykorzystanie obrazu innej osoby w celach potencjalnie szkodliwych lub wyzysku.
To nieodłączne ryzyko doprowadziło do natychmiastowej krytyki ze strony użytkowników zaniepokojonych możliwością niewłaściwego wykorzystania ich obrazów cyfrowych. W odpowiedzi OpenAI wzmocniło kontrolę Cameos, uznając obawy dotyczące bezpieczeństwa związane z nieograniczonym dostępem do cyfrowego obrazu danej osoby.
Nowe ustawienia Twojego cyfrowego bliźniaka
Bill Peebles, szef Sory, opisał nowe ustawienia w poście na X, wskazując użytkownikom szczegółowy komentarz specjalisty technicznego OpenAI Thomasa Deasona. Zaktualizowane ustawienia Cameo pozwalają użytkownikom dostosować swoje cyfrowe awatary za pomocą komunikatów tekstowych i ograniczeń.
Te ustawienia pozwalają użytkownikom określić, co ich Cameo może, a czego nie może robić lub mówić.
Na przykład użytkownik może określić, że jego scena nie będzie umieszczana w filmie o polityce lub nie będzie wypowiadać pewnych słów, które uważa za nieodpowiednie. Dalsza personalizacja pozwala na ustawienie parametrów wizualnych, dzięki czemu Cameo będzie spójnie pojawiać się z określonymi ubraniami lub dodatkami.
Użytkownicy, którzy chcą maksymalnej prywatności, mogą wybrać opcję „Tylko ja” w sekcji „Zasady Cameo”, skutecznie uniemożliwiając innemu użytkownikowi wykorzystanie ich wizerunku. Warto zauważyć, że OpenAI oferuje również opcję rezygnacji z Cameo na etapie rejestracji dla tych, którzy w ogóle nie chcą jej tworzyć.
Peebles podkreślił, że Sora 2 wciąż znajduje się w fazie rozwoju i wkrótce otrzyma wyraźniejszy znak wodny, mający na celu zwalczanie skarg dotyczących „nadmiernego umiaru”. Wzmocnił ostrożne podejście OpenAI: „Uważamy, że ważne jest zachowanie konserwatywności w tej dziedzinie, podczas gdy świat przyzwyczaja się do tej nowej technologii”.
Szybkie rozprzestrzenianie się potężnych narzędzi sztucznej inteligencji, takich jak Sora 2, uwypukla pilną potrzebę ciągłego dialogu i opracowania solidnych standardów etycznych w branży IT. Znalezienie równowagi między wspieraniem innowacji a łagodzeniem potencjalnych szkód pozostanie kluczowym wyzwaniem, ponieważ technologie te rozwijają się w niewiarygodnym tempie.
