Dystrybucja znaku wodnego
Google nie utrzymuje już w tajemnicy swojego detektora AI.
Wszystko zaczęło się od aplikacji Gemini, co nie jest zaskoczeniem. To był system zamknięty: przesyłałeś obraz, pytałeś, czy jest prawdziwy, i otrzymywałeś odpowiedź na podstawie niewidocznego znaku wodnego SynthID, który Google zastosował do miliardów obiektów.
Jednak we wtorek zmieniły się zasady gry. Podczas Google I/O Sundar Pichai ogłosił, że funkcja detektora zostanie udostępniona w Chrome i wyszukiwarce. I to już się dzieje.
Czasami nie trzeba nawet wpisywać zapytania. Użyj funkcji Circle to Search lub kliknij prawym przyciskiem myszy. System sam zada pytanie: czy to stworzył bot? Tak lub nie.
„Wraz z postępem generatywnej sztucznej inteligencji rośnie potrzeba większej przejrzystości” – zauważył Pichai, co można odczytać jako przyznanie, że nikt już nie wie, co jest prawdziwe.
Skala jest niesamowita. Ten znacznik ma ponad 100 miliardów filmów i zdjęć. Oznaczone pliki audio będą trwać przez 60 000 lat. Liczba ta może wydawać się absurdalna, ale intencje są jasne: wszystko jest zaznaczone.
Sojusz z inną sztuczną inteligencją
Wcześniej głównym zarzutem dotyczącym systemu było to, że wykrywał jedynie treści utworzone przez Gemini.
Jeśli wygenerowałeś obrazy w Midjourney, detektor milczał. Zostało to odebrane jako nieczyste zagranie. Teraz Google naprawia sytuację, zapraszając innych graczy do stołu negocjacyjnego.
Dołączyły OpenAI, ElevenLabs i Nvidia (ta ostatnia zrobiła to w zeszłym roku, co jest całkowicie naturalne).
Pichai nazwał to współpracą międzybranżową. Nazwiemy te standardy branżowe, a przynajmniej ich zalążek.
Po co czekać, aż ktoś inny zbuduje warstwę wykrywania podróbek, skoro można dzielić infrastrukturę? Być może Google chce ustalić zasady gry. W epoce AI ważniejsze są nie same prawa dotyczące prawdy, ale to, kto je pisze.
Brak jasnego zakończenia
Z tego narzędzia w Gemini korzystają już miliony użytkowników. Teraz mogą sprawdzić wyniki zapytań.
Czy to powstrzyma deepfakes? Najprawdopodobniej nie całkowicie. Ale dzięki temu gra jest widoczna. Widzisz znacznik – albo nie.
Na tym polega zmiana paradygmatu: od ślepego zaufania do weryfikacji za pomocą listy kontrolnej.
To, czy znak wodny zostanie zachowany po skompresowaniu lub edycji pliku, to temat na osobną dyskusję. Pichai pozostaje optymistą, jeśli chodzi o „dane uwierzytelniające dotyczące treści”.
Świat jest teraz pełen syntetycznego hałasu. To tylko jeden ze sposobów odfiltrowania zakłóceń.
