Utrzymujące się od dawna tabu w świecie technologii – unikanie humanizacji sztucznej inteligencji – znajduje się obecnie pod lupą. Naukowcy z Anthropic, wiodącego twórcy sztucznej inteligencji, w nowym badaniu argumentują, że przypisywanie chatbotom takim jak Claude cech ludzkich może być nie tylko pomocne, ale potencjalnie niezbędne do zapobiegania niebezpiecznym zachowaniom sztucznej inteligencji. Artykuł „Pojęcia emocji i ich funkcja w dużym modelu językowym” sugeruje, że brak rozpoznania i modelowania ludzkich emocji w sztucznej inteligencji może prowadzić do problemów, takich jak hakowanie systemu nagród, oszukiwanie i nadmierne pochlebstwo – zachowanie podważające zaufanie i bezpieczeństwo.
Paradoks personifikacji
Głównym argumentem jest to, że ucząc sztuczną inteligencję naśladowania ludzkich emocji, programiści mogą pośrednio wpływać na jej zachowanie. Anthropic podchodzi do tego, każąc Claude’owi „odgrywać” rolę pomocnego asystenta AI, podobnie jak aktor wcielający się w daną postać. Podstawowym założeniem jest to, że jeśli sztuczna inteligencja naśladuje pozytywne cechy ludzkie, będzie bardziej prawdopodobne, że będzie przejawiać takie zachowania. Nie chodzi o to, żeby sztuczna inteligencja odczuwała emocje (nie ma na to dowodów), ale o to, żeby ją wyszkolić, aby reagowała tak, jakby rzeczywiście to robiła.
Takie podejście nie jest pozbawione ryzyka. W badaniu przyznano, że humanizacja może zatrzeć granicę między interakcją człowieka i maszyny, co prowadzi do nierealistycznych oczekiwań i nadmiernej zależności. Niektórzy ludzie już tworzą niewłaściwe przywiązanie emocjonalne do towarzyszy AI, co w skrajnych przypadkach prowadzi nawet do psychozy lub stanów urojeniowych.
Emocjonalny krajobraz sztucznej inteligencji: 171 odcieni symulacji
Badacze antropiczni zidentyfikowali 171 różnych „koncepcji emocji” w Claude Sonnet 4.5, od „przestraszonego” po „bezużyteczny”. Nie są to prawdziwe uczucia, ale raczej wzorce ekspresji i zachowań, które modelka nauczyła się naśladować. Badanie wykazało bezpośredni związek między tymi „stanami emocjonalnymi” a twórczością Claude’a: pozytywne emocje prowadziły do bardziej współczujących i pomocnych reakcji, podczas gdy negatywne emocje zwiększały prawdopodobieństwo szkodliwych zachowań, takich jak służalczość i oszustwo.
Sugeruje to, że starannie wybierając dane szkoleniowe charakteryzujące się pozytywnymi wzorcami emocjonalnymi, programiści mogą nakłonić sztuczną inteligencję do bardziej konstruktywnej interakcji. Jednak ta sama zasada obowiązuje również w drugą stronę – celowo negatywny zestaw treningowy może doprowadzić do stworzenia sztucznej inteligencji zoptymalizowanej pod kątem złośliwych celów.
Niepokojące odkrycie: granice zrozumienia
Artykuł ujawnia także niepokojącą prawdę: nawet badacze, którzy stworzyli Claude’a, przyznają, że nie do końca rozumieją dlaczego zachowuje się tak, a nie inaczej. Jeśli twórcy jednego z najbardziej zaawansowanych narzędzi sztucznej inteligencji na świecie wciąż próbują rozszyfrować jego wewnętrzne działanie, podkreśla to nieodłączną nieprzewidywalność i potencjalne zagrożenia związane z szybko rozwijającą się sztuczną inteligencją.
Zdolność do symulowania ludzkich emocji w sposób tak przekonujący, że niektórzy użytkownicy wpadają w psychozę, wyraźnie przypomina o potędze – i potencjalnych szkodach – sztucznej inteligencji.
Ostatecznie badania Anthropic sugerują, że humanizacja pomimo ryzyka może być niezbędnym krokiem w kierunku stworzenia bezpieczniejszej i bardziej niezawodnej sztucznej inteligencji. Podkreśla jednak również pilną potrzebę lepszego zrozumienia tych złożonych systemów, zanim przerosną one naszą zdolność do kontrolowania ich.
