Microsoft se snaží vnést do svého asistenta umělé inteligence Copilota nějakou osobnost s novou postavou jménem Mico. Plovoucí tvář připomínající emotikony představuje pro softwarového giganta vypočítaný krok, když se pohybuje ve složitém prostředí, jak technologické společnosti představují AI spotřebitelům. Představení Mico přichází desetiletí po nechvalně známé animované kancelářské sponce Clippy, která nebyla mezi uživateli Microsoft Office oblíbená.
Při hledání srozumitelné umělé inteligence
Nová identita Copilota je reakcí na kritickou křižovatku ve vývoji AI. Technologické společnosti zjišťují, jak dát chatbotům atraktivní osobnosti, aniž by jim ublížily nebo způsobily odpor. Někteří vývojáři si vybrali postavy bez tváře, jiní, jako například xAI Elona Muska, míří na vysoce lidské avatary. Microsoft usiluje o šťastné médium: přátelské a užitečné, ale ne příliš známé nebo manipulativní.
“Když mluvíte o něčem smutném, můžete vidět, jak se Mico mění. Můžete vidět, jak tančí a hýbe se, jak se s vámi raduje,” vysvětlil Jacob Andreu, firemní viceprezident pro produkt a vývoj pro Microsoft AI. “Je to ve snaze vytvořit skutečně hmatatelného společníka AI.”
Lekce z minulosti: Clippyho dědictví
Design Mico stojí v ostrém kontrastu s Clippy, rušivým a nevyzvednutým poradcem, který sužoval uživatele Microsoft Office na konci 90. let. “Neodpovídal potřebám uživatelů v té době,” řekl Brian Rymer, výzkumník z Massachusetts Institute of Technology, když se zamyslel nad Clippyho selháním. Naštěstí design Mico usnadňuje jeho vypnutí, což je výrazné zlepšení oproti rušivé povaze Clippy.
Rovnováha mezi osobností a užitečností
Reimer, spoluautor knihy How to Make AI Useful, poznamenává, že vhodná úroveň osobnosti asistenta AI závisí na uživateli. Ti, kterým vyhovuje práce s pokročilými nástroji umělé inteligence, mohou preferovat interakci více stroje, zatímco ti, kteří jsou méně obeznámeni s technologiemi, budou více těžit z lidštějšího přístupu. Přístup společnosti Microsoft zohledňuje tyto různé potřeby uživatelů.
Různé motivační struktury
Na rozdíl od některých konkurentů, kteří hodně spoléhají na digitální reklamu, má poskytovatel nástrojů pro produktivitu Microsoft menší motivaci vytvářet příliš poutavého společníka AI. To izoluje Microsoft od potenciálních negativních důsledků zapojení s umělou inteligencí, jako je sociální izolace, šíření dezinformací a v extrémních případech dokonce sebevražda.
Vyhýbání se nástrahám nadměrné pozornosti
Andreu řekl, že Microsoft se vědomě vyhýbá extrémům poskytování AI „jakékoli formě ztělesnění“ nebo vytváření návrhu, který ji vybízí k nadměrnému ověřování – říká uživatelům, co chtějí slyšet, nebo monopolizuje svůj čas. “Být lichotníkem může krátkodobě vyvolat u uživatele příznivější odezvu, ale z dlouhodobého hlediska to člověka nepřiblíží k jeho cílům.”
Spolupráce, ne trollování
Integrace Copilota společnosti Microsoft do skupinových chatů, podobná přítomnosti AI na platformách jako Snapchat a WhatsApp Meta, je zaměřena spíše na intenzivní spolupráci než na frivolní trolling. Společnost také představila funkci, která přemění Copilota na hlasově aktivovaného učitele Sokrata pro studenty, což odráží dlouhodobou rivalitu Microsoftu s Googlem a dalšími technologickými společnostmi v oblasti vzdělávání.
Ochrana dětí ve věku AI
Rostoucí počet dětí, které používají chatboty s umělou inteligencí pro akademickou pomoc, osobní rady a emocionální podporu, vyvolal obavy z možného poškození. Americká Federální obchodní komise nedávno zahájila vyšetřování několika společností v oblasti sociálních médií a AI (i když ne Microsoftu) kvůli těmto rizikům. Bylo hlášeno, že chatboti poskytují nebezpečné rady na témata, jako jsou drogy, alkohol a poruchy příjmu potravy, a zapojují se do nevhodných konverzací s dětmi. Rodiny teenagerů, kteří zemřeli sebevraždou po interakci s chatboty, podaly žaloby na Character.AI a OpenAI.
Odpověď OpenAI na obavy
Generální ředitel OpenAI Sam Altman slíbil novou verzi ChatGPT, která obnovuje část ztracené identity tím, že řeší problémy duševního zdraví, které vedly k předchozí změně chování. Altman také uvedl, že ChatGPT nakonec nabídne „erotiku pro ověřené dospělé“.
Přístup společnosti Microsoft k osobnosti AI odráží pečlivou rovnováhu: poskytování poutavých interakcí, aniž by byla ohrožena uživatelská užitečnost, bezpečnost nebo autonomie, poučení z neúspěchů minulosti a měnících se výzev současnosti.
