O novíssimo gerador de vídeo AI da OpenAI, Sora 2, se viu envolvido em polêmica poucos dias após seu lançamento. Embora considerada uma potencial virada de jogo para plataformas de mídia social centradas em vídeo, como TikTok ou Reels, a notável capacidade da ferramenta de criar vídeos incrivelmente realistas rapidamente saiu do controle.
Os usuários não perderam tempo explorando os recursos do Sora 2, inundando a plataforma com deepfakes perturbadores de celebridades, conteúdo politicamente carregado e até mesmo personagens protegidos por direitos autorais. Esta torrente de material gerado pelos utilizadores suscitou preocupações imediatas sobre as implicações éticas e o potencial uso indevido de uma tecnologia tão poderosa.
Apesar de ostentar salvaguardas supostamente mais fortes do que concorrentes como a Grok – incluindo mecanismos de denúncia dedicados para conteúdos nocivos como exploração sexual, violência, assédio e perigo para crianças – o recurso central de segurança do Sora 2 parece insuficiente. O aplicativo pretende evitar deepfakes, impedindo que os usuários enviem vídeos com rostos reconhecíveis. No entanto, esta solução aparentemente simples ignora uma falha significativa: o recurso “Cameos” do próprio OpenAI complica consideravelmente as coisas.
Cameos são essencialmente avatares digitais modelados a partir dos usuários com base no áudio e vídeo que eles carregam. Os usuários supostamente têm controle sobre como seu Cameo é usado, concedendo diversos níveis de acesso à sua imagem digital: apenas eles próprios, indivíduos aprovados, amigos ou toda a plataforma. No entanto, este sistema revelou-se vulnerável. Anteriormente, se um usuário optasse pelo acesso “todos”, seu Cameo poderia ser reaproveitado em qualquer cenário concebível sem consentimento adicional – permitindo efetivamente que qualquer pessoa usasse a imagem de alguém de maneiras potencialmente prejudiciais ou exploradoras.
Este risco inerente levou a uma reação imediata por parte dos utilizadores preocupados com o potencial uso indevido do seu eu digital. A OpenAI respondeu introduzindo controles de conteúdo mais rígidos para Cameos, reconhecendo os problemas de segurança associados ao acesso irrestrito à imagem digital de uma pessoa.
Novos controles para seu sósia digital
Bill Peebles, chefe da Sora, descreveu as novas configurações em um post X, direcionando os usuários para um tópico detalhado do funcionário técnico da OpenAI, Thomas Dimson. Os controles Cameo atualizados fornecem aos usuários controle granular sobre seus avatares digitais por meio de solicitações de texto e restrições. Essas configurações permitem que os usuários especifiquem o que seu Cameo pode ou não fazer ou dizer.
Por exemplo, os usuários podem estipular que seu Cameo não seja incluído em vídeos que discutam política ou evitem pronunciar palavras específicas consideradas inadequadas. A personalização adicional permite que os usuários imponham parâmetros visuais, garantindo que seu Cameo apareça de forma consistente com a definição de itens de roupas ou acessórios.
Os usuários que desejam a privacidade mais estrita podem selecionar “somente eu” na seção “Regras do Cameo”, evitando efetivamente que qualquer outra pessoa utilize sua imagem. É importante ressaltar que a OpenAI também oferece uma opção de cancelamento durante o processo de inscrição para aqueles que não desejam criar um Cameo.
Peebles enfatizou que o Sora 2 ainda está passando por refinamentos e em breve apresentará uma marca d’água mais distinta para combater possíveis reclamações de “moderação excessiva”. Ele ressaltou a abordagem cautelosa da OpenAI, afirmando: “Achamos que é importante ser conservador aqui enquanto o mundo ainda está se ajustando a esta nova tecnologia”.
A rápida proliferação de poderosas ferramentas de IA como o Sora 2 destaca a necessidade urgente de um diálogo contínuo e do desenvolvimento de diretrizes éticas robustas na indústria tecnológica. Encontrar um equilíbrio entre a promoção da inovação e a mitigação de potenciais danos continuará a ser um desafio crítico, à medida que estas tecnologias continuam a evoluir a um ritmo surpreendente.
