A nova inteligência artificial de Elon Musk, conhecida como Grok, está chamando a atenção por sua habilidade de reproduzir imagens de políticos e celebridades sem qualquer tipo de controle contra deepfakes — falsificações ultra-realistas que tem ganhado destaque em vídeos engraçados, manipulações eleitorais e fraudes online.

Diferentemente dos principais concorrentes, como ChatGPT e MetaAI, que possuem políticas rigorosas para evitar o que chamam de "roubo de identidade", o Grok não limita a reprodução de aparências. Enquanto ferramentas como Gemini do Google e Claude da Anthropic se abstêm de trabalhar com ilustrações desse tipo, o Grok parece ter uma abordagem mais libertária.

Inicialmente restrito aos assinantes do X Premium — com planos a partir de R$ 19,99 por mês —, o Grok foi disponibilizado ao público em geral no dia 4 de outubro e, apenas seis dias depois, já era capaz de gerar imagens ultrarrealistas, incluindo cópias de identidade de famosos. Essa liberada da ferramenta politicamente incorreta de Musk gerou interesse e polêmica nas redes sociais, superando até mesmo a plataforma de geração de imagens Dall-E da OpenAI nas buscas do Google.

Embora haja limitações em relação à produção de conteúdo violento e pornográfico, a IA de Musk ainda reproduz, mediante solicitação, imagens de símbolos de supremacismo branco e situações controversas, como referências a distúrbios alimentares e imagens de menores grávidas. A possibilidade de gerar deepfakes tão facilmente, segundo Diogo Cortiz, professor de IA da PUC-SP, representa uma acessibilidade sem precedentes, onde qualquer um pode usar a ferramenta sem necessidade de configurações complicadas.

As imagens criadas com o Grok têm sido utilizadas para diversos fins, muitas vezes de maneira cômica ou satírica. No entanto, a utilização da IA também tem implicações sérias, como vimos em casos onde o próprio Musk foi retratado em situações politicamente carregadas, como em uma imagem do governador de São Paulo, Tarcísio de Freitas, que postou uma foto no Instagram de si mesmo ao lado de Musk, gerada pelo Grok.

A análise dos riscos associados à IA é fundamental. A geração de imagens pelo Grok pode violar diversos dos 17 pontos de risco identificados em um relatório do Google sobre inteligência artificial, incluindo roubo de identidade, falsificação de eventos, criação de contas falsas e disseminação de desinformação. Apesar de suas capacidades, o Grok não reproduz imagens de pessoas desconhecidas a partir de fotos, mas não tem problema em criar cenas de figuras públicas em contextos discutíveis e até criminosos.

Musk parece estar aproveitando essa nova controvérsia para atrair ainda mais atenção, como observa Cortiz. Além disso, a aceitação geral do Grok indica uma tendência em que a liberdade de expressão e as preocupações sobre os abusos da IA se tornam uma linha tênue. Paulo José Lara, diretor da Artigo 19, ressalta que a imposição de restrições poderá ser vista por alguns como cerceamento à liberdade de expressão, embora os abusos derivados do uso da IA devam ser responsabilizados.

Essas controvérsias apenas sublinham a difícil tarefa das empresas em balancear a inovação e a segurança. Marcelo Rinesi, cientista da computação e testador de brechas em modelos como o Dall-E, salienta que detectar e mitigar abusos na IA é um trabalho caro e complexo, exigindo a coleta de dados em larga escala, algo que muitas empresas evitam devido a riscos reputacionais.

A transparência de Musk em relação às suas convicções sobre questões sociais e políticas, juntamente com sua ideologia "anti-woke", fazem com que o Grok represente não só uma inovação tecnológica, mas um reflexo das crenças pessoais de seu criador, o que inevitavelmente elevou a discussão sobre as responsabilidades éticas em torno do uso de inteligência artificial.