A Apple ameaçou Elon Musk remover o Grok e o X da App Store devido a deepfakes de teor sexual.

A Apple obrigou alterações nas aplicações Grok e X

A Apple explicou aos senadores norte-americanos como trabalhou nos bastidores para resolver o problema do aumento viral de deepfakes sexualizados criados pelo Grok no início deste ano.

No início do ano, a Apple foi fortemente pressionada para remover as aplicações Grok e X da App Store, depois de os utilizadores terem descoberto que o chatbot respondia prontamente a pedidos para despir pessoas em fotografias, sobretudo mulheres, incluindo menores.

Durante o escândalo, a Apple manteve-se em grande parte em silêncio, mas, como avançou a NBC News, nos bastidores a empresa «descobriu que o X e o Grok violavam as suas regras» e «ameaçou, em privado, remover» o Grok da App Store.

A Apple «contactou as equipas por detrás das aplicações X e Grok, depois de receber queixas e de tomar conhecimento de notícias sobre o escândalo», exigindo aos «programadores das aplicações que desenvolvessem um plano para melhorar a moderação de conteúdos».

Por sua vez, o X enviou para análise uma versão atualizada da aplicação Grok, mas esta foi rejeitada porque «as alterações se revelaram insuficientes». Depois disso, a empresa de Elon Musk apresentou versões revistas das aplicações X e Grok, mas apenas uma foi aprovada.

Numa carta, a Apple afirmou: «A Apple analisou os pedidos seguintes, submetidos pelos programadores, e determinou que a empresa X corrigiu, em grande medida, as violações, mas a aplicação Grok continuava a não cumprir os requisitos. Como resultado, rejeitámos o pedido do Grok e notificámos o programador da necessidade de realizar alterações adicionais para corrigir a infração; caso contrário, a aplicação poderá ser removida da App Store. Após nova interação e alterações feitas pelo programador do Grok, concluímos que o Grok melhorou substancialmente e, por isso, aprovámos o seu pedido mais recente».

O Grok é um chatbot generativo de inteligência artificial criado pela xAI de Elon Musk. Foi lançado no final de 2023, integrado na rede social X (Twitter), e é apresentado como uma alternativa ao ChatGPT mais irreverente e menos limitada pela «correção política».

No início do ano, a xAI de Elon Musk introduziu restrições à possibilidade de editar fotografias de pessoas reais através do chatbot Grok. Isto aconteceu na sequência do escândalo causado pela geração, pelo chatbot, de imagens íntimas de deepfake. Anteriormente, as autoridades da Malásia e da Indonésia tinham bloqueado o Grok nos seus países. O primeiro-ministro britânico, Keir Starmer, afirmou anteriormente que, neste momento, as autoridades devem «considerar todas as opções», incluindo uma eventual proibição da plataforma X. O Reino Unido também manteve conversações com o Canadá e a Austrália sobre uma possível proibição da rede social de Elon Musk.