O recurso “Iniciar sessão com a Apple”(“Sign in with Apple”) é bastante interessante, principalmente pelo fato de ele proteger a privacidade dos usuários, permitindo que eles possam ocultar o seu real endereço de email, por exemplo.
Mesmo com esses benefícios, a função estava sendo usada em sites ilegais de nudez com deepfake, ou seja, que usam inteligência artificial (IA) para remover as roupas das pessoas em fotos, fazendo com que pareça que elas estivessem nuas — tudo sem o consentimento delas.
Uma reportagem da WIRED afirma ter visto isso não só com o sistema de login rápido da Maçã, como também com o do Google, do Discord, do Patreon, do Line e do X (ex-Twitter). A pesquisa dos repórteres indicou que, dos 16 sites vistos, seis deles usavam o “Iniciar sessão com a Apple”.
Isso fazia com que esses sites passassem uma ideia de credibilidade, por justamente estarem usando esses sistemas de login de empresas grandes, antes que os usuários pudessem acessar as suas contas, pagar pelos créditos e gerar as imagens falsas.
Depois que a Maçã foi alertada pela equipe de reportagem, ela suspendeu o acesso à API 1 do “Iniciar sessão com a Apple” dos desenvolvedores. O Discord seguiu o mesmo caminho, enquanto o Google disse que tomaria medidas sobre o assunto.
O Patreon afirma que as contas que permitem a criação de imagens explícitas são proibidas por lá; o Line disse que está investigando e por fim, o X não respondeu os comentários da publicação sobre o assunto.
A reportagem também mostra que esses mesmos sites estão usando sistemas de pagamento da Visa e da Mastercard para realizar as transações. A última afirmou que toma medidas quando essas compras de conteúdos deepfakes são feitas.
