Arte de robô observando por trás usuária de computador
Imagem criada por IA pelo Decrypt

Quando a Microsoft anunciou seu novo recurso Recall durante sua conferência anual de desenvolvedores na segunda-feira (20), a notícia repercutiu além da indústria de inteligência artificial. Especialistas em segurança cibernética e privacidade também se assustaram — e ficaram preocupados.

Durante a apresentação, a Microsoft disse que os novos computadores com Copilot lembrarão e mais tarde serão capazes de encontrar qualquer coisa exibida na tela — incluindo e-mails, sites e aplicativos — por meio de prints indexados por IA armazenados no dispositivo.

Publicidade

A reação ao anúncio foi mista, levando alguns especialistas em segurança a chamar o recurso de spyware e um alvo natural para os cibercriminosos.

“Esta é a empresa que deseja registrar literalmente tudo o que você faz em seu computador”, escreveu no X o fundador e CEO da Geometric Intelligence, Gary Marcus. “Se você não acha que o Recall da Microsoft, local ou não, será um dos maiores alvos cibernéticos da história, você não está prestando atenção.”

“Estou tão feliz que a Microsoft está aqui me ajudando a lembrar por que não uso o Windows, se posso evitar e quando o faço, eu desativo todos os recursos ‘inteligentes’ que eles adicionam”, comentou também Emily Young, redatora do Linus Tech Tips.

“Na minha época, chamávamos isso de spyware”, disse a engenheira de software, pesquisadora e crítica de cripto Molly White.

A função Recall

Com o Recall, tudo o que aparece na tela é capturado, incluindo senhas, se o aplicativo ou formulário não o ocultar automaticamente.

Publicidade

Embora seja uma premissa simples, a implementação do Recall requer muito cuidado, disse ao Decrypt a especialista em segurança cibernética Katelyn Bowden.

“O Recall parece funcionar como os mecanismos de busca existentes, com um escopo ampliado do que registra”, disse Bowden, observando que o novo recurso funciona apenas em PCs com configurações de hardware específicas.

“Você já tem um histórico do navegador e um índice de conteúdo de arquivos em seu PC, e isso funcionalmente não é diferente”, explicou. E, diferentemente de muitos desses arquivos, a Microsoft afirma que os dados do Recall são criptografados.

“Se a Microsoft começasse a descarregar o processamento do conjunto de treinamento ou a coletar dados para uso em mecanismos de recomendação ou modelos fora da máquina, a privacidade do usuário poderia ser comprometida”, observou a especialista.

Publicidade

Bowden é membro do coletivo de hackers conhecido como Cult of the Dead Cow  e também atua como diretora de marketing do Veilid Project, de código aberto e focado na privacidade. Ela disse que é essencial mais transparência sobre como as ferramentas de IA são usadas.

“Sempre me sinto mais confortável quando as empresas que desenvolvem produtos de IA são transparentes sobre quais conjuntos de dados foram usados ​​para treinar o software”, disse.

“A falta de transparência da Microsoft em relação a isso me preocupa. Se as pessoas não sabem quais dados foram usados ​​para treinar o modelo, elas não deveriam se submeter a ele”, acrescentou.

Com OpenAI, Google e Microsoft se esforçando para trazer produtos generativos de IA ao mercado, vários projetos e grupos também estão oferecendo alternativas descentralizadas e de código aberto, incluindo Venice AI, FLock, PolkaBot AI e Superintelligence Alliance.

O cofundador do Ethereum, Vitalik Buterin, escreveu que a IA de código aberto é a melhor maneira de evitar um futuro onde “a maior parte do pensamento humano será lido e mediado por alguns servidores centrais controlados por algumas pessoas”.

Publicidade

“As pessoas devem presumir que tudo o que escrevem para OpenAI irá para elas e que o terão para sempre”, disse anteriormente ao Decrypt o fundador e CEO da Venice AI, Erik Voorhees. “A única maneira de resolver isso é usar um serviço onde as informações não vão para um repositório central.”

*Traduzido e editado com autorização do Decrypt.

VOCÊ PODE GOSTAR
Edificio do BCE

Manhã Cripto: Bitcoin segue alta e busca máxima histórica com corte de juros na Europa

Banco Central Europeu (BCE) reduziu 25 pontos percentuais de cada uma das suas três principais taxas de juros
Donald Trump posa para foto em evento político nos EUA

Trump se apresenta como ‘criptopresidente’ em evento de arrecadação de fundos

O candidato presidencial republicano dobrou sua postura pró-cripto durante evento em São Francisco, EUA