Vários governos mundiais estão cada vez mais nervosos com a caixa de Pandora da Inteligência Artificial (AI, na sigla em inglês) que foi aberta com o lançamento público do popular programa ChatGPT pela empresa OpenAI. Não está claro se o gênio pode ser forçado a voltar para a lâmpada.
Nesta semana, o Comissário de Privacidade do Canadá disse que estava investigando o ChatGPT, juntando-se a uma lista crescente de países — incluindo Alemanha, França e Suécia — que expressaram preocupações e estudam restrições sobre o chatbot, depois que a Itália o proibiu totalmente no domingo passado.
“A tecnologia de AI e os seus efeitos na privacidade são uma prioridade para o meu gabinete”, disse Philippe Dufresne, Comissário de Privacidade do Canadá, em um comunicado. “Temos de acompanhar — e ficar sempre à frente — dos rápidos avanços tecnológicos, e essa é uma das minhas principais áreas de atenção enquanto Comissário.”
A proibição da Itália foi resultado de um incidente no dia 20 de março em que a OpenAI reconheceu um bug no sistema que expôs as informações de pagamento dos usuários e o histórico dos chats deles. A OpenAI colocou brevemente o ChatGPT offline para corrigir o bug.
We took ChatGPT offline Monday to fix a bug in an open source library that allowed some users to see titles from other users’ chat history. Our investigation has also found that 1.2% of ChatGPT Plus users might have had personal data revealed to another user. 1/2
— OpenAI (@OpenAI) March 24, 2023
“Não precisamos de uma proibição das aplicações de AI, mas sim de formas de garantir valores como democracia e transparência”, disse um porta-voz do Ministério do Interior alemão à agência de notícias alemã, Handelsblatt, na segunda-feira.
Missão impossível
Mas será que é possível proibir o software e a inteligência artificial em um mundo onde existem redes privadas virtuais (VPNs)?
Uma VPN é um serviço que permite aos usuários acessar a Internet, de forma segura e privada, através da criação de uma ligação criptografada entre o seu dispositivo e um servidor remoto. Esta ligação mascara o endereço IP doméstico do usuário, fazendo parecer que está acessando a web a partir da localização do servidor remoto, em vez da sua localização real.
Além disso, “uma proibição de AI pode não ser realista porque já existem muitos modelos de em uso e mais estão sendo desenvolvidos”, disse Jake Maymar, vice-presidente de inovações da Empresa de consultoria de IA, The Glimpse Group, ao Decrypt. “A única maneira de impor uma proibição de AI seria proibir o acesso a computadores e tecnologia em nuvem, o que não é uma solução prática.”
Impactos da AI
A tentativa da Itália de proibir o ChatGPT surge em meio à crescente apreensão sobre o impacto que a inteligência artificial terá na privacidade e na segurança dos dados e seu potencial uso indevido.
Leia Também
Um think tank de IA, o Center for A.I. and Digital Policy, apresentou uma queixa formal na Comissão Federal de Comércio dos EUA no mês passado, acusando a OpenAI de práticas enganosas e desleais após a publicação de uma carta aberta assinada por vários membros de alto nível da comunidade tecnológica que pediam uma desaceleração do desenvolvimento da inteligência artificial.
A OpenAI tentou lidar com essas preocupações em um post no blog no dia 5 de abril, que falava sobre segurança da AI e que delineou o compromisso da empresa com a investigação e a cooperação a longo prazo em matéria de segurança com a comunidade de AI.
A OpenAI disse que visa melhorar a precisão factual, reduzindo a probabilidade de “alucinações”, ao mesmo tempo em que protege a privacidade do usuário e as crianças, incluindo a análise de opções de verificação de idade.
“Também reconhecemos que, como qualquer tecnologia, essas ferramentas apresentam riscos reais — por isso trabalhamos para garantir que a segurança seja incorporada em nosso sistema em todos os níveis”, escreveu a empresa.
A mensagem da OpenAI não agradou a alguns, que a chamaram de comunicado de relações públicas, por não ter abordado o risco existencial representado pela AI.”
Enquanto alguns soam o alarme para o ChatGPT, outros dizem que o chatbot não é o problema, mas sim uma questão mais ampla do uso pretendido pela sociedade.
“O que este momento proporciona é uma oportunidade de considerar que tipo de sociedade queremos ser — que regras queremos aplicar a todos igualmente, com ou sem inteligência artificial — e que tipo de regras econômicas servem melhor à sociedade”, disse Barath Raghavan, Professor Associado de Ciência da Computação na USC Viterbi ao Decrypt.
“As melhores respostas políticas não serão aquelas que visam mecanismos tecnológicos específicos da IA de hoje (que rapidamente estarão desatualizados), mas comportamentos e regras que gostaríamos de ver aplicados universalmente.”
*Traduzido por Gustavo Martins com autorização do Decrypt.
- Quer ganhar mais com Ethereum? Abra sua conta no Mercado Bitcoin, a corretora mais segura do Brasil, e comece a fazer staking agora mesmo.
