Imagem da matéria: Criadores de AI alertam que sua tecnologia apresenta 'risco de extinção da humanidade'
IA representa ameaça para a humanidade, dizem cientistas (Foto: Shutterstock)

Preparem-se: a AI pode causar a extinção da humanidade.

Na terça-feira (30), centenas de líderes e pesquisadores da indústria de AI — incluindo executivos da Microsoft, Google e OpenAI — emitiram um aviso preocupante. Eles alegam que a tecnologia de inteligência artificial que estão desenvolvendo poderá um dia representar um perigo real e presente para a existência da humanidade. Juntamente com os horrores das pandemias e das guerras nucleares, consideram a AI um risco social de magnitude semelhante.

Publicidade

Em uma carta publicada pelo Center for AI Safety, os especialistas em AI ofereceram esta declaração marcada por sua dura brevidade: “Mitigar o risco de extinção da AI deve ser uma prioridade global, juntamente com outros riscos de escala social, como pandemias e guerra nuclear.”

E isso é tudo o que dizem.

A declaração pinta a AI como uma ameaça iminente, semelhante a um desastre nuclear ou a uma pandemia global. Mas os signatários, estes feiticeiros da indústria tecnológica, não conseguiram se aprofundar no conteúdo desse sinistro aviso.

Como exatamente é que esse suposto cenário apocalíptico vai acontecer? Quando devemos marcar nossos calendários para a ascensão da revolta das máquinas? Por que a AI, uma invenção da inovação humana, se voltaria contra seus criadores? O silêncio desses arquitetos da inteligência artificial foi retumbante e eles não forneceram respostas.

Na verdade, esses líderes da indústria não eram mais informativos do que um chatbot com uma resposta enlatada. No domínio das ameaças globais, a AI parece ter subitamente saltado na fila, superando as alterações climáticas, os conflitos geopolíticos e até invasões alienígenas em termos de pesquisas por palavras-chave do Google.

Curiosamente, as empresas tendem a defender regulamentações quando elas alinham-se com os seus interesses. Isso poderia ser visto como a maneira de dizer: “Queremos ter uma mão na definição dessas regulamentações.” É semelhante à raposa que pede novas regras no galinheiro.

Publicidade

Vale a pena destacar também como o CEO da OpenAI, Sam Altman, tem pressionado os EUA por regulamentações da tecnologia . Mesmo com essa pressão, ele ameaçou uma saída da Europa se os políticos do continente continuassem a tentar regular a AI. “Vamos tentar obedecer as regras”, Altman disse em um painel na University College London. “Se pudermos cumprir, vamos. E se não pudermos, deixaremos de funcionar.”

É justo dizer que ele voltou atrás alguns dias depois, dizendo que a OpenAI não tinha planos de deixar a Europa. Isso, é claro, aconteceu depois que ele teve a chance de conversar com os reguladores sobre o assunto em uma “semana muito produtiva.”

A AI é arriscada, mas é tão arriscada assim?

Os potenciais perigos da inteligência artificial não passaram despercebidos entre os especialistas. A carta aberta anterior assinada por 31.810 endossantes, incluindo Elon Musk, Steve Wozniak, Yuval Harari e Andrew Yang, pediu uma pausa no treinamento dos poderosos modelos de AI.

“Esses protocolos devem garantir que os sistemas que aderem a eles sejam seguros além de qualquer dúvida razoável”, diz a carta, esclarecendo que “isso não significa uma pausa no desenvolvimento da AI em geral, apenas um retrocesso da corrida perigosa para modelos de caixa preta (um modelo que entrega resultados, mas não revela seu funcionamento interno) cada vez maiores e imprevisíveis com capacidades emergentes.”

Publicidade

A questão de uma potencial explosão da AI (AI Foom), (um momento em que uma AI se torna capaz de melhorar seus próprios sistemas, aumentando suas capacidades a ponto de superar a inteligência humana), tem sido discutida há anos. No entanto, o ritmo acelerado da mudança hoje, juntamente com uma cobertura midiática substancial, colocou o debate no centro das atenções globais.

Isso gerou visões diversas sobre como a vontade  da AI (não apenas poderia) impactar o futuro das interações sociais.

Alguns imaginam uma era utópica em que a AI alinhada e os humanos interagem, e o avanço tecnológico reina supremo. Outros acreditam que a humanidade se adaptará à AI, com a criação de novos postos de trabalho em torno da tecnologia, semelhante ao crescimento do emprego que se seguiu à invenção do automóvel. No entanto, outros afirmam que a AI tem uma chance significativa de amadurecer e se tornar incontrolável, representando uma ameaça real à humanidade.

Até lá, os negócios continuam acontecendo normalmente no setor da AI. Fique de olho no seu ChatGPT, no seu Bard ou na sua Siri — eles podem estar a apenas uma atualização de software de governar o mundo. Mas, por enquanto, parece que a maior ameaça da humanidade não são as nossas próprias invenções, mas sim o nosso talento ilimitado para a hipérbole.

*Traduzido por Gustavo Martins com autorização do Decrypt.

VOCÊ PODE GOSTAR
Paolo Ong, da SEC Filipinas

Termina prazo para saída da Binance das Filipinas e reguladores avisam: “Não há como sacar fundos após bloqueio”

“Não podemos endossar nenhum método de como retirar seu dinheiro agora que a ordem de bloqueio foi emitida”, disse o regulador filipino
Tigran Gambaryan, chefe de compliance da Binance, posa para foto

Executivo da Binance que fugiu da Nigéria é localizado e pode ser extraditado

Autoridade queniana disse que não é simplesmente prender, pois Nadeem Anjarwalla é de família influente que “tem o apoio de algumas pessoas poderosas”
silhueta de executivo triste em frente a computador

Trader que lucrou milhões com manipulação de preços vai a julgamento; caso pode impactar setor DeFi

Trader que lucrou US$ 100 milhões manipulando preços na exchange descentralizada Mango Markets começa a ser julgado hoje nos EUA
peter schiff falando ao microfone

O Bitcoin está em um mercado de baixa quando comparado ao ouro, afirma Peter Schiff

O analista financeiro e comentarista disse uma vez que o preço do BTC nunca chegaria a US$ 50 mil