Google revê diretrizes e remove restrição ao uso de IA para armas e vigilância

O Google atualizou suas diretrizes éticas para inteligência artificial (IA), eliminando os compromissos anteriores de não aplicar a tecnologia em armas ou vigilância. Como relembra o The Washington Post, a mudança representa reviravolta na política estabelecida pela empresa em 2018, que previa a exclusão de usos que pudessem causar danos significativos.

Até a semana passada, os princípios de IA do Google incluíam seção intitulada “Aplicações que não iremos perseguir”, onde estavam listadas restrições ao uso da tecnologia para armamentos, vigilância e outras finalidades contrárias aos princípios do direito internacional e dos direitos humanos. No entanto, essas diretrizes foram removidas.

Em publicação feita nesta terça-feira (4), Demis Hassabis, chefe de IA do Google, e James Manyika, vice-presidente sênior de tecnologia e sociedade, justificaram a mudança afirmando que o avanço da IA exige nova abordagem e que empresas de países democráticos devem colaborar com governos e clientes da área de segurança nacional.

“Existe competição global pela liderança em IA em cenário geopolítico cada vez mais complexo. Acreditamos que as democracias devem liderar o desenvolvimento da IA, guiadas por valores fundamentais, como liberdade, igualdade e respeito aos direitos humanos”, escreveram Hassabis e Manyika.

“E acreditamos que empresas, governos e organizações que compartilham esses valores devem trabalhar juntos para criar IA que proteja as pessoas, promova o crescimento global e apoie a segurança nacional.”

A nova página de princípios de IA do Google inclui provisões que destacam o compromisso da empresa em seguir “princípios amplamente aceitos do direito internacional e dos direitos humanos”, além de testes para mitigar resultados indesejados ou prejudiciais.

Mudança de postura do Google e alinhamento com concorrentes

• A decisão do Google o alinha a outras grandes empresas de tecnologia que já colaboram com o setor de defesa;
• Em 2018, a empresa enfrentou protestos internos quando funcionários se opuseram ao Projeto Maven, contrato com o Pentágono para o uso de IA na análise de imagens de drones;
• A reação levou o Google a não renovar o contrato e a estabelecer os princípios de IA que, agora, foram alterados;
• Enquanto isso, outras gigantes do setor têm reforçado parcerias militares;
• No final de 2023, a OpenAI, criadora do ChatGPT, anunciou colaboração com a fabricante de equipamentos militares Anduril para desenvolver tecnologia para o Departamento de Defesa dos EUA;
• Já a Anthropic, empresa responsável pelo chatbot Claude, firmou parceria com a Palantir, fornecendo acesso a sua IA para agências de inteligência e defesa dos EUA;
• Empresas, como Microsoft e Amazon, há anos, trabalham diretamente com o Pentágono, o que fazia do Google um caso isolado no setor ao restringir aplicações de IA para fins militares e de segurança.

Michael Horowitz, professor de ciência política da Universidade da Pensilvânia e ex-assessor do Pentágono para tecnologias emergentes, afirmou ao Post que a nova política do Google reflete mudança no setor. “A relação entre o setor tecnológico dos EUA e o Departamento de Defesa continua se estreitando, incluindo as principais empresas de IA”, disse.

Leia mais:

• Como pesquisar no Google com 14 dicas para melhorar seus resultados
• Google: como usar documentos, planilhas e apresentações off-line
• Alphabet, dona do Google, divulga receita – e não vai parar de investir em IA

Controvérsias e críticas internas

A decisão do Google já enfrenta resistência. Lilly Irani, professora da Universidade da Califórnia em San Diego (EUA) e ex-funcionária da empresa, destacou que as declarações dos executivos não representam novidade.

Ela lembrou que o ex-CEO do Google, Eric Schmidt, há anos, alerta para o risco de a China ultrapassar os EUA no desenvolvimento de IA e que a empresa já afirmava respeitar leis internacionais. “Mas vimos esses limites serem constantemente ignorados pelo Estado norte-americano”, criticou Irani. “Isso é uma oportunidade para relembrarmos o vazio das promessas do Google.”

A mudança de postura da big tech também acompanha movimento mais amplo do setor de tecnologia, que, nos últimos anos, tem revisado compromissos anteriores com diversidade e inclusão, após pressões políticas e regulatórias.

Além disso, a empresa tem sido alvo de críticas por seu envolvimento em contratos governamentais controversos.

Recentemente, documentos internos revelaram que o Google forneceu ao Ministério da Defesa de Israel e às Forças de Defesa de Israel (IDF, na sigla em inglês) maior acesso a suas ferramentas de IA após o ataque do Hamas em 7 de outubro de 2023, levantando preocupações sobre o uso da tecnologia em políticas que possam impactar palestinos.

Com a nova diretriz, o Google reforça sua integração com o setor de defesa dos EUA, em momento de crescente disputa geopolítica pela liderança em inteligência artificial.

O post Google revê diretrizes e remove restrição ao uso de IA para armas e vigilância apareceu primeiro em Olhar Digital.