Quase 200 funcionários da Google DeepMind, a divisão de pesquisa em inteligência artificial da empresa, assinaram uma carta pedindo que a empresa rompa seus contratos com organizações militares.

A carta, datada de 16 de maio e divulgada pela TIME, expressa crescente preocupação ética sobre o uso de sua tecnologia de IA em contextos militares.

Os signatários, que representam cerca de 5% da equipe da DeepMind, criticam os contratos da empresa com vários governos, incluindo o exército israelense por meio do Projeto Nimbus.

Eles argumentam que esses contratos violam os Princípios de IA do Google, que proíbem a aplicação da tecnologia em maneiras que possam causar “danos gerais” ou serem usadas para armamento e vigilância.

Leia mais:

Embora a carta não mencione conflitos geopolíticos específicos, ela faz referência a relatórios que sugerem que operações militares israelenses estão utilizando IA para vigilância e segmentação.

Google ainda não tomou medidas

• Apesar da DeepMind ter uma política histórica de não usar sua tecnologia para fins militares, a integração crescente com as operações do Google desde sua aquisição em 2014 levou a um aumento nos contratos militares.
• Mesmo com as demandas expressas na carta, como uma revisão do uso da tecnologia da DeepMind por clientes militares e a criação de um novo órgão de governança, o Google ainda não tomou medidas significativas.
• Um dos signatários da carta criticou a resposta do Google à TIME, dizendo que a declaração da empresa sobre o Projeto Nimbus é “tão vagamente específica que ninguém sabe ao certo o que isso realmente significa”.
• O Google diz que o Projeto Nimbus, seu contrato com Israel, não é “direcionado a cargas de trabalho altamente sensíveis, classificadas ou militares relevantes para armas, ou serviços de inteligência”.
• Mas essa resposta “não nega as alegações de que sua tecnologia permite qualquer forma de violência ou permite vigilância que viole normas internacionalmente aceitas”, segundo a carta que circulou dentro da DeepMind em maio.