Documentos vazados revelam tentativa do exército americano de obter modelos com ‘taxa mínima de recusa’, mas a OpenAI afirma que tal cláusula não constou no contrato final.
Um recente processo judicial realizado sob a Lei de Liberdade de Informação (FOIA) trouxe à tona uma disputa significativa entre o Pentágono e a OpenAI. Os documentos divulgados sugerem que as forças armadas dos Estados Unidos buscaram especificamente uma versão do sistema de inteligência artificial da OpenAI com menos restrições éticas e operacionais.
O que revelaram os documentos
As folhas de contrato, solicitadas pelo veículo The Intercept, descreviam modelos especializados para segurança nacional que deveriam ter “taxas mínimas de recusa” durante certas aplicações militares. Em termos simples, isso significaria um sistema capaz de aceitar e processar pedidos que a IA comercial comum (como o ChatGPT padrão) normalmente rejeitaria por serem perigosos ou antiéticos.
OpenAI e o governo negam a cláusula final
Tanto a OpenAI quanto representantes do Departamento de Defesa dos EUA contestaram veementemente que essa linguagem específica existisse no acordo final assinado. Nate Evans, porta-voz da OpenAI, esclareceu: “A OpenAI nunca concordou com linguagem de contrato exigindo ‘taxas mínimas de recusa’. Essa linguagem não aparece em nosso contrato executado”.
Segundo a empresa, o documento obtido via processo era apenas um rascunho inicial proposto pelo Departamento de Defesa, antes que a OpenAI fornecesse suas contrapropostas e feedback. Um advogado do Pentágono, que inicialmente confirmou a existência do documento, posteriormente retirou sua declaração, admitindo possivelmente uma confusão entre registros preliminares e acordos executivos.
Preocupações sobre limites da IA militar
A polêmica reacende debates globais sobre o nível de controle que empresas privadas devem manter sobre seus produtos quando estes são utilizados por governos. Sistemas comerciais de IA, como o ChatGPT, possuem salvaguardas projetadas para impedir assistência em atividades prejudiciais, como o planejamento de ataques ou desenvolvimento de armas.
Heidy Khlaaf, cientista-chefe do AI Now Institute, argumenta que a expressão “recusa mínima” provavelmente se refere à remoção de salvaguardas do modelo. Apesar das controvérsias, a OpenAI expandiu seu acordo militar para permitir o uso de seus serviços em redes governamentais classificadas, embora a empresa afirme manter proibições contra o uso de armas autônomas e certas atividades de vigilância envolvendo cidadãos americanos.
