EnglishFrenchPortugueseSpanish

A NATO e a Militarização da Inteligência Artificial

1. Introdução: o que é a Inteligência Artificial?

A Inteligência Artificial (IA) encontra-se entre as denominadas Tecnologias Emergentes e Disruptivas que atualmente moldam a arquitetura de segurança internacional. A corrida à condução da guerra potenciada pela IA assume-se como um fator crucial na competição pela hegemonia entre as grandes potências, sendo que “a ignorância dos adversários acerca das configurações desenvolvidas pela IA tornar-se-á uma vantagem estratégica” (Kissinger et al., 2019). O presidente da Federação Russa, Vladimir Putin, reconhece inclusivamente que quem se tornar líder nesta esfera tornar-se-á líder do mundo (Vincent, 2017), aproximando a significância deste domínio à de um heartland tecnológico, permeável à geopolítica de fronteiras. Por definição, a Inteligência Artificial é uma área que combina a ciência computacional e conjuntos robustos de dados por forma a permitir a resolução de problemas (IBM, 2020). Já no seio da Aliança Atlântica é adotada uma definição similar à utilizada pelo Departamento de Defesa dos Estados Unidos, definindo a IA como a capacidade de máquinas realizarem tarefas que tipicamente exigem inteligência humana (Stanley-Lockman & Christie, 2021). Apesar de a sua aplicabilidade transcender o domínio da segurança e defesa, à medida que a IA assume um papel potencialmente preponderante nos conflitos armados, este é cada vez mais um tema incontornável à égide da segurança nacional. A sua militarização comporta não apenas novas oportunidades, mas novos riscos e desafios à segurança dos Estados.

2. A militarização da Inteligência Artificial

O debate público que circunda o uso da IA no domínio militar tem colocado particular ênfase no desenvolvimento de sistemas de Armamento Letal Autónomo (do acrónimo em inglês LAWs – Lethal Autonomous Weapons). Atualmente, um sistema de IA pode superar um piloto militar experiente em combate simulado ar-ar (Payne, 2018), revelando uma apelabilidade evidente, baseada num maior nível de eficácia e menor nível de risco. No entanto, apesar de apresentar resultados positivos em ambientes bem definidos, esta tecnologia é suscetível de falhar gravemente em ambientes desconhecidos (The Economist, 2019). Uma vez que a inteligência destes sistemas ditará ultimamente a sua sobrevivência no campo de batalha e, consequentemente, a sua utilidade, assume-se que há ainda um longo caminho de maturação tecnológica a percorrer. Ademais, estes sistemas não se coíbem de sublevar preocupações éticas – nomeadamente na atribuição de responsabilidade sobre ações levadas a cabo por uma máquina –, ou preocupações funcionais, através de processos decisórios opacos cuja lógica pode escapar à compreensão humana. A título ilustrativo, o AlphaGo – um algoritmo de deep learning[1] criado pela DeepMind – derrotou um dos melhores jogadores do mundo no famigerado jogo de estratégia chinês Go. Com recurso a vários passos criativos que confundiram os jogadores mais experientes, a vitória do AlphaGo demonstrou aos estrategistas militares chineses que a IA pode criar táticas e estratagemas superiores aos de um jogador humano num jogo que pode ser comparado a um jogo de guerra (The Economist, 2019). A possibilidade de ultrapassar a compreensão humana na prossecução bem-sucedida de objetivos militares abre indubitavelmente novos horizontes na condução da guerra, permitindo alcançar uma importante, e potencialmente diferenciadora, vantagem estratégica sobre o adversário. No entanto, se a lógica por detrás do raciocínio executado pelo algoritmo escapar aos esforços de aprendizagem humana, gerar-se-á um problema de explicabilidade e, em última instância, de confiança. Isto porque os sistemas de machine learning correlacionam dados, não estabelecendo relações de causalidade. Esta limitação impede a sua profícua utilização não apenas em sistemas de armamento autónomos, mas também nos processos de decisão militares. Apesar de a aplicabilidade da IA nestas duas vertentes dos conflitos armados parecer, por enquanto, confinada a um horizonte temporal mais distante, é possível testemunhar uma terceira vertente que beneficiará, a breve trecho, da adoção de sistemas de IA. A recolha de dados e o seu processamento com recurso a algoritmos de machine learning poderá levar à produção de informações estratégicas baseadas em dados colhidos massivamente. Testes de laboratório realizados em 2015 demonstraram a superioridade de algoritmos face à sua contraparte humana na classificação de imagens, sendo esta diferença quase duplamente superior em relação a uma tarefa mais difícil – a segmentação de objetos, que envolve a seleção de múltiplos objetos a partir de imagens singulares (The Economist, 2019). Apesar de se verificarem vulnerabilidades nestes sistemas, o Pentágono concluiu em 2017 que os algoritmos de deep learning já se encontram praticamente ao nível humano (The Economist, 2019), um feito que por si só já começa a fazer prova da sua utilidade. Mesmo que a componente humana ainda seja fulcral no processo de validação do algoritmo, a sua crescente sofisticação permitirá a análise de quantidades massivas de dados com um crescente grau de confiança, contribuindo significativamente para o trabalho dos analistas quer em termos de um aumento exponencial da amostra, quer da rapidez da sua classificação e segmentação.

Dada o inegável papel que a inteligência artificial já assume e poderá ainda assumir no futuro da segurança e defesa dos Estados, esta tecnologia fundacional irá provavelmente afetar todo o espectro de atividades empreendidas pela Aliança Atlântica no apoio às suas três tarefas fundamentais: defesa coletiva, gestão de crises, e segurança cooperativa (NATO, 2021).

3. O papel da Aliança Atlântica

Quando analisamos a importância da IA para a NATO, o assegurar de uma vantagem tecnológica ocupa naturalmente um lugar de destaque. Por forma a garantir a eficácia militar ao nível estratégico, operacional e tático, é necessário acompanhar o passo acelerado a que a inovação no campo tecnológico ocorre – especialmente no caso de uma tecnologia de uso generalizado como a IA. Apesar de ainda se encontrar numa fase inicial, o tópico da IA no âmbito da NATO está a ganhar impulso, como se denota pela publicação sumária da Estratégia de Inteligência Artificial da Aliança Atlântica em outubro de 2021. Nela constam os denominados “Princípios de Uso Responsável” – como a licitude, a responsabilidade, a explicabilidade e rastreabilidade, a fiabilidade, a governabilidade, e a mitigação de preconceitos – princípios estes que devem servir de alicerce na resposta à utilização da IA no domínio militar que aqui sumariamente abordámos. Numa conversa proporcionada pelo International Institute for Strategic Studies (IISS), é explorado o surgimento desta temática no âmbito da NATO e, na resposta ao porquê de este tópico ser agora levantado, a analista de segurança e desenvolvimento Erica Pepe afirma que: 1) se trata de uma tecnologia com um potencial significativo no futuro; 2) países aliados e países externos à aliança estão a investir na IA; e 3) dada a sua fase inicial de desenvolvimento, o presente momento afigura-se vantajoso para uma alternativa ocidental no estabelecimento de normas e padrões de utilização (Nouwens et al., 2021). Ao acordarem uma estratégia para a IA, os países membros conferem à NATO o papel de principal fórum transatlântico nesta matéria (Stanley-Lockman & Christie, 2021), dando um passo fundamental para o estabelecimento de padrões de utilização da IA no domínio militar encabeçado pela Aliança Atlântica.

4. Desafios impostos ao uso da IA

Reconhecendo o papel central que a NATO pretende ter na aplicação desta tecnologia emergente, importa igualmente referir os desafios que se colocam na prossecução de uma potencial vantagem estratégica com recurso à mesma. Como referido anteriormente, a limitação derivada da ausência de relações de causalidade é particularmente saliente no apoio à decisão dos comandantes militares da NATO, sendo que este problema de confiança é exponenciado quando estamos perante decisões que acarretam risco de vida. Adicionalmente, ao nível dos países aliados, existem alguns desafios que devem ser transpostos, entre os quais a eventual falta de consenso na aplicação de sistemas de IA e o fosso de inovação que possa existir entre si, espelhado de igual forma na inclusão – ou não – desta tecnologia nas suas Estratégias de Defesa Nacionais (Nouwens et al., 2021). A existência de um consenso alargado acerca do uso da IA estará na base da criação de sinergias entre os países aliados, pelo que garantir a sua interoperabilidade potenciará o valor dos seus projetos e, em última análise, permitirá reduzir custos. Ainda assim, nem todos os Estados terão a capacidade de suportar a inovação nesta área, especialmente num contexto pós-pandêmico, contribuindo para o surgimento de um fosso tecnológico entre si e em diferentes aceções face à prioridade da IA para a sua segurança nacional. 

Paralelamente ao desenvolvimento da IA, urge ter em conta a sua potencial disponibilidade não apenas para os Estados, mas também para atores não-estatais. Neste âmbito, o estabelecimento de padrões de utilização e a monitorização da sua implementação adquirem uma importância redobrada, permitindo identificar comportamentos desviantes da norma, especialmente no caso de atores não-estatais violentos, cuja ação acarreta risco para a segurança humana. Também a ação não-violenta pode comportar riscos significativos para os Estados, como por exemplo através da disseminação dos denominados deep fakes, nos quais um vídeo pode simular realisticamente um ator político a tecer afirmações através de manipulação visual e auditiva. A Inteligência Artificial inclusivamente tornar-se acessível a atores ilícitos, sendo que a sua adoção em sistemas críticos de segurança nacional poderá levar a novas e imprevisíveis vulnerabilidades, por exemplo nos sistemas de armamento nucleares (Nouwens et al., 2021).

5. Conclusões

A criação de uma Estratégia para a Inteligência Artificial estabelece o cenário para as ambições da NATO e dos seus países membros relativamente a esta e outras Tecnologias Emergentes e Disruptivas, sendo que, para cada uma delas, a futura vantagem estratégica que advinda dos esforços de inovação da NATO resultará das ligações entre liderança ética, adoção iterativa e integração que premeiem a flexibilidade, a interoperabilidade e a confiança (Stanley-Lockman & Christie, 2021).

Apesar de haver ainda um longo caminho pela frente, a Inteligência Artificial materializará certamente o alcançar de uma nova fronteira tecnológica cujo papel nas indústrias de defesa e na segurança nacional adquirirá cada vez mais destaque, fazendo-se, contudo, acompanhar de um conjunto de desafios verdadeiramente à altura do seu potencial transformador.


12 de maio de 2022

Sebastião Sabino

EuroDefense Jovem-Portugal


6. Referências

[1] Os algoritmos de deep learning fazem parte do espetro alargado dos algoritmos de machine learning, distinguindo-se pelo facto de a sua a estrutura permitir uma aprendizagem a partir do seu próprio processamento de dados.

IBM. (2020). What is Artificial Intelligence (AI)? https://www.ibm.com/cloud/learn/what-is-artificial-intelligence

Kissinger, H. A., Schmidt, E., & Huttenlocher, D. (2019, August). The Metamorphosis. https://www.theatlantic.com/magazine/archive/2019/08/henry-kissinger-the-metamorphosis-ai/592771/

NATO. (2021). Summary of the NATO Artificial Intelligence Strategy. https://www.nato.int/cps/en/natohq/official_texts_187617.htm?selectedLocale=en

Nouwens, M., Pepe, E., & Gady, F.-S. (2021). NATO and artificial intelligence. https://www.iiss.org/blogs/podcast/2021/04/nato-artificial-intelligence

Payne, K. (2018). Artificial Intelligence: A Revolution in Strategic Affairs? Survival, 60(5), 7–32. https://doi.org/10.1080/00396338.2018.1518374

Stanley-Lockman, Z., & Christie, E. H. (2021). NATO Review – An Artificial Intelligence Strategy for NATO. https://www.nato.int/docu/review/articles/2021/10/25/an-artificial-intelligence-strategy-for-nato/index.html

The Economist. (2019). Artificial intelligence is changing every aspect of war. https://www.economist.com/science-and-technology/2019/09/07/artificial-intelligence-is-changing-every-aspect-of-war

Vincent, J. (2017). Putin says the nation that leads in AI ‘will be the ruler of the world’ – The Verge. https://www.theverge.com/2017/9/4/16251226/russia-ai-putin-rule-the-world


NOTA:

  • O texto e as suas ideias são da inteira responsabilidade do seu autor, não vinculando a opinião do Centro de Estudos EuroDefense-Portugal.
  • Os elementos de audiovisual são meramente ilustrativos, podendo não existir ligação direta com o texto.
Partilhar conteúdo:
LinkedIn
Share

Formulário Contato