{"id":8038,"date":"2022-05-12T12:14:46","date_gmt":"2022-05-12T12:14:46","guid":{"rendered":"https:\/\/eurodefense.pt\/?p=8038"},"modified":"2023-02-20T18:00:44","modified_gmt":"2023-02-20T18:00:44","slug":"a-nato-e-a-militarizacao-da-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/eurodefense.pt\/a-nato-e-a-militarizacao-da-inteligencia-artificial\/","title":{"rendered":"A NATO e a Militariza\u00e7\u00e3o da Intelig\u00eancia Artificial"},"content":{"rendered":"\n

1. Introdu\u00e7\u00e3o: o que \u00e9 a Intelig\u00eancia Artificial?<\/strong><\/p>\n\n\n\n

A Intelig\u00eancia Artificial (IA) encontra-se entre as denominadas Tecnologias Emergentes e Disruptivas que atualmente moldam a arquitetura de seguran\u00e7a internacional. A corrida \u00e0 condu\u00e7\u00e3o da guerra potenciada pela IA assume-se como um fator crucial na competi\u00e7\u00e3o pela hegemonia entre as grandes pot\u00eancias, sendo que \u201ca ignor\u00e2ncia dos advers\u00e1rios acerca das configura\u00e7\u00f5es desenvolvidas pela IA tornar-se-\u00e1 uma vantagem estrat\u00e9gica” (Kissinger et al., 2019). O presidente da Federa\u00e7\u00e3o Russa, Vladimir Putin, reconhece inclusivamente que quem se tornar l\u00edder nesta esfera tornar-se-\u00e1 l\u00edder do mundo (Vincent, 2017), aproximando a signific\u00e2ncia deste dom\u00ednio \u00e0 de um heartland<\/em> tecnol\u00f3gico, perme\u00e1vel \u00e0 geopol\u00edtica de fronteiras. Por defini\u00e7\u00e3o, a Intelig\u00eancia Artificial \u00e9 uma \u00e1rea que combina a ci\u00eancia computacional e conjuntos robustos de dados por forma a permitir a resolu\u00e7\u00e3o de problemas (IBM, 2020). J\u00e1 no seio da Alian\u00e7a Atl\u00e2ntica \u00e9 adotada uma defini\u00e7\u00e3o similar \u00e0 utilizada pelo Departamento de Defesa dos Estados Unidos, definindo a IA como a capacidade de m\u00e1quinas realizarem tarefas que tipicamente exigem intelig\u00eancia humana (Stanley-Lockman & Christie, 2021). Apesar de a sua aplicabilidade transcender o dom\u00ednio da seguran\u00e7a e defesa, \u00e0 medida que a IA assume um papel potencialmente preponderante nos conflitos armados, este \u00e9 cada vez mais um tema incontorn\u00e1vel \u00e0 \u00e9gide da seguran\u00e7a nacional. A sua militariza\u00e7\u00e3o comporta n\u00e3o apenas novas oportunidades, mas novos riscos e desafios \u00e0 seguran\u00e7a dos Estados.<\/p>\n\n\n\n

2. A militariza\u00e7\u00e3o da Intelig\u00eancia Artificial<\/strong><\/p>\n\n\n\n

O debate p\u00fablico que circunda o uso da IA no dom\u00ednio militar tem colocado particular \u00eanfase no desenvolvimento de sistemas de Armamento Letal Aut\u00f3nomo (do acr\u00f3nimo em ingl\u00eas LAWs \u2013 Lethal Autonomous Weapons<\/em>). Atualmente, um sistema de IA pode superar um piloto militar experiente em combate simulado ar-ar (Payne, 2018), revelando uma apelabilidade evidente, baseada num maior n\u00edvel de efic\u00e1cia e menor n\u00edvel de risco. No entanto, apesar de apresentar resultados positivos em ambientes bem definidos, esta tecnologia \u00e9 suscet\u00edvel de falhar gravemente em ambientes desconhecidos (The Economist, 2019). Uma vez que a intelig\u00eancia destes sistemas ditar\u00e1 ultimamente a sua sobreviv\u00eancia no campo de batalha e, consequentemente, a sua utilidade, assume-se que h\u00e1 ainda um longo caminho de matura\u00e7\u00e3o tecnol\u00f3gica a percorrer. Ademais, estes sistemas n\u00e3o se co\u00edbem de sublevar preocupa\u00e7\u00f5es \u00e9ticas \u2013 nomeadamente na atribui\u00e7\u00e3o de responsabilidade sobre a\u00e7\u00f5es levadas a cabo por uma m\u00e1quina \u2013, ou preocupa\u00e7\u00f5es funcionais, atrav\u00e9s de processos decis\u00f3rios opacos cuja l\u00f3gica pode escapar \u00e0 compreens\u00e3o humana. A t\u00edtulo ilustrativo, o AlphaGo<\/em> \u2013 um algoritmo de deep learning<\/em>[1]<\/span><\/sup><\/strong><\/sup><\/a> <\/em>criado pela DeepMind \u2013 derrotou um dos melhores jogadores do mundo no famigerado jogo de estrat\u00e9gia chin\u00eas Go. <\/em>Com recurso a v\u00e1rios passos criativos que confundiram os jogadores mais experientes, a vit\u00f3ria do AlphaGo <\/em>demonstrou aos estrategistas militares chineses que a IA pode criar t\u00e1ticas e estratagemas superiores aos de um jogador humano num jogo que pode ser comparado a um jogo de guerra (The Economist, 2019). A possibilidade de ultrapassar a compreens\u00e3o humana na prossecu\u00e7\u00e3o bem-sucedida de objetivos militares abre indubitavelmente novos horizontes na condu\u00e7\u00e3o da guerra, permitindo alcan\u00e7ar uma importante, e potencialmente diferenciadora, vantagem estrat\u00e9gica sobre o advers\u00e1rio. No entanto, se a l\u00f3gica por detr\u00e1s do racioc\u00ednio executado pelo algoritmo escapar aos esfor\u00e7os de aprendizagem humana, gerar-se-\u00e1 um problema de explicabilidade e, em \u00faltima inst\u00e2ncia, de confian\u00e7a. Isto porque os sistemas de machine learning<\/em> correlacionam dados, n\u00e3o estabelecendo rela\u00e7\u00f5es de causalidade. Esta limita\u00e7\u00e3o impede a sua prof\u00edcua utiliza\u00e7\u00e3o n\u00e3o apenas em sistemas de armamento aut\u00f3nomos, mas tamb\u00e9m nos processos de decis\u00e3o militares. Apesar de a aplicabilidade da IA nestas duas vertentes dos conflitos armados parecer, por enquanto, confinada a um horizonte temporal mais distante, \u00e9 poss\u00edvel testemunhar uma terceira vertente que beneficiar\u00e1, a breve trecho, da ado\u00e7\u00e3o de sistemas de IA. A recolha de dados e o seu processamento com recurso a algoritmos de machine learning<\/em> poder\u00e1 levar \u00e0 produ\u00e7\u00e3o de informa\u00e7\u00f5es estrat\u00e9gicas baseadas em dados colhidos massivamente. Testes de laborat\u00f3rio realizados em 2015 demonstraram a superioridade de algoritmos face \u00e0 sua contraparte humana na classifica\u00e7\u00e3o de imagens, sendo esta diferen\u00e7a quase duplamente superior em rela\u00e7\u00e3o a uma tarefa mais dif\u00edcil \u2013 a segmenta\u00e7\u00e3o de objetos, que envolve a sele\u00e7\u00e3o de m\u00faltiplos objetos a partir de imagens singulares (The Economist, 2019). Apesar de se verificarem vulnerabilidades nestes sistemas, o Pent\u00e1gono concluiu em 2017 que os algoritmos de deep learning<\/em> j\u00e1 se encontram praticamente ao n\u00edvel humano (The Economist, 2019), um feito que por si s\u00f3 j\u00e1 come\u00e7a a fazer prova da sua utilidade. Mesmo que a componente humana ainda seja fulcral no processo de valida\u00e7\u00e3o do algoritmo, a sua crescente sofistica\u00e7\u00e3o permitir\u00e1 a an\u00e1lise de quantidades massivas de dados com um crescente grau de confian\u00e7a, contribuindo significativamente para o trabalho dos analistas quer em termos de um aumento exponencial da amostra, quer da rapidez da sua classifica\u00e7\u00e3o e segmenta\u00e7\u00e3o.<\/p>\n\n\n\n

Dada o ineg\u00e1vel papel que a intelig\u00eancia artificial j\u00e1 assume e poder\u00e1 ainda assumir no futuro da seguran\u00e7a e defesa dos Estados, esta tecnologia fundacional ir\u00e1 provavelmente afetar todo o espectro de atividades empreendidas pela Alian\u00e7a Atl\u00e2ntica no apoio \u00e0s suas tr\u00eas tarefas fundamentais: defesa coletiva, gest\u00e3o de crises, e seguran\u00e7a cooperativa (NATO, 2021).<\/p>\n\n\n\n

3. O papel da Alian\u00e7a Atl\u00e2ntica<\/strong><\/p>\n\n\n\n

Quando analisamos a import\u00e2ncia da IA para a NATO, o assegurar de uma vantagem tecnol\u00f3gica ocupa naturalmente um lugar de destaque. Por forma a garantir a efic\u00e1cia militar ao n\u00edvel estrat\u00e9gico, operacional e t\u00e1tico, \u00e9 necess\u00e1rio acompanhar o passo acelerado a que a inova\u00e7\u00e3o no campo tecnol\u00f3gico ocorre \u2013 especialmente no caso de uma tecnologia de uso generalizado como a IA. Apesar de ainda se encontrar numa fase inicial, o t\u00f3pico da IA no \u00e2mbito da NATO est\u00e1 a ganhar impulso, como se denota pela publica\u00e7\u00e3o sum\u00e1ria da Estrat\u00e9gia de Intelig\u00eancia Artificial da Alian\u00e7a Atl\u00e2ntica em outubro de 2021. Nela constam os denominados \u201cPrinc\u00edpios de Uso Respons\u00e1vel\u201d \u2013 como a licitude, a responsabilidade, a explicabilidade e rastreabilidade, a fiabilidade, a governabilidade, e a mitiga\u00e7\u00e3o de preconceitos \u2013 princ\u00edpios estes que devem servir de alicerce na resposta \u00e0 utiliza\u00e7\u00e3o da IA no dom\u00ednio militar que aqui sumariamente abord\u00e1mos. Numa conversa proporcionada pelo International Institute for Strategic Studies<\/em> (IISS), \u00e9 explorado o surgimento desta tem\u00e1tica no \u00e2mbito da NATO e, na resposta ao porqu\u00ea de este t\u00f3pico ser agora levantado, a analista de seguran\u00e7a e desenvolvimento Erica Pepe afirma que: 1) se trata de uma tecnologia com um potencial significativo no futuro; 2) pa\u00edses aliados e pa\u00edses externos \u00e0 alian\u00e7a est\u00e3o a investir na IA; e 3) dada a sua fase inicial de desenvolvimento, o presente momento afigura-se vantajoso para uma alternativa ocidental no estabelecimento de normas e padr\u00f5es de utiliza\u00e7\u00e3o (Nouwens et al., 2021). Ao acordarem uma estrat\u00e9gia para a IA, os pa\u00edses membros conferem \u00e0 NATO o papel de principal f\u00f3rum transatl\u00e2ntico nesta mat\u00e9ria (Stanley-Lockman & Christie, 2021), dando um passo fundamental para o estabelecimento de padr\u00f5es de utiliza\u00e7\u00e3o da IA no dom\u00ednio militar encabe\u00e7ado pela Alian\u00e7a Atl\u00e2ntica.<\/p>\n\n\n\n

4. Desafios impostos ao uso da IA<\/strong><\/p>\n\n\n\n

Reconhecendo o papel central que a NATO pretende ter na aplica\u00e7\u00e3o desta tecnologia emergente, importa igualmente referir os desafios que se colocam na prossecu\u00e7\u00e3o de uma potencial vantagem estrat\u00e9gica com recurso \u00e0 mesma. Como referido anteriormente, a limita\u00e7\u00e3o derivada da aus\u00eancia de rela\u00e7\u00f5es de causalidade \u00e9 particularmente saliente no apoio \u00e0 decis\u00e3o dos comandantes militares da NATO, sendo que este problema de confian\u00e7a \u00e9 exponenciado quando estamos perante decis\u00f5es que acarretam risco de vida. Adicionalmente, ao n\u00edvel dos pa\u00edses aliados, existem alguns desafios que devem ser transpostos, entre os quais a eventual falta de consenso na aplica\u00e7\u00e3o de sistemas de IA e o fosso de inova\u00e7\u00e3o que possa existir entre si, espelhado de igual forma na inclus\u00e3o \u2013 ou n\u00e3o \u2013 desta tecnologia nas suas Estrat\u00e9gias de Defesa Nacionais (Nouwens et al., 2021). A exist\u00eancia de um consenso alargado acerca do uso da IA estar\u00e1 na base da cria\u00e7\u00e3o de sinergias entre os pa\u00edses aliados, pelo que garantir a sua interoperabilidade potenciar\u00e1 o valor dos seus projetos e, em \u00faltima an\u00e1lise, permitir\u00e1 reduzir custos. Ainda assim, nem todos os Estados ter\u00e3o a capacidade de suportar a inova\u00e7\u00e3o nesta \u00e1rea, especialmente num contexto p\u00f3s-pand\u00eamico, contribuindo para o surgimento de um fosso tecnol\u00f3gico entre si e em diferentes ace\u00e7\u00f5es face \u00e0 prioridade da IA para a sua seguran\u00e7a nacional. <\/p>\n\n\n\n

Paralelamente ao desenvolvimento da IA, urge ter em conta a sua potencial disponibilidade n\u00e3o apenas para os Estados, mas tamb\u00e9m para atores n\u00e3o-estatais. Neste \u00e2mbito, o estabelecimento de padr\u00f5es de utiliza\u00e7\u00e3o e a monitoriza\u00e7\u00e3o da sua implementa\u00e7\u00e3o adquirem uma import\u00e2ncia redobrada, permitindo identificar comportamentos desviantes da norma, especialmente no caso de atores n\u00e3o-estatais violentos, cuja a\u00e7\u00e3o acarreta risco para a seguran\u00e7a humana. Tamb\u00e9m a a\u00e7\u00e3o n\u00e3o-violenta pode comportar riscos significativos para os Estados, como por exemplo atrav\u00e9s da dissemina\u00e7\u00e3o dos denominados deep fakes, <\/em>nos quais um v\u00eddeo pode simular realisticamente um ator pol\u00edtico a tecer afirma\u00e7\u00f5es atrav\u00e9s de manipula\u00e7\u00e3o visual e auditiva. A Intelig\u00eancia Artificial inclusivamente tornar-se acess\u00edvel a atores il\u00edcitos, sendo que a sua ado\u00e7\u00e3o em sistemas cr\u00edticos de seguran\u00e7a nacional poder\u00e1 levar a novas e imprevis\u00edveis vulnerabilidades, por exemplo nos sistemas de armamento nucleares (Nouwens et al., 2021).<\/p>\n\n\n\n

5. Conclus\u00f5es<\/strong><\/p>\n\n\n\n

A cria\u00e7\u00e3o de uma Estrat\u00e9gia para a Intelig\u00eancia Artificial estabelece o cen\u00e1rio para as ambi\u00e7\u00f5es da NATO e dos seus pa\u00edses membros relativamente a esta e outras Tecnologias Emergentes e Disruptivas, sendo que, para cada uma delas, a futura vantagem estrat\u00e9gica que advinda dos esfor\u00e7os de inova\u00e7\u00e3o da NATO resultar\u00e1 das liga\u00e7\u00f5es entre lideran\u00e7a \u00e9tica, ado\u00e7\u00e3o iterativa e integra\u00e7\u00e3o que premeiem a flexibilidade, a interoperabilidade e a confian\u00e7a (Stanley-Lockman & Christie, 2021).<\/p>\n\n\n\n

Apesar de haver ainda um longo caminho pela frente, a Intelig\u00eancia Artificial materializar\u00e1 certamente o alcan\u00e7ar de uma nova fronteira tecnol\u00f3gica cujo papel nas ind\u00fastrias de defesa e na seguran\u00e7a nacional adquirir\u00e1 cada vez mais destaque, fazendo-se, contudo, acompanhar de um conjunto de desafios verdadeiramente \u00e0 altura do seu potencial transformador.<\/p>\n\n\n\n

\n\n\n\n

12 de maio de 2022<\/p>\n\n\n\n

Sebasti\u00e3o Sabino<\/strong><\/p>\n\n\n\n

EuroDefense Jovem-Portugal<\/em><\/p>\n\n\n\n

\n\n\n\n

6. Refer\u00eancias<\/strong><\/p>\n\n\n\n

[1]<\/span><\/strong><\/sup><\/a> Os algoritmos de deep learning <\/em>fazem parte do espetro alargado dos algoritmos de machine learning<\/em>, distinguindo-se pelo facto de a sua a estrutura permitir uma aprendizagem a partir do seu pr\u00f3prio processamento de dados.<\/p>\n\n\n\n

IBM. (2020). What is Artificial Intelligence (AI)? <\/em>https:\/\/www.ibm.com\/cloud\/learn\/what-is-artificial-intelligence<\/span><\/a><\/p>\n\n\n\n

Kissinger, H. A., Schmidt, E., & Huttenlocher, D. (2019, August). The Metamorphosis<\/em>. https:\/\/www.theatlantic.com\/magazine\/archive\/2019\/08\/henry-kissinger-the-metamorphosis-ai\/592771\/<\/span><\/a><\/p>\n\n\n\n

NATO. (2021). Summary of the NATO Artificial Intelligence Strategy<\/em>. https:\/\/www.nato.int\/cps\/en\/natohq\/official_texts_187617.htm?selectedLocale=en<\/span><\/a><\/p>\n\n\n\n

Nouwens, M., Pepe, E., & Gady, F.-S. (2021). NATO and artificial intelligence<\/em>. https:\/\/www.iiss.org\/blogs\/podcast\/2021\/04\/nato-artificial-intelligence<\/span><\/a><\/p>\n\n\n\n

Payne, K. (2018). Artificial Intelligence: A Revolution in Strategic Affairs? Survival<\/em>, 60<\/em>(5), 7\u201332. https:\/\/doi.org\/10.1080\/00396338.2018.1518374<\/span><\/a><\/p>\n\n\n\n

Stanley-Lockman, Z., & Christie, E. H. (2021). NATO Review – An Artificial Intelligence Strategy for NATO<\/em>. https:\/\/www.nato.int\/docu\/review\/articles\/2021\/10\/25\/an-artificial-intelligence-strategy-for-nato\/index.html<\/span><\/a><\/p>\n\n\n\n

The Economist. (2019). Artificial intelligence is changing every aspect of war<\/em>. https:\/\/www.economist.com\/science-and-technology\/2019\/09\/07\/artificial-intelligence-is-changing-every-aspect-of-war<\/span><\/a><\/p>\n\n\n\n

Vincent, J. (2017). Putin says the nation that leads in AI \u2018will be the ruler of the world\u2019 – The Verge<\/em>. https:\/\/www.theverge.com\/2017\/9\/4\/16251226\/russia-ai-putin-rule-the-world<\/span><\/a><\/p>\n\n\n\n

\n
\n\n\n\n

NOTA<\/strong>:<\/mark><\/p>\n\n\n\n