Carlos Teixeira
Radar do Futuro
“O sistema multilateral precisa ajudar a construir, com urgência, um novo contrato social para garantir que a inovação tecnológica, em particular a inteligência artificial (IA), seja implantada de maneira segura e alinhada com as necessidades éticas de um mundo globalizado”. O alerta é de Eleonore Pauwels, pesquisadora de cibertecnologias emergentes do Centro Universitário das Nações Unidas, em texto publicado no site do Fórum Econômico Mundial (WEForum, da sigla em inglês).
Há um fenômeno global, que toma conta de vários países. Enxames de bots, postagens obscuras do Facebook e sites de notícias falsas têm se infiltrado no território online, com repercussões significativas em todo o mundo. As eleições brasileiras não estão na lista da pesquisadora. Mas a lista de eventos relatados em diferentes regiões do planeta mostra sinais semelhantes, que mostram a relevância dos sinais emitidos.
Entre eventos recentes, Eleonore Pauwels cita as eleições presidenciais de 2016 na Rússia. Um candidato foi empoderado em detrimento de outro através de uma campanha massiva que incluiu anúncios pagos, falsas contas de mídia social e polarização de conteúdo.
Na China, os gigantes da tecnologia Alibaba e Tencent implantaram milhões de câmeras equipadas com reconhecimento facial para mercantilizar fluxos contínuos de dados íntimos sobre os cidadãos. Em Mianmar, na Ásia, um relatório da ONU confirmou que as postagens do Facebook alimentaram o discurso de ódio virulento dirigido aos muçulmanos Rohingya.
Receio sobre o futuro
A poderosa e lucrativa aliança entre a inteligência artificial e uma sociedade baseada em dados confere um poder excepcional às redes sociais. É o que se vê, agora, no Brasil, onde as eleições colocaram o WhatsApp como protagonista central da formação de opiniões dos eleitores. Confirma, então as preocupações de quem percebe a capacidade das mídias digitais de reformular as narrativas sobre a realidade.
“Neste contexto”, diz Eleonore Pauwels, “a ansiedade pública está aumentando diante da possibilidade de perda de controle para uma revolução algorítmica, que parece escapar de nossos modos de compreensão e responsabilidade”. Como resultado, a confiança na governança nacional e global está no ponto de ruptura.
Simultaneamente, as tecnologias orientadas por IA tenderão a minar, em vez de reforçar, os mecanismos de governança global. A ONU enfrenta um vasto conjunto de desafios interrelacionados.
A pesquisadora apresenta três destes desafios.
IA e degradação da verdade
Em primeiro lugar, a IA é inerentemente uma tecnologia de dupla utilização, cujas implicações poderosas (positivas e negativas) serão cada vez mais difíceis de antecipar, conter e mitigar. Eleonore Pauwels cita o exemplo dos deepfake, softwares que usam inteligência artificial para substituir rostos e vozes em vídeos realistas, como um exemplo.
Programas sofisticados de IA podem agora manipular sons, imagens e vídeos, criando imitações que muitas vezes são impossíveis de distinguir do original. Os algoritmos de aprendizagem profunda podem, com uma precisão surpreendente, ler os lábios humanos, sintetizar a fala e, em certa medida, simular expressões faciais.
Uma vez liberada fora do laboratório, tais simulações poderiam ser facilmente usadas com impactos gerais. Na verdade, reconhece a pesquisadora, isso já está acontecendo. Na véspera de uma eleição, os vídeos do deepfake poderiam falsamente retratar funcionários públicos envolvidos na lavagem de dinheiro. Pânico público pode ser semeado por vídeos alertando sobre epidemias inexistentes ou ataques cibernéticos. E incidentes forjados poderiam potencialmente levar a crises de escala internacional.
A capacidade de uma gama de atores de influenciar a opinião pública com simulações enganosas pode ter implicações poderosas a longo prazo para o papel da ONU na paz e segurança. Ao erodir o senso de confiança e verdade entre os cidadãos e o Estado – e de fato entre os estados -, notícias verdadeiramente falsas pode ser profundamente corrosivas para o nosso sistema de governança global.
AI e vigilância de precisão
Segundo desafio, a AI já está se conectando e convergindo com uma série de outras tecnologias, incluindo a biotecnologia, com implicações significativas para a segurança global. Sistemas de IA em todo o mundo são treinados para prever vários aspectos de nossas vidas diárias, dando sentido a conjuntos de dados massivos, como padrões de tráfego das cidades, mercados financeiros, dados de tendências de comportamento do consumidor, registros de saúde e até mesmo nossos genomas.
Para Eleonore Pauwels , essas tecnologias de inteligência artificial são cada vez mais capazes de explorar nossos dados comportamentais e biológicos de maneiras inovadoras e frequentemente manipuladoras, com implicações para todos nós. Por exemplo, o boneco My Friend Cayla envia dados de voz e emoção das crianças que jogam com ele para a nuvem, o que levou a uma queixa da Comissão Federal de Comércio dos EUA e a sua proibição na Alemanha.
Nos EUA, a análise emocional já está sendo usada no tribunal para detectar remorso em vídeos de depoimentos. Sistemas baseados no Watson, a inteligência cognitiva da IBM, já estão sendo utilizados como ferramentas de apoio para avaliação de respostas dos candidatos e sua aptidão para um trabalho.
A capacidade da IA de interferir – e potencialmente controlar – o comportamento humano tem efeitos diretas sobre a agenda de direitos humanos da ONU. Novas formas de controle social e biocontrole poderiam, de fato, exigir uma releitura do arcabouço atualmente em vigor para monitorar e implementar a Declaração Universal dos Direitos Humanos, e certamente exigirão que o sistema multilateral antecipe melhor e entenda esse campo emergente, que tende a crescer rapidamente.
Campo de batalha ai
Eleonore Pauwels destaca, finalmente, o potencial de criação de futuros conflitos pela capacidade de as tecnologias orientadas por IA influenciarem grandes populações. Para a pesquisadora de cibertecnologias emergentes, há uma perspectiva muito real de uma “corrida cibernética”, na qual nações poderosas e grandes plataformas tecnológicas entram em competição aberta pelos dados coletivos. As informações serão um combustível capaz de gerar supremacia econômica, médica e de segurança em todo o mundo.
“Formas de ‘ciber-colonização’ são cada vez mais prováveis, uma vez que Estados poderosos são capazes de aproveitar a IA e a biotecnologia para entender e potencialmente controlar as populações e ecossistemas de outros países”, diz a especialista.
Rumo à governança global da AI
Ela constata que politicamente, legalmente e eticamente, nossas sociedades não estão preparadas para a implantação da inteligência artificial. E a ONU, estabelecida muitas décadas antes do surgimento dessas tecnologias, está, em muitos aspectos, mal posicionada para desenvolver o tipo de governança responsável que canalizará o potencial da IA para longe desses riscos e para nossa segurança e bem-estar coletivos.
De fato, o ressurgimento de agendas nacionalistas em todo o mundo pode apontar para uma capacidade cada vez menor do sistema multilateral de desempenhar um papel significativo na governança global da IA. Grandes corporações e poderosos estados membros podem ver pouco valor em trazer abordagens multilaterais para o que consideram tecnologias lucrativas e proprietárias.
Mas há algumas formas inovadoras em que a ONU pode ajudar a construir o tipo de redes colaborativas e transparentes que podem começar a tratar nossa “desordem do déficit de confiança”.
Incentivado por um mandato dado à Universidade das Nações Unidas (UNU), o Centro para Pesquisa Política criou uma “Plataforma de IA e Governança Global” como um espaço inclusivo para pesquisadores, atores políticos, empresas e líderes de pensamento para explorar os desafios da política global levantados pela inteligência artificial.
A partir de submissões globais por líderes no campo, a plataforma visa promover insights interdisciplinares únicos para informar os debates existentes a partir das lentes do multilateralismo, juntamente com as lições do campo. Esses insights apoiarão os estados membros da ONU, agências multilaterais, fundos, programas e outras partes interessadas, à medida que considerarem seus próprios papéis e seus papéis coletivos na formação da governança da IA.
Eleonore Pauwels atesta que talvez o desafio mais importante para a ONU neste contexto seja de relevância, de restabelecer um sentimento de confiança no sistema multilateral. “Mas se as tendências acima nos dizem alguma coisa, é que as tecnologias orientadas para IA são um problema para todos os indivíduos e para todos os estados e que, sem formas coletivas e colaborativas de governança, há um risco real de prejudicar a estabilidade global”, assinala.
Em resumo
