Em seu novo livro, a futurista Amy Webb adverte que as tecnologias de IA colocaram o desenvolvimento da tecnologia em um caminho perigoso
Em seu novo livro, a futurista Amy Webb adverte que as tecnologias de IA colocaram o desenvolvimento da tecnologia em um caminho perigoso

Karen Hao
MIT Technology Review

Amy Webb, futurista, professora da Universidade de Nova York e autora premiada, passou grande parte da última década pesquisando, discutindo e reunindo-se com pessoas e organizações sobre inteligência artificial. “Chegamos a um ponto febril em todas as áreas de inteligência artificial”, diz ela. Agora é hora de voltar para ver onde a IA está indo.

Esta é a tarefa de seu novo livro, “The Big Nine: How the Tech Titans and Their Thinking Machines Could Warp Humanity” (As nove grandes: Como as Tech Titans e suas máquinas pensantes podem deformar a humanidade”, sem tradução em português) onde ela tem uma visão panorâmica das tendências que, ela adverte, colocaram o desenvolvimento da tecnologia em um caminho perigoso.

Nos EUA, o Google, a Microsoft, a Amazon, o Facebook, a IBM e a Apple (a “G-MAFIA”) estão paralisados ​​pelas demandas implacáveis ​​de curto prazo de um mercado capitalista, tornando impossível o planejamento a longo prazo da IA. Na China, Tencent, Alibaba e Baidu estão consolidando e extraindo quantidades maciças de dados para alimentar as ambições autoritárias do governo.

Se não mudarmos essa trajetória, argumenta Webb, poderemos caminhar direto para a catástrofe. Mas ainda há tempo para agir e um papel para todos jogarem.

Futuro da democracia

A MIT Technology Review sentou-se com ela para falar sobre por que ela está preocupada e o que ela acha que podemos fazer sobre isso.

As perguntas e respostas a seguir foram condensadas e editadas para maior clareza.

Você menciona que atualmente estamos vendo uma convergência de tendências tecnológicas, políticas e econômicas preocupantes. Você pode expandir o que são as tendências tecnológicas?

Quando você conversa com um pesquisador que trabalha no campo, ele dirá que vai demorar muito até que possamos ver muitas das promessas feitas sobre a IA: coisas como automação completa em veículos, reconhecimento absoluto ou inteligência geral artificial (AGI), sistemas capazes de cognição e pensamento mais humano.

Do meu ponto de vista, olhando para o horizonte para o dia em que temos algum tipo de caminhada, máquina falante ou uma máquina com uma voz desencarnada tomando decisões autônomas, deixa de perceber o ponto. Já estamos vendo bilhões de pequenos avanços que terão um efeito de composição ao longo do tempo e levarão a sistemas que podem tomar decisões autônomas de uma só vez.

A equipe da DeepMind, por exemplo, tem trabalhado duro para ensinar as máquinas a vencer seres humanos jogando games. Eles saltaram muito à frente em áreas como aprendizado de reforço hierárquico e aprendizado multitarefa.

A última versão de seu algoritmo AlphaGo, o AlphaZero, é capaz de aprender a jogar três games de uma só vez sem um humano na retaguarda. Isso é um grande salto. Há também o campo muito novo de redes geradoras de adversários, onde, com um acervo de imagens de tamanho decente, é possível gerar rostos humanos que pareciam muito realistas .

Esses avanços não são tão sexy ou excitantes quanto o que nos foi dito sobre a AGI. Mas se você for capaz de aproveitar a vista a distância, verá que estamos nos encaminhando para uma situação em que os sistemas farão escolhas para nós. E temos que parar e nos perguntar o que acontece quando esses sistemas deixam de lado a estratégia humana em favor de algo totalmente desconhecido para nós.

E quanto às tendências políticas e econômicas? Você pode descrever os mais preocupantes para você?

Nos Estados Unidos, o livre fluxo de idéias pode se espalhar sem ônus. Foi assim que o Vale do Silício foi fundado. Ele criou tanto a competição quanto a inovação, que é como chegamos onde estamos agora com a IA, entre outros tipos de tecnologias.

No entanto, nos EUA, também sofremos de uma trágica falta de previsão. Em vez de criar uma grande estratégia para a IA ou para nossos futuros de longo prazo, o governo federal retirou o financiamento da pesquisa científica e tecnológica. Então o dinheiro deve vir do setor privado. Mas os investidores também esperam algum tipo de retorno. Isso é um problema.

Você não pode programar seus avanços em P&D quando estiver trabalhando em tecnologia e pesquisa fundamentais. Seria ótimo se as grandes empresas de tecnologia tivessem o luxo de trabalhar duro sem ter que produzir uma conferência anual para mostrar seu último e maior avanço. Em vez disso, temos agora inúmeros exemplos de más decisões que alguém na G-MAFIA fez, provavelmente porque estava trabalhando rápido.

Agora isso já seria ruim o suficiente, certo? Mas tudo isso está acontecendo ao mesmo tempo em que há uma tremenda quantidade de poder sendo consolidada na China. A China tem um fundo soberano dedicado à pesquisa básica fundamental em IA. Eles estão jogando enormes quantias de dinheiro na tecnologia. E eles têm uma ideia totalmente diferente dos EUA quando se trata de privacidade e dados.

Isso significa que eles têm muito mais dados que podem ser extraídos e refinados. Com uma autoridade central, é muito fácil para o governo testar e construir serviços de IA que incorporem dados de 1,3 bilhão de pessoas. E isso é apenas dentro do seu próprio país.

Então eles têm a iniciativa Belt and Road, que parece um programa tradicional de infra-estrutura, mas em parte também digital. Não se trata apenas de construir estradas e pontes. Também é sobre construir redes 5G e instalar redes de fibra ótica. E sobre mineração e refinação de dados no exterior. A implantação dessas tecnologias é um risco para as pessoas que se importam com coisas como liberdade de expressão e ideais democráticos ocidentais.

Por que deveríamos estar nos esforçando para os ideais democráticos ocidentais?

É uma ótima pergunta. Eu vivi na China, no Japão e, obviamente, nos Estados Unidos. E você pode olhar para o estado do nosso país agora e o que está acontecendo na China e se perguntar, é realmente a pior coisa? O sistema de pontuação de crédito social da China, a propósito, soa assustador para os americanos, mas o que muitas pessoas não percebem é que o comportamento de autorrelato e monitoramento dentro das aldeias e comunidades tem sido parte da cultura chinesa para sempre. O tipo de pontuação de crédito social apenas automatiza isso. Então sim, essa é uma ótima pergunta.

Eu acho que o que eu diria é que se eu olhasse para a versão idealizada do comunismo chinês e a versão idealizada da democracia ocidental, eu escolheria a democracia ocidental porque eu acho que há uma oportunidade melhor para o livre fluxo de idéias e para todas pessoas para ter sucesso. Acho que dar incentivos às pessoas para realizações individuais e pessoais é uma ótima maneira de erguer uma sociedade, nos ajuda a atingir nosso potencial individual.

Com a direção que o mundo está conduzindo hoje com a IA, isso é uma comparação justa? Deveríamos estar comparando as versões idealizadas do comunismo chinês com a democracia ocidental ou as piores versões das duas?

Essa é uma ótima pergunta, porque você poderia argumentar que partes do ecossistema da IA ​​já estão impactando nossos ideais democráticos ocidentais de uma maneira verdadeiramente negativa. Obviamente, tudo o que aconteceu com o Facebook serve como exemplo. Mas veja também o que está acontecendo com a comunidade anti-vacina. Eles estão espalhando informações totalmente incorretas sobre vacinas e ciência básica.

Nossas tradições americanas dirão que é uma questão de liberdade de expressão. Plataformas são plataformas, precisamos deixar as pessoas se expressarem. Bem, o desafio com isso é que os algoritmos estão fazendo escolhas sobre conteúdo editorial que estão levando as pessoas a tomarem decisões muito ruins e fazendo com que as crianças fiquem doentes.

O problema é que a nossa tecnologia tornou-se cada vez mais sofisticada, mas o nosso pensamento sobre o que é a liberdade de expressão e o que é uma economia de mercado livre não se tornou tão sofisticado. Nós tendemos a recorrer a interpretações básicas: a liberdade de expressão significa que toda a fala é livre, a menos que se oponha à lei de difamação, e esse é o fim da história. Esse não é o fim da história. Precisamos começar a ter uma conversa mais sofisticada e inteligente sobre nossas leis atuais, nossa tecnologia emergente e como podemos fazer com que as duas se encontrem no meio.

Em outras palavras, você tem fé de que vamos evoluir de onde estamos agora para uma versão mais idealizada da democracia ocidental. E você preferiria muito mais isso ao comunismo chinês idealizado.

Sim, tenho fé que é possível. Minha grande preocupação é que todo mundo está esperando, que estamos arrastando nossos calcanhares e vai levar uma verdadeira catástrofe para fazer as pessoas agirem, como se o lugar que nós chegássemos não fosse catastrófico. Mas o fato de o sarampo estar de volta ao estado de Washington para mim é um resultado catastrófico. O mesmo aconteceu depois da eleição. Independentemente de que lado do espectro político você esteja, não posso imaginar que alguém hoje pense que o clima político atual é bom para o nosso futuro.

Então, eu absolutamente acredito que há um caminho a seguir. Mas precisamos nos unir e preencher a lacuna entre o Vale do Silício e a capital, de modo que todos possamos guiar o barco na mesma direção.

O que você recomenda que o governo, empresas, universidades e consumidores individuais façam?

A pista de desenvolvimento da IA ​​é um problema, e cada um de nós tem uma participação. Você, eu, meu pai, meu vizinho, o cara do Starbucks onde estou passando agora. Então, o que as pessoas comuns devem fazer? Esteja mais ciente de quem está usando seus dados e como. Reserve alguns minutos para ler trabalhos escritos por pessoas inteligentes e dedique alguns minutos para descobrir do que estamos realmente falando.

Antes de assinar uma mídia e começar a compartilhar fotos de seus filhos, faça isso de maneira informada. Se você está bem conscientes sobre o que isso implica e o que isso poderia significar mais tarde, tudo bem, mas pelo menos tenha esse conhecimento primeiro.

Empresas e investidores não podem esperar apressar um produto repetidas vezes. Está nos preparando para problemas na estrada. Assim, eles podem fazer coisas como fortalecer seus processos de contratação, aumentar significativamente seus esforços para melhorar a inclusão e garantir que seus funcionários sejam mais representativos do que o mundo real parece. Eles também podem colocar alguns freios. Qualquer investimento que seja feito em uma empresa ou projeto de IA ou seja lá o que for, também deve incluir financiamento e tempo para verificar coisas como risco e preconceito.

As universidades devem criar espaço em seus programas para graus híbridos. Eles devem incentivar os estudantes de ciências da computação a estudarem literatura comparada, religiões mundiais, microeconomia, antropologia cultural e cursos similares em outros departamentos. Eles devem patrocinar programas de graduação dupla em ciência da computação e relações internacionais, teologia, ciência política, filosofia, saúde pública, educação e afins. A

ética não deve ser ensinada como uma aula autônoma, algo para simplesmente marcar presença. As escolas devem incentivar professores até titulares a tecer discussões complicadas de preconceito, risco, filosofia, religião, gênero e ética em seus cursos.

Uma das minhas maiores recomendações é a formação do GAIA (da sigla em inglês de Aliança Global de Aumento de Inteligência). No momento, as pessoas em todo o mundo têm atitudes e abordagens muito diferentes quando se trata de coleta e compartilhamento de dados, o que pode e deve ser automatizado e como pode ser um futuro com sistemas mais geralmente inteligentes.

Então, acho que devemos criar algum tipo de organização central que possa desenvolver normas e padrões globais, algum tipo de proteção para imbuir não apenas ideais americanos ou chineses dentro de sistemas de IA, mas visões de mundo que sejam muito mais representativas de todos.

Acima de tudo, temos que estar dispostos a pensar a longo prazo, não apenas daqui a cinco anos. Precisamos parar de dizer: “Bem, não podemos prever o futuro, então não vamos nos preocupar com isso agora”. É verdade, não podemos prever o futuro. Mas podemos certamente fazer um trabalho melhor de planejamento para isso.