Humanos e Tecnologia

Como as democracias podem reivindicar o poder no mundo digital

As empresas de tecnologia adotaram muitos aspectos da governança tecnológica de líderes eleitos democraticamente. Será necessário um esforço internacional para contra-atacar.

O Twitter deve censurar as mentiras escritas pelo presidente dos EUA? O YouTube deve remover as notícias de desinformação em relação à Covid-19? O Facebook deve fazer mais contra o discurso de ódio? Essas questões, que surgem diariamente nos jornais, podem fazer parecer que o principal risco impulsionado pela tecnologia para as democracias seja a curadoria de conteúdo por empresas de redes sociais. No entanto, essas controvérsias são apenas sintomas de uma ameaça maior: a profundidade do poder privatizado sobre o mundo digital.

Todos os países democráticos do mundo enfrentam o mesmo desafio, mas nenhum pode neutralizá-lo sozinho. Precisamos de uma aliança democrática global para definir normas, regras e diretrizes para empresas de tecnologia e para chegar a um acordo sobre protocolos para atividades digitais internacionais, incluindo interferências eleitorais, guerras cibernéticas e comércio online. Os cidadãos são melhor representados quando uma formação dos seus governos – em vez de um punhado de executivos corporativos – define os termos de governança e quando mecanismos de controlo, equilíbrio e supervisão estão em vigor.

Há uma longa lista de maneiras pelas quais as empresas de tecnologia governam as nossas vidas sem muita regulamentação. Essas organizações tomam decisões baseadas nos seus próprios interesses, estabelecendo normas e padrões que afetam biliões de pessoas em áreas que vão desde a construção de infraestrutura crítica e a sua defesa – ou mesmo a produção de ferramentas cibernéticas ofensivas – até o projeto de sistemas de inteligência artificial (IA) e bancos de dados governamentais.

Cada vez mais, as empresas assumem papéis do Estado ou desenvolvem produtos que afetam os direitos fundamentais. Por exemplo, sistemas de reconhecimento facial que nunca foram devidamente regulamentados antes de serem desenvolvidos e implantados são agora tão amplamente usados ​​que roubam a privacidade das pessoas. Da mesma forma, as empresas coletam dados privados sistematicamente, muitas vezes sem consentimento – uma norma do setor que os reguladores demoraram a abordar.

Como as tecnologias evoluem mais rápido do que as leis, as discrepâncias entre as agências privadas e a supervisão pública estão a crescer. Considere, por exemplo, as empresas de “cidades inteligentes”, que prometem que os governos locais serão capazes de reduzir o trânsito ao monitorizarem os carros em tempo real e ajustarem o tempo dos semáforos. Ao contrário, digamos, de uma estrada construída por uma construtora, essa infraestrutura digital não é necessariamente de domínio público. As empresas que a constroem adquirem dados e geram um valor que podem não ser revertidos para a sociedade.

Essa disparidade entre os setores público e privado estão a sair do controlo. Há uma brecha de informação, de talento e de computação. Juntas, somam uma lacuna de poder e responsabilidade. Assim, existe toda uma camada de controlo das nossas vidas diárias sem legitimidade democrática e com pouca supervisão.

Por que deveríamos nos importar? Porque as decisões que as empresas tomam sobre os sistemas digitais podem não aderir a princípios democráticos essenciais, como liberdade de escolha, concorrência justa, não discriminação, justiça e responsabilidade. Consequências não intencionais de processos tecnológicos, decisões erradas ou projetos voltados para os negócios podem criar sérios riscos para a segurança pública e nacional. E o poder que não está sujeito a verificações e equilíbrios sistemáticos está em desacordo com os princípios fundamentais da maioria das democracias.

Hoje, a regulamentação da tecnologia é muitas vezes caracterizada como uma competição de três vias entre os sistemas administrados pelo Estado na China e na Rússia, o sistema orientado pelo mercado nos Estados Unidos e uma visão baseada em valores na Europa. A realidade, entretanto, é que existem apenas dois sistemas dominantes de governança tecnológica: o privatizado, descrito acima, que se aplica a todo o mundo democrático, e um autoritário.

Para colocar as empresas de tecnologia de todo o mundo em ação, precisamos de algo novo: uma aliança global que coloque a democracia em primeiro lugar.

O enfoque laissez-faire dos governos democráticos e a sua relutância em controlar as empresas privadas em casa também se manifestam no cenário internacional. Embora os governos democráticos tenham permitido que as empresas governassem, os governos autoritários começaram a moldar as normas por meio de fóruns internacionais. Essa infeliz mudança coincide com uma tendência de declínio democrático em todo o mundo, à medida que grandes democracias como Índia, Turquia e Brasil se tornaram mais autoritárias. Sem os esforços deliberados e imediatos dos governos democráticos para reconquistar a sua capacidade de agir, os modelos de governança corporativa e autoritária irão corroer a democracia em todos os lugares.

Isso significa que os governos democráticos devem construir as suas próprias plataformas de redes sociais, centros de dados e smartphones? Não. Mas eles precisam recuperar com urgência o seu papel na criação de regras e restrições que sustentem os princípios fundamentais da democracia na esfera da tecnologia. Até agora, esses governos começaram lentamente a fazer isso com leis em nível nacional ou, no caso da Europa, em nível regional. Mas, para colocar as empresas de tecnologia de todo o mundo às ordens, precisamos de algo novo: uma aliança global que coloque a democracia em primeiro lugar.

Unindo forças

Instituições globais nascidas após a Segunda Guerra Mundial, como as Nações Unidas, a Organização Mundial do Comércio (OMC) e a Organização do Tratado do Atlântico Norte (NATO), criaram uma ordem internacional baseada em normas. Mas falham em levar em consideração o mundo digital na sua totalidade quando se trata dos seus mandatos e agendas, mesmo que muitos estejam finalmente começando a concentrar-se na cooperação digital, e-commerce e segurança cibernética. E embora o comércio digital (que exige os seus próprios regulamentos, como regras para e-commerce e critérios para a troca de dados) seja de importância crescente, os membros da OMC não concordaram com regras globais que cobrem serviços para manufatura inteligente, cadeias de abastecimento digitais e outras transações habilitadas digitalmente.

O que precisamos agora, portanto, é uma grande união democrática que possa oferecer uma alternativa significativa aos dois modelos existentes de governança tecnológica, o privatizado e o autoritário. Deve ser uma aliança global, acolhendo países que atendam aos critérios democráticos.

A Comunidade das Democracias, uma união de estados criada em 2000 para promover a democracia, mas que nunca teve muito impacto, poderia ser reformulada e atualizada para incluir um mandato ambicioso para a governança da tecnologia. Alternativamente, um “D7” ou “D20” poderia ser estabelecido – uma união semelhante ao G7 ou G20, mas composta pelas maiores democracias do mundo.

Esse grupo concordaria com os regulamentos e padrões para a tecnologia, alinhados com os princípios democráticos fundamentais. Em seguida, cada país membro iria implementá-los à sua própria maneira, como os estados membros da União Europeia (UE) fazem hoje com as diretrizes da união.

Que problemas essa união resolveria? Por exemplo, adotar uma definição partilhada de liberdade de expressão para as empresas de redes sociais seguirem. Talvez essa definição seja semelhante à abordagem europeia amplamente partilhada, em que a expressão é livre, mas há claras exceções para discurso de ódio e incitação à violência.

Ou a união pode limitar a prática de microssegmentar (em inglês, microtargeting) anúncios políticos nas redes sociais: isso poderia, por exemplo, proibir as empresas de permitir que os anunciantes personalizem e direcionem os anúncios com base na religião, etnia, orientação sexual ou dados pessoais recolhidos de alguém. No mínimo, poderia defender mais transparência sobre a microssegmentação para criar um debate mais informado sobre quais práticas de recolha de dados deveriam ser proibidas.

A união democrática também poderia adotar padrões e métodos de supervisão para as operações digitais de eleições e campanhas. Isso pode significar concordar com os requisitos de segurança para as urnas eletrónicas, além de padrões de anonimato, testes de nível de stress e métodos de verificação, como exigir uma cópia de backup em papel para cada votação. E toda a união poderia concordar em impor sanções a qualquer país ou ator não estatal que interfira em eleições ou referendo em qualquer um dos estados membros.

Outra tarefa que a união pode assumir é desenvolver regras de comércio para a economia digital. Por exemplo, os membros podem concordar em nunca exigir que as empresas entreguem o código-fonte do software às autoridades estaduais, como a China faz. Poderiam também concordar em adotar regras comuns de proteção de dados para transações transfronteiriças. Esses movimentos permitiriam que uma espécie de zona de livre comércio digital se desenvolvesse em nações com interesses semelhantes.

A China já tem algo semelhante na forma de eWTP, uma plataforma de comércio que permite o comércio livre de tarifas globais para transações abaixo de um milhão de dólares. Mas o eWTP, que foi iniciado pelo gigante do comércio eletrónico Alibaba, é administrado por empresas do setor privado com base na China. O governo chinês é conhecido por ter acesso aos dados por meio de empresas privadas. Sem uma alternativa pública baseada em regras, o eWTP poderia se tornar a plataforma global de facto para o comércio digital, sem mandato democrático ou supervisão.

Outra questão que essa uniãopoderia abordar seria a segurança das cadeias de abastecimento para dispositivos como telefones e laptops. Muitos países baniram smartphones e equipamentos de telecomunicações da Huawei por temor de que a tecnologia da empresa possa ter vulnerabilidades embutidas ou backdoors que o governo chinês poderia explorar. O desenvolvimento proativo de padrões conjuntos para proteger a integridade das cadeias de abastecimento e de produtos criaria condições de igualdade entre os membros da união e geraria confiança nas empresas que concordassem em cumpri-las.

A próxima área que pode ser digna de atenção da união é a guerra cibernética e o conflito híbrido (onde a agressão digital e física são combinadas). Na última década, um número crescente de países identificou o conflito híbrido como uma ameaça à segurança nacional. Qualquer nação com operações cibernéticas altamente qualificadas pode causar estragos em países que não investem em defesas contra eles. Enquanto isso, os ciberataques de atores não estatais alteraram o equilíbrio de poder entre os Estados.

No momento, porém, não há critérios internacionais que definam quando um ataque cibernético conta como um ato de guerra. Isso incentiva os ciberdeliquentes a atacarem de forma comedida, mas efetiva. Além de seu efeito económico ou (geo) político imediato, esses ataques corroem a confiança de que a justiça será feita.

Uma união democrática poderia trabalhar para fechar essa lacuna de responsabilidade e iniciar um tribunal independente para investigar esses ataques, talvez semelhante ao Tribunal Permanente de Arbitragem de Haia, que lida com disputas internacionais. Os líderes da aliança democrática poderiam então decidir, com base nas decisões do tribunal, se deveriam ser aplicadas sanções econômicas e políticas.

Essas são apenas algumas das maneiras pelas quais uma união democrática global poderia promover normas que faltam na esfera digital. Os padrões da união podem efetivamente se tornar globais se os seus membros representarem uma boa parte da população mundial. O Regulamento Geral de Proteção de Dados (RGPD) da União Europeia fornece um exemplo de como isso pode funcionar. Embora o RGPD se aplique apenas à Europa, as empresas globais de tecnologia devem seguir as suas regras para os seus utilizadores europeus, e isso torna a oposição mais difícil, já que outras jurisdições adotam leis semelhantes. Da mesma forma, os não membros da união democrática podem acabar seguindo muitas de suas regras para usufruir dos benefícios.

Se os governos democráticos não assumirem mais poder na governança da tecnologia à medida que governos autoritários se tornarem mais poderosos, o mundo digital – que faz parte de nossa vida quotidiana– não será democrático. Sem um sistema de legitimidade clara para aqueles que governam – sem freios, contrapesos e mecanismos de supervisão independente – é impossível responsabilizar as empresas de tecnologia. Somente com a construção de uma união global para a governança da tecnologia os governos democráticos mais uma vez podem colocar a democracia em primeiro lugar.

Artigo de Marietje Schaake, Contribuitor – MIT Technology Review EUA