Nove membros do Congresso dos Estados Unidos enviaram uma carta à Google pedindo que a empresa esclarecesse as circunstâncias por trás da demissão forçada da sua ex-colíder de ética de Inteligência Artificial (IA), Timnit Gebru. À frente da ideia, estão a deputada Yvette Clarke e o senador Ron Wyden, assim como os senadores Elizabeth Warren e Cory Booker. A carta sinaliza a seriedade com a qual os congressistas estão a inspeccionar as gigantes de tecnologias e a pensar sobre a regulamentação futura.
Gebru, uma porta-voz importante quanto à ética de Inteligência Artificial e uma das poucas mulheres negras na Google, foi demitida sem cerimónias no início de dezembro de 2020, após um longo desentendimento relativamente a um artigo de pesquisa. O texto detalhava os riscos do uso extensivo de modelos de linguagem de IA treinados em enormes quantidades de dados de texto, que são a linha principal de pesquisa na Google, impulsionando vários produtos, incluindo o seu lucrativo Google Search.
Citando a cobertura da MIT Technology Review americana, a carta levantava três questões: o potencial enviesamento de grandes modelos de linguagem, a crescente influência corporativa sob a pesquisa de IA, e a falta de diversidade na Google. Os congressistas pedem ao CEO da Alphabet, Sundar Pichai, um plano concreto sobre como a empresa abordará cada um desses pontos, bem como esclarecimentos relativos à sua política atual de revisão de pesquisas e detalhes sobre a sua investigação em andamento sobre a saída de Gebru (Pichai se comprometeu com esta investigação num memorando interno, primeiro publicado pela Axios). “Como membros do Congresso que procuram ativamente aprimorar a pesquisa, a responsabilidade e a diversidade de IA por meio de legislação e supervisão, respeitosamente solicitamos sua atenção para as seguintes indagações”, afirma a carta.
Em abril de 2019, Clarke e Wyden apresentaram um projeto de lei, o Algorithmic Accountability Act (tradução livre para Lei de Responsabilidade Algorítmica), que exigia que grandes empresas auditassem os seus sistemas de machine learning quanto a preconceitos e tomassem ações corretivas em tempo hábil se tais problemas fossem identificados. Também exigia a fiscalização de todos os processos que envolvem dados confidenciais — incluindo informações pessoalmente identificáveis, biométricas e genéticas — quanto a riscos de privacidade e segurança. Na época, muitos especialistas jurídicos e de tecnologia elogiaram o projeto pela sua compreensão diferenciada de IA e conhecimentos baseados em dados. “Grande primeiro passo”, escreveu no Twitter Andrew Selbst, professor assistente da Escola de Direito da Universidade da Califórnia em Los Angeles. “Exigiria documentação, avaliação e tentativas de abordar os impactos previstos. Isso é novo, excitante e extremamente necessário”.
A última carta não se vincula diretamente à Lei de Responsabilidade Algorítmica, mas é parte do mesmo movimento de certos membros do Congresso para elaborar uma legislação que atenuaria o viés da IA e outros danos dos sistemas automatizados baseados em dados. Notavelmente, surge no meio à crescente pressão pela regulamentação anticoncorrência. No início de dezembro de 2020, a Comissão Federal de Comércio dos Estados Unidos abriu uma ação anticoncorrência contra o Facebook pela sua “conduta anticompetitiva e métodos desleais de concorrência”. Durante o verão, os democratas da Câmara publicaram um relatório de 449 páginas sobre as práticas monopolistas da Big Tech.
A carta também vem no contexto de crescentes tensões geopolíticas. Como as relações EUA-China atingiram o nível mais baixo durante a pandemia, as autoridades americanas enfatizaram a importância estratégica de tecnologias emergentes como IA e 5G. O documento também levanta essa dimensão, reconhecendo a liderança da Google em IA e o seu papel na manutenção da liderança nos Estados Unidos. Mas deixa claro que isso não deve minar a ação regulatória, uma linha de argumentação popularizada pelo CEO do Facebook, Mark Zuckerberg. “Para garantir que a América vença a corrida da IA”, diz a carta, “as empresas americanas de tecnologia não devem apenas liderar o mundo em inovação; também devem garantir que tais mudanças reflitam os valores de nossa nação”.
“A nossa carta deve avisar a todos no setor de tecnologia, não apenas a Google, que estamos a prestar atenção”, disse Clarke em uma declaração a MIT Technology Review americana. “A IA ética é o campo de batalha pelo futuro dos direitos civis. As nossas preocupações sobre desenvolvimentos recentes não são apenas sobre uma pessoa; são sobre como será o século 21 se a liberdade e a inclusão académica ficarem em segundo plano em relação a outras prioridades. Não podemos reduzir o viés algorítmico se impedirmos aqueles que procuram pesquisá-lo e estudá-lo”.
Artigo de Karen Hao, Senior Reporter – MIT Technology Review EUA
MIT Technology Review