Há noites atrás, estava em casa a navegar pelo meu feed do Twitter, que está sempre repleto das últimas notícias sobre tecnologia, já que sou uma filósofa que estuda Inteligência Artificial (IA) e dados. Ao fim de algum tempo, notei uma pressão crescente no estômago, aquele sinal indicativo de que uma pessoa não se está a divertir. Mas porquê? Não estava a ler notícias sobre política, a crise climática ou a pandemia, as causadoras mais comuns do tedioso doomscrolling, durante o qual passamos uma quantidade excessiva de tempo a absorver informações negativas numa rede social. Parei e refleti por um momento. Para o que tinha estado a olhar?
Mal tive reação ao ver a pobreza estética de uma apresentação recente do jogo de realidade virtual Horizon Worlds da Meta, a qual continha o avatar animado de Mark Zuckerberg com os seus olhos sem expressão em frente a um cenário de fundo que um engraçadinho no Twitter caridosamente comparou com “as paredes pintadas de uma creche abandonada”. Deixei escapar um breve suspiro com o anúncio de Ring Nation, um programa de televisão de “conteúdo viral leve” produzido pela Amazon, capturado diretamente pelo império de vigilância da empresa Ring. Cerrei os dentes ao ver uma captura de ecrã do modelo de geração de imagem baseada em texto Stable Diffusion a oferecer obras de arte de IA nos estilos de dezenas de artistas humanos, os quais não foram pagos, e cujos trabalhos foram despejados no conjunto de dados para treino do modelo, moídos e cuspidos de volta.
Reconheci o sentimento e sabia o seu nome: resignação. Aquela sensação de se estar preso num lugar onde não se quer estar, mas não conseguir sair. Fui surpreendida pela ironia de ter estudado tecnologia a vida inteira para evitar este tipo de sentimento. A tecnologia costumava ser o meu cantinho da felicidade.
Naturalmente, despejei as minhas emoções numa torrente de tweets.
Toquei num ponto sensível. À medida que as minhas notificações se multiplicaram e milhares de respostas e retweets começaram a surgir, a recompensa inicial de dopamina por a minha publicação ter viralizado deu lugar a uma tristeza mais profunda. Muitas pessoas estavam a experienciar a mesma sensação de pressão no estômago.
Ainda assim, senti uma catarse ao ler tantas outras pessoas a dar voz a este sentimento.
Falta algo nas nossas vidas e na nossa tecnologia. Esta ausência está a alimentar um crescente mal-estar manifestado por muitos que trabalham com tecnologia ou a estudam. É o que impulsiona a nova geração de investigadores de doutoramento e pós-doutoramento com quem trabalho na Universidade de Edimburgo, na Escócia, os quais estão a reunir conhecimentos de artes técnicas, ciências exatas e humanas para tentar descobrir o que falhou com o nosso ecossistema de tecnologia, e como o consertar. Para fazer isso, precisamos de entender como e por que razão as prioridades deste ecossistema mudaram.
O objetivo do desenvolvimento de tecnologia para consumo costumava ser bastante simples: projetar e construir algo de valor para as pessoas, dando-lhes um motivo para comprar a novidade. Um frigorífico novo é reluzente, reduz as minhas contas da luz, faz cubos de gelo em formatos giros. Então compro-o. Pronto. Um aspirador Roomba promete aspirar o pelo de gato debaixo do meu sofá enquanto eu durmo uma sesta. Vendido! Mas essa visão da tecnologia está cada vez mais ultrapassada. Não basta um frigorífico manter os alimentos frios; a versão de hoje oferece câmeras e sensores que podem monitorizar como e o que estou a comer, enquanto o Roomba em breve poderá enviar um mapa da minha casa à Amazon.
A questão aqui vai muito além dos riscos óbvios de privacidade. É uma mudança radical em todo o modelo de inovação e nos incentivos que o impulsionam. Porquê contentar-se com uma única transação lucrativa para a empresa quando pode projetar um produto que irá extrair um fluxo de dados monetizáveis de cada comprador, gerando receitas para a empresa durante vários anos? Após recolher esse rio de informações, irá protegê-lo, mesmo em detrimento do seu cliente. Afinal, se comprar grande parte do mercado, irá conseguir muito bem suportar a raiva e a frustração dos seus clientes. Basta perguntar ao Mark Zuckerberg.
Não foram apenas a tecnologia de consumo e as plataformas das redes sociais que fizeram parte dessa mudança. A grande marca de tecnologia agrícola John Deere, por exemplo, que antigamente era adorada pelos seus clientes, está a lutar contra um movimento pelo “direito à reparação” conduzido por agricultores furiosos por terem sido proibidos de reparar as suas próprias máquinas. Esta proibição foi imposta para que os agricultores não atrapalhem o envio, feito pelo software patenteado, de dados de alto valor sobre as terras e as colheitas dos agricultores de volta ao fabricante. Assim como observado por alguns utilizadores que comentaram a minha publicação no Twitter, hoje nós somos o produto no mundo da tecnologia, não o principal beneficiário. Os dispositivos mecânicos que costumavam ser o produto são cada vez mais apenas os intermediários.
Há também uma mudança nos alvos das inovações tecnológicas de hoje em dia. Várias respostas se opuseram ao meu conjunto de publicações, chamando a atenção para o atual e vibrante mercado de novas tecnologias para “geeks” e “nerds”: Raspberry Pis, ferramentas de software de código aberto, robôs programáveis. No entanto, por muito excelentes que sejam para aqueles que têm tempo, habilidades e interesse para as usar, são ferramentas feitas para um público restrito. A emoção de ver reais inovações na tecnologia biomédica, como vacinas mRNA, por exemplo, também se dissipa quando vemos os seus benefícios concentrados nos países mais ricos, aqueles que já são melhor servidos pela tecnologia.
É claro que novas tecnologias continuam a ser uma fonte de alegria e entusiasmo em muitos lugares onde, historicamente, foi negada uma parcela equitativa dos confortos que permitem. Mas a inovação costumava prometer-nos muito mais do que novos dispositivos e aplicações. A engenharia e a invenção já foram profissões voltadas principalmente para a criação de uma infraestrutura mais habitável, em vez de coisas descartáveis.
A aparente perda de interesse por parte dos tecnólogos numa inovação humanizada está a esgotar a nossa fé coletiva nos nossos próprios poderes de invenção.
Inovações essenciais como estradas, redes elétricas, esgotos e sistemas de trânsito costumavam ser uma parte central dos empreendimentos de engenharia nos Estados Unidos. Hoje em dia, tratamo-las como fardos do contribuinte, e as nossas melhores mentes e recursos são concentrados no desenvolvimento de dispositivos e aplicações famintos por dados. Se os Estados Unidos servem como um indicador da trajetória do desenvolvimento tecnológico global, então temos grandes problemas pela frente, porque claramente perdemos o rumo.
O facto é que o foco da cultura tecnológica parece já não estar na expansão das fronteiras da inovação humanizada, ou seja, aquela que nos atende a todos. Até as viagens espaciais perderam a sua visão humanista; o marco atual é o turismo espacial de luxo e bilionários a vender fantasias de fugas para Marte a investidores crédulos. Com 8 bilhões de pessoas à beira do precipício da destruição ambiental global, não podemos conceber um mundo onde a principal missão das novas tecnologias parece ser “agarre no dinheiro e fuja”.
Se nos continuarmos a afastar de utilizações humanizadas da tecnologia, corremos o risco de incentivar um ciclo de retorno descontrolado que esgota a nossa vontade coletiva de reinvestir na sua expansão. O perigo não é somente que a tecnologia atual não seja direcionada para as nossas necessidades civilizacionais mais urgentes. É que a aparente perda de interesse por parte dos tecnólogos numa inovação humanizada está a esgotar a nossa fé coletiva nos nossos próprios poderes de invenção.
Quando permanece fiel às suas raízes mais profundas, a tecnologia ainda é movida por um impulso moral: o de construir lugares, ferramentas e técnicas que possam ajudar os humanos não apenas a sobreviver, mas a prosperar juntos. Claro, esse impulso é facilmente unido a, ou afastado por, outros: os impulsos de dominar, exterminar, empobrecer, vigiar e controlar.
No entanto, estas motivações mais sombrias não são a essência da nossa capacidade tecnológica enquanto espécie. E não podemos deixar que elas definam a ordem tecnológica moderna. Porque se a tecnologia perder a sua relação com a alegria e o conforto comunitário, corremos o risco de nos alienarmos de uma das formas mais fundamentais de cuidar do mundo e uns dos outros.
Shannon Vallor é professora de ética de dados e inteligência artificial da Baillie Gifford na Universidade de Edimburgo e diretora do ‘Center for Technomoral Futures’ no ‘Edinburgh Futures Institute’.
MIT Technology Review