Se o pior estiver para vir, estamos preparados?

João Pedro Pereira

João Pedro Pereira é desde 2007 jornalista no Público, onde coordena actualmente os projectos de inovação editorial. Escreveu para a BBC entre 2014 e 2015. É autor do livro Visionários, sobre as personalidades que marcaram o mundo das tecnologias de informação. Vive em Lisboa.

Os anos de ouro

Foi um breve período dourado. Dos longos textos de banalidades pessoais ao confronto ideológico; das críticas verrinosas (e, por vezes, anónimas) ao conteúdo manipulado por partidos ou agências de comunicação; dos ensaios literários às divagações filosóficas; das críticas de cinema ad-hoc às extensas dissertações sobre columbofilia ou heráldica. Com todas as suas particularidades e muitas imperfeições, o apogeu dos blogues foi talvez o mais próximo que a Internet esteve de concretizar a promessa que desde cedo esteve implícita nesta tecnologia: o emergir de uma ágora geograficamente global e de participação quase universal.

A blogosfera surgiu no virar do século, sucedendo a uma série de avanços vertiginosos nos anos 1990. Primeiro, a World Wide Web — um sistema de apresentação de informação com base em hipertexto — começou num laboratório científico no CERN, espalhou- se pelo meio académico e ganhou popularidade. Nasceram os primeiros sites, o que, pela primeira vez, deu a muitas pessoas uma razão para usar a Internet, uma tecnologia inventada duas décadas antes. Era teoricamente possível a qualquer pessoa criar um site e publicá-lo para o resto do mundo. Na prática, poucos tinham acesso à Internet e menos ainda tinham os conhecimentos técnicos para lançar um site. Pela mesma altura, cresciam os grupos de chat e fóruns de discussão, alguns na Web, outros em aplicações como o mIRC. Em muitos, o anonimato ou os pseudónimos eram a regra.

O debate na Internet de há 25 anos podia ser acalorado, ou até apaixonado — mas, para a grande maioria, a Internet era um espaço à parte do resto da vida: algo a que se ligavam durante um período de tempo limitado, um parêntesis no quotidiano do mundo real e, em parte por isso, uma espécie de oeste selvagem, tão promissor como sem regras. Para a maioria dos utilizadores (e os utilizadores não eram uma maioria), o que se passava online era inconsequente.

“O debate na Internet de há 25 anos podia ser acalorado, ou até apaixonado – mas, para a grande maioria, a Internet era um espaço à parte do resto da vida: algo a que se ligavam durante um período de tempo limitado, um parêntesis no quotidiano do mundo real e, em parte por isso, uma espécie de oeste selvagem.”

Foi em 1999, quando as primeiras grandes empresas da Web já tinham surgido, que uma empresa dos EUA chamada Pyra Labs lançou uma ferramenta relativamente simples, que permitia a qualquer pessoa ter um site gratuitamente e criar entradas ordenadas por data. Já existiam então alguns blogues. Mas esta ferramenta – o Blogger – massificou o formato.

Nasceram os blogues pessoais e os blogues temáticos. Houve alguns que acabaram por tornar-se publicações profissionais. Na blogosfera, cresciam autores que ganhavam relevância no espaço público, sem terem de passar pelo tradicional crivo de acesso aos mass media, até então detentores do monopólio de quem podia fazer uma comunicação de um para muitos. Alguns bloggers viriam a tornar-se colunistas de jornais e opinadores. Portugal não foi aqui excepção. Era fácil ser-se optimista naqueles tempos: com cada vez mais pessoas conectadas e com o aumento da literacia digital, a Internet tinha tudo para se transformar num fórum de discussão democrático, onde qualquer pessoa podia ter voz sem mediação. A comunicação em massa estava prestes a chegar às mãos da massa de cibernautas. E depois os blogues morreram.

 

Caos

Poucos anos bastaram para mostrar que, afinal, o modelo de ágora digital não era o da blogosfera. Triunfou, em vez disso e por ora, o modelo das redes sociais online, graças à facilidade de utilização, ao reduzidíssimo investimento no momento de participação (às vezes, um emoji é quanto basta) e, especialmente, aos algoritmos eficazes em manter uma mecânica de retenção de atenção, que espreme tempos de concentração, alimenta a polarização do discurso e incentiva a proliferação de desinformação.

As grandes redes sociais estabeleceram-se como uma infraestrutura de relações sociais e de consumo de informação e entretenimento, com capacidade para enformar o debate público, para criar subculturas e até para condicionar processos democráticos. Os pilares desta infr-estrutura são conhecidos e, no Ocidente, quase exclusivamente sediados nos EUA: o Facebook, o WhatsApp e o Instagram (todos detidos pela empresa Facebook), bem como, em diferentes graus, o YouTube (Google), o Twitter (co-fundado por um dos criadores do Blogger) e, mais recentemente, o TikTok (de uma empresa chinesa).

Hoje, a Internet e a Web são invisíveis, seguindo o caminho de tecnologias como a electricidade. São essenciais, mas também são dadas como adquiridas e ninguém pensa nelas. Mas, se a Internet sempre foi concebida como uma infraestrutura, a Web nasceu para ser uma ferramenta de informação, construída sobre a Internet, e que daria ao utilizador final a possibilidade de consumir e criar. Os primeiros browsers permitiam não apenas navegar na Internet, mas publicar sites. Porém, a Web acabou soterrada por baixo da camada dos inúmeros sites e aplicações, cada um com as suas próprias regras e modos de funcionamento.

 

Freepik

 

A diferença basilar entre um post num blogue na década de 1990 e um post hoje no Facebook reside no facto de o conteúdo no Facebook ser produzido e disseminado segundo as mecânicas e os propósitos específicos desta empresa. Ironicamente, quando nunca foi tão fácil comunicar e participar no espaço público, a liberdade de quem publica é reduzida (uma redução camuflada pela maior audiência e interacção) e até as maiores empresas no negócio da comunicação (jornais incluídos) se adaptam aos ditames de quem lhes entrega audiência.

Esta mudança trazida pelas plataformas online é relevante: enquanto a Web é um sistema aberto, distribuído e sem proprietário, boa parte da interface da comunicação digital quotidiana está hoje nas mãos de corporações, sobre as quais recaiu — sem que algum vez o quisessem — a tarefa de gerir a grande fatia do espaço público que representam os biliões de publicações e interacções feitas por milhares de milhões de indivíduos em quase todo o mundo. As grandes tecnológicas sempre foram reticentes em tomar em mãos essa missão de gerir este espaço, tendo durante anos ido pouco mais além do que o necessário para evitar a publicação de conteúdo ilegal.

Orientadas por legítimos objetivos de negócio e – provavelmente por um misto de convicção e conveniência – agarradas a uma ideia de neutralidade das plataformas e de maximização da liberdade de expressão, foram precisos sobressaltos na opinião pública para que os executivos das redes sociais começassem a agir sobre o problema, num processo que está longe de terminado. É verdade que a aversão destas empresas à moderação efectiva do espaço de discussão que elas próprias criaram não derivará inteiramente de um desalinhamento com os objetivos de negócio. Afinal, o problema não é trivial, mesmo para empresas com vastíssimos recursos. Veja-se um caso recente do Facebook. Em Fevereiro, a empresa decidiu apagar as publicações que afirmassem que o coronavírus tinha sido criado em laboratório, medida que fazia parte de um esforço para conter a desinformação sobre a pandemia.

“O poder das empresas de Internet não é absoluto. Mas os executivos destas multinacionais são mais poderosos do que a generalidade dos governantes e chefes de Estado. E é relevante notar que constituem, em muitos aspectos, uma nova casta de ditadores.”

Em Maio, a rede social recuou nessa decisão, na mesma altura em que os EUA anunciavam um redobrar de esforços dos serviços de informação para perceber a origem do vírus. Mark Zuckerberg, o fundador e único presidente na história do Facebook, tem argumentado que não cabe às plataformas online filtrar o discurso dos utilizadores, devendo esse ser um papel dos Estados. Por várias vezes, incluindo durante uma audição no Senado dos EUA, Zuckerberg chegou mesmo a mostrar-se receptivo a alguma regulação externa — especialmente, pode ler-se nas entrelinhas, sendo a regulação associada ao conteúdo não apenas aquela que resolve problemas difíceis e desresponsabiliza os protagonistas do sector, como potencialmente ajuda a evitar a temida regulação concorrencial.

Estamos entre a espada de serem grandes empresas a decidir como a informação circula no espaço público e a parede de serem os Estados a fazê-lo. Em nenhum dos extremos está a solução, mas este é um caminho extraordinariamente difícil de trilhar. A regulação e a legislação são bem-vindas e exigíveis aos representantes democraticamente eleitos. Mas, inevitavelmente, não acompanham o ritmo da evolução tecnológica, nem têm capacidade para reagir em tempo útil. Abre-se a questão de saber se é razoável que a sociedade civil exija que as plataformas online se auto-regulem. Por um lado, Facebook e afins serão os únicos capazes de reagir de forma suficientemente rápida às questões que as suas próprias ferramentas levantam. Por outro, mesmo que estivessem disponíveis para o fazer, as panaceias encontradas (regras de utilização, critérios para banir contas, variáveis dos algoritmos que determinam a disseminação de um determinado conteúdo em detrimento de outro) assentam necessariamente no conjunto de princípios e valores de quem quer que essas multinacionais escolham para a tarefa.

O mesmo é dizer, este tipo de plataformas, que nasceram assentes em tecnologia que prometia uma ágora global, arriscam-se a controlar boa parte do discurso público com base em critérios opacos e em processos não representativos, e sem uma orientação ética conhecida.

Convém neste ponto não esquecer que não se trata apenas de gerir a torrente de publicações de indivíduos avulsos. Estes novos gatekeepers são uma peça fundamental no fluxo da informação que é produzida por jornalistas, partidos, governos e entidades estatais. Em 2018, o Facebook causou um terramoto na imprensa de uma mão-cheia de países que escolheu para fazer um teste, tornando menos visíveis os conteúdos de órgãos de comunicação. Na Bolívia, Cambodja, Guatemala, Sérvia, Eslováquia, Sérvia e Sri Lanka, os sites noticiosos perderam tráfego (ou seja, dinheiro) e parte da população ficou repentinamente, e sem saber porquê, com a sua dieta informativa reduzida.

“Estamos preparados para lidar com tecnologia que permita a grandes tecnológicas – e, inevitavelmente, aos estados – ler o cérebro de cada um de nós? Não é uma pergunta retórica e a resposta é “não”.”

Mais recentemente, no meio de uma disputa com a imprensa australiana, o Facebook decidiu não mostrar os conteúdos dos órgãos de comunicação naquele país. Mas a medida acabou também por afectar dezenas de páginas de entidades públicas (incluindo autoridades de saúde), bem como de sindicatos e de organizações de solidariedade social. Foi uma demonstração não só do poder da plataforma, mas também da falta de capacidade da parte de quem a gere para exercer esse poder de forma responsável. É um fenómeno que se estende para lá do Facebook.

 

Novos ditadores?

O Google arrancou em 1998 com a ambição de organizar toda a informação do mundo e parece estar a caminho de o conseguir. Há 20 anos era pouco mais do que um directório de sites. Hoje, sabe quais os horários em que lojas e restaurantes têm mais clientes, oferece imagens de satélite das regiões mais remotas do planeta, tem informação em tempo real sobre o estado do trânsito e, se os utilizadores o deixarem (e muitos deixam, por desconhecimento e inacção), regista todos os trajectos e paragens feitos em todos os dias. Sabe onde esteve no dia 12 de Fevereiro de 2019, às 17h? A não ser que tenha desligado a funcionalidade Location History, é provável que o Google saiba.

Já o Facebook traçou em tempos o objectivo de ser uma espécie de infraestrutura para todas as interacções sociais, e até fez experiências com ferramentas de incentivo ao voto em eleições — uma incursão no funcionamento de processos democráticos a que hoje não se atreveria, dadas as consequências das eleições dos EUA de 2016, das presidenciais brasileiras e do escândalo da consultora política Cambridge Analytica. É verdade que o poder das empresas de Internet não é absoluto. Mas os executivos destas multinacionais são mais poderosos do que a generalidade dos governantes e chefes de Estado. E é relevante notar que constituem, em muitos aspectos, uma nova casta de ditadores — têm muito poder, são sujeitos a poucos mecanismos de responsabilização, podem num ápice interferir com a vida de milhões de pessoas e tendem a eternizar- se nos cargos.

 

Freepik

 

O Twitter, por exemplo, é presidido por um dos seus co-fundadores, que tinha já sido CEO aquando do lançamento da empresa. No Google, o co-fundador Larry Page foi CEO em dois períodos distintos, correspondentes a cerca de metade da vida da empresa (nos outros anos, manteve-se em posições importantes de gestão). Já o caso do Facebook é um exemplo acabado do culto do fundador que faz parte do ethos de Silicon Valley. A estrutura de acções da empresa permite que Zuckerberg mantenha o controlo enquanto quiser. Mesmo num cenário hipotético em que alguém comprasse cada uma das acções dispersas em bolsa, Zuckerberg continuaria a mandar. Nos últimos anos, com a empresa a sofrer danos reputacionais, os apelos e tentativas de que se afastasse não surtiram qualquer efeito.

Uma democracia funcional não assenta apenas em eleições regulares e na separação de poderes. Muitos cargos têm uma limitação de mandatos — é um mecanismo útil, que evita que pessoas se eternizem no poder, mitiga o risco de desenvolverem vícios e, não de somenos, facilita a renovação de ideias.

É verdade que as empresas não são, nem podem ser, democracias. Mas estas corporações tecnológicas também não são empresas convencionais. Afinal, em que outro sector é que o debate regulatório toca em questões como os processos democráticos e as liberdades individuais? Regular a indústria das bebidas ou da aeronáutica não é o mesmo exercício que regular as big tech. Estas grandes empresas de Internet, e os respectivos gestores, têm recursos, poder e vontade para nos conduzir colectivamente por novos caminhos. Seria um disparate seguirmos às cegas.

 

Para aonde vamos?

Entre muitas outras categorizações, é possível dividir as tecnologias que vão desenhar o nosso futuro próximo em dois grandes grandes grupos: aquelas que sabemos que estão a chegar; e as que ainda não conhecemos ou de que temos apenas um vago vislumbre. Estas últimas trazem muito mais incógnitas, mas devem ser merecedoras da nossa atenção quase na mesma medida. As tecnologias de inteligência artificial, com tudo o que lhes está associado, incluindo a análise de grandes torrentes de dados, fazem parte do primeiro grupo, o das tecnologias que já têm uma presença concreta. Inteligência artificial é um termo genérico, que designa uma panóplia de tecnologias (e que é também usado por questões de marketing para descrever automatismos que de inteligente têm muito pouco).

As aplicações vão da robótica industrial à concessão de créditos bancários; dos carros autónomos, ao controlo dos cidadãos por parte das autoridade; da gestão de transportes públicos às decisões judiciais. As tecnologias de inteligência artificial estão a entranhar-se no quotidiano de cidadãos, das organizações e do funcionamento estatal — e fazem-no de forma mais sibilina do que muitas das tecnologias que marcaram os últimos anos. A disrupção causada pelos smartphones foi, literalmente, visível: todos assistimos ao processo de massificação; vimos cada vez mais pessoas com smartphones nas mãos até que deixámos de ver pessoas sem um smartphone nas mãos.

Já os automatismos e algoritmos embutidos em sistemas informáticos são, por definição, invisíveis. Vemo-los de forma indirecta, através dos seus efeitos e numa percepção turva. Alguém a quem seja recusado um seguro de vida muito provavelmente não saberá se isso aconteceu porque um humano analisou o processo, porque um algoritmo assim o determinou ou por uma mistura de ambos.

No caso particular da acção dos estados sobre os cidadãos, as experiências com as várias tecnologias de inteligência artificial, assentes na enorme disponibilidade de dados e na conectividade quase constante dos indivíduos, não deixam razões para optimismos. A China ensaia hoje sistemas de ranking social, com vantagens para cidadãos cumpridores, num modelo que implica um controlo sem precedentes. Em paragens mais democráticas, o cenário é só um pouco menos distópico. No Reino Unido, sistemas de reconhecimento facial usados pela polícia não só levantaram dúvidas sobre questões de privacidade, mas também sobre possíveis enviesamentos associados a questões raciais.

O grupo das tecnologias de que sabemos muito pouco também suscita preocupações, ainda que menos imediatas. Entre estas estão, por exemplo, as interfaces cérebro- -computador. Tanto Zuckerberg como Elon Musk, um dos criadores do PayPal e hoje presidente da Tesla, têm investido na área. Musk fê-lo através de uma empresa chamada Neuralink, que tem o objectivo de desenvolver um implante cerebral que permita ao utilizador armazenar informação ou controlar dispositivos. A longo prazo, a ideia é permitir a “simbiose com a inteligência artificial” e criar “transhumanos”. Por seu lado, em 2019, o Facebook comprou uma startup que desenvolve aparelhos (como pulseiras) para ler sinais cerebrais. Uma possível aplicação? Permitir aos utilizadores escreverem com o pensamento. Cientistas financiados pelo Facebook já foram capazes de associar com sucesso indicadores de actividade cerebral a palavras e frases que tinham sido ditas em resposta a um questionário de escolha múltipla: sabendo qual era a pergunta e analisando os sinais cerebrais da resposta, o sistema foi capaz de perceber a opção escolhida. É um primeiro passo.

Se as últimas décadas de tecnologia nos ensinaram algo, é que a dimensão e a rapidez dos efeitos inesperados podem ser enormes. Estamos preparados para lidar com tecnologia que permita a grandes tecnológicas — e, inevitavelmente, aos estados — ler o cérebro de cada um de nós? Não é uma pergunta retórica e a resposta é “não”. É perigoso descartar cenários só porque se assemelham a ficção científica. Uma outra lição dos últimos anos é que demoramos a identificar os problemas e a rectificá-los. Ainda estamos à procura da resposta para o problema da desinformação e das fake news, que grassa há mais de meia década. É crucial começarmos já a olhar para as tecnologias que estão a emergir, sob pena de, mais uma vez, a nossa reacção colectiva ser tardia.