Ana Viseu: "As tecnologias têm de ser reguladas"

O que é a inteligência artificial e onde a encontramos no dia-a-dia?

O conceito é superamplo, mas, para o cidadão leigo, será todo o tipo de algoritmo ou de mecanismo que vai sugerindo ou tomando decisões de forma autónoma, e que vai aprendendo. Encontramos inteligência artificial quando fazemos buscas online, quando nos são sugeridas publicidades, notícias, produtos; quando usamos relógios ou qualquer tecnologia que nos vai dando dados, dizendo o que estamos a fazer e quantificando a nossa vida. Encontramo-la em muitíssimos sítios, porque o mundo é cada vez mais informacional ou computacional. Cada vez usamos mais tecnologia e em mais esferas da vida. À medida que estas tecnologias se tornam mais "inteligentes", vamos encontrando cada vez mais inteligência artificial.

Que risco tem para o consumidor o controlo digital?

A questão do controlo é, por um lado, incrivelmente importante e, por outro, perigosa. Já há uma desconfiança enorme. Ter este discurso ao nível do controlo pode ser problemático.

Porque é visto como uma espécie de big brother.

Exatamente. E esse controlo não é um big brother, mas muitos little brothers. Estamos, efetivamente, a ser vigiados, talvez o tempo inteiro. Esse controlo exerce-se não através das grandes decisões mas da manipulação de pequenas ações do dia-a-dia. Se estou a pensar em comprar um par de sapatos e vou ver online, a partir daí, sou bombardeada com anúncios de sapatos. Isso é muito problemático. Por muito que ache que não sou manipulada pela publicidade, e todos temos a ideia de que funciona nos outros, mas em nós não, a verdade é que somos todos muito manipulados. O controlo é feito em prol do consumo. Claro que há as questões da desinformação política, e isso é certamente mais nefasto... Que precauções ter? No mínimo, termos consciência de que estamos constantemente a ser vigiados, e de que há este input [recolha de dados] que tenta, depois, manipular as nossas ações. Não sei se podemos fazer muito mais, porque este é o mundo em que vivemos. E porque não temos noção destas infraestruturas que estão constantemente a recolher dados. Não sabemos como funcionam, nem quem está por detrás delas, nem quais os seus objetivos. O objetivo geral será manipular as nossas ações, mas os mais localizados não sabemos. Como cidadãos, devemos ter em mente que a recolha de dados está sempre a acontecer.

Como fugir a esse controlo?

É uma excelente pergunta. Há pessoas que dizem que uma das formas de resistência podia ser "não vou usar", mas isso não é possível para a maioria de nós. No meu trabalho, não posso não usar e-mail, não posso não usar Google. Posso não usar redes sociais, sim, mas até aí há alguma pressão do empregador para fazer publicidade, etc. Há quem tenha instalado, nos computadores, ou nos telemóveis, software ou apps de distração. [Com estas], o número de ações aumenta e dispara para todos os lados. Mas isso requer conhecimentos técnicos que estão para lá do que a maioria sabe, e causa os seus próprios problemas. Por exemplo, como temos algo que está sempre a fazer pedidos aleatórios, quando queremos entrar num site, este pode achar que somos um robô, pelo que temos de estar sempre a reconhecer as imagens. Temos de ter as proteções de privacidade no máximo, o que implica estar a pôr passwords, a rejeitar cookies. Dá trabalho, mas é importante.

A DuckDuckGo protege mais do que a Google?

Sim. A Google diz que vai deixar de aceitar cookies de partes terceiras. Está a começar a perceber que a privacidade está na ordem do dia, e que, para o utilizador, é importante. É engraçado, porque a Google começou por ser uma companhia que tinha como mote não fazer mal, e hoje está em tribunal por monopólio [nos Estados Unidos da América]. Vai ser muito interessante perceber o que acontece, porque vai ter enormes implicações na forma como usamos a internet. Se a Google for obrigada a ter outro modelo de negócio, a nossa forma de interagir ou de estar online vai mudar também, e pode ser que signifique mais proteções ao nível dos dados. A Google domina o mercado de uma forma tal que usa os dados que recolhe para dar resultados de busca cada vez melhores, o que faz com que nunca possamos sair da sua plataforma. A DuckDuckGo funciona bem, mas, comparada com a Google, funciona mal – até visualmente. Já tentei usar, acabei por desistir e voltei à Google. É verdade que a Google tem o monopólio, e deve ser quem mais recolhe dados ao nível das nossas ações, até porque procuramos tudo na Google, das coisas mais íntimas às mais banais. Se há entidade que sabe muito acerca de nós, é a Google. A Bing, da Microsoft, também está a entrar no mercado, mas vem já com toda a questão da inteligência artificial, e acho que vão estar altamente dedicados à recolha de dados. É assim que vão fazer crescer o seu algoritmo, é aprendendo connosco. No fundo, a inteligência artificial funciona bem, porque a ensinamos bem – e, aí, somos ratinhos de laboratório. Estamos sempre a fazer miniexperiências, vamos à procura disto e daquilo, e a inteligência artificial aprende.

O Facebook e o Instagram também estão a ser processados.

Temos n casos nos Estados Unidos, o país onde, tradicionalmente, há a ideia de que a indústria se vai autorregular, porque é do seu interesse. Na Europa, nunca foi assim. A Meta, a Google ou a Amazon estão em tribunal, e há uma vontade bipartidária de regular as ações das big tech. Será muito interessante perceber como nos vai afetar, porque está a ser decidido o futuro da internet. O Instagram está a ser processado por 43 estados [norte-americanos], dos 50, sobretudo pelos efeitos nefastos nas crianças. Há documentos internos do Instagram que mostram que, por semana, 22% dos adolescentes sofrem bullying e 32% recebem avanços sexuais não desejados. O Instagram não fez nada para menorizar, e está a ser processado, porque tem uma quantidade incrível de crianças inscritas. Nos Estados Unidos, estas estão protegidas até aos 13 anos. Devia haver um consentimento parental. Se os estados ganharem este caso, o Instagram vai mudar radicalmente. E seguem-se as outras redes sociais.

O ChatGPT e outras ferramentas entregam trabalhos feitos. Não reduzirão o sentido crítico e as capacidades dos jovens?

Podem. Mas podem ajudá-los a escrever melhor. Um exemplo: na faculdade, uma aluna estava a dizer a outra que não entrega trabalho nenhum sem passar no ChatGPT. Perguntei: “Mas vocês usam-no sempre? Como se asseguram de que o que estão a entregar está correto?” E elas disseram: “Primeiro fazemos a nossa investigação, depois perguntamos ao ChatGPT, e juntamos as duas coisas.” Nesse sentido, é uma ferramenta espetacular. Agora, se decidir delegar no ChatGPT todas as tarefas, é um desastre. Há alunos que vão delegar no ChatGPT todo o processo e há outros que o utilizarão com cabeça. Cabe aos pais e a todos criar a chamada literacia digital.

Que riscos tem a inteligência artificial para a sociedade e para a própria democracia?

Para a democracia, vimos já, no pós-eleições americanas, o incrível poder que as redes sociais têm de manipular a nossa realidade, aquilo em que acreditamos.

A desinformação política.

Sim. Sabemos que hoje as pessoas procuram nas redes sociais informação que usam para moldarem aquilo em que acreditam, a sua realidade. Um dos grandes perigos é que deixamos de ter uma realidade comum: cada um tem a sua microrrealidade. De cada vez que acontece algo no mundo que vai contra aquilo em que acredita, tende a dizer "isto são fake news", as mesmas inauguradas por Trump. Tudo aquilo que não está de acordo com a minha visão são fake news.

Quando nós próprios podemos estar a produzir fake news...

Completamente. Uma coisa é discordarmos sobre o significado de um evento, outra é nem sequer acreditarmos que este é um evento. Não há, sequer, um objeto comum para discutir, e isso é incrivelmente problemático para o nosso futuro como país, como democracia.

Ao nível dos valores, também pode haver alguma influência?

É mais complicado. Temos uma emergência do populismo. Temos um discurso sexista e misógino, uma preponderância de racismo. O interessante é que o discurso online é mais radical do que o offline. Em parte, por causa destes algoritmos que vão alimentar as nossas crenças. Na vida fora das redes, se calhar, o meu mundo é absolutamente tranquilo e normal. O mundo online vive da minha atenção, e esta prende-se mais quando há controvérsia. Logo, é expectável que me vão ser alimentados mais temas controversos, que, se calhar, alimentam as minhas tendências já um bocadinho radicais, e isto é um ciclo vicioso, o que é bastante problemático. Tirando os discursos mais radicais, os jovens têm acesso a muitíssima informação, e, para muitos, a internet é uma fonte de riqueza e de cultura. Temos de ter cuidado com o pessimismo. Se quiser saber o que se passa no mundo, e contribuir de forma positiva, a internet permite-me fazer tudo isso. Se tiver tendências racistas, misóginas, etc., também vai alimentá-las. O perigo existe, mas a possibilidade também.

Concorda com a regulamentação destas tecnologias?

Sim, porque são demasiado poderosas. Tem de haver regulação daquilo que se chama "o código". O código de programação é lei, é poder. Se, no princípio, as esferas do online e do offline estavam mais divididas, hoje não: tenho o telefone e estou constantemente com um pé offline e outro online. Se o código é poder, o poder político e legislativo tem de prestar atenção. A regulação tem de existir e ser bastante clara quanto às responsabilidades das empresas tecnológicas. Mas é muitíssimo complicado, por ser uma questão universal, porque a tecnologia está sempre a avançar, e o legislador não é necessariamente competente em tecnologias. Haverá sempre um período de desajuste. O poder político e os reguladores aperceberam-se, desde o escândalo das eleições americanas, de que estas plataformas são demasiado poderosas. Banir o presidente dos Estados Unidos [do Facebook e do Twitter] não é coisa pequena. Para muitos, como eu, que não tenho particular simpatia pelo Trump, a decisão é positiva. Mas banir o presidente dos Estados Unidos de uma plataforma é um exercício de poder brutal. O regulador tem de prestar atenção, mas não só a estes exercícios extremos: as empresas de tecnologia o que produzem são leis privadas, que beneficiam a si próprias. Isso não se coaduna com o nosso modelo democrático. Se o código é poder, o regulador não pode deixar nas mãos das empresas a sua autorregulação.

A inteligência artificial vai agravar as diferenças sociais?

A resposta mais utópica seria dizer que nos resta a esperança de que estas ferramentas possam capacitar as camadas mais marginalizadas e dar-lhes alguma vantagem. Parece-me que isso não irá acontecer. A questão é o que vamos fazer, como país, para tentarmos assegurar que toda a gente tem, pelo menos, a possibilidade de aceder – isso é política nacional. Espero que consigamos criar infraestruturas que apoiem quem não consegue usar.

Os consumidores estão informados sobre os riscos?

Nenhum de nós está informado, porque não percebe bem a complexidade das infraestruturas digitais, que são, de alguma forma, propositadamente opacas. Temos noção de que, à medida que a nossa informação está online, está cada vez mais sujeita a ser hackeada. A única maneira de não acontecer seria não interagir, mas isso não é possível.

O que sobra do ser humano?

Para já, sobra muito. Acredito que continuará a sobrar, mas será diferente. Que as tecnologias nos transformam é um dado adquirido. A pergunta essencial é: para onde queremos ir como sociedade, se o futuro que desejamos é de fusão cada vez mais íntima com a máquina, ou se há algumas formas de ser e de estar que queremos salvaguardar. É uma decisão que temos de tomar como sociedade e como indivíduos. Espero que haja uma resistência corporal, da nossa própria materialidade, que imponha alguma desaceleração a estes processos.