Rostam Neuwirth, académico: “Macau está focada no lado bom da inteligência artificial” 

O director do departamento de Estudos Jurídicos Globais da Universidade de Macau, Rostam Neuwirth publica em meados de Agosto o livro “The EU Artificial Intelligence Act: Regulating Subliminal AI Systems”. O académico olha para a proposta de lei da Comissão Europeia que visa regulamentar usos e efeitos negativos da inteligência artificial e defende um maior debate mundial sobre esta matéria, incluindo em Macau

Este livro analisa a proposta de lei da Comissão Europeia que regulamenta a inteligência artificial e também uma recomendação da UNESCO. Esta é uma problemática que vai estar cada vez mais presente no nosso dia-a-dia?

O livro foca-se essencialmente na legislação proposta pela Comissão Europeia, que ainda não está em vigor. Esta proposta, que entra agora num complexo processo legislativo, deverá ser implementada no final deste ano. A proposta foi tornada pública em Abril do ano passado e visa apenas a União Europeia, mas depois a UNESCO adoptou também uma recomendação focada apenas nas questões éticas associadas ao uso da inteligência artificial. Não se trata de uma lei ou de um tratado internacional, mas revela um consenso e preocupação da UNESCO sobre as questões éticas associadas à inteligência artificial. A sua pergunta é filosófica e prática ao mesmo tempo, porque, se olharmos da perspectiva de que nada é novo e que a tecnologia há muito que vem acompanhando a evolução da humanidade, ao mesmo tempo percebemos que a inteligência artificial é algo novo que traz desafios. Não sabemos o que vai acontecer. O que é claro é que vemos um rápido desenvolvimento dos ciclos de inovação tecnológica nas últimas décadas. A rapidez com que são introduzidas inovações está a acelerar. E o que atingiu um nível sem precedentes é esta extensão da tecnologia face ao corpo humano. Com a inteligência artificial chegámos a um ponto em que, pela primeira vez, replicamos a mente humana. Até agora era apenas feita a reprodução dos movimentos do corpo humano. Será possível prever comportamentos através destes dados e da combinação destas tecnologias? Será que irão manipular a mente humana? À medida que conhecemos mais o sistema, melhor o podemos usar. A tecnologia tem um lado bom e mau, e se traz benefícios ou efeitos negativos depende sempre do uso que lhe damos.

De que forma a proposta da Comissão Europeia aborda estas questões?

O meu livro analisa um artigo desta proposta de lei sobre a proibição dos sistemas de inteligência artificial recorrerem a técnicas subliminares. Esta é uma questão interessante, definir o que é subliminar. Mas isto levanta uma consciência relativamente aos nossos pensamentos e comportamentos. A legislação também chama a atenção para um efeito negativo desta manipulação, que segundo a proposta deve ser regulada e proibida caso isto aconteça.

Falamos das primeiras propostas legislativas sobre este assunto, a nível mundial?

Na União Europeia sim. Quando, no processo de pesquisa para este livro, falei com cientistas e especialistas em computação, disseram-me que a inteligência artificial não faz sentido. Mas surgiu como conceito que é difícil de definir de uma forma conclusiva. Penso que o que é novo na União Europeia é uma tentativa de regular, de forma específica, a inteligência artificial, porque já existe legislação a nível mundial que regula alguns destes aspectos, como os dados pessoais ou as plataformas de redes sociais. O problema é que a inteligência artificial está de facto a penetrar em todos os campos das nossas vidas. É uma questão multidisciplinar. A minha preocupação com este livro é ver como a lei será aplicada. Pode haver uma fragmentação se olharmos em termos de Direito público, privado, para os sectores da saúde e das forças de segurança. As ferramentas com as quais tentamos lidar com este fenómeno estão ainda muito fragmentadas. A União Europeia deu um passo e a UNESCO também, no sentido de tentar olhar para a inteligência artificial [no seu todo]. Pelo que tenho visto nos últimos 20 anos, em matéria de regulação de media, por exemplo, é que há uma convergência. Uma das contradições do nosso tempo é que a tecnologia está a convergir ao mesmo tempo que a legislação diverge.

Em que sentido?

Há um cientista político que escreveu um livro intitulado “Cosmopolitismo” que diz que o paradoxo dos nossos tempos é que temos problemas globais tratados e olhados de forma local. Vimos isso na pandemia, que é um problema mundial, mas que foi tratado localmente.

No livro diz que a inteligência artificial traz dificuldades severas em matéria de Direito e da própria democracia. Esta área vai ter um maior impacto em actos eleitorais ou no mundo da política, influenciando a opinião pública?

Infelizmente não é uma novidade, porque tivemos o escândalo da Cambridge Analytica. Em todas as eleições vemos queixas sobre uma interferência do exterior, da Rússia, por exemplo. Esta é já uma realidade, a existência de plataformas como o Twitter ou o Facebook [com impacto nos resultados eleitorais]. Um dos aspectos importantes destas plataformas e do poder destes dados é que, conscientemente, permitimos a manipulação. Nos anos 50 já ouvíamos falar de publicidade subliminar, uma experiência feita nos cinemas e com marcas como a Coca-cola, por exemplo. Eram mostradas imagens que só eram percepcionadas pelo nosso inconsciente. Segundo alguns livros, temos plena consciência em apenas cinco por cento das situações, sendo que nos restantes 95 por cento não temos essa percepção. Quando conduzimos um carro há muitos gestos que são automáticos, por exemplo. Esta publicidade sublimar teve um impacto e houve legislação europeia que proibiu isto. Em Macau há também uma lei sobre esta questão que vigora até hoje. Actualmente, este tipo de publicidade subliminar está muito mais sofisticada, e quando combinamos vários tipos de tecnologia com dados e comportamentos humanos é verdade que estas tecnologias te conhecem melhor do que tu te conheces a ti próprio. Quem controla os algoritmos e estas tecnologias tem um grande poder e claro que pode manipular comportamentos. Este debate em torno da inteligência artificial vai estar muito presente nos próximos 30 a 40 anos e sobre esta legislação em particular cada país deveria fazer o seu debate, porque estas plataformas operam de forma global.

Acredita que as autoridades de Macau vão prestar mais atenção à regulação desta matéria nos próximos anos, tendo em conta o debate que tem surgido na área dos dados pessoais, por exemplo?

A lei que vigora em Macau foca-se apenas na transmissão de publicidade subliminar na televisão, que é proibida. Isto trouxe um importante precedente. Estudos feitos depois do ano de 2000 confirmam que estas técnicas são eficientes, podemos mostrar imagens muito rapidamente e [manipular] o consumidor. Sabemos o diferente impacto que têm jogos violentos, por exemplo, e há muitos factores a ter em conta, mas os efeitos estão cientificamente provados. Acredito que toda a jurisdição deveria debater estas matérias e vemos que a China, por exemplo, tem tentado reduzir o tempo que as crianças gastam a jogar online. Mas é uma aproximação sectorial. Muitas máquinas são desenhadas com o efeito de manipular, pois quanto mais tempo se vê mais se consome. Estes são os lados negativos e penso que mesmo em Macau estas questões têm de ser analisadas. Na Universidade de Macau discutimos muitas vezes a questão do efeito do digital na educação, após um período de aulas online devido à pandemia, e há perigos em termos psicológicos da utilização online. Em Macau, um estudo conduzido por um colega mostra que o vício da internet aumentou nos últimos dois anos. As iniciativas legislativas têm de seguir este caminho, embora haja diferentes aproximações por parte das jurisdições. Penso que neste momento Macau está focado no lado bom da inteligência artificial, com a ideia de cidade inteligente e na resolução do problema do trânsito, por exemplo, e não tanto nos efeitos negativos. Temos de usar a tecnologia a fim de reduzir os perigos e maximizar os benefícios.