Meu querido robot: as linhas vermelhas da lei e da moral

A semana passada, debatemos a iminente disponibilização de robots accionados por IA utilizados como parceiros sexuais e também as suas vantagens e desvantagens. Hoje continuaremos essa análise. A adopção generalizada de robots, para além de influenciar os padrões emocionais dos indivíduos, traz profundos desafios estruturais à sociedade.

Em primeiro lugar, a mercantilização destes produtos transforma relações íntimas em serviços que podem ser comprados. O “outro”, indispensável numa relação intíma no mundo real—um indivíduo com vontade própria, emoções e defeitos—é eliminado por algoritmos. A longo prazo, o relacionamento com robots pode vir a reduzir a capacidade de lidar com as diferenças e a heterogeneidade, simplificando gradualmente o amor e o companheirismo através de um modelo consumista. Em segundo lugar, a adopção generalizada de robots terá impacto na indústria do entretenimento para adultos, na indústria do sexo e nas plataformas de encontros online.

Por um lado, pode reduzir os riscos que enfrentam os trabalhadores sexuais; mas, por outro lado, também pode provocar desemprego nestes sectores, conduzindo a uma complicada transformação destas indústrias e potencialmente levando a um ajuste das taxas governamentais. Em terceiro lugar, se a aparência e a inteligência dos robots continuar a evoluir, as pessoas podem facilmente estabelecer laços emocionais excessivos, deixando de perceber a diferença entre indivíduos reais e máquinas antropomórficas, o que coloca desafios ao enquadramento jurídico actual. Por exemplo, quando um robot se estraga, deve ser considerado um dano de propriedade ou algo semelhante a uma lesão pessoal? Quando um robot mostrar reacções que podem ser interpretadas como dor, devemos recorrer às leis de protecção dos direitos dos animais? As pessoas poderão incluir os robots nos seus testamentos?

Confrontada com o rápido desenvolvimento dos robots, a sociedade precisa de examinar e abordar seriamente uma série de questões não resolvidas quer a nível legal quer a nível ético. Em primeiro lugar, se os fabricantes aceitarem encomendas para criar robots com uma aparência específica, que pode ser inspirada em figuras públicas ou em pessoas comuns, como estabelecer as linhas vermelhas? Na Feira do Livro de Hong Kong de 2009, uma jovem célebre lançou um álbum de fotografias sensuais e, simultaneamente, vendeu almofadas com a sua imagem em tamanho real, atraindo multidões que formavam filas para as comprar. Na altura, já houve quem questionasse este produto por objectificar as mulheres, por ter conotações pornográficas e pela influência que poderia ter em adolescentes. Se uma almofada desencadeou controvérsia, o conflito será sem dúvida muito maior quando aparecerem robots com faces humanas. Além disso, sem o conhecimento ou consentimento do indivíduo retratado, o fabricante deve assumir responsabilidade legal por violar o direito à invulnerabilidade da sua imagem? Como podem as pessoas comuns proteger-se da sexualização e mercantilização inadequadas da sua imagem digital?

Em segundo lugar, se o mercado permitir a comercialização de robots que se assemelham a crianças, ou de robots pré-programados para recriar cenários de violação, de agressões indecentes, ou de qualquer acto de violência contra a vontade de terceiros, estaremos perante a materialização de um crime sexual? Deverá a produção de robots ficar sujeita a certas restrições? Deverão ser impostos imites morais através de legislação para garantir a manutenção dos bons costumes?

Além disso, os robots guardam dados pessoais sensíveis. Precisaremos de supervisão legislativa? Se as leis forem implementadas, quem terá o direito de armazenar dados privados, como devem ser usados e quando deverão ser apagados, são questões legais que requerem clarificação urgente.

Em quarto lugar, independentemente do nível de inteligência do robot, a supervisão e a intervenção humana devem ser mantidas em questões críticas, em acções de alto risco e nos mais importantes procedimentos operacionais. Por exemplo, quando se executam acções muito intensas que envolvem movimento dos membros e que roçam os limites da segurança, o sistema deveria requerer uma confirmação manual por parte do utilizador, assegurando assim a sua protecção. Só mantendo o controlo humano é que os robots podem ser seguros.

Em quinto lugar, se o utilizador levar o robot a praticar acções ou linguagem violentas, auto-mutilação, ou ilegalidades, o mecanismo de protecção do sistema HE deveria interrompê-las imediatamente, mudar para o modo de segurança pré-definido e notificar o servidor, se necessário. Isto deveria ser acompanhado de um mecanismo de emergência que desligasse o robot para impedir que ajudasse o utilizador a cometer actos ilegais ou a violar a ordem e a moral pública.

As mudanças trazidas pelos robots vão muito além da função de satisfação das necessidades fisiológicas e de companhia. Eles funcionam como um espelho, reflectindo a eterna busca dos humanos por amor, confiança, poder e identidade. Quando a tecnologia cria companhias virtuais sempre obedientes que são mais atraentes do que as interacções complexas com pessoas reais, a forma de atingir um equilíbrio entre a inovação tecnológica, a liberdade individual, a moral vigente e as normas legais vai ser um dos grandes desafios que os legisladores e a sociedade não poderão evitar.

Consultor Jurídico da Associação para a Promoção do Jazz em Macau
Professor Associado da Faculdade de Ciências de Gestão da Universidade Politécnica de Macau
cbchan@mpu.edu.mo