Uma diferença fundamental entre seres humanos virtuosos e sistemas de IA robótica virtuosos: uma perspectiva confucionista

Por Chenyang Li

Introdução

O grande avanço da tecnologia de Inteligência Artificial (IA) esbateu rapidamente as fronteiras entre a humanidade e o mundo não humano, tornando os dois cada vez mais indistinguíveis.1 Tradicionalmente, considera-se que apenas os seres humanos possuem virtudes morais, o que constitui uma característica única da humanidade; agora, as máquinas de IA também são consideradas moralmente virtuosas.2 Neste ensaio, procuro articular, numa perspectiva confucionista, uma diferença fundamental entre as virtudes humanas e as virtudes das máquinas de IA.3

A primeira secção deste ensaio aborda questões gerais sobre a ética da IA, a fim de estabelecer o contexto para a minha argumentação. Na segunda secção, defino e reconstruo duas categorias de virtudes — as virtudes específicas e a virtude abrangente —, numa perspectiva confucionista. Na terceira secção, defendo que uma diferença fundamental entre máquinas de IA virtuosas e seres humanos virtuosos reside no facto de, enquanto os objetivos dos robôs de IA são específicos e as suas virtudes também o são, de acordo com os objetivos para os quais foram concebidos, os seres humanos, independentemente dos papéis específicos que desempenham na vida — que exigem virtudes específicas —, também têm como objetivo alcançar uma vida virtuosa, o que requer a virtude abrangente da humanidade refinada.

Abordagens baseadas em princípios e na virtude

Com o rápido desenvolvimento da tecnologia de IA, a ética da IA tem vindo a tornar-se uma área em expansão da filosofia moral. A ética da IA, enquanto termo geral, pode referir-se a duas questões relacionadas, mas distintas. Em primeiro lugar, pode significar a ética profissional dos profissionais de IA, ou seja, das pessoas que criam e desenvolvem tecnologia de IA. Neste sentido, a ética da IA, tal como a ética médica ou a ética da engenharia, diz respeito ao código ético que os profissionais de IA devem seguir na criação de tecnologia de IA.

Podemos questionar-nos sobre que tipo de código de ética profissional os profissionais da IA devem seguir no seu trabalho, em contraste com os profissionais de outras áreas. Em segundo lugar, a ética da IA também pode referir-se ao código de ética para máquinas robóticas de IA, tendo as próprias máquinas robóticas de IA como sujeitos.4 Neste segundo sentido, a ética da IA diz respeito a «agentes morais artificiais», ou seja, às formas como a robótica de IA deve comportar-se eticamente. Para maior clareza, podemos designar a ética da IA no primeiro sentido por «ética profissional da IA» e, no segundo sentido, por «ética das máquinas de IA».

Em qualquer uma das áreas da ética da IA, em termos gerais, existem dois tipos de abordagens. Uma delas é a abordagem baseada em princípios, uma abordagem predominante neste campo. Na ética profissional da IA, por exemplo, a abordagem baseada em princípios procura definir princípios éticos relevantes para regulamentar o comportamento dos profissionais da IA. Um influente estudo de 2019, da autoria de Brent Mittelstadt, mostra que, até essa altura, pelo menos 84 iniciativas de ética da IA já tinham publicado relatórios que descreviam princípios éticos de alto nível, dogmas, valores ou outros requisitos abstratos para o desenvolvimento e a implementação da IA.5 De acordo com este estudo:

Uma análise recente revelou que muitas iniciativas de ética da IA convergiram para um conjunto de princípios que se assemelham estreitamente aos quatro princípios clássicos da ética médica. Esta conclusão foi posteriormente endossada pela Organização para a Cooperação e Desenvolvimento Económico (OCDE)⁹ e pelo Grupo de Peritos de Alto Nível sobre Inteligência Artificial da Comissão Europeia, que propôs quatro princípios para orientar o desenvolvimento de uma IA «confiável»: respeito pela autonomia humana, prevenção de danos, equidade e explicabilidade.6

Mittelstadt argumenta, no entanto, que, ao contrário da medicina, o desenvolvimento da IA apresenta lacunas em quatro áreas importantes: (1) objectivos comuns e deveres fiduciários, (2) história e normas profissionais, (3) métodos comprovados para traduzir princípios na prática e (4) mecanismos robustos de responsabilização jurídica e profissional. Estas diferenças, segundo Mittelstadt, sugerem que «ainda não devemos comemorar o consenso em torno de princípios de alto nível que ocultam profundas divergências políticas e normativas.»7 Nas práticas de desenvolvimento da IA, a abordagem baseada em princípios é limitada, em parte porque os princípios exigem especificação e equilíbrio em diferentes contextos de tomada de decisão.

Um estudo mais recente de Thilo Hagendorff descreve uma viragem prática no desenvolvimento da ética profissional da IA, passando «do quê para o como».8 O autor defende que essa viragem prática, baseada no principialismo, é, no entanto, inadequada, porque «os quadros da viragem prática são, muitas vezes, apenas códigos de ética mais detalhados que utilizam conceitos mais específicos do que as orientações iniciais de alto nível».9

Como alternativa à abordagem baseada em princípios, Hagendorff defende uma abordagem baseada nas virtudes. Ele afirma: «Em vez de se concentrar apenas nos princípios, a ética da IA pode dar maior ênfase às virtudes ou, por outras palavras, às disposições de caráter dos profissionais da IA, a fim de se pôr efetivamente em prática.»10 Mais especificamente, Hagendorff propõe quatro «virtudes básicas da IA», nomeadamente justiça, honestidade, responsabilidade e cuidado, a serem complementadas por virtudes de segunda ordem, tais como prudência e fortaleza. Estas virtudes são importantes porque representam contextos motivacionais específicos que constituem a condição prévia para a tomada de decisões éticas no desenvolvimento da tecnologia de IA.

Estas duas abordagens, a baseada em princípios e a baseada na virtude, também são utilizadas na área da ética das máquinas de IA. A abordagem baseada em princípios remonta às três leis fundamentais do romancista futurista Isaac Asimov (1920–1992) para orientar o comportamento dos robôs. São elas:

Um robô não pode causar dano a um ser humano nem, por omissão, permitir que um ser humano sofra dano.

Um robô deve obedecer às ordens que lhe forem dadas por seres humanos, excepto quando tais ordens entrem em conflito com a Primeira Lei.

Um robô deve proteger a sua própria existência, desde que tal protecção não entre em conflito com a Primeira ou a Segunda Lei.11

Num artigo de 2021, propus uma abordagem baseada em princípios à ética das máquinas de IA a partir de perspetivas confucionistas.12 Os pensadores confucionistas clássicos, Mencius e Xunzi, articularam diferentes interpretações sobre os fundamentos da ética. Mencius defende que os seres humanos são únicos, na medida em que nascem com um coração humano (xin 裶). Cultivar esse coração humano tornar-nos-á autenticamente humanos e conduzir-nos-á a uma vida humana moral. Assim, se seguirmos uma abordagem menciana em relação à ética das máquinas de IA, poderemos instalar nos robôs humanóides um princípio de «não causar dano» como mecanismo prioritário, garantindo que os robôs não possam realizar certas ações extremamente destrutivas que prejudiquem a humanidade ou outras formas de vida

formas e uns com os outros. Em contrapartida, Xunzi defende que os seres humanos se tornam morais ao adquirirem normas sociais da sociedade. Os seres humanos não possuem moral quando nascem; são posteriormente «programados» para agir moralmente. Se seguirmos Xunzi, poderemos estabelecer regras para orientar as ações da IA sem um único princípio superior que proteja a humanidade, outras formas de vida no mundo e outros robôs humanóides. Poderemos dar-lhes regras a obedecer, tal como os carros sem condutor obedecem às regras de trânsito. Seguindo tais regras, as máquinas robóticas com IA terão como objetivo cumprir as metas que lhes forem atribuídas, independentemente da natureza dessas metas.

As críticas à abordagem baseada em princípios da ética dos profissionais da IA aplicam-se também à ética das máquinas de IA. Pois, independentemente do tipo de princípios morais que imponhamos, há sempre a necessidade de os adaptar a contextos específicos. Por esta razão, são necessárias abordagens alternativas, pelo menos para complementar, se não para substituir, a abordagem baseada em princípios da ética das máquinas de IA.

Uma questão relacionada, e talvez mais profunda, é se as máquinas robóticas com IA podem ser verdadeiramente consideradas sujeitos morais. A complicar ainda mais a questão está a questão de saber se as máquinas robóticas com IA possuem consciência. Se as máquinas não podem ter consciência, presumivelmente não têm subjetividade, para não falar de livre arbítrio, e, por conseguinte, não podem tornar-se sujeitos morais. No entanto, as opiniões estão divididas quanto à questão da consciência. Algumas pessoas negam que as máquinas possam ter consciência. Defendem que as máquinas com IA podem simular comportamentos semelhantes aos humanos, mas nunca serão verdadeiramente conscientes. Outras acreditam que as máquinas com IA poderiam alcançar a consciência. Defendem que, se forem concebidas com complexidade suficiente e com os algoritmos certos, as máquinas com IA poderiam desenvolver consciência. O debate gira frequentemente em torno da questão de como a consciência deve ser definida. David Chalmers designou a questão da natureza da consciência como «o problema difícil»:

O que torna o «problema difícil» difícil e quase único é o facto de ir além dos problemas relacionados com o desempenho das funções. Para compreender isto, note-se que, mesmo quando tivermos explicado o desempenho de todas as funções cognitivas e comportamentais relacionadas com a experiência

—discriminação percetiva, categorização, acesso interno, relato verbal—, pode ainda subsistir uma questão por responder: por que razão o desempenho destas funções é acompanhado pela experiência? (ênfase no original)13

Se nunca pudermos conhecer a natureza da consciência, como sugere Chalmers, então nunca poderemos saber se as máquinas de IA possuem consciência. No entanto, presumivelmente, ser um agente moral requer uma tomada de decisões consciente; caso contrário, essa designação torna-se sem sentido. Se os robôs de IA, enquanto máquinas, por mais avançados que sejam, não possuem consciência, faz sentido considerá-los agentes morais? Se os sistemas robóticos de IA podem ser agentes morais, como é que os responsabilizamos moralmente pelas suas ações? Estas questões não podem ser resolvidas facilmente.

No seu influente livro *Moral Machines: Teaching Robots Right from Wrong*, Wendell Wallach e Colin Allen tentaram contornar a difícil questão da consciência adotando uma abordagem funcional.14 Defendem que as propriedades importantes da consciência são melhor compreendidas do ponto de vista funcional e que a equivalência funcional do comportamento é tudo o que pode realmente importar para as questões práticas da conceção de agentes morais artificiais. Esta funcionalidade pode ser observada no caso do voo.

O voo, enquanto propriedade funcional, argumentam eles, pode ser alcançado de várias formas, desde que se consiga levantar voo e permanecer no ar durante um período de tempo razoável. Na sua opinião, no que diz respeito à questão dos agentes morais artificiais, é irrelevante se as máquinas de IA possuem a propriedade fenomenológica da consciência humana. No seu livro, Wallach e Allen discutem como a ética das virtudes pode ser aplicada aos agentes morais artificiais. Argumentam que as virtudes constituem uma aplicação híbrida que integra abordagens de cima para baixo e de baixo para cima. Na medida em que as próprias virtudes podem ser descritas explicitamente, trata-se de uma abordagem de cima para baixo. Entretanto, a aquisição de virtudes como traços de caráter moral é essencialmente um processo de baixo para cima.15 O seu objectivo é desenvolver um sistema ético viável para máquinas robóticas de IA.

Neste ensaio, também adopto uma abordagem baseada na ética das virtudes para a ética das máquinas de IA, mas com um objetivo diferente. O meu objectivo é revelar uma diferença fundamental entre seres humanos virtuosos e máquinas de IA virtuosas, e faço-o a partir de uma perspectiva confucionista.

(continua)