Uma diferença fundamental entre seres humanos virtuosos e sistemas de IA robótica virtuosos: uma perspectiva confucionista (3)

Chenyang Li (continuação do número anterior)

Uma diferença fundamental entre a virtude da IA e a virtude humana

Tentei contornar questões tão complexas como a consciência das máquinas e a subjetividade moral na nossa discussão sobre a ética das máquinas de IA. A minha investigação centra-se em como as máquinas de IA podem ser virtuosas, em vez de se questionar se podem ter consciência, livre arbítrio ou tornar-se agentes morais no sentido kantiano.

A visão de Aristóteles sobre a virtude, em relação à função própria de uma coisa, proporciona uma ponte útil entre a virtude humana e a virtude não humana, sendo que esta última categoria inclui a virtude das máquinas de IA. Para Aristóteles, a virtude (arete) de uma coisa baseia-se na sua função própria (ergon). Nesta perspetiva, uma coisa não tem de ser um ser consciente para ter uma função própria e ser excelente (arete) no seu desempenho. Na ética confucionista, o conceito de virtude (de) aplica-se tanto aos seres humanos como ao mundo não humano. Nestas perspetivas, os sistemas robóticos de IA podem, sem dúvida, ser virtuosos.

A função adequada de um aspirador robótico, por exemplo, é limpar o chão. Se possuir qualidades como forte sucção, limpeza minuciosa, durabilidade, etc., limpa bem o chão e, por isso, é um aspirador robótico de qualidade. Os robôs de cuidados são concebidos para ajudar idosos ou pessoas com deficiência.

Estão programados para demonstrar qualidades como compaixão, paciência e responsabilidade no seu papel de prestadores de cuidados. Dependendo dos objetivos específicos, também podem ser programados para se moverem devagar e com cuidado, garantindo segurança e conforto enquanto auxiliam em tarefas físicas, como ajudar o utilizador a levantar-se ou a andar. O Paro, por exemplo, é um robô terapêutico interativo avançado, concebido pelo Instituto Nacional de Ciência e Tecnologia Industrial Avançada (AIST) do Japão com o objetivo de estimular doentes com demência, Alzheimer e outras perturbações cognitivas. É capaz de utilizar o reconhecimento de emoções para detetar o estado emocional de um utilizador, como a tristeza ou a ansiedade, e responder com palavras reconfortantes, um tom suave e ações de apoio. Funciona com virtudes como a paciência, a gentileza e a fiabilidade. O Paro tem sido utilizado em hospitais e instituições de cuidados como ferramenta terapêutica em cerca de 30 países.26

Alguns poderão argumentar que, embora os robôs com IA possam comportar-se de forma virtuosa, ainda assim não podem ser virtuosos porque não possuem agência moral — a capacidade de intenção, compreensão e raciocínio moral —, nem são capazes de envolvimento emocional.

Tal argumento, no entanto, é circular, pois define a virtuosidade de uma forma restrita que exige essas qualidades.27 Além disso, a questão de saber se os sistemas robóticos de IA podem ter consciência e razão tem sido alvo de um debate aceso, sendo improvável que se chegue a um consenso sobre o assunto num futuro próximo, se é que tal consenso alguma vez será alcançado.28 De acordo com a perspetiva funcional adotada neste ensaio, baseada numa interpretação restrita da visão de Aristóteles sobre função e virtude, estas máquinas de IA são virtuosas na medida em que cumprem adequadamente as respetivas funções para as quais foram concebidas. A verdadeira questão é até que ponto a virtuosidade das máquinas robóticas de IA difere da da humanidade.

Esta abordagem de incluir entidades não humanas como capazes de ser virtuosas levanta outras questões

desafios à singularidade da humanidade no mundo. A singularidade humana sempre ocupou um lugar especial no coração da espécie humana. Durante muito tempo, acreditámos ser especiais porque pensávamos que a Terra estava no centro do universo. Esta ideia sugeria que o nosso lugar no cosmos era de uma importância única. No entanto, essa crença foi desfeita. A Revolução Copernicana do século XVI dissipou esta noção, quando Nicolau Copérnico demonstrou que a Terra não é o centro do universo, mas simplesmente um planeta em órbita à volta do Sol.

A sua teoria enfrentou forte oposição por parte de grupos religiosos, que a viram como um desafio à importância atribuída à humanidade. Desde então, tivemos de aceitar que nunca fomos o centro do universo.

Outra fonte da nossa perceção de singularidade era a crença de que fomos criados à imagem de Deus. No entanto, no século XIX, Charles Darwin abalou esta ideia reconfortante com a sua teoria da evolução. Darwin propôs que os seres humanos evoluíram a partir de espécies anteriores, tal como todos os outros seres vivos, e que a nossa forma física é o produto da evolução e não de um desígnio deliberado por parte de um poder superior. Para alguns, o impacto psicológico desta constatação aprofundou-se quando o filósofo alemão do século XIX Friedrich Nietzsche proclamou a famosa frase: «Deus está morto!» Esta afirmação sugeria que a humanidade já não podia confiar na autoridade divina para justificar o seu estatuto especial. Em vez disso, somos responsáveis por criar o nosso próprio sentido na vida.

Durante algum tempo, a nossa capacidade de raciocinar pareceu ser a última característica definidora que nos tornava únicos. No entanto, até isso foi posto em causa. Sigmund Freud argumentou que a mente humana consiste em três camadas: o consciente, o pré-consciente e o inconsciente.

Ele sugeriu que o pensamento racional, que reside na mente consciente, é apenas uma pequena parte de uma psique muito maior e mais complexa. Segundo Freud, o comportamento humano é em grande parte moldado por forças inconscientes, o que significa que a racionalidade desempenha um papel muito menor do que se supunha anteriormente. Consequentemente, ele questionou se os seres humanos poderiam realmente ser definidos como seres racionais. Quer aceitemos ou não a teoria de Freud, a sua perspetiva obriga-nos a reconsiderar o pressuposto de que a racionalidade é a nossa característica definidora — é algo que precisa de ser provado, em vez de ser dado como certo.

A moralidade também tem sido considerada uma característica distintiva da humanidade. O Livro do Génesis diz-nos que Adão e Eva adquiriram o conhecimento do bem e do mal através da perda da sua inocência. Mencius e outros pensadores antigos defenderam que apenas os seres humanos nascem com sementes éticas e podem tornar-se seres éticos. Agora, temos de aceitar que as máquinas robóticas com IA também podem ser éticas, pelo menos no sentido de que podem ser virtuosas.

Mas será que isso torna as virtudes das máquinas de IA indistinguíveis da virtuosidade dos seres humanos?

seres? Existem diferenças evidentes. Por exemplo, os robôs com IA são fabricados para serem virtuosos de determinadas formas específicas, tal como se pretende que sejam. Quando os clientes adquirem um iRobot com defeito, que não cumpre a função para a qual foi concebido e, por isso, não é virtuoso, podem devolvê-lo ao fabricante para obterem uma substituição. Os seres humanos, no entanto, têm de tornar-se virtuosos, independentemente de possuírem ou não sementes inatas de virtude. Os seres humanos tornam-se virtuosos por habituação (segundo Aristóteles) ou por autoaperfeiçoamento (segundo Confúcio).

No entanto, essa diferença pode não ser tão clara como parece. As máquinas robóticas com IA também podem aprender a ser (mais) virtuosas. Um novo aspirador robótico pode aprender e traçar um mapa do seu novo ambiente e, assim, melhorar o desempenho na limpeza do chão. Além disso, uma máquina robótica com IA pode até ser mais virtuosa no desempenho do seu papel do que os seres humanos. Os robôs equipados com IA, por exemplo, podem ajudar os cirurgiões a realizar tarefas com ainda mais precisão e consistência do que os próprios cirurgiões humanos, podendo também ajudar a evitar complicações. Estas fronteiras difusas, no entanto, não significam que não exista uma diferença fundamental entre os sistemas robóticos de IA virtuosos e os seres humanos virtuosos. A seguir, defenderei que uma diferença fundamental entre os sistemas robóticos de IA virtuosos, por um lado, e os seres humanos virtuosos, por outro, reside na capacidade distintiva dos seres humanos de se tornarem abrangentemente virtuosos.

Tal como foi abordado na Secção 2 deste ensaio, para Confúcio, a virtude de uma pessoa concretiza-se em dois níveis. Um deles diz respeito às virtudes específicas. Uma pessoa pode ser inteligente, corajosa ou diligente. O discípulo de Confúcio, Zilu, por exemplo, era conhecido pela sua bravura, enquanto outro discípulo, Yanhui, se destacava pela sua dedicação à aprendizagem. O objetivo último da vida humana, para Confúcio, não é meramente possuir virtudes específicas ou servir apenas a um propósito específico (Analectos 2.12).

Uma pessoa virtuosa, enquanto ser humano, não é virtuosa apenas numa dimensão da vida. O objetivo último da vida humana é, antes, tornar-se uma pessoa dotada da virtude abrangente do ren.29 Na perspetiva confucionista, ser humano, em última análise, significa ser ren (ren zhe ren ye 嬬簅嬣憟).30 Da mesma forma, para Aristóteles, viver a vida humana ideal não se resume a possuir virtudes específicas. Embora ser um bom flautista exija a posse de algumas virtudes específicas para tocar bem a flauta, e ser um escultor exija certas virtudes específicas para ser um excelente escultor, isso não faz deles seres humanos virtuosos. Ser um bom ser humano, alguém que leva uma boa vida humana, exige que se busque uma vida virtuosa de acordo com a razão.

Essa é a vida de eudaimonia. Tal vida requer não apenas uma ou algumas virtudes específicas, como se verifica num bom flautista ou num bom escultor. Para Aristóteles, uma vida de eudaimonia requer uma variedade de virtudes específicas (NE 1.10 1101a 15–17), 31mas é mais do que uma mera coleção de virtudes específicas. Estas virtudes devem assentar num fundamento racional, característico do funcionamento adequado da humanidade. Uma vez que uma vida de eudaimonia exige que uma pessoa alcance a excelência no desempenho da sua função humana própria, podemos muito bem chamar a essa excelência «virtude», com base na definição de virtude de Aristóteles, mesmo que o próprio Aristóteles se recusasse a rotulá-la assim. Entendidas desta forma, apesar das suas diferenças noutros aspetos, as teorias éticas de Confúcio e de Aristóteles partilham uma estrutura comum de virtude em duas camadas. Numa camada, as virtudes são específicas; na outra, existe uma virtude abrangente, o «ren» ou a eudaimonia.

Na perspetiva defendida neste ensaio, uma diferença fundamental entre os sistemas de IA robótica virtuosos, por um lado, e os seres humanos virtuosos, por outro, reside no facto de, embora ambos possam ser virtuosos de formas específicas, apenas os seres humanos poderem desenvolver a virtude abrangente. Um robô de IA é sempre concebido, desenvolvido e fabricado para um ou vários fins específicos. O seu objetivo é possuir virtudes específicas que lhe permitam funcionar bem de acordo com os fins para os quais foi concebido.

Os seres humanos também têm objetivos específicos na vida. Alguns desses objetivos são escolhidos voluntariamente: ser flautista ou escultor, por exemplo. Outros objetivos são constituídos socialmente: ser filho ou filha, membro de um determinado grupo social. Para desempenhar bem esses papéis, é necessário desenvolver as virtudes correspondentes. A este respeito, existe um paralelo claro com os sistemas robóticos de IA. Entretanto, um ser humano, enquanto ser humano, não se define apenas nem se limita meramente a esses papéis. Possui um objetivo comum e uma virtude comum a cultivar. Em contrapartida, não existe um robô de IA, enquanto robô de IA, que transcenda os seus papéis específicos. Aí reside uma diferença fundamental entre sistemas robóticos de IA virtuosos e seres humanos virtuosos.

Conclusão

Vamos fazer um balanço e resumir. Para além das abordagens baseadas em princípios à ética das máquinas de IA, podemos também adotar uma abordagem baseada na virtude. A este respeito, as teorias éticas de Confúcio e de Aristóteles proporcionam-nos perspetivas valiosas. O argumento funcional de Aristóteles a favor da virtude permite-nos considerar os sistemas robóticos de IA como inequivocamente virtuosos, sem ter de debater o seu estatuto em relação à consciência e as questões da sua subjetividade moral.

Seguindo esta linha de pensamento, uma coisa é virtuosa se desempenhar bem a sua função própria; os sistemas robóticos de IA podem desempenhar bem as suas funções e, por isso, podem ser virtuosos, tal como uma pessoa pode ser virtuosa de formas específicas quando desempenha bem o seu papel específico. Além disso, tanto para Confúcio como para Aristóteles, para além das virtudes particulares que os seres humanos desenvolvem ao desempenhar os seus respetivos papéis na vida, existe também a virtude abrangente a alcançar num nível superior. A virtude abrangente é designada por «ren» em Confúcio e por «eudaimonia» em Aristóteles. Enquanto os sistemas robóticos de IA podem possuir virtudes específicas em resposta às suas funções específicas, apenas os seres humanos podem desenvolver a virtude abrangente a um nível superior. Isto marca uma diferença fundamental entre os sistemas robóticos de IA virtuosos e os seres humanos virtuosos.32

Notas

Ver Chenyang Li, «The AI Challenge and the End of Humanity», em Intelligence and Wisdom: Artificial Intelligence Meets Chinese Philosophers, ed. Song Bing (Springer, 2021), pp. 33–47.

Por exemplo, Michael Anderson e Susan Leigh Anderson (orgs.), *Machine Ethics* (Cambridge: Cambridge University Press, 2011). https://doi.org/10.1017/CBO9780511978036 .

Num ensaio anterior, argumentei que uma série de avanços na autocompreensão humana tem vindo a minar, de forma gradual e contínua, a suposta singularidade privilegiada da humanidade — incluindo os avanços de Copérnico, Charles Darwin, Nietzsche e Sigmund Freud — e que o rápido avanço da tecnologia de IA, capaz de imitar as atividades humanas de uma vasta variedade de formas, está prestes a ser a gota de água que faz transbordar o copo. Ver Li, «The AI Challenge and the End of Humanity».

Michael Anderson e Susan Leigh Anderson, «Machine Ethics: Creating an Ethical Intelligent Agent», AI Magazine 28:4 (2007): 15–26; ver também Anderson e Anderson, Machine Ethics.

Brent Mittelstadt, «Principles Alone Cannot Guarantee Ethical AI», *Nature Machine Intelligence* 1 (2019), 501–7. https://doi.org/10.1038/s42256-019-0114-4

Mittelstadt, «Os princípios, por si só, não podem garantir uma IA ética», 501.

Ibid.

Thilo Hagendorff, «Um quadro baseado nas virtudes para apoiar a aplicação prática da ética da IA»,

Philosophy & Technology 35 (2022): 55. https://doi.org/10.1007/s13347-022-00553-z

Hagendorff, «Um quadro baseado nas virtudes para apoiar a aplicação prática da ética da IA», 55.

Ibid.

As leis surgiram pela primeira vez no conto de Asimov «Runaround» (1942) e, posteriormente, tornaram-se extremamente influentes no género da ficção científica. Ver https://www.britannica.com/topic/ .

Li, «O Desafio da IA e o Fim da Humanidade».

David J. Chalmers, «Enfrentar o problema da consciência», Journal of Consciousness Studies 2 (1995), 202.

Wendell Wallach e Colin Allen, «Moral Machines: Teaching Robots Right from Wrong»

(Nova Iorque: Oxford University Press, 2008), Capítulo 4.

Wallach e Allen, *Moral Machines*, p. 117.

Michael Constantinescu e R. Crisp, «Can Robotic AI Systems Be Virtuous and Why Does This Matter?» International Journal of Social Robotics 14:1547–1557 (2022), p. 1552. https:// doi.org/10.1007/s12369-022-00887-w ; Os sistemas robóticos de IA podem ser virtuosos e por que é que isso importa?

Constantinescu e Crisp, «Podem os sistemas robóticos de IA ser virtuosos e por que razão isso é importante?», 1555.

Christine M. Korsgaard, *The Constitution of Agency: Essays on Practical Reason and Moral Psychology* (Nova Iorque: Oxford University Press, 2023), 152.

Wing-tsit Chan, *A Source Book in Chinese Philosophy* (Princeton, Nova Jérsia: Princeton University Press, 1963), p. 22.

Fang Ying-hsien 菾褔嫻, «磭嬬紶——簏蓏裛繨侹磾蒢» e «瘁©歶雰» (Sobre as origens do Ren: a sua evolução desde a era Shi-Shu até Confúcio). Dalu Zazhi ▲» (1976: 52.3): 22–34.

Neng xing wuzhe yu tianxia, weiren ye“籗潛澼粹匽跦, 为嬬鋿”. A segunda parte da afirmação, «weiren», tem sido frequentemente traduzida como «é ren». Ver Chan, A Source Book in Chinese Philosophy, 46. Defendi que «weiren» deve ser traduzido como «conduzir ao ren ou pode permitir ou fazer com que uma pessoa seja ren». Chenyang Li, «Li as Cultural Grammar: the Relation between Li and Ren in the Analects». Philosophy East & West 57:3 (2007), 311–29.

Chan, A Source Book in Chinese Philosophy, 40.

Ibid., 104; alterado de «homem» para o termo neutro em termos de género «humanidade». A frase em chinês diz «ren zhe ren ye 嬬簅嬣憟», literalmente «ser ren é ser ren». O primeiro «ren» representa a virtude abrangente e o segundo representa os seres humanos. Assim, significa que possuir a essência do ren é o que define a humanidade.

Terence H. Irwin, Ética a Nicómaco (com Introdução, Notas e Glossário, segunda edição) (Indianápolis: Hackett Publishing Co., 1999), 14.

Irwin, Ética a Nicómaco, 10.

https://robotsguide.com/robots/paro . Acedido em 12 de fevereiro de 2025.

Ver Constantinescu e Crisp, «Os sistemas robóticos de IA podem ser virtuosos e por que é que isso importa?»

Ver David J. Chalmers, Reality+: Mundos Virtuais e os Problemas da Filosofia

(W. W. Norton & Company, 2022).

Defendi que o «ren», enquanto virtude abrangente, é orientado para o cuidado e assenta no cuidado (ver Capítulo 2 de Chenyang Li, «Reshaping Confucianism: A Progressive Inquiry». Nova Iorque: Oxford University Press, 2023).

Chan, A Source Book in Chinese Philosophy, p. 104.

Irwin, Ética a Nicómaco, 14.