Chenyang Li (continuação do número anterior)

Uma diferença fundamental entre a virtude da IA e a virtude humana

Tentei contornar questões tão complexas como a consciência das máquinas e a subjetividade moral na nossa discussão sobre a ética das máquinas de IA. A minha investigação centra-se em como as máquinas de IA podem ser virtuosas, em vez de se questionar se podem ter consciência, livre arbítrio ou tornar-se agentes morais no sentido kantiano.

A visão de Aristóteles sobre a virtude, em relação à função própria de uma coisa, proporciona uma ponte útil entre a virtude humana e a virtude não humana, sendo que esta última categoria inclui a virtude das máquinas de IA. Para Aristóteles, a virtude (arete) de uma coisa baseia-se na sua função própria (ergon). Nesta perspetiva, uma coisa não tem de ser um ser consciente para ter uma função própria e ser excelente (arete) no seu desempenho. Na ética confucionista, o conceito de virtude (de) aplica-se tanto aos seres humanos como ao mundo não humano. Nestas perspetivas, os sistemas robóticos de IA podem, sem dúvida, ser virtuosos.

A função adequada de um aspirador robótico, por exemplo, é limpar o chão. Se possuir qualidades como forte sucção, limpeza minuciosa, durabilidade, etc., limpa bem o chão e, por isso, é um aspirador robótico de qualidade. Os robôs de cuidados são concebidos para ajudar idosos ou pessoas com deficiência.

Estão programados para demonstrar qualidades como compaixão, paciência e responsabilidade no seu papel de prestadores de cuidados. Dependendo dos objetivos específicos, também podem ser programados para se moverem devagar e com cuidado, garantindo segurança e conforto enquanto auxiliam em tarefas físicas, como ajudar o utilizador a levantar-se ou a andar. O Paro, por exemplo, é um robô terapêutico interativo avançado, concebido pelo Instituto Nacional de Ciência e Tecnologia Industrial Avançada (AIST) do Japão com o objetivo de estimular doentes com demência, Alzheimer e outras perturbações cognitivas. É capaz de utilizar o reconhecimento de emoções para detetar o estado emocional de um utilizador, como a tristeza ou a ansiedade, e responder com palavras reconfortantes, um tom suave e ações de apoio. Funciona com virtudes como a paciência, a gentileza e a fiabilidade. O Paro tem sido utilizado em hospitais e instituições de cuidados como ferramenta terapêutica em cerca de 30 países.26

Alguns poderão argumentar que, embora os robôs com IA possam comportar-se de forma virtuosa, ainda assim não podem ser virtuosos porque não possuem agência moral — a capacidade de intenção, compreensão e raciocínio moral —, nem são capazes de envolvimento emocional.

Tal argumento, no entanto, é circular, pois define a virtuosidade de uma forma restrita que exige essas qualidades.27 Além disso, a questão de saber se os sistemas robóticos de IA podem ter consciência e razão tem sido alvo de um debate aceso, sendo improvável que se chegue a um consenso sobre o assunto num futuro próximo, se é que tal consenso alguma vez será alcançado.28 De acordo com a perspetiva funcional adotada neste ensaio, baseada numa interpretação restrita da visão de Aristóteles sobre função e virtude, estas máquinas de IA são virtuosas na medida em que cumprem adequadamente as respetivas funções para as quais foram concebidas. A verdadeira questão é até que ponto a virtuosidade das máquinas robóticas de IA difere da da humanidade.

Esta abordagem de incluir entidades não humanas como capazes de ser virtuosas levanta outras questões

desafios à singularidade da humanidade no mundo. A singularidade humana sempre ocupou um lugar especial no coração da espécie humana. Durante muito tempo, acreditámos ser especiais porque pensávamos que a Terra estava no centro do universo. Esta ideia sugeria que o nosso lugar no cosmos era de uma importância única. No entanto, essa crença foi desfeita. A Revolução Copernicana do século XVI dissipou esta noção, quando Nicolau Copérnico demonstrou que a Terra não é o centro do universo, mas simplesmente um planeta em órbita à volta do Sol.

A sua teoria enfrentou forte oposição por parte de grupos religiosos, que a viram como um desafio à importância atribuída à humanidade. Desde então, tivemos de aceitar que nunca fomos o centro do universo.

Outra fonte da nossa perceção de singularidade era a crença de que fomos criados à imagem de Deus. No entanto, no século XIX, Charles Darwin abalou esta ideia reconfortante com a sua teoria da evolução. Darwin propôs que os seres humanos evoluíram a partir de espécies anteriores, tal como todos os outros seres vivos, e que a nossa forma física é o produto da evolução e não de um desígnio deliberado por parte de um poder superior. Para alguns, o impacto psicológico desta constatação aprofundou-se quando o filósofo alemão do século XIX Friedrich Nietzsche proclamou a famosa frase: «Deus está morto!» Esta afirmação sugeria que a humanidade já não podia confiar na autoridade divina para justificar o seu estatuto especial. Em vez disso, somos responsáveis por criar o nosso próprio sentido na vida.

Durante algum tempo, a nossa capacidade de raciocinar pareceu ser a última característica definidora que nos tornava únicos. No entanto, até isso foi posto em causa. Sigmund Freud argumentou que a mente humana consiste em três camadas: o consciente, o pré-consciente e o inconsciente.

Ele sugeriu que o pensamento racional, que reside na mente consciente, é apenas uma pequena parte de uma psique muito maior e mais complexa. Segundo Freud, o comportamento humano é em grande parte moldado por forças inconscientes, o que significa que a racionalidade desempenha um papel muito menor do que se supunha anteriormente. Consequentemente, ele questionou se os seres humanos poderiam realmente ser definidos como seres racionais. Quer aceitemos ou não a teoria de Freud, a sua perspetiva obriga-nos a reconsiderar o pressuposto de que a racionalidade é a nossa característica definidora — é algo que precisa de ser provado, em vez de ser dado como certo.

A moralidade também tem sido considerada uma característica distintiva da humanidade. O Livro do Génesis diz-nos que Adão e Eva adquiriram o conhecimento do bem e do mal através da perda da sua inocência. Mencius e outros pensadores antigos defenderam que apenas os seres humanos nascem com sementes éticas e podem tornar-se seres éticos. Agora, temos de aceitar que as máquinas robóticas com IA também podem ser éticas, pelo menos no sentido de que podem ser virtuosas.

Mas será que isso torna as virtudes das máquinas de IA indistinguíveis da virtuosidade dos seres humanos?

seres? Existem diferenças evidentes. Por exemplo, os robôs com IA são fabricados para serem virtuosos de determinadas formas específicas, tal como se pretende que sejam. Quando os clientes adquirem um iRobot com defeito, que não cumpre a função para a qual foi concebido e, por isso, não é virtuoso, podem devolvê-lo ao fabricante para obterem uma substituição. Os seres humanos, no entanto, têm de tornar-se virtuosos, independentemente de possuírem ou não sementes inatas de virtude. Os seres humanos tornam-se virtuosos por habituação (segundo Aristóteles) ou por autoaperfeiçoamento (segundo Confúcio).

No entanto, essa diferença pode não ser tão clara como parece. As máquinas robóticas com IA também podem aprender a ser (mais) virtuosas. Um novo aspirador robótico pode aprender e traçar um mapa do seu novo ambiente e, assim, melhorar o desempenho na limpeza do chão. Além disso, uma máquina robótica com IA pode até ser mais virtuosa no desempenho do seu papel do que os seres humanos. Os robôs equipados com IA, por exemplo, podem ajudar os cirurgiões a realizar tarefas com ainda mais precisão e consistência do que os próprios cirurgiões humanos, podendo também ajudar a evitar complicações. Estas fronteiras difusas, no entanto, não significam que não exista uma diferença fundamental entre os sistemas robóticos de IA virtuosos e os seres humanos virtuosos. A seguir, defenderei que uma diferença fundamental entre os sistemas robóticos de IA virtuosos, por um lado, e os seres humanos virtuosos, por outro, reside na capacidade distintiva dos seres humanos de se tornarem abrangentemente virtuosos.

Tal como foi abordado na Secção 2 deste ensaio, para Confúcio, a virtude de uma pessoa concretiza-se em dois níveis. Um deles diz respeito às virtudes específicas. Uma pessoa pode ser inteligente, corajosa ou diligente. O discípulo de Confúcio, Zilu, por exemplo, era conhecido pela sua bravura, enquanto outro discípulo, Yanhui, se destacava pela sua dedicação à aprendizagem. O objetivo último da vida humana, para Confúcio, não é meramente possuir virtudes específicas ou servir apenas a um propósito específico (Analectos 2.12).

Uma pessoa virtuosa, enquanto ser humano, não é virtuosa apenas numa dimensão da vida. O objetivo último da vida humana é, antes, tornar-se uma pessoa dotada da virtude abrangente do ren.29 Na perspetiva confucionista, ser humano, em última análise, significa ser ren (ren zhe ren ye 嬬簅嬣憟).30 Da mesma forma, para Aristóteles, viver a vida humana ideal não se resume a possuir virtudes específicas. Embora ser um bom flautista exija a posse de algumas virtudes específicas para tocar bem a flauta, e ser um escultor exija certas virtudes específicas para ser um excelente escultor, isso não faz deles seres humanos virtuosos. Ser um bom ser humano, alguém que leva uma boa vida humana, exige que se busque uma vida virtuosa de acordo com a razão.

Essa é a vida de eudaimonia. Tal vida requer não apenas uma ou algumas virtudes específicas, como se verifica num bom flautista ou num bom escultor. Para Aristóteles, uma vida de eudaimonia requer uma variedade de virtudes específicas (NE 1.10 1101a 15–17), 31mas é mais do que uma mera coleção de virtudes específicas. Estas virtudes devem assentar num fundamento racional, característico do funcionamento adequado da humanidade. Uma vez que uma vida de eudaimonia exige que uma pessoa alcance a excelência no desempenho da sua função humana própria, podemos muito bem chamar a essa excelência «virtude», com base na definição de virtude de Aristóteles, mesmo que o próprio Aristóteles se recusasse a rotulá-la assim. Entendidas desta forma, apesar das suas diferenças noutros aspetos, as teorias éticas de Confúcio e de Aristóteles partilham uma estrutura comum de virtude em duas camadas. Numa camada, as virtudes são específicas; na outra, existe uma virtude abrangente, o «ren» ou a eudaimonia.

Na perspetiva defendida neste ensaio, uma diferença fundamental entre os sistemas de IA robótica virtuosos, por um lado, e os seres humanos virtuosos, por outro, reside no facto de, embora ambos possam ser virtuosos de formas específicas, apenas os seres humanos poderem desenvolver a virtude abrangente. Um robô de IA é sempre concebido, desenvolvido e fabricado para um ou vários fins específicos. O seu objetivo é possuir virtudes específicas que lhe permitam funcionar bem de acordo com os fins para os quais foi concebido.

Os seres humanos também têm objetivos específicos na vida. Alguns desses objetivos são escolhidos voluntariamente: ser flautista ou escultor, por exemplo. Outros objetivos são constituídos socialmente: ser filho ou filha, membro de um determinado grupo social. Para desempenhar bem esses papéis, é necessário desenvolver as virtudes correspondentes. A este respeito, existe um paralelo claro com os sistemas robóticos de IA. Entretanto, um ser humano, enquanto ser humano, não se define apenas nem se limita meramente a esses papéis. Possui um objetivo comum e uma virtude comum a cultivar. Em contrapartida, não existe um robô de IA, enquanto robô de IA, que transcenda os seus papéis específicos. Aí reside uma diferença fundamental entre sistemas robóticos de IA virtuosos e seres humanos virtuosos.

Conclusão

Vamos fazer um balanço e resumir. Para além das abordagens baseadas em princípios à ética das máquinas de IA, podemos também adotar uma abordagem baseada na virtude. A este respeito, as teorias éticas de Confúcio e de Aristóteles proporcionam-nos perspetivas valiosas. O argumento funcional de Aristóteles a favor da virtude permite-nos considerar os sistemas robóticos de IA como inequivocamente virtuosos, sem ter de debater o seu estatuto em relação à consciência e as questões da sua subjetividade moral.

Seguindo esta linha de pensamento, uma coisa é virtuosa se desempenhar bem a sua função própria; os sistemas robóticos de IA podem desempenhar bem as suas funções e, por isso, podem ser virtuosos, tal como uma pessoa pode ser virtuosa de formas específicas quando desempenha bem o seu papel específico. Além disso, tanto para Confúcio como para Aristóteles, para além das virtudes particulares que os seres humanos desenvolvem ao desempenhar os seus respetivos papéis na vida, existe também a virtude abrangente a alcançar num nível superior. A virtude abrangente é designada por «ren» em Confúcio e por «eudaimonia» em Aristóteles. Enquanto os sistemas robóticos de IA podem possuir virtudes específicas em resposta às suas funções específicas, apenas os seres humanos podem desenvolver a virtude abrangente a um nível superior. Isto marca uma diferença fundamental entre os sistemas robóticos de IA virtuosos e os seres humanos virtuosos.32

Notas

Ver Chenyang Li, «The AI Challenge and the End of Humanity», em Intelligence and Wisdom: Artificial Intelligence Meets Chinese Philosophers, ed. Song Bing (Springer, 2021), pp. 33–47.

Por exemplo, Michael Anderson e Susan Leigh Anderson (orgs.), *Machine Ethics* (Cambridge: Cambridge University Press, 2011). https://doi.org/10.1017/CBO9780511978036 .

Num ensaio anterior, argumentei que uma série de avanços na autocompreensão humana tem vindo a minar, de forma gradual e contínua, a suposta singularidade privilegiada da humanidade — incluindo os avanços de Copérnico, Charles Darwin, Nietzsche e Sigmund Freud — e que o rápido avanço da tecnologia de IA, capaz de imitar as atividades humanas de uma vasta variedade de formas, está prestes a ser a gota de água que faz transbordar o copo. Ver Li, «The AI Challenge and the End of Humanity».

Michael Anderson e Susan Leigh Anderson, «Machine Ethics: Creating an Ethical Intelligent Agent», AI Magazine 28:4 (2007): 15–26; ver também Anderson e Anderson, Machine Ethics.

Brent Mittelstadt, «Principles Alone Cannot Guarantee Ethical AI», *Nature Machine Intelligence* 1 (2019), 501–7. https://doi.org/10.1038/s42256-019-0114-4

Mittelstadt, «Os princípios, por si só, não podem garantir uma IA ética», 501.

Ibid.

Thilo Hagendorff, «Um quadro baseado nas virtudes para apoiar a aplicação prática da ética da IA»,

Philosophy & Technology 35 (2022): 55. https://doi.org/10.1007/s13347-022-00553-z

Hagendorff, «Um quadro baseado nas virtudes para apoiar a aplicação prática da ética da IA», 55.

Ibid.

As leis surgiram pela primeira vez no conto de Asimov «Runaround» (1942) e, posteriormente, tornaram-se extremamente influentes no género da ficção científica. Ver https://www.britannica.com/topic/ .

Li, «O Desafio da IA e o Fim da Humanidade».

David J. Chalmers, «Enfrentar o problema da consciência», Journal of Consciousness Studies 2 (1995), 202.

Wendell Wallach e Colin Allen, «Moral Machines: Teaching Robots Right from Wrong»

(Nova Iorque: Oxford University Press, 2008), Capítulo 4.

Wallach e Allen, *Moral Machines*, p. 117.

Michael Constantinescu e R. Crisp, «Can Robotic AI Systems Be Virtuous and Why Does This Matter?» International Journal of Social Robotics 14:1547–1557 (2022), p. 1552. https:// doi.org/10.1007/s12369-022-00887-w ; Os sistemas robóticos de IA podem ser virtuosos e por que é que isso importa?

Constantinescu e Crisp, «Podem os sistemas robóticos de IA ser virtuosos e por que razão isso é importante?», 1555.

Christine M. Korsgaard, *The Constitution of Agency: Essays on Practical Reason and Moral Psychology* (Nova Iorque: Oxford University Press, 2023), 152.

Wing-tsit Chan, *A Source Book in Chinese Philosophy* (Princeton, Nova Jérsia: Princeton University Press, 1963), p. 22.

Fang Ying-hsien 菾褔嫻, «磭嬬紶——簏蓏裛繨侹磾蒢» e «瘁©歶雰» (Sobre as origens do Ren: a sua evolução desde a era Shi-Shu até Confúcio). Dalu Zazhi ▲» (1976: 52.3): 22–34.

Neng xing wuzhe yu tianxia, weiren ye“籗潛澼粹匽跦, 为嬬鋿”. A segunda parte da afirmação, «weiren», tem sido frequentemente traduzida como «é ren». Ver Chan, A Source Book in Chinese Philosophy, 46. Defendi que «weiren» deve ser traduzido como «conduzir ao ren ou pode permitir ou fazer com que uma pessoa seja ren». Chenyang Li, «Li as Cultural Grammar: the Relation between Li and Ren in the Analects». Philosophy East & West 57:3 (2007), 311–29.

Chan, A Source Book in Chinese Philosophy, 40.

Ibid., 104; alterado de «homem» para o termo neutro em termos de género «humanidade». A frase em chinês diz «ren zhe ren ye 嬬簅嬣憟», literalmente «ser ren é ser ren». O primeiro «ren» representa a virtude abrangente e o segundo representa os seres humanos. Assim, significa que possuir a essência do ren é o que define a humanidade.

Terence H. Irwin, Ética a Nicómaco (com Introdução, Notas e Glossário, segunda edição) (Indianápolis: Hackett Publishing Co., 1999), 14.

Irwin, Ética a Nicómaco, 10.

https://robotsguide.com/robots/paro . Acedido em 12 de fevereiro de 2025.

Ver Constantinescu e Crisp, «Os sistemas robóticos de IA podem ser virtuosos e por que é que isso importa?»

Ver David J. Chalmers, Reality+: Mundos Virtuais e os Problemas da Filosofia

(W. W. Norton & Company, 2022).

Defendi que o «ren», enquanto virtude abrangente, é orientado para o cuidado e assenta no cuidado (ver Capítulo 2 de Chenyang Li, «Reshaping Confucianism: A Progressive Inquiry». Nova Iorque: Oxford University Press, 2023).

Chan, A Source Book in Chinese Philosophy, p. 104.

Irwin, Ética a Nicómaco, 14.

Por Chenyang Li

(continuação do número anterior)

Duas categorias de virtude

No Ocidente, a tradição da ética da virtude remonta a Aristóteles. Adotando uma abordagem funcional da virtude, a teoria de Aristóteles salienta a utilidade da virtude para que o indivíduo leve uma vida boa. A teoria da virtude de Aristóteles pode ser interpretada tanto de forma «espessa» como de forma «fina». Numa interpretação «forte», para ser virtuoso, o sujeito deve (a) realizar as ações corretas, (b) pelas razões certas e (c) nas circunstâncias adequadas.16 Nesta perspetiva, Michael Constantinescu e R. Crisp estabelecem uma distinção entre ser virtuoso, por um lado, e comportar-se de forma virtuosa, por outro. De acordo com a sua análise, os robôs de IA podem ser capazes de se comportar de forma virtuosa, mas não podem ser virtuosos. Argumentam que:

Apesar da sua capacidade de imitar ações virtuosas humanas e até de se comportarem de forma equivalente aos seres humanos, os sistemas robóticos de IA não conseguem realizar ações virtuosas de acordo com as virtudes, ou seja, de forma correta ou virtuosa; nem pelas razões e motivações certas; nem, através da phronesis, ter em conta as circunstâncias adequadas. E isto tem como consequência que a IA não pode ser genuinamente virtuosa, pelo menos não com os avanços tecnológicos atuais que sustentam o seu desenvolvimento funcional.17

A interpretação de Constantinescu e Crisp sobre o que é ser virtuoso pode muito bem refletir o que Aristóteles afirmou quando discutiu a pessoa virtuosa. No entanto, não está de acordo com o que Aristóteles disse sobre a função e a virtude em geral. Também é possível fazer uma interpretação restrita da teoria da virtude de Aristóteles, uma interpretação que não se baseia na capacidade do sujeito de usar a razão.

Christine M. Korsgaard escreve:

Os filósofos gregos parecem, em geral, ter acreditado que uma virtude ou excelência é uma qualidade que permite que uma coisa desempenhe bem a sua função. Tanto Platão como Aristóteles estabelecem uma ligação conceptual entre ergon e arete. Uma arete não é meramente um dos pontos positivos de uma coisa; é, especificamente, uma qualidade que torna uma coisa capaz de desempenhar bem a sua função.18

Os termos gregos para «função» e «virtude», ergon e arete, aplicam-se tanto às pessoas humanas como aos seres não humanos. Aristóteles atribui estas características tanto às pessoas humanas como às «coisas» (NE 6.2 1139a17, NE 2.6 1106a15–23). Ele defende que «a virtude de uma coisa está relacionada com a sua função própria» (NE 6.2 1139a17) e que «toda a virtude, por um lado, coloca em bom estado a coisa de que é virtude e, por outro, faz com que a função dessa coisa seja bem desempenhada» (NE 2.6 1106a15–23). Aristóteles recorre aos exemplos de um flautista, de um escultor ou de um artista para defender o seu argumento de que «para todas as coisas que têm uma função ou atividade, considera-se que o bem e o “bem feito” residem na função; assim pareceria ser também para o homem, se ele tiver uma função» (NE I.7, 1097b24 e seguintes).

Numa interpretação restrita, as noções de função e virtude de Aristóteles podem ser aplicadas também aos sistemas robóticos de IA. Uma coisa pode ter muitas funções. Uma faca pode ser utilizada para cortar, para decoração e até mesmo como peso de papel. No entanto, a função própria de uma faca enquanto faca, segundo o raciocínio de Aristóteles, é cortar. Portanto, uma faca excelente, enquanto faca, é aquela que corta bem. É aí que reside a arete de uma faca, a sua excelência ou virtude. Como a função própria de uma faca é diferente da de, digamos, um martelo, a sua excelência ou virtude também é diferente da de um martelo. Para usar os próprios exemplos de Aristóteles, a função própria — a atividade característica — de um flautista é diferente da de um escultor. Um flautista, por exemplo, tem de ser capaz de soprar bem e de mover os dedos nas notas certas, enquanto um escultor cria esculturas esculpindo, modelando ou soldando os materiais adequados para transformá-los em obras de arte. Como têm funções diferentes, um excelente escultor pode ser muito mau a soprar ar num instrumento musical, e o inverso aplica-se a um excelente flautista. Por outras palavras, diferentes formas de ergon requerem diferentes tipos de arete.

Na perspetiva de Aristóteles, no entanto, para além dos papéis específicos das pessoas na sociedade, os seres humanos, enquanto seres humanos, partilham também uma função comum na vida, que é exclusiva da humanidade. Aristóteles defende que a alma humana tem várias funções. Ela mantém a vida vegetativa dos nossos corpos, a vida da nutrição e do crescimento. A alma também mantém as nossas funções animadas, que nos permitem movimentar-nos e ir ao encontro das coisas. Mas estas funções, argumenta Aristóteles, não são a nossa função própria. A vida vegetativa pertence até às plantas; as funções animadas pertencem também aos animais. Para Aristóteles, o uso da razão é a função própria da humanidade (NE 2.7 1197b35-1198a7). Portanto, a virtude dos seres humanos é o que os leva a desempenhar bem a sua função distintiva (NE 2.6 1106a15–23). Assim, uma vida que segue a razão conduz à eudaimonia («florescimento humano»), permitindo-nos viver bem enquanto seres humanos. Viver uma vida de eudaimonia é o objetivo supremo da humanidade.

Nas tradições filosóficas orientais, o conceito de virtude ocupa um lugar central na ética confucionista. A palavra para virtude em chinês é «de». O antigo dicionário chinês Shuowen Jiezi explica o seu significado através do seu homófono «», ou seja, adquirir, realizar. Explica ainda que isto significa «de shi yi ye» (謰燭鼫), nomeadamente, levar as coisas a bom termo de forma adequada. Trata-se de um poder ou capacidade que permite ao seu possuidor alcançar os seus objetivos. Tal qualidade é atribuída tanto aos seres humanos como aos objetos não humanos. O texto taoísta *Daodejing* afirma que tudo no mundo possui o seu *de* (*Daodejing*, Capítulo 51). Na tradição confucionista, *de* é aplicado principalmente às pessoas, mas também se aplica a objetos não humanos. Por exemplo, o Comentário Xi do Livro das Mutações afirma: «a maior virtude (de) do céu e da terra é gerar as coisas 蘢礜巃»»擯崵.» Confúcio disse: «um governante que governa o seu estado com virtude (de) é como a Estrela Polar do Norte, que permanece no seu lugar enquanto todas as outras estrelas giram à sua volta»

“Para o ‘Fan’ e o ‘Yi’, a luz do sol brilha sobre a multidão.” (19)Ao dizer isto, Confúcio sugeriu que é a virtude (de) da Estrela Polar que permite que as outras estrelas se movam em harmonia à sua volta. Confúcio também disse: «Um bom cavalo não é elogiado pela sua força, mas pela sua virtude (de): “骥嫄称剢淛, 称剢适憟”» (Analectos 14:33). A afirmação de Confúcio sugere que a verdadeira virtude de um bom cavalo não é (meramente) a sua força, mas as suas outras capacidades que lhe permitem correr bem, presumivelmente tais como resistência e fiabilidade. Nestas utilizações, o conceito de «virtude» é aplicável tanto aos seres humanos como aos sistemas robóticos de IA.

Pensadores clássicos como Confúcio, Mencius e Xunzi enfatizaram, todos eles, a necessidade de cada pessoa cultivar a virtude e tornar-se um ser humano virtuoso. A visão mais influente de Mencius na filosofia moral é o seu argumento de que as disposições inatas das pessoas podem transformar-se em virtudes morais através do autocultivo. Mencius defendia que todos os seres humanos nascem com quatro tipos de sentimentos inatos: o sentimento de compaixão, o sentimento de desdém, o sentimento de respeito e o sentimento de aprovação e desaprovação. Através do cultivo ativo, as pessoas podem transformar estes sentimentos naturais em disposições éticas, nomeadamente a virtude cardinal da humanidade (ren 嬬), da retidão (yi 义), da cortesia (li 礼) e da

sabedoria (zhi 簹) (Mencius 6A6). Xunzi defendia que as pessoas nascem com uma tendência para

fazem coisas egoístas e sem moralidade. Causarão o caos na sociedade. Ele defende que, através do estabelecimento de regras de decoro ritual (li) na sociedade, as pessoas podem alterar as suas disposições naturais e tornar-se seres humanos virtuosos. Ao praticar a correção ritual através do autocultivo, as pessoas desenvolvem virtudes como o respeito (gong jing 剉杶), a lealdade (zhong xin 蘙蝁), a civilidade e a retidão (li yi 礼义) e a preocupação com os outros (ai ren 爱嬣) (Xunzi, Capítulo 2).

As teorias da virtude de Mencius e Xunzi constituem o seu desenvolvimento da teoria da virtude de Confúcio, embora coloquem ênfase em aspetos diferentes. A contribuição mais fundamental para a teoria da virtude da ética confucionista foi dada por ninguém menos que o próprio Confúcio. A ética da virtude de Confúcio centra-se no desenvolvimento do conceito de ren 嬬. O significado original do caractere ren 嬬 refere-se a um sentimento de ternura para com os outros.20 Confúcio articulou o significado de ren em termos de «amar as pessoas» (ai ren 爱嬣, Analectos 12.22). Tanto Mencius como Xunzi, tal como apresentado acima, herdaram este significado de «ren» de Confúcio. No entanto, Confúcio não se limitou a isso na sua articulação do «ren». Ele alargou ainda mais o conceito como uma virtude abrangente da humanidade. Confúcio disse:

Quem conseguir praticar cinco coisas, em qualquer parte do mundo, pode tornar-se uma pessoa de ren.21 … Respeito (gong剉), tolerância (kuan宽), sinceridade (xin蝁), diligência (min睌) e bondade (hui). Se alguém for respeitoso, não será tratado com desrespeito. Se for tolerante, conquistará o coração de todos. Se for sincero, inspirará confiança. Se for diligente, alcançará os seus objetivos. E se for bondoso, poderá desfrutar do serviço dos outros. (Analectos 17.6)

Aqui, «ren» não é uma virtude específica de cuidado para com os outros, mas sim uma virtude abrangente que pode ser adquirida através da prática de várias virtudes específicas. Ou seja, alcança-se o «ren» praticando as cinco virtudes específicas: respeito, tolerância, confiabilidade, diligência e bondade (Analectos 17.6). Essa lista, no entanto, não é exaustiva. Confúcio também disse: «As pessoas com ren ajudam os outros a prosperar se desejam prosperar elas próprias, e ajudam os outros a ter sucesso se desejam ter sucesso elas próprias (da 达). Ser capaz de julgar os outros com base no que nos é próximo é o método para se tornar ren» (Analectos 6.30). Ser capaz de inspirar-se no que nos é próximo é estender o nosso coração aos outros, compreender os outros pensando no que nós próprios sentiríamos. Seguindo esta linha de pensamento, Confúcio afirmou que o ren exige que não façamos aos outros aquilo que não gostaríamos que nos fizessem (Analectos 12.2).

Para resumir a visão de Confúcio. O «ren», enquanto virtude, tem um significado específico e um significado mais amplo. Wing-tsit Chan afirmou: «Como virtude geral, o “ren” significa humanidade, ou seja, aquilo que faz do homem um ser moral. Como virtude específica, significa amor.» 22Para efeitos deste ensaio, gostaria de salientar que, na teoria de Confúcio, as virtudes dividem-se em duas categorias. A primeira é a das virtudes específicas. Esta categoria de virtudes inclui uma longa lista de traços morais específicos, tais como o respeito, a tolerância, a confiabilidade, a diligência, a bondade, etc. A segunda categoria é a da virtude abrangente da humanidade refinada. Uma pessoa dotada de «ren» neste último sentido, o da humanidade refinada, possui uma variedade de virtudes específicas. Neste segundo sentido, Confúcio afirmou, numa frase célebre, que «o “ren” é [a característica distintiva da] humanidade.»23

Na tradição confucionista, aqueles que possuem a virtude abrangente do ren podem ser chamados de junzi (珋磾, ver Analectos 4.5). Um junzi é uma pessoa virtuosa que possui uma variedade de virtudes. De acordo com os Analectos, essas pessoas não formam grupinhos (2.14); comportam-se com cavalheirismo quando competem (3.7); são cautelosas quando falam e diligentes quando agem (4.24); comportam-se com modéstia, tratam os superiores com respeito, são bondosas para com as pessoas e agem de forma adequada ao contratar pessoas (5.16); são cultas (6.27); são harmoniosas sem serem uniformizadoras (13.27); são corajosas (17.23). Entretanto, Confúcio também defendia que os junzi não são unidimensionais como um utensílio (junzi bu qi 珋磾嫄厞, 2.12). Ser como um utensílio é ser uma ferramenta destinada apenas a uma tarefa específica, fazer apenas uma coisa, ter apenas uma existência unidimensional. Um ser humano, na visão de Confúcio, deve desenvolver-se como uma pessoa completa e ser bom enquanto ser humano em si mesmo. Tais pessoas, ou junzi, possuem uma variedade de virtudes específicas, mas também não se limitam a essas virtudes específicas isoladas. São capazes de entrelaçar essas virtudes num todo equilibrado, alcançando a virtude abrangente do ren.

Assim, parece existir um paralelo entre Confúcio e Aristóteles. Para Aristóteles, uma pessoa que vive em eudaimonia «é aquela cujas atividades estão em consonância com a virtude plena, com um suprimento adequado de bens externos, não apenas por um período qualquer, mas ao longo de uma vida completa» (NE 1.10 1101a 15–17).24 Por outras palavras, uma vida de eudaimonia requer uma variedade de virtudes específicas na vida. Aristóteles não considerava a eudaimonia em si mesma como uma virtude, mas sim como uma atividade virtuosa. Defendia que se trata de «um certo tipo de atividade da alma em conformidade com a virtude» (NE 2.9 1099b25).

No entanto, Aristóteles aceitou que a sua visão é consistente com a ideia de que a eudaimonia «é a virtude [em geral] ou alguma virtude [particular]; pois a atividade em conformidade com a virtude é própria da virtude» (NE 1.7 1198b 30-32).25 Aristóteles reconhece que o conceito de virtude pode, por vezes, implicar a eudaimonia (NE 1.7 1198b 32-1099a 5). Se pudermos defender aqui uma interpretação de certa forma confucionista, podemos dizer que, na medida em que a função própria da humanidade é viver de acordo com a razão, e viver bem de acordo com a razão é eudaimonia, a eudaimonia encaixa-se na definição de virtude (arete) de Aristóteles.

Independentemente de Aristóteles ter ou não chamado a eudaimonia de virtude, num sentido lato, uma vida de eudaimonia, segundo Aristóteles, é análoga a uma vida de ren (virtude abrangente) para Confúcio. Para Aristóteles, uma pessoa dotada de uma virtude específica pode não ser um ser humano excelente se não agir de acordo com a razão e não possuir outras virtudes específicas. Confúcio defendia uma visão semelhante. Ele defendia, por exemplo, que uma pessoa dotada de ren tem necessariamente de ser corajosa, enquanto que uma pessoa corajosa pode não ser ren (嬬簅, 饡膧曏; 曏簅, 嫄饡膧嬬; Analectos 14.4). Ser corajoso é possuir uma virtude específica; ser «ren», no sentido de virtude abrangente, é possuir a virtude abrangente da humanidade.

Por Chenyang Li

Introdução

O grande avanço da tecnologia de Inteligência Artificial (IA) esbateu rapidamente as fronteiras entre a humanidade e o mundo não humano, tornando os dois cada vez mais indistinguíveis.1 Tradicionalmente, considera-se que apenas os seres humanos possuem virtudes morais, o que constitui uma característica única da humanidade; agora, as máquinas de IA também são consideradas moralmente virtuosas.2 Neste ensaio, procuro articular, numa perspectiva confucionista, uma diferença fundamental entre as virtudes humanas e as virtudes das máquinas de IA.3

A primeira secção deste ensaio aborda questões gerais sobre a ética da IA, a fim de estabelecer o contexto para a minha argumentação. Na segunda secção, defino e reconstruo duas categorias de virtudes — as virtudes específicas e a virtude abrangente —, numa perspectiva confucionista. Na terceira secção, defendo que uma diferença fundamental entre máquinas de IA virtuosas e seres humanos virtuosos reside no facto de, enquanto os objetivos dos robôs de IA são específicos e as suas virtudes também o são, de acordo com os objetivos para os quais foram concebidos, os seres humanos, independentemente dos papéis específicos que desempenham na vida — que exigem virtudes específicas —, também têm como objetivo alcançar uma vida virtuosa, o que requer a virtude abrangente da humanidade refinada.

Abordagens baseadas em princípios e na virtude

Com o rápido desenvolvimento da tecnologia de IA, a ética da IA tem vindo a tornar-se uma área em expansão da filosofia moral. A ética da IA, enquanto termo geral, pode referir-se a duas questões relacionadas, mas distintas. Em primeiro lugar, pode significar a ética profissional dos profissionais de IA, ou seja, das pessoas que criam e desenvolvem tecnologia de IA. Neste sentido, a ética da IA, tal como a ética médica ou a ética da engenharia, diz respeito ao código ético que os profissionais de IA devem seguir na criação de tecnologia de IA.

Podemos questionar-nos sobre que tipo de código de ética profissional os profissionais da IA devem seguir no seu trabalho, em contraste com os profissionais de outras áreas. Em segundo lugar, a ética da IA também pode referir-se ao código de ética para máquinas robóticas de IA, tendo as próprias máquinas robóticas de IA como sujeitos.4 Neste segundo sentido, a ética da IA diz respeito a «agentes morais artificiais», ou seja, às formas como a robótica de IA deve comportar-se eticamente. Para maior clareza, podemos designar a ética da IA no primeiro sentido por «ética profissional da IA» e, no segundo sentido, por «ética das máquinas de IA».

Em qualquer uma das áreas da ética da IA, em termos gerais, existem dois tipos de abordagens. Uma delas é a abordagem baseada em princípios, uma abordagem predominante neste campo. Na ética profissional da IA, por exemplo, a abordagem baseada em princípios procura definir princípios éticos relevantes para regulamentar o comportamento dos profissionais da IA. Um influente estudo de 2019, da autoria de Brent Mittelstadt, mostra que, até essa altura, pelo menos 84 iniciativas de ética da IA já tinham publicado relatórios que descreviam princípios éticos de alto nível, dogmas, valores ou outros requisitos abstratos para o desenvolvimento e a implementação da IA.5 De acordo com este estudo:

Uma análise recente revelou que muitas iniciativas de ética da IA convergiram para um conjunto de princípios que se assemelham estreitamente aos quatro princípios clássicos da ética médica. Esta conclusão foi posteriormente endossada pela Organização para a Cooperação e Desenvolvimento Económico (OCDE)⁹ e pelo Grupo de Peritos de Alto Nível sobre Inteligência Artificial da Comissão Europeia, que propôs quatro princípios para orientar o desenvolvimento de uma IA «confiável»: respeito pela autonomia humana, prevenção de danos, equidade e explicabilidade.6

Mittelstadt argumenta, no entanto, que, ao contrário da medicina, o desenvolvimento da IA apresenta lacunas em quatro áreas importantes: (1) objectivos comuns e deveres fiduciários, (2) história e normas profissionais, (3) métodos comprovados para traduzir princípios na prática e (4) mecanismos robustos de responsabilização jurídica e profissional. Estas diferenças, segundo Mittelstadt, sugerem que «ainda não devemos comemorar o consenso em torno de princípios de alto nível que ocultam profundas divergências políticas e normativas.»7 Nas práticas de desenvolvimento da IA, a abordagem baseada em princípios é limitada, em parte porque os princípios exigem especificação e equilíbrio em diferentes contextos de tomada de decisão.

Um estudo mais recente de Thilo Hagendorff descreve uma viragem prática no desenvolvimento da ética profissional da IA, passando «do quê para o como».8 O autor defende que essa viragem prática, baseada no principialismo, é, no entanto, inadequada, porque «os quadros da viragem prática são, muitas vezes, apenas códigos de ética mais detalhados que utilizam conceitos mais específicos do que as orientações iniciais de alto nível».9

Como alternativa à abordagem baseada em princípios, Hagendorff defende uma abordagem baseada nas virtudes. Ele afirma: «Em vez de se concentrar apenas nos princípios, a ética da IA pode dar maior ênfase às virtudes ou, por outras palavras, às disposições de caráter dos profissionais da IA, a fim de se pôr efetivamente em prática.»10 Mais especificamente, Hagendorff propõe quatro «virtudes básicas da IA», nomeadamente justiça, honestidade, responsabilidade e cuidado, a serem complementadas por virtudes de segunda ordem, tais como prudência e fortaleza. Estas virtudes são importantes porque representam contextos motivacionais específicos que constituem a condição prévia para a tomada de decisões éticas no desenvolvimento da tecnologia de IA.

Estas duas abordagens, a baseada em princípios e a baseada na virtude, também são utilizadas na área da ética das máquinas de IA. A abordagem baseada em princípios remonta às três leis fundamentais do romancista futurista Isaac Asimov (1920–1992) para orientar o comportamento dos robôs. São elas:

Um robô não pode causar dano a um ser humano nem, por omissão, permitir que um ser humano sofra dano.

Um robô deve obedecer às ordens que lhe forem dadas por seres humanos, excepto quando tais ordens entrem em conflito com a Primeira Lei.

Um robô deve proteger a sua própria existência, desde que tal protecção não entre em conflito com a Primeira ou a Segunda Lei.11

Num artigo de 2021, propus uma abordagem baseada em princípios à ética das máquinas de IA a partir de perspetivas confucionistas.12 Os pensadores confucionistas clássicos, Mencius e Xunzi, articularam diferentes interpretações sobre os fundamentos da ética. Mencius defende que os seres humanos são únicos, na medida em que nascem com um coração humano (xin 裶). Cultivar esse coração humano tornar-nos-á autenticamente humanos e conduzir-nos-á a uma vida humana moral. Assim, se seguirmos uma abordagem menciana em relação à ética das máquinas de IA, poderemos instalar nos robôs humanóides um princípio de «não causar dano» como mecanismo prioritário, garantindo que os robôs não possam realizar certas ações extremamente destrutivas que prejudiquem a humanidade ou outras formas de vida

formas e uns com os outros. Em contrapartida, Xunzi defende que os seres humanos se tornam morais ao adquirirem normas sociais da sociedade. Os seres humanos não possuem moral quando nascem; são posteriormente «programados» para agir moralmente. Se seguirmos Xunzi, poderemos estabelecer regras para orientar as ações da IA sem um único princípio superior que proteja a humanidade, outras formas de vida no mundo e outros robôs humanóides. Poderemos dar-lhes regras a obedecer, tal como os carros sem condutor obedecem às regras de trânsito. Seguindo tais regras, as máquinas robóticas com IA terão como objetivo cumprir as metas que lhes forem atribuídas, independentemente da natureza dessas metas.

As críticas à abordagem baseada em princípios da ética dos profissionais da IA aplicam-se também à ética das máquinas de IA. Pois, independentemente do tipo de princípios morais que imponhamos, há sempre a necessidade de os adaptar a contextos específicos. Por esta razão, são necessárias abordagens alternativas, pelo menos para complementar, se não para substituir, a abordagem baseada em princípios da ética das máquinas de IA.

Uma questão relacionada, e talvez mais profunda, é se as máquinas robóticas com IA podem ser verdadeiramente consideradas sujeitos morais. A complicar ainda mais a questão está a questão de saber se as máquinas robóticas com IA possuem consciência. Se as máquinas não podem ter consciência, presumivelmente não têm subjetividade, para não falar de livre arbítrio, e, por conseguinte, não podem tornar-se sujeitos morais. No entanto, as opiniões estão divididas quanto à questão da consciência. Algumas pessoas negam que as máquinas possam ter consciência. Defendem que as máquinas com IA podem simular comportamentos semelhantes aos humanos, mas nunca serão verdadeiramente conscientes. Outras acreditam que as máquinas com IA poderiam alcançar a consciência. Defendem que, se forem concebidas com complexidade suficiente e com os algoritmos certos, as máquinas com IA poderiam desenvolver consciência. O debate gira frequentemente em torno da questão de como a consciência deve ser definida. David Chalmers designou a questão da natureza da consciência como «o problema difícil»:

O que torna o «problema difícil» difícil e quase único é o facto de ir além dos problemas relacionados com o desempenho das funções. Para compreender isto, note-se que, mesmo quando tivermos explicado o desempenho de todas as funções cognitivas e comportamentais relacionadas com a experiência

—discriminação percetiva, categorização, acesso interno, relato verbal—, pode ainda subsistir uma questão por responder: por que razão o desempenho destas funções é acompanhado pela experiência? (ênfase no original)13

Se nunca pudermos conhecer a natureza da consciência, como sugere Chalmers, então nunca poderemos saber se as máquinas de IA possuem consciência. No entanto, presumivelmente, ser um agente moral requer uma tomada de decisões consciente; caso contrário, essa designação torna-se sem sentido. Se os robôs de IA, enquanto máquinas, por mais avançados que sejam, não possuem consciência, faz sentido considerá-los agentes morais? Se os sistemas robóticos de IA podem ser agentes morais, como é que os responsabilizamos moralmente pelas suas ações? Estas questões não podem ser resolvidas facilmente.

No seu influente livro *Moral Machines: Teaching Robots Right from Wrong*, Wendell Wallach e Colin Allen tentaram contornar a difícil questão da consciência adotando uma abordagem funcional.14 Defendem que as propriedades importantes da consciência são melhor compreendidas do ponto de vista funcional e que a equivalência funcional do comportamento é tudo o que pode realmente importar para as questões práticas da conceção de agentes morais artificiais. Esta funcionalidade pode ser observada no caso do voo.

O voo, enquanto propriedade funcional, argumentam eles, pode ser alcançado de várias formas, desde que se consiga levantar voo e permanecer no ar durante um período de tempo razoável. Na sua opinião, no que diz respeito à questão dos agentes morais artificiais, é irrelevante se as máquinas de IA possuem a propriedade fenomenológica da consciência humana. No seu livro, Wallach e Allen discutem como a ética das virtudes pode ser aplicada aos agentes morais artificiais. Argumentam que as virtudes constituem uma aplicação híbrida que integra abordagens de cima para baixo e de baixo para cima. Na medida em que as próprias virtudes podem ser descritas explicitamente, trata-se de uma abordagem de cima para baixo. Entretanto, a aquisição de virtudes como traços de caráter moral é essencialmente um processo de baixo para cima.15 O seu objectivo é desenvolver um sistema ético viável para máquinas robóticas de IA.

Neste ensaio, também adopto uma abordagem baseada na ética das virtudes para a ética das máquinas de IA, mas com um objetivo diferente. O meu objectivo é revelar uma diferença fundamental entre seres humanos virtuosos e máquinas de IA virtuosas, e faço-o a partir de uma perspectiva confucionista.

(continua)