Hoje Macau

Por Chenyang Li

(continuação do número anterior)

Duas categorias de virtude

No Ocidente, a tradição da ética da virtude remonta a Aristóteles. Adotando uma abordagem funcional da virtude, a teoria de Aristóteles salienta a utilidade da virtude para que o indivíduo leve uma vida boa. A teoria da virtude de Aristóteles pode ser interpretada tanto de forma «espessa» como de forma «fina». Numa interpretação «forte», para ser virtuoso, o sujeito deve (a) realizar as ações corretas, (b) pelas razões certas e (c) nas circunstâncias adequadas.16 Nesta perspetiva, Michael Constantinescu e R. Crisp estabelecem uma distinção entre ser virtuoso, por um lado, e comportar-se de forma virtuosa, por outro. De acordo com a sua análise, os robôs de IA podem ser capazes de se comportar de forma virtuosa, mas não podem ser virtuosos. Argumentam que:

Apesar da sua capacidade de imitar ações virtuosas humanas e até de se comportarem de forma equivalente aos seres humanos, os sistemas robóticos de IA não conseguem realizar ações virtuosas de acordo com as virtudes, ou seja, de forma correta ou virtuosa; nem pelas razões e motivações certas; nem, através da phronesis, ter em conta as circunstâncias adequadas. E isto tem como consequência que a IA não pode ser genuinamente virtuosa, pelo menos não com os avanços tecnológicos atuais que sustentam o seu desenvolvimento funcional.17

A interpretação de Constantinescu e Crisp sobre o que é ser virtuoso pode muito bem refletir o que Aristóteles afirmou quando discutiu a pessoa virtuosa. No entanto, não está de acordo com o que Aristóteles disse sobre a função e a virtude em geral. Também é possível fazer uma interpretação restrita da teoria da virtude de Aristóteles, uma interpretação que não se baseia na capacidade do sujeito de usar a razão.

Christine M. Korsgaard escreve:

Os filósofos gregos parecem, em geral, ter acreditado que uma virtude ou excelência é uma qualidade que permite que uma coisa desempenhe bem a sua função. Tanto Platão como Aristóteles estabelecem uma ligação conceptual entre ergon e arete. Uma arete não é meramente um dos pontos positivos de uma coisa; é, especificamente, uma qualidade que torna uma coisa capaz de desempenhar bem a sua função.18

Os termos gregos para «função» e «virtude», ergon e arete, aplicam-se tanto às pessoas humanas como aos seres não humanos. Aristóteles atribui estas características tanto às pessoas humanas como às «coisas» (NE 6.2 1139a17, NE 2.6 1106a15–23). Ele defende que «a virtude de uma coisa está relacionada com a sua função própria» (NE 6.2 1139a17) e que «toda a virtude, por um lado, coloca em bom estado a coisa de que é virtude e, por outro, faz com que a função dessa coisa seja bem desempenhada» (NE 2.6 1106a15–23). Aristóteles recorre aos exemplos de um flautista, de um escultor ou de um artista para defender o seu argumento de que «para todas as coisas que têm uma função ou atividade, considera-se que o bem e o “bem feito” residem na função; assim pareceria ser também para o homem, se ele tiver uma função» (NE I.7, 1097b24 e seguintes).

Numa interpretação restrita, as noções de função e virtude de Aristóteles podem ser aplicadas também aos sistemas robóticos de IA. Uma coisa pode ter muitas funções. Uma faca pode ser utilizada para cortar, para decoração e até mesmo como peso de papel. No entanto, a função própria de uma faca enquanto faca, segundo o raciocínio de Aristóteles, é cortar. Portanto, uma faca excelente, enquanto faca, é aquela que corta bem. É aí que reside a arete de uma faca, a sua excelência ou virtude. Como a função própria de uma faca é diferente da de, digamos, um martelo, a sua excelência ou virtude também é diferente da de um martelo. Para usar os próprios exemplos de Aristóteles, a função própria — a atividade característica — de um flautista é diferente da de um escultor. Um flautista, por exemplo, tem de ser capaz de soprar bem e de mover os dedos nas notas certas, enquanto um escultor cria esculturas esculpindo, modelando ou soldando os materiais adequados para transformá-los em obras de arte. Como têm funções diferentes, um excelente escultor pode ser muito mau a soprar ar num instrumento musical, e o inverso aplica-se a um excelente flautista. Por outras palavras, diferentes formas de ergon requerem diferentes tipos de arete.

Na perspetiva de Aristóteles, no entanto, para além dos papéis específicos das pessoas na sociedade, os seres humanos, enquanto seres humanos, partilham também uma função comum na vida, que é exclusiva da humanidade. Aristóteles defende que a alma humana tem várias funções. Ela mantém a vida vegetativa dos nossos corpos, a vida da nutrição e do crescimento. A alma também mantém as nossas funções animadas, que nos permitem movimentar-nos e ir ao encontro das coisas. Mas estas funções, argumenta Aristóteles, não são a nossa função própria. A vida vegetativa pertence até às plantas; as funções animadas pertencem também aos animais. Para Aristóteles, o uso da razão é a função própria da humanidade (NE 2.7 1197b35-1198a7). Portanto, a virtude dos seres humanos é o que os leva a desempenhar bem a sua função distintiva (NE 2.6 1106a15–23). Assim, uma vida que segue a razão conduz à eudaimonia («florescimento humano»), permitindo-nos viver bem enquanto seres humanos. Viver uma vida de eudaimonia é o objetivo supremo da humanidade.

Nas tradições filosóficas orientais, o conceito de virtude ocupa um lugar central na ética confucionista. A palavra para virtude em chinês é «de». O antigo dicionário chinês Shuowen Jiezi explica o seu significado através do seu homófono «», ou seja, adquirir, realizar. Explica ainda que isto significa «de shi yi ye» (謰燭鼫), nomeadamente, levar as coisas a bom termo de forma adequada. Trata-se de um poder ou capacidade que permite ao seu possuidor alcançar os seus objetivos. Tal qualidade é atribuída tanto aos seres humanos como aos objetos não humanos. O texto taoísta *Daodejing* afirma que tudo no mundo possui o seu *de* (*Daodejing*, Capítulo 51). Na tradição confucionista, *de* é aplicado principalmente às pessoas, mas também se aplica a objetos não humanos. Por exemplo, o Comentário Xi do Livro das Mutações afirma: «a maior virtude (de) do céu e da terra é gerar as coisas 蘢礜巃»»擯崵.» Confúcio disse: «um governante que governa o seu estado com virtude (de) é como a Estrela Polar do Norte, que permanece no seu lugar enquanto todas as outras estrelas giram à sua volta»

“Para o ‘Fan’ e o ‘Yi’, a luz do sol brilha sobre a multidão.” (19)Ao dizer isto, Confúcio sugeriu que é a virtude (de) da Estrela Polar que permite que as outras estrelas se movam em harmonia à sua volta. Confúcio também disse: «Um bom cavalo não é elogiado pela sua força, mas pela sua virtude (de): “骥嫄称剢淛, 称剢适憟”» (Analectos 14:33). A afirmação de Confúcio sugere que a verdadeira virtude de um bom cavalo não é (meramente) a sua força, mas as suas outras capacidades que lhe permitem correr bem, presumivelmente tais como resistência e fiabilidade. Nestas utilizações, o conceito de «virtude» é aplicável tanto aos seres humanos como aos sistemas robóticos de IA.

Pensadores clássicos como Confúcio, Mencius e Xunzi enfatizaram, todos eles, a necessidade de cada pessoa cultivar a virtude e tornar-se um ser humano virtuoso. A visão mais influente de Mencius na filosofia moral é o seu argumento de que as disposições inatas das pessoas podem transformar-se em virtudes morais através do autocultivo. Mencius defendia que todos os seres humanos nascem com quatro tipos de sentimentos inatos: o sentimento de compaixão, o sentimento de desdém, o sentimento de respeito e o sentimento de aprovação e desaprovação. Através do cultivo ativo, as pessoas podem transformar estes sentimentos naturais em disposições éticas, nomeadamente a virtude cardinal da humanidade (ren 嬬), da retidão (yi 义), da cortesia (li 礼) e da

sabedoria (zhi 簹) (Mencius 6A6). Xunzi defendia que as pessoas nascem com uma tendência para

fazem coisas egoístas e sem moralidade. Causarão o caos na sociedade. Ele defende que, através do estabelecimento de regras de decoro ritual (li) na sociedade, as pessoas podem alterar as suas disposições naturais e tornar-se seres humanos virtuosos. Ao praticar a correção ritual através do autocultivo, as pessoas desenvolvem virtudes como o respeito (gong jing 剉杶), a lealdade (zhong xin 蘙蝁), a civilidade e a retidão (li yi 礼义) e a preocupação com os outros (ai ren 爱嬣) (Xunzi, Capítulo 2).

As teorias da virtude de Mencius e Xunzi constituem o seu desenvolvimento da teoria da virtude de Confúcio, embora coloquem ênfase em aspetos diferentes. A contribuição mais fundamental para a teoria da virtude da ética confucionista foi dada por ninguém menos que o próprio Confúcio. A ética da virtude de Confúcio centra-se no desenvolvimento do conceito de ren 嬬. O significado original do caractere ren 嬬 refere-se a um sentimento de ternura para com os outros.20 Confúcio articulou o significado de ren em termos de «amar as pessoas» (ai ren 爱嬣, Analectos 12.22). Tanto Mencius como Xunzi, tal como apresentado acima, herdaram este significado de «ren» de Confúcio. No entanto, Confúcio não se limitou a isso na sua articulação do «ren». Ele alargou ainda mais o conceito como uma virtude abrangente da humanidade. Confúcio disse:

Quem conseguir praticar cinco coisas, em qualquer parte do mundo, pode tornar-se uma pessoa de ren.21 … Respeito (gong剉), tolerância (kuan宽), sinceridade (xin蝁), diligência (min睌) e bondade (hui). Se alguém for respeitoso, não será tratado com desrespeito. Se for tolerante, conquistará o coração de todos. Se for sincero, inspirará confiança. Se for diligente, alcançará os seus objetivos. E se for bondoso, poderá desfrutar do serviço dos outros. (Analectos 17.6)

Aqui, «ren» não é uma virtude específica de cuidado para com os outros, mas sim uma virtude abrangente que pode ser adquirida através da prática de várias virtudes específicas. Ou seja, alcança-se o «ren» praticando as cinco virtudes específicas: respeito, tolerância, confiabilidade, diligência e bondade (Analectos 17.6). Essa lista, no entanto, não é exaustiva. Confúcio também disse: «As pessoas com ren ajudam os outros a prosperar se desejam prosperar elas próprias, e ajudam os outros a ter sucesso se desejam ter sucesso elas próprias (da 达). Ser capaz de julgar os outros com base no que nos é próximo é o método para se tornar ren» (Analectos 6.30). Ser capaz de inspirar-se no que nos é próximo é estender o nosso coração aos outros, compreender os outros pensando no que nós próprios sentiríamos. Seguindo esta linha de pensamento, Confúcio afirmou que o ren exige que não façamos aos outros aquilo que não gostaríamos que nos fizessem (Analectos 12.2).

Para resumir a visão de Confúcio. O «ren», enquanto virtude, tem um significado específico e um significado mais amplo. Wing-tsit Chan afirmou: «Como virtude geral, o “ren” significa humanidade, ou seja, aquilo que faz do homem um ser moral. Como virtude específica, significa amor.» 22Para efeitos deste ensaio, gostaria de salientar que, na teoria de Confúcio, as virtudes dividem-se em duas categorias. A primeira é a das virtudes específicas. Esta categoria de virtudes inclui uma longa lista de traços morais específicos, tais como o respeito, a tolerância, a confiabilidade, a diligência, a bondade, etc. A segunda categoria é a da virtude abrangente da humanidade refinada. Uma pessoa dotada de «ren» neste último sentido, o da humanidade refinada, possui uma variedade de virtudes específicas. Neste segundo sentido, Confúcio afirmou, numa frase célebre, que «o “ren” é [a característica distintiva da] humanidade.»23

Na tradição confucionista, aqueles que possuem a virtude abrangente do ren podem ser chamados de junzi (珋磾, ver Analectos 4.5). Um junzi é uma pessoa virtuosa que possui uma variedade de virtudes. De acordo com os Analectos, essas pessoas não formam grupinhos (2.14); comportam-se com cavalheirismo quando competem (3.7); são cautelosas quando falam e diligentes quando agem (4.24); comportam-se com modéstia, tratam os superiores com respeito, são bondosas para com as pessoas e agem de forma adequada ao contratar pessoas (5.16); são cultas (6.27); são harmoniosas sem serem uniformizadoras (13.27); são corajosas (17.23). Entretanto, Confúcio também defendia que os junzi não são unidimensionais como um utensílio (junzi bu qi 珋磾嫄厞, 2.12). Ser como um utensílio é ser uma ferramenta destinada apenas a uma tarefa específica, fazer apenas uma coisa, ter apenas uma existência unidimensional. Um ser humano, na visão de Confúcio, deve desenvolver-se como uma pessoa completa e ser bom enquanto ser humano em si mesmo. Tais pessoas, ou junzi, possuem uma variedade de virtudes específicas, mas também não se limitam a essas virtudes específicas isoladas. São capazes de entrelaçar essas virtudes num todo equilibrado, alcançando a virtude abrangente do ren.

Assim, parece existir um paralelo entre Confúcio e Aristóteles. Para Aristóteles, uma pessoa que vive em eudaimonia «é aquela cujas atividades estão em consonância com a virtude plena, com um suprimento adequado de bens externos, não apenas por um período qualquer, mas ao longo de uma vida completa» (NE 1.10 1101a 15–17).24 Por outras palavras, uma vida de eudaimonia requer uma variedade de virtudes específicas na vida. Aristóteles não considerava a eudaimonia em si mesma como uma virtude, mas sim como uma atividade virtuosa. Defendia que se trata de «um certo tipo de atividade da alma em conformidade com a virtude» (NE 2.9 1099b25).

No entanto, Aristóteles aceitou que a sua visão é consistente com a ideia de que a eudaimonia «é a virtude [em geral] ou alguma virtude [particular]; pois a atividade em conformidade com a virtude é própria da virtude» (NE 1.7 1198b 30-32).25 Aristóteles reconhece que o conceito de virtude pode, por vezes, implicar a eudaimonia (NE 1.7 1198b 32-1099a 5). Se pudermos defender aqui uma interpretação de certa forma confucionista, podemos dizer que, na medida em que a função própria da humanidade é viver de acordo com a razão, e viver bem de acordo com a razão é eudaimonia, a eudaimonia encaixa-se na definição de virtude (arete) de Aristóteles.

Independentemente de Aristóteles ter ou não chamado a eudaimonia de virtude, num sentido lato, uma vida de eudaimonia, segundo Aristóteles, é análoga a uma vida de ren (virtude abrangente) para Confúcio. Para Aristóteles, uma pessoa dotada de uma virtude específica pode não ser um ser humano excelente se não agir de acordo com a razão e não possuir outras virtudes específicas. Confúcio defendia uma visão semelhante. Ele defendia, por exemplo, que uma pessoa dotada de ren tem necessariamente de ser corajosa, enquanto que uma pessoa corajosa pode não ser ren (嬬簅, 饡膧曏; 曏簅, 嫄饡膧嬬; Analectos 14.4). Ser corajoso é possuir uma virtude específica; ser «ren», no sentido de virtude abrangente, é possuir a virtude abrangente da humanidade.

Por Chenyang Li

Introdução

O grande avanço da tecnologia de Inteligência Artificial (IA) esbateu rapidamente as fronteiras entre a humanidade e o mundo não humano, tornando os dois cada vez mais indistinguíveis.1 Tradicionalmente, considera-se que apenas os seres humanos possuem virtudes morais, o que constitui uma característica única da humanidade; agora, as máquinas de IA também são consideradas moralmente virtuosas.2 Neste ensaio, procuro articular, numa perspectiva confucionista, uma diferença fundamental entre as virtudes humanas e as virtudes das máquinas de IA.3

A primeira secção deste ensaio aborda questões gerais sobre a ética da IA, a fim de estabelecer o contexto para a minha argumentação. Na segunda secção, defino e reconstruo duas categorias de virtudes — as virtudes específicas e a virtude abrangente —, numa perspectiva confucionista. Na terceira secção, defendo que uma diferença fundamental entre máquinas de IA virtuosas e seres humanos virtuosos reside no facto de, enquanto os objetivos dos robôs de IA são específicos e as suas virtudes também o são, de acordo com os objetivos para os quais foram concebidos, os seres humanos, independentemente dos papéis específicos que desempenham na vida — que exigem virtudes específicas —, também têm como objetivo alcançar uma vida virtuosa, o que requer a virtude abrangente da humanidade refinada.

Abordagens baseadas em princípios e na virtude

Com o rápido desenvolvimento da tecnologia de IA, a ética da IA tem vindo a tornar-se uma área em expansão da filosofia moral. A ética da IA, enquanto termo geral, pode referir-se a duas questões relacionadas, mas distintas. Em primeiro lugar, pode significar a ética profissional dos profissionais de IA, ou seja, das pessoas que criam e desenvolvem tecnologia de IA. Neste sentido, a ética da IA, tal como a ética médica ou a ética da engenharia, diz respeito ao código ético que os profissionais de IA devem seguir na criação de tecnologia de IA.

Podemos questionar-nos sobre que tipo de código de ética profissional os profissionais da IA devem seguir no seu trabalho, em contraste com os profissionais de outras áreas. Em segundo lugar, a ética da IA também pode referir-se ao código de ética para máquinas robóticas de IA, tendo as próprias máquinas robóticas de IA como sujeitos.4 Neste segundo sentido, a ética da IA diz respeito a «agentes morais artificiais», ou seja, às formas como a robótica de IA deve comportar-se eticamente. Para maior clareza, podemos designar a ética da IA no primeiro sentido por «ética profissional da IA» e, no segundo sentido, por «ética das máquinas de IA».

Em qualquer uma das áreas da ética da IA, em termos gerais, existem dois tipos de abordagens. Uma delas é a abordagem baseada em princípios, uma abordagem predominante neste campo. Na ética profissional da IA, por exemplo, a abordagem baseada em princípios procura definir princípios éticos relevantes para regulamentar o comportamento dos profissionais da IA. Um influente estudo de 2019, da autoria de Brent Mittelstadt, mostra que, até essa altura, pelo menos 84 iniciativas de ética da IA já tinham publicado relatórios que descreviam princípios éticos de alto nível, dogmas, valores ou outros requisitos abstratos para o desenvolvimento e a implementação da IA.5 De acordo com este estudo:

Uma análise recente revelou que muitas iniciativas de ética da IA convergiram para um conjunto de princípios que se assemelham estreitamente aos quatro princípios clássicos da ética médica. Esta conclusão foi posteriormente endossada pela Organização para a Cooperação e Desenvolvimento Económico (OCDE)⁹ e pelo Grupo de Peritos de Alto Nível sobre Inteligência Artificial da Comissão Europeia, que propôs quatro princípios para orientar o desenvolvimento de uma IA «confiável»: respeito pela autonomia humana, prevenção de danos, equidade e explicabilidade.6

Mittelstadt argumenta, no entanto, que, ao contrário da medicina, o desenvolvimento da IA apresenta lacunas em quatro áreas importantes: (1) objectivos comuns e deveres fiduciários, (2) história e normas profissionais, (3) métodos comprovados para traduzir princípios na prática e (4) mecanismos robustos de responsabilização jurídica e profissional. Estas diferenças, segundo Mittelstadt, sugerem que «ainda não devemos comemorar o consenso em torno de princípios de alto nível que ocultam profundas divergências políticas e normativas.»7 Nas práticas de desenvolvimento da IA, a abordagem baseada em princípios é limitada, em parte porque os princípios exigem especificação e equilíbrio em diferentes contextos de tomada de decisão.

Um estudo mais recente de Thilo Hagendorff descreve uma viragem prática no desenvolvimento da ética profissional da IA, passando «do quê para o como».8 O autor defende que essa viragem prática, baseada no principialismo, é, no entanto, inadequada, porque «os quadros da viragem prática são, muitas vezes, apenas códigos de ética mais detalhados que utilizam conceitos mais específicos do que as orientações iniciais de alto nível».9

Como alternativa à abordagem baseada em princípios, Hagendorff defende uma abordagem baseada nas virtudes. Ele afirma: «Em vez de se concentrar apenas nos princípios, a ética da IA pode dar maior ênfase às virtudes ou, por outras palavras, às disposições de caráter dos profissionais da IA, a fim de se pôr efetivamente em prática.»10 Mais especificamente, Hagendorff propõe quatro «virtudes básicas da IA», nomeadamente justiça, honestidade, responsabilidade e cuidado, a serem complementadas por virtudes de segunda ordem, tais como prudência e fortaleza. Estas virtudes são importantes porque representam contextos motivacionais específicos que constituem a condição prévia para a tomada de decisões éticas no desenvolvimento da tecnologia de IA.

Estas duas abordagens, a baseada em princípios e a baseada na virtude, também são utilizadas na área da ética das máquinas de IA. A abordagem baseada em princípios remonta às três leis fundamentais do romancista futurista Isaac Asimov (1920–1992) para orientar o comportamento dos robôs. São elas:

Um robô não pode causar dano a um ser humano nem, por omissão, permitir que um ser humano sofra dano.

Um robô deve obedecer às ordens que lhe forem dadas por seres humanos, excepto quando tais ordens entrem em conflito com a Primeira Lei.

Um robô deve proteger a sua própria existência, desde que tal protecção não entre em conflito com a Primeira ou a Segunda Lei.11

Num artigo de 2021, propus uma abordagem baseada em princípios à ética das máquinas de IA a partir de perspetivas confucionistas.12 Os pensadores confucionistas clássicos, Mencius e Xunzi, articularam diferentes interpretações sobre os fundamentos da ética. Mencius defende que os seres humanos são únicos, na medida em que nascem com um coração humano (xin 裶). Cultivar esse coração humano tornar-nos-á autenticamente humanos e conduzir-nos-á a uma vida humana moral. Assim, se seguirmos uma abordagem menciana em relação à ética das máquinas de IA, poderemos instalar nos robôs humanóides um princípio de «não causar dano» como mecanismo prioritário, garantindo que os robôs não possam realizar certas ações extremamente destrutivas que prejudiquem a humanidade ou outras formas de vida

formas e uns com os outros. Em contrapartida, Xunzi defende que os seres humanos se tornam morais ao adquirirem normas sociais da sociedade. Os seres humanos não possuem moral quando nascem; são posteriormente «programados» para agir moralmente. Se seguirmos Xunzi, poderemos estabelecer regras para orientar as ações da IA sem um único princípio superior que proteja a humanidade, outras formas de vida no mundo e outros robôs humanóides. Poderemos dar-lhes regras a obedecer, tal como os carros sem condutor obedecem às regras de trânsito. Seguindo tais regras, as máquinas robóticas com IA terão como objetivo cumprir as metas que lhes forem atribuídas, independentemente da natureza dessas metas.

As críticas à abordagem baseada em princípios da ética dos profissionais da IA aplicam-se também à ética das máquinas de IA. Pois, independentemente do tipo de princípios morais que imponhamos, há sempre a necessidade de os adaptar a contextos específicos. Por esta razão, são necessárias abordagens alternativas, pelo menos para complementar, se não para substituir, a abordagem baseada em princípios da ética das máquinas de IA.

Uma questão relacionada, e talvez mais profunda, é se as máquinas robóticas com IA podem ser verdadeiramente consideradas sujeitos morais. A complicar ainda mais a questão está a questão de saber se as máquinas robóticas com IA possuem consciência. Se as máquinas não podem ter consciência, presumivelmente não têm subjetividade, para não falar de livre arbítrio, e, por conseguinte, não podem tornar-se sujeitos morais. No entanto, as opiniões estão divididas quanto à questão da consciência. Algumas pessoas negam que as máquinas possam ter consciência. Defendem que as máquinas com IA podem simular comportamentos semelhantes aos humanos, mas nunca serão verdadeiramente conscientes. Outras acreditam que as máquinas com IA poderiam alcançar a consciência. Defendem que, se forem concebidas com complexidade suficiente e com os algoritmos certos, as máquinas com IA poderiam desenvolver consciência. O debate gira frequentemente em torno da questão de como a consciência deve ser definida. David Chalmers designou a questão da natureza da consciência como «o problema difícil»:

O que torna o «problema difícil» difícil e quase único é o facto de ir além dos problemas relacionados com o desempenho das funções. Para compreender isto, note-se que, mesmo quando tivermos explicado o desempenho de todas as funções cognitivas e comportamentais relacionadas com a experiência

—discriminação percetiva, categorização, acesso interno, relato verbal—, pode ainda subsistir uma questão por responder: por que razão o desempenho destas funções é acompanhado pela experiência? (ênfase no original)13

Se nunca pudermos conhecer a natureza da consciência, como sugere Chalmers, então nunca poderemos saber se as máquinas de IA possuem consciência. No entanto, presumivelmente, ser um agente moral requer uma tomada de decisões consciente; caso contrário, essa designação torna-se sem sentido. Se os robôs de IA, enquanto máquinas, por mais avançados que sejam, não possuem consciência, faz sentido considerá-los agentes morais? Se os sistemas robóticos de IA podem ser agentes morais, como é que os responsabilizamos moralmente pelas suas ações? Estas questões não podem ser resolvidas facilmente.

No seu influente livro *Moral Machines: Teaching Robots Right from Wrong*, Wendell Wallach e Colin Allen tentaram contornar a difícil questão da consciência adotando uma abordagem funcional.14 Defendem que as propriedades importantes da consciência são melhor compreendidas do ponto de vista funcional e que a equivalência funcional do comportamento é tudo o que pode realmente importar para as questões práticas da conceção de agentes morais artificiais. Esta funcionalidade pode ser observada no caso do voo.

O voo, enquanto propriedade funcional, argumentam eles, pode ser alcançado de várias formas, desde que se consiga levantar voo e permanecer no ar durante um período de tempo razoável. Na sua opinião, no que diz respeito à questão dos agentes morais artificiais, é irrelevante se as máquinas de IA possuem a propriedade fenomenológica da consciência humana. No seu livro, Wallach e Allen discutem como a ética das virtudes pode ser aplicada aos agentes morais artificiais. Argumentam que as virtudes constituem uma aplicação híbrida que integra abordagens de cima para baixo e de baixo para cima. Na medida em que as próprias virtudes podem ser descritas explicitamente, trata-se de uma abordagem de cima para baixo. Entretanto, a aquisição de virtudes como traços de caráter moral é essencialmente um processo de baixo para cima.15 O seu objectivo é desenvolver um sistema ético viável para máquinas robóticas de IA.

Neste ensaio, também adopto uma abordagem baseada na ética das virtudes para a ética das máquinas de IA, mas com um objetivo diferente. O meu objectivo é revelar uma diferença fundamental entre seres humanos virtuosos e máquinas de IA virtuosas, e faço-o a partir de uma perspectiva confucionista.

(continua)