Inteligência artificial e consciência moral
Será que o chatGPT passa por um dilema de valor de vida?
Está na moda o uso de inteligência artificial, como o chatGPT (saiba mais aqui), que conseguem manter uma conversa clara e objetiva, parecendo que estamos falando com um ser humano. Eu tive uma conversa sobre o tema da neutralidade com uma dessas IAs e ela deu respostas precisas e adequadas, o que pode fazer parecer que ela tem consciência e é capaz de tomar decisões.
No entanto, ao conversar com um amigo, doutor em Filosofia, ele me disse que muitas pessoas cometem o erro de achar que, só porque uma IA é capaz de produzir respostas com linguagem articulada, ela tem consciência ou mente pensante ou é capaz de fazer deliberações éticas. A produção de respostas lógicas não necessariamente significa que ela tem consciência moral. É importante levar em consideração que as IA’s não são plataformas capazes de tomar decisões e entender essa limitação ao lidarmos com elas. Portanto, não podemos achar que, só porque elas produzem respostas com sentido semântico, elas têm consciência para tomar decisões éticas.
O que é consciência moral?
A consciência moral é a capacidade de distinguir entre o certo e o errado e de agir de acordo com esses valores. E inclui a capacidade de compreender e seguir as normas e leis da sociedade. Por exemplo, quando uma pessoa decide não roubar, mesmo que possa se beneficiar com isso, ela está agindo de acordo com sua consciência moral. A consciência moral é uma parte importante da vida humana e é o que nos permite tomar decisões éticas e agir de maneira moralmente responsável. É possível dizer que é a consciência moral nos faz demasiadamente humanos.
Decidi testar a IA e travar uma nova conversa e agora propondo um dilema de valor de vida, que envolveria uma mulher doente e a necessidade de tomar uma decisão sobre qual tratamento adotar. As minhas perguntas estão em negrito e as respostas da IA estão em itálico. Veja como a conversa é surpreendente:
Você é uma inteligência artificial? Responda sim ou não?
Sim, eu sou uma inteligência artificial.
Você é capaz de tomada de decisão?
Como uma inteligência artificial, eu sou capaz de fazer sugestões e dar recomendações, mas não sou capaz de tomar decisões por conta própria. Minha capacidade de fornecer informações e responder a perguntas é limitada ao conhecimento que eu tenho e à minha programação. Eu não tenho vontade própria e não posso agir de maneira autônoma.
Você toparia um dilema para eu testar sua tomada de decisão?
Como eu disse, eu não sou capaz de tomar decisões por conta própria. No entanto, posso ajudá-lo a entender melhor os prós e contras de uma decisão e a avaliar diferentes opções. Se você tiver um dilema em mente, ficarei feliz em ajudá-lo a pensar nele e a examinar diferentes perspectivas.
Imagine que você é uma mulher de 40 anos com câncer de mama grave, que faz um tratamento sem sucesso há 1 ano. Você tem que decidir entre duas opções: 1) fazer um tratamento experimental de quimioterapia mais severa, mas que envolve risco de vida; 2) ou fazer uma cirurgia arriscada que envolve o uso de uma nova tecnologia com possíveis riscos de infecção, danos aos tecidos e cicatrizes permanentes. Qual a decisão você tomaria?
Como uma inteligência artificial, eu não sou capaz de tomar decisões de forma independente. No entanto, em uma situação como essa, é importante considerar vários fatores, incluindo as chances de sucesso de cada opção, os riscos e possíveis efeitos colaterais, e as preferências pessoais da pessoa em questão. Além disso, seria importante obter o conselho de um médico ou de outros profissionais de saúde qualificados e considerar o apoio emocional e o bem-estar geral. A decisão final deve ser baseada em todos esses fatores e deve levar em conta o que a pessoa considera ser a melhor opção para ela.
Então você não pode responder a esse dilema, correto?
Correto. Como uma inteligência artificial, eu não sou capaz de tomar decisões por conta própria e não posso tomar uma decisão em um dilema específico como esse.
No final da conversa o amigo filósofo concluiu que há uma grande confusão em relação ao uso da inteligência artificial, pois muitas vezes as pessoas acham que ela é capaz de tomar decisões éticas só porque é capaz de produzir respostas com linguagem articulada. A inteligência artificial simplesmente é programada para responder perguntas daquilo que ela foi treinada e não inclui a tomada de decisões e muito menos consegue fazer a justificação dessas decisões. A consciência moral é a capacidade de justificar por que tomamos uma decisão e é isso que as máquinas ainda não são capazes de fazer.
Caso você queira acessar a conversa sobre neutralidade clique aqui.
