O Futuro da Inteligência Artificial Centrada no Humano
Um conceito da ética aplicada na construção de Agentes Inteligentes
Enquanto nos encontramos no limiar de uma era de colaboração sem precedentes entre humanos e máquinas, cada decisão tomada sela o legado que vamos deixar para as futuras gerações. Portanto, que cada passo seja dado com consideração e cautela, abrindo caminho para um futuro onde os agentes inteligentes servem para ampliar as capacidades humanas, e não para suplantá-las ou alienar.
Agentes inteligentes são sistemas que podem perceber seu ambiente através de sensores e agir de acordo com esse ambiente de forma autônoma, racional e muitas vezes pró-ativa. Eles utilizam alguma forma de raciocínio ou aprendizado para tomar decisões.
- Siri, Alexa, Google Assistant: Esses assistentes de voz podem entender e processar linguagem natural, ajudando os usuários a realizar uma variedade de tarefas, desde definir alarmes até responder a perguntas e controlar dispositivos inteligentes em uma casa.
- Veículos Tesla Autopilot: Esses carros podem perceber o ambiente ao seu redor usando uma variedade de sensores e, em certas condições, podem dirigir-se de forma autônoma, tomando decisões em tempo real sobre velocidade, trajetória e quando frear.
- Drones para Monitoramento de Culturas: Na agricultura moderna, os drones equipados com sensores podem monitorar as condições das culturas e do solo, ajudando os agricultores a tomar decisões informadas sobre irrigação, fertilização, e outras práticas agrícolas.
- Chatbots de Atendimento ao Cliente: Muitos sites de e-commerce usam chatbots para ajudar os clientes a encontrar produtos ou responder a perguntas frequentes, utilizando processamento de linguagem natural para entender e responder a perguntas em linguagem natural.
- AlphaGo: um sistema de inteligência artificial que pode jogar o jogo de tabuleiro Go em um nível super-humano. Ele usa redes neurais profundas e aprendizado por reforço para aprender a partir de milhões de partidas humanas e de si mesmo. Ele foi o primeiro sistema a derrotar um campeão mundial de Go, Lee Sedol, em 2016.
- ChatGPT: um modelo de linguagem natural que pode gerar textos coerentes e criativos a partir de um prompt. Ele é baseado em uma rede neural profunda com mais de 175 bilhões de parâmetros e treinado em um grande corpus de textos da internet. Ele pode realizar diversas tarefas de processamento de linguagem natural, como responder perguntas, escrever ensaios, compor poemas, criar diálogos e muito mais.
- Watson: um sistema de inteligência artificial que pode responder a perguntas formuladas em linguagem natural. Ele é capaz de analisar grandes quantidades de dados estruturados e não estruturados, como textos, imagens, vídeos e áudios. Ele pode ser aplicado em diversos domínios, como saúde, educação, finanças, entretenimento e outros. Ele ficou famoso por vencer o programa de televisão Jeopardy! em 2011.
Em um mundo onde a interação entre humanos e Inteligencia Artificial se entrelaça cada vez mais, a definição das atribuições de agentes inteligentes torna-se um tópico essencial. As soluções de IA para agentes também devem ser avaliadas e escolhidas com base em sua capacidade de desempenhar tarefas específicas. Essa abordagem não confere ao algoritmo uma qualidade de “ser”, mas sim enfoca sua utilidade pragmática dentro do seu contexto.
Um algoritmo nada mais é do que uma sequência de raciocínios, e o Algo constitui um conceito que além de ser a abreviação da palavra "Algoritmo", também é um pronome indefinido na lingua portuguesa, possuindo o potencial inato de engendrar aforismos. Com essa propriedade, provoca reflexões de cunho moral e prático em torno do algoritmo que almejamos construir.
A adoção de uma visão mais pragmática da IA, sem atribuir características humanas a ela, permite analisar e escolher soluções tecnológicas com base em sua adequação às tarefas e objetivos estabelecidos. Isso garante uma avaliação mais precisa e objetiva das capacidades da IA, bem como sua contribuição efetiva para melhorias operacionais e inovação. Ao adotar esse enfoque, podemos maximizar o potencial da IA como um recurso valioso que complementa a força de trabalho humana, sem comprometer a compreensão clara de seu papel e alcance.
Todos estão em busca de Algo
Não é sobre “se” ou “como” mas “por quê?”, nós não podemos apenas confiar no sistema para rastrear aviões por exemplo, fazendo com que ele dê um tapinha no ombro de um humano quando há um problema. Em vez disso, temos que criar ferramentas para monitorar os céus, ajudando os controladores a gerenciar sua atenção e superar as limitações de vigilância e selecionar rapidamente planos de contingência razoáveis quando as coisas não vão bem.
Quando os agentes inteligentes são projetados para trabalhar em harmonia com os humanos, eles aprimoram suas habilidades e ajudam a superar as limitações, ao invés de simplesmente substituí-los ou criar mais barreiras à eficácia. Para isso é necessário criar sistemas que não apenas automatizem tarefas, mas que também aprimorem a capacidade humana de monitorar e gerenciar processos complexos.
Será que todos estão atentos às ironias da automação?
As ironias da automação ressaltam a necessidade de uma abordagem equilibrada ao integrar sistemas automatizados em qualquer contexto. Ao reconhecer e antecipar essas ironias, podemos desenvolver sistemas que complementam, em vez de substituir, as habilidades e a flexibilidade humanas, promovendo uma colaboração mais harmoniosa entre humanos e máquinas.
À medida que os sistemas de automação se tornam mais avançados, eles podem se tornar mais complexos e difíceis de operar, exigindo mais treinamento e especialização dos operadores humanos. Além disso, podem surgir novas formas de falhas, muitas vezes menos compreendidas.
Exceções são a regra
Sistemas automatizados frequentemente encontram cenários que não foram previstos durante sua programação, tornando essenciais as intervenções humanas para lidar com essas “exceções”. Esta premissa ressalta a necessidade de flexibilidade e a capacidade de adaptar-se a situações inesperadas.
Automatizar o fácil torna o difícil ainda mais difícil
Ao automatizar tarefas simples, as tarefas que permanecem tendem a ser mais complexas e desafiadoras, muitas vezes exigindo habilidades e conhecimentos especializados. Além disso, a perda de prática em tarefas básicas pode tornar mais difícil lidar com falhas no sistema.
A parte menos flexível tem mais poder para impor suas vontades
Os sistemas de automação, por serem programados para seguir padrões rígidos, muitas vezes determinam a forma como as operações são conduzidas, impondo sua “vontade” sobre os operadores humanos e outros sistemas mais adaptáveis. Este aspecto destaca uma dinâmica de poder desequilibrada, onde a rigidez da automação pode dominar, limitando a flexibilidade humana.
A tarefa pode ser delegada?
A decisão de confiar uma tarefa a um agente inteligente demanda uma análise criteriosa, guiada por alguns fatores cruciais para discernir as tarefas adequadas para essas entidades digitais. Se a tarefa for aprender um idioma, por exemplo, não será possível entregar essa tarefa para um agente e esperar adquirir a habilidade. Também é um princípio ético evitar a delegação de tarefas humanas e, posteriormente, atribuí-las secretamente a um agente.
A aplicação de estruturas, como fluxos e frameworks, facilitam as discussões e tomada de decisão sobre julgamentos subjetivos que inteligências possam ter sobre usuários, questões éticas sobre delegação de tarefas às máquinas e proteção de dados e informações.
Entenda se o gatilho da tarefa pode ser manipulado de forma confiável por uma máquina
A capacidade de acionar e responder a eventos desencadeadores é um aspecto-chave. Tarefas que exigem julgamento subjetivo e respostas não programadas podem demandar intervenção humana na iniciação e, potencialmente, na execução.
Verifique se há necessidade de atenção focada em algum aspecto do desempenho
A atenção focada em aspectos específicos do desempenho é um ponto crítico. Se a tarefa não requer uma intervenção humana constante, a interação direta pode ser evitada na jornada do agente.
Defina se a tarefa pode ser executada sem entrada do usuário, incluindo preferências e objetivos
A possibilidade de executar a tarefa sem necessidade de entrada do usuário, incluindo preferências e objetivos, é outro fator. Quando isso é viável, a interação com o agente pode ser reduzida, porém a programação de um acionamento humano em caso de imprevistos é crucial.
Se Algo não trabalha para pessoas, então não funciona!
A medida que se trabalha para integrar eficazmente os agentes inteligentes no fluxo de trabalho, a consulta consciente aos critérios delineados pode servir como um farol, garantindo que o caminho adotado não apenas otimize a eficiência, mas também honre os princípios éticos fundamentais e a segurança dos dados.
No final é tudo sobre feedback, somos novatos na prática de projetar para inteligências, o erro do calouro é pensar que podemos simplesmente atribuir tarefas computacionais aos computadores e pronto.
Da mesma forma que o algoritmo precisará se adaptar, aprender e evoluir, as pesssoas também se integram a esse ciclo evolutivo. Incorporando a tecnologia como uma extensão da colaboração, uma via de aprendizado em ambas as direções. Uma exploração compartilhada, em que os agentes inteligentes e os humanos avançam lado a lado, marcando um novo capítulo de progresso e inovação.
Neste sentido, somos todos convocados a exercer um papel ativo e responsável, fomentando um diálogo aberto e contínuo sobre os melhores caminhos a seguir, para que, juntos, possamos construir um cenário onde a tecnologia é uma aliada confiável e ética, conduzindo-nos a um futuro onde a segurança, a eficiência e a humanidade coexistam harmoniosamente.
