Qualquer tipo de relacionamento evolui quando está baseado em confiança. Você oferece autonomia acreditando que a outra parte vai cumprir o combinado. Quando isso acontece, aumenta-se a confiança. Essa reflexão vale para casais, colegas de trabalho, empresas e… sistemas que “pensam”. Não é para menos que a autonomia em agentes de inteligência artificial é um dos critérios para medir o poder desse tipo de aplicação.

Em ambientes empresariais, quando um colega conclui sua etapa de trabalho em conformidade com o que foi estabelecido, outro pode dar sequência à atividade. A segurança de que tudo foi feito como esperado é dada pelos critérios de qualidade de cada processo.

Com aplicações de inteligência artificial, o princípio é o mesmo. Agentes, por definição, possuem algum nível de autonomia, sendo este ainda maior na inteligência artificial agêntica. O desafio é garantir que essa liberdade não comprometa a precisão. São as práticas de qualidade aplicadas à IA que garantem que o comportamento da aplicação atenderá os critérios de qualidade sem prejudicar a autonomia dos agentes de inteligência artificial.

Neste texto vamos explicar um pouco mais sobre essa capacidade de sistemas de IA e como a ajustamos para encontrar o equilíbrio exato entre a ausência de alucinações, a precisão das respostas e o comportamento “social” do agente.

Conformidade por meio de treinamento

Como explicamos em um texto recentemente publicado aqui no blog da Inmetrics, os agentes de inteligência artificial têm habilidades e capacidades quase “humanas”. Uma das principais é a de aprender, uma vez que seus modelos são arquitetados como redes neurais artificiais.

Tarefas podem ser realizadas de diversas maneiras diferentes. Voltemos ao exemplo dos colegas de trabalho: o que dá segurança ao segundo de que o primeiro concluiu sua etapa atendendo os critérios estabelecidos é o fato de ambos saberem quais são os critérios e o primeiro ter conhecimento para atingi-los. Um conhecimento que foi apreendido em treinamentos e capacitações.

Os agentes de inteligência artificial passam por um processo semelhante: são massivamente treinados para aprender a operar em conformidade com padrões estabelecidos. Para validar o aprendizado, recorremos a ciclos de testes.

Contudo, critérios muito rigorosos em cada pequeno segmento das tarefas limitam a capacidade de autonomia dos agentes, tornando-os mais parecidos com aplicações “não-inteligentes”. Para deixar mais claro, basta comparar chatbots com e sem inteligência artificial. Ao interagir com o usuário, os primeiros só estarão preparados para receberem respostas prontas: “sim” ou “não”, um número com uma certa quantidade de dígitos… Eles não saberão processar, por exemplo, uma alteração no CNPJ. Já os chatbots equipados com LLMs processam linguagem natural, armazenam memória e entendem contexto. Graças a sua autonomia, conseguem resolver problemas mais imprevisíveis. Contudo, ela também pode levá-los a respostas imprecisas, afetando assim os critérios de qualidade estabelecidos para aqueles agentes.

Autonomia em agentes de inteligência artificial: como encontrar seu ponto exato?

Conforme já explicamos, a arquitetura de aplicações de inteligência artificial é estruturada em redes neurais, tendo os LLMs como os controladores do sistema. Eles configuram e integram os módulos da aplicação.

Em linhas gerais, agentes de IA possuem quatro grupos de módulos:

• Perfil → Define o papel do agente: programador, professor, atendimento ao cliente… Ao definir o papel, são estabelecidos os objetivos e algumas restrições aos agentes
• Memória → Armazena histórico da conversa e integra-os a bancos de dados externos, permitindo ao agente atender a demanda do usuário interagindo o contexto da janela com outras informações
• Planejamento → Decompõe tarefas complexas em outras mais simples e gerenciáveis ao mesmo tempo que cria mecanismos de autoavaliação antes de iniciar a execução
• Ação → concede ferramentas à aplicação: de execução de código, de acesso à Internet ou a outras aplicações por meio das quais as tarefas serão efetivamente realizadas.

A autonomia em agentes de inteligência artificial não é controlada por um módulo: ela é definida pela configuração de todos e, principalmente, pelo nível de acesso que cada um terá ao outro. Aplicações de IA com uma ampla caixa de ferramentas e muita autonomia podem fazer coisas que não estavam inicialmente previstas e agir “fora do controle” como, por exemplo, criar uma rede social apenas de robôs ou até “cidadãos falsos” em massa, infiltrando-se em redes sociais e influenciando a opinião pública de forma sensível.

Já agentes com poucas ferramentas e baixa autonomia irão se restringir a cumprir tarefas de baixa complexidade, como fazer uma pesquisa na Internet ou gerar simples blocos de código.

O ponto exato da autonomia de agentes de inteligência artificial sem detrimento da acurácia nas suas entregas é encontrado como em qualquer outra aplicação: por meio de testes. Rotinas periódicas de testes automatizados – uma prática da qualidade como serviço – inspecionam código para checar como está a orquestração entre os módulos dos agentes, qual o nível de acesso que cada um tem do outro.

Nas inspeções, os testes checam a quantidade e profundidade de travas Human-in-the-Loop, que pode ser livremente traduzido como “humanos no fluxo”: a designação, a humanos, de responsabilidades explícitas, seja na supervisão, interpretação, escala e sobrescrição de decisões dos agentes de IA, principalmente quando eles começam a apresentar comportamentos que fogem aos critérios de qualidade.

Se você quer integrar aplicações de IA aos sistemas da sua empresa mas está inseguro quanto ao nível de acesso e autonomia que os agentes de inteligência artificial terão, fale conosco! Na nossa unidade de Consultoria, Dados e IA, atuamos na implementação de agentes sob os quais você tem total governança, garantindo assim a atuação em conformidade com os critérios de qualidade estabelecidos. Nossos especialistas terão prazer em tirar todas as suas dúvidas, basta fazer contato!