Toda grande transformação tecnológica produz um ciclo relativamente previsível. Primeiro surge a inovação, acompanhada por um entusiasmo quase ilimitado. Em seguida, organizações, investidores e especialistas passam a projetar cenários de rápida adoção e impactos profundos sobre a economia. Com o passar do tempo, porém, a tecnologia encontra as limitações impostas pela realidade operacional. Problemas antes pouco discutidos tornam-se evidentes, expectativas precisam ser ajustadas e inicia-se uma fase de amadurecimento. Somente depois desse processo é que a inovação alcança uma utilização verdadeiramente sustentável.
A Inteligência Artificial Agêntica parece estar exatamente nesse momento.Ao mesmo tempo em que empresas anunciam plataformas capazes de executar tarefas complexas de forma autônoma, cresce o reconhecimento de que delegar decisões a sistemas inteligentes envolve riscos significativamente maiores do que aqueles observados nos primeiros chatbots conversacionais. A razão é simples: enquanto um chatbot produz principalmente informação, um agente produz ações. E ações geram consequências.
Essa diferença altera completamente a natureza dos desafios envolvidos.
Se um chatbot responde incorretamente a uma pergunta sobre um conceito histórico, o impacto costuma limitar-se à qualidade da informação apresentada. Entretanto, se um agente recebe autorização para movimentar recursos financeiros, negociar contratos, aprovar pagamentos, alterar configurações críticas de infraestrutura, administrar prontuários médicos ou executar operações industriais, uma decisão equivocada poderá produzir prejuízos econômicos, jurídicos ou até mesmo colocar vidas em risco.
Embora ainda estejamos nos primeiros anos da IA agêntica, já existem exemplos que demonstram como mesmo erros aparentemente simples podem gerar consequências significativas. Em 2024, a Air Canada foi condenada por um tribunal canadense depois que o chatbot de atendimento da empresa forneceu informações incorretas sobre sua política de tarifas para passageiros em luto. Confiando na orientação recebida pelo sistema, um cliente adquiriu sua passagem acreditando que poderia solicitar posteriormente o reembolso parcial previsto pela política de tarifas funerárias. Quando a companhia recusou o pedido, alegando que a informação correta estava em outra página do site, a Justiça entendeu que a empresa continuava responsável pelas respostas fornecidas por seu próprio chatbot e determinou o pagamento da indenização ao consumidor.
É importante observar que esse episódio envolvia apenas um chatbot, cuja única função era fornecer informações. Agora imagine um cenário muito mais sofisticado, no qual um agente inteligente possua autorização para aprovar pagamentos, contratar fornecedores, alterar regras de produção, conceder crédito, movimentar investimentos ou administrar equipamentos hospitalares. Nesse contexto, um erro deixa de representar apenas uma informação incorreta e passa a produzir consequências concretas no mundo real.
A diferença entre um chatbot e um agente não está apenas na inteligência, mas no poder de agir.É justamente por essa razão que especialistas em segurança de IA defendem que agentes autônomos jamais sejam implantados sem mecanismos robustos de supervisão, auditoria e governança. Quanto maior a autonomia concedida à Inteligência Artificial, maior deve ser a responsabilidade humana sobre suas decisões. Afinal, quando uma IA apenas conversa, o risco normalmente termina na tela do computador.
Quando ela passa a executar ações, seus erros deixam de ser digitais e passam a produzir impactos financeiros, operacionais, jurídicos e, em determinadas circunstâncias, até mesmo humanos.
Por esse motivo, especialistas em Inteligência Artificial passaram a afirmar que o maior desafio da próxima década talvez não seja construir agentes mais inteligentes, mas desenvolver agentes suficientemente confiáveis.
Essa preocupação aparece de maneira recorrente tanto na literatura acadêmica quanto nos documentos produzidos pelas principais empresas do setor. OpenAI, Anthropic, Google DeepMind, Microsoft e NVIDIA vêm dedicando investimentos crescentes ao desenvolvimento de mecanismos de segurança, avaliação e supervisão justamente porque reconhecem que ampliar capacidades sem ampliar controle representa uma estratégia insustentável.
Entre os diversos desafios identificados, talvez o mais conhecido seja o fenômeno das chamadas alucinações.
Apesar da enorme evolução dos grandes modelos de linguagem, eles continuam produzindo respostas incorretas com elevado grau de confiança em determinadas circunstâncias. Um sistema pode citar decisões judiciais inexistentes, interpretar equivocadamente uma norma regulatória, inventar referências bibliográficas ou produzir cálculos incorretos sem demonstrar qualquer percepção do próprio erro.
É justamente nesse ponto que surge uma oportunidade extraordinária para profissionais experientes, especialmente aqueles com mais de 50 anos. Durante muito tempo, o mercado de tecnologia valorizou quase exclusivamente a velocidade de adaptação às novas ferramentas, muitas vezes subestimando o valor do conhecimento acumulado ao longo de décadas de prática profissional. A IA agêntica tende a inverter parte dessa lógica. Quanto mais sofisticados se tornam os sistemas inteligentes, maior passa a ser a necessidade de pessoas capazes de avaliar criticamente suas respostas. Isso é algo que venho falando já há algum tempo quando vejo pessoas em um movimento de combate ao "Etarismo" principalmente no Linkedin, entendo que vivemos um momento de oportunidade para pessoas mais experientes.
Profissionais maduros, com longa vivência em áreas como direito, finanças, engenharia, saúde, educação, gestão, marketing, tecnologia, administração pública e operações, possuem algo que os modelos de IA ainda não têm: experiência contextual.
Eles sabem reconhecer quando uma resposta "parece correta", mas não faz sentido na prática. Conseguem identificar inconsistências que passam despercebidas por profissionais menos experientes. Entendem as nuances, exceções, riscos e consequências reais de uma decisão mal fundamentada.
Nesse sentido, a experiência deixa de ser apenas memória do passado e passa a ser um ativo estratégico para o futuro. Em um mundo no qual a IA será capaz de produzir respostas em grande escala, o valor humano estará cada vez mais na capacidade de validar, questionar, corrigir e orientar esses sistemas. Talvez uma das grandes oportunidades da próxima década esteja justamente na combinação entre a velocidade da Inteligência Artificial e a sabedoria acumulada de profissionais que passaram décadas enfrentando problemas reais.
Em ambientes conversacionais, essas falhas normalmente podem ser corrigidas pelo usuário. Em arquiteturas agênticas, entretanto, o problema assume outra dimensão. Se o agente utiliza uma informação incorreta como base para uma sequência de ações automatizadas, o erro inicial pode propagar-se por todo o processo decisório.
Esse risco levou diversos pesquisadores a defenderem mecanismos permanentes de validação das informações utilizadas pelos agentes. Em vez de confiar exclusivamente no conhecimento armazenado pelo modelo de linguagem, sistemas mais avançados recorrem continuamente a bases de dados atualizadas, documentos oficiais e mecanismos de verificação externa antes de executar determinadas ações.
Outro desafio relevante está relacionado à chamada autonomia excessiva.À medida que agentes passam a operar múltiplas ferramentas simultaneamente, aumenta também a complexidade de prever todas as possíveis consequências de suas decisões. Um agente responsável por otimizar custos empresariais, por exemplo, poderá identificar alternativas tecnicamente eficientes, mas incompatíveis com políticas internas, princípios éticos ou estratégias de longo prazo definidas pela organização.
Essa característica evidencia uma diferença fundamental entre otimização matemática e tomada de decisão organizacional.
Empresas não perseguem apenas eficiência operacional. Elas também precisam considerar reputação, responsabilidade social, conformidade regulatória, sustentabilidade, relacionamento com clientes, valores institucionais e inúmeros fatores dificilmente traduzíveis em funções matemáticas de otimização.
Consequentemente, agentes inteligentes precisam operar dentro de limites cuidadosamente estabelecidos.
É exatamente nesse contexto que ganha importância o conceito de governança da Inteligência Artificial.Governança não significa restringir inovação. Significa estabelecer mecanismos que permitam desenvolver sistemas inteligentes preservando transparência, responsabilidade e previsibilidade. Trata-se, em essência, do conjunto de políticas, processos e controles destinados a assegurar que a atuação da IA permaneça alinhada aos objetivos estratégicos e aos valores da organização.
Nos últimos anos, esse tema deixou de ocupar exclusivamente departamentos jurídicos ou equipes de conformidade e passou a integrar diretamente a agenda dos conselhos de administração. Grandes empresas perceberam que decisões tomadas por agentes inteligentes podem afetar reputação, responsabilidade civil, segurança da informação e conformidade regulatória em escala inédita.
Nesse cenário, uma expressão tornou-se recorrente entre especialistas: Human in the Loop.
Já tratamos desse assunto em outra parte dessa série, no entanto é importante revisar. O conceito parte de uma ideia relativamente simples. Embora agentes possam executar autonomamente grande número de atividades, determinadas decisões devem permanecer obrigatoriamente sujeitas à validação humana. Aprovação de pagamentos elevados, contratação de fornecedores estratégicos, emissão de diagnósticos médicos, concessão de crédito, decisões judiciais, demissões, contratação de pessoal e movimentações financeiras relevantes representam exemplos típicos de situações em que a supervisão humana continua sendo considerada indispensável.
Na literatura sobre sistemas autônomos existe uma abordagem complementar conhecida como Human-on-the-Loop (HOTL). Originalmente desenvolvido para descrever modelos de supervisão em robótica, veículos autônomos e sistemas militares automatizados, esse conceito passou a ser adotado também na governança da Inteligência Artificial à medida que agentes inteligentes passaram a executar tarefas cada vez mais complexas sem depender de autorização humana para cada etapa do processo.
Nesse modelo, o agente recebe um nível significativamente maior de autonomia operacional. Em vez de solicitar aprovação para cada ação executada, ele é autorizado a tomar decisões dentro de limites previamente estabelecidos, enquanto profissionais acompanham continuamente seu comportamento. O papel do ser humano deixa de ser o de operador e passa a ser o de supervisor. Sua responsabilidade consiste em monitorar indicadores de desempenho, identificar padrões inesperados de comportamento, avaliar riscos, analisar exceções e intervir sempre que o sistema apresentar decisões incompatíveis com os objetivos definidos pela organização.
Essa mudança representa uma diferença importante em relação ao modelo Human-in-the-Loop. Enquanto neste último o ser humano participa diretamente do processo decisório, aprovando individualmente determinadas ações antes de sua execução, no modelo Human-on-the-Loop a Inteligência Artificial atua com maior independência, permanecendo, entretanto, sob observação constante e sujeita à interrupção ou correção sempre que necessário.
Existe ainda uma terceira classificação bastante conhecida na literatura sobre sistemas autônomos, denominada Human-out-of-the-Loop (HOOTL). Nessa configuração, praticamente não há intervenção humana durante a execução das operações, cabendo ao sistema tomar decisões integralmente de forma autônoma. Embora esse modelo já seja utilizado em algumas aplicações altamente especializadas, principalmente em ambientes industriais, militares e sistemas de resposta em tempo real, sua adoção permanece cercada por intensos debates éticos, jurídicos e regulatórios, especialmente quando envolve decisões capazes de produzir impactos relevantes sobre pessoas.
A escolha entre esses diferentes níveis de supervisão depende diretamente do contexto em que a Inteligência Artificial será utilizada. Quanto maiores forem os riscos associados às decisões tomadas pelo agente, maior tende a ser a necessidade de participação humana. Um sistema responsável por sugerir campanhas de marketing pode operar com elevada autonomia. Já um agente autorizado a conceder crédito, administrar equipamentos hospitalares, controlar infraestrutura crítica ou movimentar recursos financeiros provavelmente exigirá mecanismos muito mais rigorosos de supervisão, auditoria e governança.
Esse talvez seja um dos aspectos mais importantes da IA agêntica. O desafio do futuro não será apenas desenvolver agentes cada vez mais inteligentes, mas definir com precisão quais decisões poderão ser delegadas às máquinas e quais continuarão exigindo julgamento, responsabilidade e supervisão humana.
A verdadeira inovação não estará na ausência das pessoas, mas na construção de um modelo equilibrado de colaboração entre inteligência humana e inteligência artificial.Outro desafio crescente diz respeito à segurança cibernética.
Historicamente, ataques digitais concentravam-se na exploração de vulnerabilidades técnicas presentes em sistemas computacionais. Com a ascensão da IA agêntica, surge uma nova categoria de risco: ataques direcionados ao próprio processo de tomada de decisão da Inteligência Artificial.
Pesquisadores já demonstraram diferentes formas de manipular agentes por meio de técnicas conhecidas como prompt injection, envenenamento de dados (data poisoning), manipulação de contexto e exploração de integrações externas. Em alguns casos, basta que um agente consulte um documento cuidadosamente preparado por um invasor para alterar completamente seu comportamento.
Antes de continuarmos é prudente e importante conceituar esses dois tópicos acima:
O chamado prompt injection ocorre quando um invasor consegue fazer com que a Inteligência Artificial ignore suas instruções originais e passe a obedecer comandos inseridos maliciosamente durante a interação. Em outras palavras, o atacante "convence" a IA a alterar seu comportamento sem precisar modificar seu código-fonte.
Um dos casos mais conhecidos ocorreu durante os testes do antigo Microsoft Bing Chat (atualmente Copilot). Pesquisadores demonstraram que era possível inserir instruções ocultas em páginas da internet para induzir o assistente a revelar informações internas, modificar seu comportamento ou produzir respostas completamente diferentes daquelas previstas pelos desenvolvedores. O episódio foi um dos primeiros a chamar a atenção da indústria para essa nova categoria de vulnerabilidade, hoje considerada pela OWASP como o principal risco de segurança para aplicações baseadas em Grandes Modelos de Linguagem.
Outra ameaça importante é o chamado data poisoning (envenenamento de dados). Nesse tipo de ataque, o objetivo não é enganar a IA durante uma conversa, mas contaminar os dados utilizados para seu treinamento, ajuste fino (fine tuning) ou memória persistente, fazendo com que o sistema aprenda informações incorretas ou desenvolva comportamentos enviesados.
Um exemplo recente foi divulgado pela Microsoft em 2026. A empresa alertou para uma técnica denominada AI Memory Poisoning, na qual organizações passaram a inserir instruções ocultas em conteúdos aparentemente inofensivos para induzir assistentes inteligentes a registrar determinadas empresas como "fontes confiáveis". Com isso, em interações futuras, o assistente passava a recomendar essas empresas de forma privilegiada, sem que o usuário percebesse que suas respostas haviam sido deliberadamente influenciadas. Em apenas sessenta dias, a Microsoft identificou mais de cinquenta tentativas desse tipo de manipulação envolvendo empresas de quatorze diferentes setores da economia.
Esse tipo de ameaça torna-se particularmente relevante quando agentes possuem autorização para interagir diretamente com sistemas corporativos críticos. Um ataque bem-sucedido poderá não apenas comprometer informações, mas induzir o próprio sistema inteligente a executar ações prejudiciais.
Por essa razão, cresce rapidamente o interesse por arquiteturas baseadas no princípio do menor privilégio (least privilege), segundo o qual cada agente recebe apenas as permissões estritamente necessárias para executar suas funções. Em vez de conceder acesso amplo a todos os sistemas, organizações passam a segmentar cuidadosamente as capacidades operacionais de cada agente.
Outro tema que ganha destaque é a explicabilidade.
À medida que agentes participam de decisões estratégicas, reguladores, clientes e gestores passam a exigir respostas para uma pergunta aparentemente simples: por que essa decisão foi tomada?
Responder a essa questão nem sempre é trivial.
Modelos modernos de linguagem operam por meio de bilhões de parâmetros distribuídos em redes neurais extremamente complexas. Embora seja possível compreender, em termos gerais, seu funcionamento matemático, explicar detalhadamente por que uma determinada resposta foi produzida continua sendo um dos maiores desafios científicos da área.
Esse problema torna-se ainda mais relevante em setores altamente regulados, como saúde, sistema financeiro, energia, telecomunicações e administração pública.
Diversos projetos legislativos procuram enfrentar exatamente essa questão.
A União Europeia, por exemplo, aprovou o AI Act, considerado o primeiro marco regulatório abrangente para Inteligência Artificial em escala continental. Em vez de proibir tecnologias específicas, a legislação adota uma abordagem baseada em níveis de risco, impondo exigências progressivamente maiores para aplicações consideradas críticas. Sistemas utilizados em infraestrutura essencial, saúde, educação, segurança pública, crédito, emprego e serviços governamentais passam a estar sujeitos a requisitos rigorosos de documentação, avaliação, supervisão e transparência.
Embora diferentes países estejam seguindo caminhos regulatórios distintos, existe um consenso crescente de que agentes inteligentes exigirão estruturas jurídicas mais sofisticadas do que aquelas inicialmente desenvolvidas para aplicações conversacionais.
Entretanto, talvez o maior desafio não seja tecnológico nem jurídico.
Se existe uma característica comum a praticamente todas as grandes revoluções digitais das últimas décadas, é a tendência humana de superestimar capacidades recém-descobertas.
O próprio mercado começa a reconhecer esse risco.
Analistas da Gartner alertam que uma parcela significativa dos projetos atuais relacionados à IA agêntica poderá não alcançar os resultados inicialmente esperados. As razões são diversas: objetivos mal definidos, integração inadequada com processos existentes, ausência de governança, qualidade insuficiente dos dados, expectativas irreais e dificuldade de mensurar retorno sobre investimento.
Essa observação merece atenção especial porque evidencia um aspecto frequentemente ignorado nos debates públicos.
Nem toda tarefa deve ser automatizada. Nem todo processo necessita de agentes inteligentes. Em muitos casos, soluções mais simples continuam sendo economicamente mais eficientes.
O verdadeiro desafio das organizações não consistirá em substituir indiscriminadamente pessoas por agentes, mas identificar cuidadosamente onde a Inteligência Artificial agrega valor real.
Essa capacidade de discernimento talvez seja o fator que diferenciará empresas verdadeiramente inovadoras daquelas que apenas seguirão modismos tecnológicos.
Ao longo da história da computação, organizações que obtiveram maior sucesso não foram necessariamente as primeiras a adotar cada nova tecnologia. Foram aquelas capazes de compreender com precisão seus limites, suas possibilidades e seu impacto estratégico.
Com a IA agêntica, dificilmente será diferente.
Estamos diante de uma transformação potencialmente comparável à popularização da internet ou da computação em nuvem. Entretanto, assim como ocorreu nessas revoluções anteriores, seu sucesso dependerá menos da tecnologia em si e mais da capacidade das organizações de utilizá-la com responsabilidade, visão de longo prazo e sólida governança.
É justamente essa perspectiva equilibrada que nos conduz à etapa final deste artigo. Depois de analisar a evolução histórica da Inteligência Artificial, compreender o funcionamento dos agentes, examinar seus impactos organizacionais, discutir o futuro do trabalho e avaliar seus principais riscos, resta responder à pergunta que inspirou todo este estudo: afinal, estamos realmente assistindo ao fim da era dos chatbots ou apenas ao início de uma nova fase da computação? A resposta, como veremos na conclusão, talvez seja mais interessante do que qualquer previsão simplista sobre substituição tecnológica.
Referências Bibliográficas
Livros
-
Russell, S.; Norvig, P. Artificial Intelligence: A Modern Approach. 4. ed. Pearson, 2021.
-
Russell, S. Human Compatible: Artificial Intelligence and the Problem of Control. Viking, 2019.
-
Mollick, E. Co-Intelligence: Living and Working with AI. Portfolio, 2024.
-
Brynjolfsson, E.; McAfee, A. The Second Machine Age. W. W. Norton, 2014.
-
Brynjolfsson, E.; McAfee, A. Machine, Platform, Crowd. W. W. Norton, 2017.
Artigos Científicos
-
Vaswani, A. et al. Attention Is All You Need. NeurIPS, 2017.
-
OpenAI et al. The Shift to Agentic AI: Evidence from Codex. arXiv, 2026.
-
The AI Agent Index. arXiv, 2025.
-
The 2025 AI Agent Index: Documenting Technical and Safety Features of Deployed Agentic AI Systems. arXiv, 2026.
-
Making Sense of AI Agents Hype: Adoption, Architectures, and Takeaways from Practitioners. arXiv, 2026.
Relatórios Técnicos
-
McKinsey & Company. Seizing the Agentic AI Advantage.
-
McKinsey & Company. The State of AI.
-
Gartner. Hype Cycle for Agentic AI.
-
World Economic Forum. The Future of Jobs Report 2025.
-
Stanford University. AI Index Report 2025.
Documentação Técnica
-
OpenAI Research.
-
Anthropic Research.
-
Google DeepMind Research.
-
Microsoft Research AI.
-
NVIDIA AI Research.
-
Anthropic. Model Context Protocol (MCP).
Links das Fontes
-
https://www.mckinsey.com/capabilities/quantumblack/our-insights/seizing-the-agentic-ai-advantage
-
https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
-
https://www.weforum.org/reports/the-future-of-jobs-report-2025