Vigìle: Agentic UX e a construção de confiança em um agente autônomo
Donos de pequenos comércios recebem dezenas de alertas falsos por dia e ignoram quase todos. Este concept case desenha um agente autônomo que assiste às câmeras 24/7, investiga cada evento e só aciona o humano quando faz sentido — explorando as cinco tensões centrais da relação humano–agente.
As cinco tensões que o case resolve
O problema
Sistemas de monitoramento tradicionais disparam uma notificação para cada movimento detectado. O resultado é previsível: o dono de um pequeno comércio recebe dezenas de alertas falsos por dia, para de olhar, e o sistema perde a única função que tinha. A dor central não é técnica — é o excesso de ruído e a falta de confiança para delegar.
A hipótese do projeto: um agente que investiga antes de interromper só funciona se a interface resolver as cinco tensões acima. Cada tela a seguir ataca uma delas.
Tela principal · transparência + confiança + interrupção
Raciocínio visível enquanto o agente age
Durante uma investigação, o agente expõe cada etapa do raciocínio em tempo real, declara o nível de confiança da avaliação atual e mantém um controle sempre-presente para o humano assumir.
Provável entregador — ainda confirmando. Não vou te acordar por isso, a menos que mude.
A transparência só reduz a ansiedade se vier antes da conclusão, não depois. A confiança aparece como número + consequência ("não vou te acordar por isso") — porcentagem sozinha não orienta decisão. E interromper não pode custar mais que confiar.
Tela 1 · autonomia vs. controle
Delegação como contrato, não como slider
O usuário escolhe o nível de autonomia em linguagem de consequência ("age e me informa"), define exceções invioláveis por tipo de evento e horário, e o agente devolve o combinado em uma frase de linguagem natural. Se a frase soar errada, a configuração está errada.
Nível de autonomia
Limites — ele nunca decide sozinho
Delegação não é um slider abstrato — é um contrato. Sem exceções explícitas ("ele nunca decide sozinho quando…"), o usuário não entrega o controle; sem a frase-resumo, ele não sabe o que assinou.
Tela 2 · interrupção e decisão crítica
Handoff: a decisão final é do humano
Quando o evento cruza um limite definido pelo usuário, o agente para e entrega: situação, evidência, recomendação com grau de certeza e as opções — nunca uma pergunta em aberto.
Câmera 4 · Fundos · hoje, 02:37 — este é um limite que você definiu: eu nunca decido sozinho.
Recomendo acionar a central de segurança. Rosto não cadastrado, madrugada, comportamento de arrombamento. Já liguei as luzes externas e estou gravando.
Ver como cheguei nissoSem resposta em 2 min, sigo o combinado: aciono a central.
No handoff, o agente não pergunta "o que eu faço?" — apresenta situação, evidência e recomendação. A decisão continua do usuário, mas nunca a partir do zero, e o fallback combinado ("sem resposta em 2 min, aciono") evita que a hesitação humana vire vulnerabilidade.
Tela 3 · recuperação de erro
Quando o agente erra, ele admite — e aprende
O agente classificou o próprio dono como pessoa não reconhecida. O estado de recuperação mostra o que ele viu vs. o que deveria ter reconhecido, aceita a correção em um toque e explica o que muda a partir dela.
Hoje, 07:02 · Câmera 1 · Entrada — você chegou 1h antes do habitual e de boné.
Quem estava na imagem?
Atualizo seu cadastro facial com esta imagem e paro de tratar chegada antecipada como suspeita. Erros como este caíram de 9 para 2 por semana desde que vocês começaram a corrigir.
Confiança se reconstrói na falha, não no acerto. O agente admite o erro em primeira pessoa e explicita o que aprende com a correção — feedback sem consequência visível parece um buraco negro, e o usuário deixa de corrigir.
O insight
Não se desenha um agente. Desenha-se a relação de confiança entre a pessoa e o agente.O que faz alguém delegar não é a inteligência do sistema — é entender o que ele está fazendo, poder interrompê-lo e vê-lo admitir o erro. As telas mais difíceis de um produto agêntico não são as do sucesso: são a da delegação (o que eu entrego?) e a do erro (posso confiar de novo?). É nelas que a relação sobrevive ou morre.
Takeaways
Ninguém entrega autonomia em abstrato — entrega dentro de limites que ele mesmo escreveu e pode reler em uma frase.
"78%" não orienta. "78% — não vou te acordar por isso" sim. Toda sinalização de incerteza vem acoplada ao que o agente fará com ela.
Admitir em primeira pessoa, corrigir em um toque e mostrar o que mudou — é aí que a relação de delegação sobrevive ou morre.
As variações de fluxo e os estados de falha foram explorados com IA; o julgamento sobre quais tensões importavam, e o que era aceitável entregar a um agente, não.
Referências
As cinco tensões e as hipóteses de design deste case se apoiam em pesquisa estabelecida de interação humano-IA e confiança em automação — não em intuição isolada:
- Autonomia · ErroAmershi, S. et al. (2019). Guidelines for Human-AI Interaction. Proceedings of the 2019 CHI Conference — 18 diretrizes validadas com 49 praticantes de design em 20 produtos de IA. Base das telas de delegação e de recuperação de erro. microsoft.com/haxtoolkit
- ConfiançaLee, J. D. & See, K. A. (2004). Trust in Automation: Designing for Appropriate Reliance. Human Factors, 46(1), 50–80. Referência central sobre confiança calibrada: confiança em excesso leva a mau uso, confiança de menos leva ao abandono do sistema. Fundamenta a Tela principal (78% + consequência). doi.org/10.1518/hfes.46.1.50_30392
- TransparênciaGoogle PAIR (People + AI Research). People + AI Guidebook. Diretrizes sobre explicabilidade e definição de expectativas antes e durante o uso de sistemas de IA. pair.withgoogle.com/guidebook
- InterrupçãoHoff, K. A. & Bashir, M. (2015). Trust in Automation: Integrating Empirical Evidence on Factors That Influence Trust. Human Factors, 57(3), 407–434. Sobre custo de interrupção e o equilíbrio entre autonomia do sistema e controle humano no momento certo.
- ContextoNielsen Norman Group. AI for UX: Getting Started e artigos correlatos sobre agentic AI. Panorama aplicado de UX para sistemas de IA que agem, não só respondem. nngroup.com
As telas e o produto são fictícios; a literatura citada é real e pode ser conferida nos links acima.