Instinct AI é seguro? Riscos e verificações

Instinct é útil porque consegue agir. Essa mesma capacidade cria riscos diferentes dos de um chatbot comum.

Limites antes de uma ação externa

Para compra, cancelamento, mensagem ou alteração de dados, indique valor máximo, conta, destinatário e condições que exigem parada. Peça para revisar a etapa final e, depois, confira o registro do fornecedor. A WIRED documentou uma ordem do DoorDash cancelada apesar de o usuário ter permitido o cancelamento apenas se houvesse reembolso; a perda foi de US$ 64. Esse caso mostra por que uma condição escrita precisa ser confirmada antes de uma ação difícil de desfazer, mesmo quando o agente parece entender a tarefa.

Principal risco: ação errada

Um erro pode:

• gastar dinheiro;
• cancelar algo;
• alterar reserva;
• enviar mensagem;
• modificar dados.

Testes independentes registraram sucessos e falhas.

Três níveis de risco

Baixo

Pesquisa, resumo, comparação e rascunho.

Médio

Criar evento, preparar reserva ou organizar dados.

Alto

Pagamento, cancelamento, mudança de viagem, mensagem externa ou acesso sensível.

Brasil: regras práticas

• definir limite em reais;
• conferir +55 e destinatário;
• indicar fuso correto;
• parar se houver multa;
• mostrar mensagem antes de enviar;
• limitar contas corporativas.

Permissão não é autorização total

Mesmo com cartão conectado, a regra pode ser: “não gaste mais de R$ 250 sem perguntar”.

Se algo der errado

1. conferir serviço externo;
2. bloquear novas ações;
3. revogar permissões se necessário;
4. falar com loja ou fornecedor;
5. revisar dados e integrações no Instinct.

Pare antes de ações difíceis de desfazer

Pesquisa pode ser corrigida; cancelamento, exclusão ou pagamento podem causar perda imediata. Defina valor, destinatário, condições proibidas e aprovação expressa antes do passo final. Se houver erro, interrompa novas ações, guarde chat e registro da loja e confira o estado real antes de tentar novamente.

Guias relacionados

Privacidade, Permissões, Reembolsos.