Instinct resulta útil precisamente porque puede actuar. Esa capacidad también crea un tipo de riesgo distinto al de un chatbot tradicional.
Puntos de aprobación para tareas sensibles
Al delegar una compra, cancelación, mensaje o cambio de datos, indique el límite de importe, destinatario, cuenta y condiciones que obligan a detenerse. Exija que el agente muestre el paso final antes de ejecutarlo y compruebe después el registro del comercio o servicio. WIRED documentó una cancelación de DoorDash que incumplió la condición de recibir reembolso y costó 64 dólares. Ese caso explica por qué una orden condicional debe verificarse antes de una acción irreversible, incluso cuando el agente parece haber entendido la petición.
El problema principal: una acción equivocada
Un error puede:
- gastar dinero;
- cancelar algo;
- modificar una reserva;
- enviar un mensaje;
- cambiar datos.
Las pruebas independientes han documentado tanto éxitos como fallos.
Tres niveles de riesgo
Bajo
Búsqueda, resumen, comparación o borrador.
Medio
Crear eventos, preparar una reserva, organizar información.
Alto
Pago, cancelación, cambio de viaje, mensaje externo o acceso sensible.
España: reglas útiles
- fijar límite en euros;
- comprobar
+34y destinatario; - indicar zona horaria;
- detenerse si hay penalización;
- mostrar mensajes antes de enviarlos;
- limitar cuentas corporativas.
Permiso no significa autorización total
Puede tener acceso a una tarjeta pero seguir una regla como “no pagues más de 50 € sin preguntarme”.
Si algo sale mal
- comprobar el servicio externo;
- detener nuevas acciones;
- revocar permisos si hace falta;
- contactar con comercio o proveedor;
- revisar los datos o conexiones en Instinct.
Deténgase ante acciones difíciles de revertir
Una búsqueda se corrige fácilmente; cancelar, borrar o pagar puede causar una pérdida inmediata. Defina importe, destinatario, condiciones prohibidas y autorización expresa antes del último paso. Si ocurre un error, detenga nuevas acciones, conserve chat y registro del comercio y compruebe el estado real antes de repetir la tarea.