Subtítulo: En 40.000 simulaciones, los humanos dejaron pasar el 33% de las acciones peligrosas de un agente de IA. Estas 5 preguntas te dicen si tu sistema de citas tiene ese mismo agujero.
Un estudio publicado esta semana en Hacker News analizó 40.000 simulaciones donde agentes de IA ejecutaban acciones reales. Los humanos que supervisaban aprobaron 1 de cada 3 acciones maliciosas sin darse cuenta. Si tu clínica, taller o gestoría usa un agente de IA para gestionar citas, recordatorios o respuestas automáticas, necesitas saber si tu sistema pasa estas 5 preguntas. Porque el problema no es que la IA falle — es que nadie revisa cuándo falla.
El dato que debería incomodarte
La semana del 6 de agosto de 2026, un hilo en Hacker News acumuló cientos de comentarios debatiendo un estudio de Scalex: 40.000 ejecuciones de agentes de IA con supervisión humana. El resultado fue que los humanos detectaron el fraude o el error en solo el 67% de los casos. Un tercio pasó sin que nadie lo viera.
¿Qué tiene que ver con tu clínica dental o tu taller mecánico? Todo. Porque cada vez más pymes españolas usan agentes de IA — bots de WhatsApp, sistemas de confirmación de citas, respuestas automáticas a consultas — sin un protocolo para verificar qué hace ese agente cuando nadie lo mira.
No hablamos de ciencia ficción. Hablamos del bot que confirma una cita para el martes cuando el médico solo trabaja lunes y jueves. Del recordatorio que envía el precio antiguo de una consulta. De la respuesta automática que dice “sí, aceptamos su seguro” cuando llevan 6 meses sin aceptarlo.
Pregunta 1: ¿Qué pasa cuando tu agente no sabe la respuesta?
Esta es la pregunta más importante y la que menos gente se hace. Cuando un paciente escribe por WhatsApp “¿tenéis fisioterapia pediátrica?” y tu agente de IA no tiene esa información en su base de datos, ¿qué hace?
Hay tres comportamientos posibles, y solo uno es correcto:
- Inventa una respuesta. Dice que sí, ofrecen fisioterapia pediátrica, cuando no es verdad. El paciente llega, se frustra, no vuelve. Este fallo es silencioso — tú nunca te enteras.
- No responde. El mensaje queda en visto. El paciente asume que eres poco profesional y llama a otro. También silencioso.
- Deriva a un humano. “No tengo esa información, pero te paso con María que te atiende en 5 minutos.” Este es el comportamiento correcto.
Si no sabes cuál de los tres tiene configurado tu agente, ya tienes tu primera alerta.
Pregunta 2: ¿Tu agente sabe qué NO puede decir?
Un agente de IA que gestiona citas en una clínica maneja datos de salud — la categoría más protegida por el RGPD. Si tu bot confirma una cita de dermatología en un mensaje de WhatsApp que también incluye el nombre completo del paciente y la hora, está transmitiendo datos sanitarios a los servidores de Meta.
La pregunta no es si tu agente es útil. La pregunta es si sabe qué información no debe incluir en un mensaje abierto. ¿Dice “su cita de oncología” o solo “su cita del martes”? ¿Menciona el tratamiento o solo la fecha?
«El tratamiento de categorías especiales de datos personales, como los datos de salud, solo se permite cuando el interesado ha dado su consentimiento explícito para el tratamiento.» — RGPD, Art. 9
Si tu agente no tiene reglas claras sobre qué datos puede mencionar en cada canal, estás a una auditoría de la AEPD de descubrirlo.
Pregunta 3: ¿Alguien revisa lo que el agente hizo ayer?
En el estudio de Scalex, el 33% de las acciones incorrectas pasaron porque nadie las revisó. En tu negocio, el equivalente es: ¿tu equipo revisa cada mañana qué citas confirmó el bot, a quién respondió y qué dijo?
La mayoría de las pymes que usan agentes de IA tienen un panel de control que nadie abre. El bot funciona “solo” — hasta que confirma una cita doble, envía un recordatorio con el precio equivocado, o responde a un paciente que ya no es tuyo.
Un sistema sin revisión diaria no es un sistema automatizado. Es un sistema abandonado. La diferencia entre un agente útil y un agente peligroso no es la tecnología — es si alguien abre el informe cada mañana antes de la primera cita.
Pregunta 4: ¿Qué hace tu agente cuando dos pacientes quieren el mismo hueco?
Los sistemas de citas más avanzados tienen una ventana de entre 2 y 15 segundos donde dos pacientes están reservando el mismo slot. Si tu agente no tiene una regla de prioridad — el que confirma primero se lo queda, o los pacientes VIP tienen preferencia — acabarás con citas dobles.
El problema no es técnico. Es que nadie definió la regla antes de montar el agente. Y cuando llega el conflicto, el bot no sabe qué hacer, así que hace lo peor: confirma las dos citas y avisa a nadie.
Pregunta 5: ¿Cuánto dinero pierdes cuando el agente falla?
Si tu agente confirma 40 citas a la semana y falla en el 5% de los casos (2 citas semanales), y cada cita no gestionada cuesta una media de €45 en ingreso perdido, estás perdiendo €360 al mes — más de €4.300 al año — en fallos que ni siquiera sabes que están pasando.
El cálculo es sencillo. Lo difícil es hacerlo. Porque la mayoría de los dueños de pyme no saben cuántas citas gestiona su agente al mes, ni cuántas falla, ni cuánto cuesta cada fallo. Si tú no lo sabes, tu agente está operando a ciegas.
Tu Quick Win de hoy
Abre el panel de tu agente de IA (o pídele a tu proveedor que te envíe el informe del último mes). Anota 3 números: (1) cuántas interacciones gestionó, (2) cuántas fueron derivadas a un humano, y (3) cuántas quedaron sin respuesta. Si no tienes esos tres números, tu agente está operando sin supervisión. Tienes 10 minutos para pedirlos.
¿Tu agente de IA responde a estas 5 preguntas? Si dudas en alguna, lo mejor es revisarlo antes de que el fallo lo haga visible un paciente.
Solicitar Diagnóstico Gratuito