عنوان فرعي: في 40,000 محاكاة، ترك البشر 33% من أفعال وكيل الذكاء الاصطناعي الخبيثة تمر دون ملاحظة. هذه الأسئلة الـ5 تكشف إذا كان نظام حجزك فيه نفس الثغرة.
دراسة نُشرت هاد الأسبوع على Hacker News حللت 40,000 محاكاة حيث وكلاء الذكاء الاصطناعي نفذو أفعال حقيقية. البشر اللي كانو يراقبو وافقو على 1 من كل 3 أفعال خبيثة بلا ما يحسو. إذا عيادتك أو ورشتك أو مكتب المحاسبة ديالك كيستخدم وكيل ذكاء اصطناعي للمواعيد أو التذكيرات أو الردود التلقائية، خاصك تعرف إذا كان نظامك هادو يجاوب على هاد الأسئلة الـ5. لأن المشكل ماشي هو أن الذكاء الاصطناعي يغلط — المشكل هو أن حتى واحد ما كيراقب كي يغلط.
الرقم اللي خاصو يخليك مقلق
في أسبوع 6 غشت 2026، ثريد على Hacker News جمع مئات التعليقات كتناقش دراسة Scalex: 40,000 تنفيذ لوكلاء ذكاء اصطناعي مع مراقبة بشرية. النتيجة أن البشر اكتشفو الغش أو الخطأ غير فـ 67% من الحالات. الثلث داز بلا ما يحس بيه حتى واحد.
شنو كاين بين هادشي وبين عيادتك لأسنان أو ورشتك الميكانيكية؟ كلشي. لأن كثر وكثر من المقاولات الصغيرة والمتوسطة المغربية كتستعمل وكلاء ذكاء اصطناعي — بوتات WhatsApp، أنظمة تأكيد المواعيد، ردود تلقائية على الاستفسارات — بلا حتى بروتوكول للتحقق من شنو كيديرو هاد الوكيل كيما كاين شي واحد كيراقب.
ما كنهضروش على خيال علمي. كنهضرو على البوت اللي كيأكد موعد يوم الثلاثاء والطبيب ما كيخدم غير الاثنين والخميس. التذكير اللي كيرسل الثمن القديم لconsulta. الرد التلقائي اللي كيقول “إيوا، كانقبلو التأمين ديالك” وهما ما بقاوش كيقبلوه من ست شهور.
السؤال 1: شنو كيوقع كيما الوكيل ما كيعرفش الجواب؟
هاد هو السؤال الأهم واللي أقل ناس كيسولوه. كيما مريض كيكتب على WhatsApp “عندكم علاج طبيعي للاطفال؟” والوكيل ديالك ما عندوش هاد المعلومات فقاعدة البيانات ديالو، شنو كيدير؟
كاينين ثلاثة سلوكيات ممكنة، وواحد غير هو الصحيح:
- كيختلق جواب. كيقول إيوا، عندنا علاج طبيعي للاطفال، وهادشي ماشي بصح. المريض كيوصل، كيتقصح، ما كيرجعش. هاد الإخفاق صامت — عمرك تعرف بيه.
- ما كيجاوبش. الرسالة كتبقى بلا رد. المريض كيعتقد أنك ماشي محترف وكيعطيها لآخر. حتى هو صامت.
- كيحول لإنسان. “ما عنديش هاد المعلومة، ولكن غادي نوصلك بمريم اللي تقدر تعاونك فـ 5 دقايق.” هاد هو السلوك الصحيح.
إذا ما كتعرفش شنو من هاد الثلاثة عندو الوكيل ديالك، عندك أول إنذار.
السؤال 2: الوكيل ديالك كيعرف شنو ما يقدرش يقول؟
وكيل الذكاء الاصطناعي اللي كيسيّر المواعيد فعيادة كيتعامل مع بيانات صحية — الفئة الأكثر حماية من طرف RGPD. إذا البوت ديالك كيأكد موعد طب الجلد فرسالة WhatsApp اللي فيها حتى الاسم الكامل ديال المريض والوقت، كيبعت بيانات صحية لسيرفرات Meta.
السؤال ماشي هو إذا الوكيل ديالك مفيد. السؤال هو إذا كيعرف أنه ما يخصوش يذكر معلومات معينة فرسالة مفتوحة. كيقول “موعدك لعلم الأورام” أو غير “موعدك نهار الثلاثاء”؟ كيذكر العلاج أو غير التاريخ؟
«معالجة الفئات الخاصة من البيانات الشخصية، مثل البيانات الصحية، لا يُسمح بها إلا عندما يُعطي الشخص المعني موافقته الصريحة للمعالجة.» — RGPD، المادة 9
إذا الوكيل ديالك ما عندوش قواعد واضحة على شنو من البيانات يقدر يذكر فكل قناة، أنت فביקורת واحدة من AEPD من أنك تعرف.
السؤال 3: واش شي واحد راجع شنو دار الوكيل البارح؟
في دراسة Scalex، 33% من الأفعال الخاطئة دازو لأن حتى واحد ما راجعهم. فالمقاولة ديالك، المكافئ هو: واش الفريق ديالك كيراجع كل صباح شنو المواعيد اللي أكدها البوت، لمن جاوب، وشنو قال؟
أغلب المقاولات الصغيرة والمتوسطة اللي كتستعمل وكلاء ذكاء اصطناعي عندهم لوحة تحكم حتى واحد ما كيحلها. البوت كيخدم “وحدو” — حتى كيأكد موعد مزدوج، أو كيبعت تذكير بالثمن الغالط، أو كيجاوب لمريض اللي ما بقاش ديالك.
نظام بلا مراجعة يومية ماشي هو نظام مؤتمت. هو نظام مهجور. الفرق بين وكيل مفيد ووكيل خطير ماشي هو التكنولوجيا — هو إذا شي واحد كيحل التقرير كل صباح قبل الموعد اللول.
السؤال 4: شنو كيدير الوكيل ديالك كيما زوج مريضين بغاو نفس الموعد؟
أنظمة الحجز الأكثر تقدماً كيكون عندهم نافذة ديال من 2 لـ 15 ثانية فين زوج مريضين كيحجزو نفس الموعد. إذا الوكيل ديالك ما عندوش قاعدة الأولوية — اللول يأكد كيشد الموعد، أو المرضى VIP كيكون عندهم الأسبقية — غادي تلقى راسك بمواعيد مزدوجة.
المشكل ماشي تقني. المشكل هو أن حتى واحد ما حدد القاعدة قبل ما يبني الوكيل. وكيما كيوصل النزاع، البوت ما كيعرف شنو يدير، وكيفعل أسوء حاجة: كيأكد الزوج مواعيد وما كيقول حتى واحد.
السؤال 5: بشحال كتخسر كيما الوكيل كيغلط؟
إذا الوكيل ديالك كيأكد 40 موعد فالأسبوع وكيغلط فـ 5% من الحالات (زوج مواعيد فأسبوع)، وكل موعد ما تسيّرش كيكلف فالمتوسط 45€ فدخل ضايع، كتخسر 360€ فالشهر — أكثر من 4,300€ فالعام — فإخفاقات ما كتعرف حتى بلي كتوقع.
الحساب ساهل. الصعيبة هي ديره. لأن أغلب المقاولين ما كيعرفوش بشحال من موعد كيسيّر الوكيل ديالهم فالشهر، بشحال كيغلط، أو بشحال كتكلف كل غلطة.إذا ما كتعرفش، الوكيل ديالك خدام على عماه.
Quick Win ديالك اليوم
حل لوحة التحكم ديال الوكيل ديالك (أو طلب من المزود ديالك يبعت ليك تقرير الشهر اللي فات). دوّن 3 أرقام: (1) بشحال من تفاعل تسيّر، (2) بشحال تحول لإنسان، و (3) بشحال بقا بلا رد.إذا ما عندكش هاد الأرقام الثلاثة، الوكيل ديالك خدام بلا مراقبة. عندك 10 دقايق تطلبهم.
واش الوكيل ديالك بالذكاء الصطناعي كيجاوب على هاد الأسئلة الـ5؟إذا كنتي متردد فأي واحد منهم، الأحسن تراجعو قبل ما الإخفاق يولي ظاهر لمريض.
طلب تشخيص مجاني