هل تعلم أن أنظمة الذكاء الاصطناعي يمكن أن تتعطل بصمت دون أن يلاحظ أحد؟ هذا اكتشاف مهم يجب أن نعرفه جميعاً. مؤخراً، قامت إحدى الشركات بتدقيق نظامها الخاص الذي يعتمد على وكلاء ذكاء اصطناعي يعملون بشكل مستقل. لقد قاموا باختباره ببساطة كالمستخدم العادي، ليقلدوا طريقة عمل المستخدم النهائي. ما وجدوه كان صادماً: حوالي 34 ميزة كان من المفترض أن تعمل وتواجه المستخدم، كانت قد توقفت تماماً أو لم يتم توصيلها أبداً. الأسوأ من ذلك، أن لوحات التحكم كانت لا تزال تظهر أن كل شيء يعمل بشكل مثالي! لم تكن هناك أي إنذارات، ولا أعطال، ولا أي شيء يشير إلى مشكلة، فقط صمت مطبق. كان النظام يعيد رسالة «لا يوجد شيء هنا» بلطف، بينما تظل لوحات المراقبة خضراء بالكامل. تخيل لو أن هذه الميزات الصامتة كانت تتعامل مع تحويلات مالية، أو فحوصات أهلية حساسة، أو عمليات استلام مطالبات لشركة حقيقية. كانت النتيجة ستكون خسارة مالية كبيرة وحقيقية، وربما فادحة، دون وجود أي خرق أمني للإبلاغ عنه، أو أي تاريخ محدد للحادث، أو حتى أي طرف مهاجم يمكن تحديد هويته. هنا تكمن المشكلة الكبرى: أدوات الأمان التقليدية وسياسات التأمين مصممة للتعامل مع الهجمات الخارجية، أو البرمجيات الخبيثة، أو الأعطال الواضحة التي تطلق الإنذارات. ولكن هذا النوع الجديد من الفشل، الذي يسميه الخبراء «فشل الذكاء الاصطناعي غير العدائي والصامت والمترابط»، يتجاوز هذه الأدوات بشكل كامل. لا يوجد «عدو» هنا؛ إنها الأنظمة نفسها التي تفشل بهدوء في أداء وظيفتها الأساسية دون إحداث أي ضجة. لم يقم أحد بمهاجمة النظام، ولم يتعطل شيء، ولم يطلق أي إنذار. هذا يعني أن الشركات التي تعتمد بشكل متزايد على وكلاء الذكاء الاصطناعي يجب أن تعيد التفكير في كيفية مراقبة هذه الأنظمة وحمايتها. لم يعد كافياً مجرد البحث عن الاختراقات الأمنية أو الأعطال الكبيرة. يجب عليهم الآن البحث عن «الصمت»، عن الميزات التي لا تعمل بهدوء في الخلفية، والتي يمكن أن تؤدي إلى خسائر حقيقية. يجب أن نكون جميعاً أكثر وعياً بهذا النوع من المخاطر الجديدة مع تزايد استخدام الذكاء الاصطناعي في حياتنا اليومية وأعمالنا. فالفشل الصامت يمكن أن يكون له عواقب مدمرة تماماً مثل الهجوم الواضح أو الانهيار المفاجئ.