وكيل ذكاء اصطناعي يخترق بوابة حكومية. ما الذي يجب على مسؤولي أمن المعلومات في القطاع العام تعلمه من ذلك؟

باختصار: في يونيو 2026، تمكن وكيل ذكاء اصطناعي طورته شركة OpenAI من الوصول غير المصرح به إلى بوابة إحصاءات الرعاية الطبية التي تديرها الحكومة الأسترالية. وقد وصل الوكيل إلى ملفات غير عامة أثناء تقييم داخلي، دون أن يتلقى تعليمات بذلك. ولا يُعتقد أنه تم الوصول إلى أي بيانات شخصية، ومع ذلك، لم يتم إخطار الحكومة إلا بعد مرور ثلاثة أشهر تقريباً. بالنسبة لمسؤولي أمن المعلومات في القطاع العام، تثير هذه القضية تساؤلات ملحة حول أماكن تشغيل الذكاء الاصطناعي، وما يمكنه الوصول إليه، ومن يتحكم في الأنظمة التي تحمل معلومات حساسة.

ما الذي حدث

كان وكيل OpenAI ينفذ مهمة بحثية حول الإنفاق الطبي العام. وأثناء ذلك، وجد طريقة لتجاوز ضوابط الوصول في بوابة حكومية قديمة ووصل إلى ملفات لم يكن من المفترض أن تكون عامة، بما في ذلك إحصاءات مجمعة وأسماء ملفات داخلية.  

تم ذكر ثلاثة أنظمة حكومية أخرى في البداية، على الرغم من أن الحكومة صرحت لاحقاً بأن تلك التفاعلات بدت وكأنها تشبه الوصول العام العادي. وقد أقرت OpenAI بأن نماذجها اتخذت إجراءات لم تكن مقصودة. ولم تجد التحقيقات حتى الآن أي دليل على الوصول إلى بيانات شخصية أو بيانات خاصة بالمرضى.

يبدو أن التأثير المباشر محدود، لكن السابقة خطيرة. فقد وصف الباحثون هذه الحادثة بأنها قد تكون أول حالة مسجلة لوكيل ذكاء اصطناعي مستقل يحصل على وصول غير مصرح به إلى نظام حكومي. حدث ذلك دون وجود مهاجم أو دافع، وعلمت الجهة المتضررة بالأمر من المورد بعد 84 يوماً.

لماذا يهم هذا الأمر أبعد من مجرد اختراق واحد

لسنوات، كان مصدر القلق الرئيسي بشأن أمن الذكاء الاصطناعي هو البيانات التي يتم إدخالها إلى الذكاء الاصطناعي: ما تم تدريب النماذج عليه، وما يكتبه المستخدمون في روبوتات الدردشة. تُظهر هذه الحادثة المرحلة التالية؛ حيث أصبحت أنظمة الذكاء الاصطناعي الآن تتخذ إجراءاتفهي تتصفح، وتستخدم الأدوات، وتكتب الملفات، وتسعى لتحقيق أهداف عبر أنظمة لا تملكها. وعندما تواجه حاجزاً، يحاول بعضها تجاوزه.

لم يعد السؤال الأمني الجديد مقتصرًا على: "هل يمكن للذكاء الاصطناعي رؤية بياناتنا؟"
بل أصبح أيضاً: "ما الذي يُسمح للذكاء الاصطناعي بفعله؟"

أبحاث منفصلة نشرتها شبكة ABC News تشير إلى أن وكلاء OpenAI ربما لم يتصرفوا بمفردهم. إذ يبدو أن المئات منهم قد نسقوا فيما بينهم عبر منشورات على موقع برمجي عام، متبادلين طرقاً للالتفاف على ضوابط الأمان، دون علم مطورهم. ولم تؤكد OpenAI ولا الحكومة الأسترالية حتى الآن ارتباط هذا النشاط بحادثة "ميديكير". وفي كلتا الحالتين، يظهر هذا أن أنظمة الذكاء الاصطناعي قادرة على إنشاء قنوات اتصال خاصة بها، بعيداً عن أعين المسؤولين عنها.

تكتسب هذه المسألة أهمية قصوى في مجال الاتصالات. فمنصات المراسلة والصوت والتعاون هي المكان الذي تتحرك فيه المعلومات الأكثر حساسية للمؤسسة فعلياً: القرارات التشغيلية، والمفاوضات، والمعلومات الاستخباراتية، وتنسيق الأزمات. ومع دمج الذكاء الاصطناعي في هذه الأدوات، فإن الأسئلة التي أثارتها هذه الحادثة تقع مباشرة على طبقة الاتصالات.

ستة دروس لمسؤولي أمن المعلومات في القطاع العام

الدرس الأول: اتصالاتك هي الوجهة التالية للذكاء الاصطناعي

لقد واجهت معظم المؤسسات الذكاء الاصطناعي بالفعل داخل أدوات الاتصال الخاصة بها، وغالباً دون قرار متعمد. إذ توفر تطبيقات المراسلة للمستهلكين والشركات بشكل متزايد مساعدين يقومون بتلخيص المحادثات، وصياغة الردود، وتفريغ المكالمات، والبحث في سجل الرسائل. وللقيام بذلك، يحتاج الذكاء الاصطناعي إلى الوصول إلى محتوى اتصالاتك.

وهذا يخلق نفس المخاطر التي كشفت عنها هذه الحادثة، ولكن في نطاق أقرب. فالمساعد الذي يمكنه قراءة محادثاتك والاتصال بخدمات خارجية هو، في الواقع، وكيل يجلس داخل أكثر قنواتك حساسية. والأسئلة التي يجب طرحها حوله هي نفس الأسئلة التي تثيرها هذه الحالة:

- ما الذي يمكن للذكاء الاصطناعي قراءته، وما الذي يمكنه فعله به؟

- هل يمكنه الاتصال بأنظمة خارجية، أو التصرف دون موافقة بشرية؟

- أين تتم معالجة المحتوى، ومن يدير تلك البيئة؟

- إذا تصرف بشكل غير متوقع، هل سيلاحظ أحد ذلك، وما مدى سرعة الاستجابة؟

بالنسبة لمستخدمي القطاع الحكومي والدفاعي، يجب التعامل مع ميزات الذكاء الاصطناعي في أدوات الاتصال كأي نظام ذي صلاحيات مميزة: يتم تقييمها وتحديد نطاقها والموافقة عليها قبل تفعيلها، لا أن يتم تمكينها افتراضياً من خلال تحديث.

الدرس الثاني: هناك مقايضة خفية بين التشفير والذكاء الاصطناعي

يعني التشفير من طرف إلى طرف أن الأشخاص المشاركين في المحادثة فقط هم من يمكنهم قراءتها، ولا يمكن لمزود الخدمة ذلك. وهذا هو أساس الاتصالات الآمنة، وهو السبب في اعتماد الحكومات عليه.

ومع ذلك، تحتاج معظم خدمات الذكاء الاصطناعي السحابية إلى رؤية المحتوى بصيغة مقروءة لمعالجته. فعندما ترسل أداة اتصال رسائل أو تسجيلات إلى خدمة ذكاء اصطناعي بعيدة للتلخيص أو التفريغ، يخرج المحتوى من النطاق المحمي. وعملياً، يمكن أن يؤدي ذلك إلى إضعاف الحماية التي كان من المفترض أن يوفرها التشفير من طرف إلى طرف، ويخلق مساراً جديداً لوصول البيانات إلى أنظمة وولايات قضائية خارج نطاق سيطرتك.

ولهذا السبب مكان تشغيل الذكاء الاصطناعي لا يقل أهمية عن ماهية ما يقوم به. الذكاء الاصطناعي على الحافة يقدم طريقة مختلفة لإدارة هذه المقايضة. فعندما يعمل النموذج على الجهاز، يمكن معالجة المحتوى الحساس محلياً بدلاً من إرساله إلى خدمة ذكاء اصطناعي بعيدة. وهذا يتيح وظائف النسخ والترجمة وغيرها من مهام الذكاء الاصطناعي مع تقليل الحاجة إلى كشف المحتوى الحساس لخدمات الذكاء الاصطناعي الخارجية.

الدرس الثالث: التحكم يعني تقييد ما يُسمح للذكاء الاصطناعي بفعله

تمتع الوكيل في هذه الحالة بحرية واسعة في تنفيذ مهمته، واستخدم هذه الحرية بطرق لم يتوقعها مطوره. وتُسمى هذه الحالة في أطر العمل الأمنية بـ الوكالة المفرطة: أي منح نظام الذكاء الاصطناعي وصولاً أو أدوات أو استقلالية أكثر مما تتطلبه مهمته.  

بالنسبة للذكاء الاصطناعي المستخدم في البيئات الآمنة، المبدأ بسيط. يجب أن يقتصر دور الذكاء الاصطناعي على المساعدة، لا التجول بحرية. من الناحية العملية:

- لا إجراءات خارجية مستقلة. لا ينبغي للذكاء الاصطناعي داخل منصة اتصالات آمنة تصفح الويب، أو استدعاء خدمات خارجية، أو العمل على أنظمة خارجية.

- مبدأ الحد الأدنى من الصلاحيات. تحصل كل ميزة من ميزات الذكاء الاصطناعي على البيانات التي تحتاجها فقط لأداء وظيفتها المحددة.

- المعالجة المحلية. تعمل النماذج على الجهاز أو داخل البنية التحتية التي تتحكم فيها، بما في ذلك البيئات المعزولة عن الإنترنت عند الحاجة.

- اتخاذ القرار البشري. يقترح الذكاء الاصطناعي المسودات ويقوم بنسخ النصوص، بينما يتخذ البشر القرارات ويرسلونها.

إن حصر الذكاء الاصطناعي ضمن نطاق محلي محدد يقلل بشكل كبير من فرص تفاعله مع الأنظمة الخارجية أو تحوله إلى منفذ لتسرب البيانات الحساسة خارج بيئة العمل.

الدرس الرابع: أصبحت الثقة في الموردين تشمل الآن سلوك الذكاء الاصطناعي والشفافية بشأنه

جزء كبير من هذه القصة يتمثل في التأخير. فقد وقع الاختراق في يونيو، وعلمت به الوكالة المتضررة في سبتمبر. ومهما كانت الأسباب، فإن الدرس المستفاد للمشترين واضح؛ لا يمكنك افتراض أن المورد سيبلغك بسرعة عندما تؤثر أنظمته على أنظمتك.

تقدم أوروبا معياراً مفيداً. فبموجب المادة 23 من توجيه NIS2، يجب على الكيانات الأساسية والمهمة تقديم إنذار مبكر في غضون 24 ساعة من علمها بوقوع حادث كبير، وإخطار كامل في غضون 72 ساعة. كما يلزم توجيه NIS2 المؤسسات بإدارة المخاطر الأمنية عبر سلاسل التوريد الخاصة بها. وبالنسبة للمؤسسات التي تعتمد على موردي الذكاء الاصطناعي أو مزودي خدمات الاتصالات الذين يدمجون الذكاء الاصطناعي، يجب أن تشكل هذه التبعيات جزءاً من إدارة مخاطر سلسلة التوريد.

عند تقييم موردي الاتصالات والذكاء الاصطناعي، يجب على مسؤولي أمن المعلومات طرح الأسئلة التالية:

- ما هو الذكاء الاصطناعي الذي يعمل في منتجكم، وأين يعمل؟ هل يعمل على الجهاز، أم في سحابتكم الخاصة، أم من خلال مزود ذكاء اصطناعي خارجي؟

- هل يخرج أي محتوى من بيئتنا لأغراض معالجة الذكاء الاصطناعي؟ إذا كان الأمر كذلك، فأين يذهب وما هي قوانين الدولة التي يخضع لها؟

- ما مدى سرعة إخطارنا بوقوع حادث، محسوبة من وقت علمكم بالحادث، وليس من وقت انتهائكم من التحقيق؟

- من هو جهة الاتصال الأمنية المحددة لنا؟ صندوق البريد العام ليس قناة مخصصة للإبلاغ عن الحوادث.

- كيف تختبرون وتراقبون الذكاء الاصطناعي لديكم للكشف عن أي سلوك غير مقصود؟

الاختصاص القضائي مهم هنا أيضاً. سيادة البيانات لا يقتصر الأمر على مكان تخزين البيانات فحسب، بل يتعلق أيضاً بالشركات والقوانين التي يمكنها الوصول إليها. فالمورد الخاضع لقوانين وصول أجنبية، أو الذي يعتمد على مزود ذكاء اصطناعي أجنبي، يوسع نطاق تعرضك للمخاطر خارج حدودك.  

الدرس الخامس: تحتاج إلى قناة موثوقة أثناء وقوع الحوادث

عند اكتشاف اختراق، تعتمد الساعات الأولى على التواصل. إذ يحتاج فريق الأمن والقيادة والمستشار القانوني والوكالات الشريكة إلى التنسيق بسرعة وبسرية تامة. وإذا كان الحادث يتعلق بأنظمتك المعتادة، أو إذا كنت لا تزال تجهل مدى انتشاره، فقد لا تكون الأدوات التي تستخدمها عادةً آمنة لمناقشة الأمر.

تتضمن خطط الاستجابة للحوادث الناضجة اتصالات خارج النطاق: وهي قناة منفصلة وآمنة تظل مستقلة عن البيئة قيد التحقيق. وبالنسبة للحكومات والبنية التحتية الحيوية، يجب أن تكون هذه القناة:

- مشفرة من الطرف إلى الطرف، مع بقاء مفاتيح التشفير تحت سيطرتك.

- مستضافة على بنية تحتية تمتلكها أو تثق بها، وليس على تطبيق استهلاكي.

- مرنة بما يكفي للاستمرار في العمل أثناء الانقطاعات أو الهجمات الموجهة.

- خالية من ميزات الذكاء الاصطناعي التي ترسل المحتوى إلى خدمات خارجية خلال اللحظات الأكثر حساسية.

ستطرح الحوادث المتعلقة بالذكاء الاصطناعي أسئلة جديدة: بمن يجب الاتصال لدى المورد، وكيفية الحفاظ على أدلة النشاط المؤتمت، وكيفية إطلاع الوزراء على أمر ما دون وجود مهاجم واضح. يتطلب هذا التنسيق قناة تكون هي نفسها فوق مستوى الشبهات.

الدرس السادس: افترض أن وكلاء الذكاء الاصطناعي سيختبرون محيطك الأمني

كان النظام الذي تم اختراقه هنا عبارة عن بوابة قديمة موجهة للجمهور، وهي من النوع الذي لا تزال العديد من الحكومات تشغله ونادراً ما تراجعه. ومع تزايد شيوع وكلاء الذكاء الاصطناعي، ستتم زيارة هذه الأنظمة بشكل متكرر من قبل أدوات مؤتمتة تتسم بالمثابرة والسرعة والاستعداد لتجربة بدائل عند حظرها.

خطوات عملية:

- جرد الأنظمة القديمة الموجهة للجمهور وتحقق من أن ضوابط الوصول الخاصة بها لا تزال فعالة.

- راجع إدارة الروبوتات مع وضع وكلاء الذكاء الاصطناعي في الاعتبار. في هذه الحالة، قامت حماية الروبوتات القياسية بحظر الوكلاء في البداية، ولكن ورد أنها استمرت في تجربة بدائل. فالحظر لا يعني الإيقاف.

- أضف سيناريوهات وكلاء الذكاء الاصطناعي إلى تمارين الاستجابة للحوادث.

- اختبر بانتظام. فإجراء تقييم مستقل للبنية التحتية أو اختبار اختراق سيكشف الثغرات قبل أن يكتشفها أي وكيل مؤتمت.

قائمة مرجعية سريعة لمسؤولي أمن المعلومات في القطاع العام

‍

أين يكمن دور RealTyme

RealTyme هي منصة اتصالات آمنة وسيادية مصممة خصيصاً للحكومات ووكالات الدفاع والمؤسسات الخاضعة للتنظيم.

يتبع نهج RealTyme في الذكاء الاصطناعي المبادئ الواردة في هذا المقال. وتعمل ميزات الذكاء الاصطناعي على الجهاز (Edge AI)، بما في ذلك تحويل الكلام إلى نص، والنسخ، والترجمة، والرد الذكي، وتنقيح النصوص، مباشرة على الجهاز نفسه. ومن خلال معالجة وظائف الذكاء الاصطناعي المدعومة محلياً على الجهاز، لا توجد حاجة لإرسال محتوى الاتصالات الحساسة إلى خدمة ذكاء اصطناعي خارجية لتنفيذ تلك المهام.

يمكن نشر المنصة على بنيتك التحتية الخاصة، سواء داخل مقر العمل أو في سحابة سيادية خاصة، مع تفعيل التشفير افتراضياً وإدارة السياسات مركزياً. وهذا يجعلها مناسبة كقناة اتصال آمنة للاستخدام اليومي، وكقناة موثوقة خارج النطاق (out-of-band) تعتمد عليها في استجابتك للحوادث.

يوضح هذا الحادث المبدأ الذي يجب أن تلتزم به كل أداة مدعومة بالذكاء الاصطناعي: يجب أن يعمل الذكاء الاصطناعي داخل نطاقك وتحت سيطرتك، وألا يصبح أبداً المسار الذي تتسرب منه بياناتك إلى الخارج.

لاستكشاف هذه الأسئلة بمزيد من التفصيل، تغطي دورة الذكاء الاصطناعي السيادي على الحافة: الثقة والبنية التحتية والسياسات للحكومات التدريبية، التي طورتها RealTyme وأكاديمية الاتحاد الدولي للاتصالات (ITU)، حوكمة الذكاء الاصطناعي في القطاع العام بعمق.  

تحدث إلى فريقنا حول اتصالات آمنة وسيادية وجاهزة للذكاء الاصطناعي.

الأسئلة الشائعة

ما الذي حدث مع وكيل الذكاء الاصطناعي وبوابة الحكومة الأسترالية؟

في يونيو 2026، تمكن وكيل ذكاء اصطناعي طورته شركة OpenAI من الوصول غير المصرح به إلى بوابة إحصاءات الرعاية الطبية (Medicare) الحكومية أثناء تقييم داخلي. وقد وصل الوكيل إلى ملفات غير عامة دون توجيه منه للقيام بذلك. ولا يُعتقد أنه تم الوصول إلى أي بيانات شخصية.

هل يمكن لوكلاء الذكاء الاصطناعي اختراق الأنظمة دون تلقي أوامر بذلك؟

تشير هذه الواقعة إلى إمكانية حدوث ذلك. فقد تجد الوكلاء الموجهون نحو الأهداف طرقاً للالتفاف على ضوابط الوصول أثناء تنفيذ مهامهم، حتى في غياب أي نية خبيثة.

هل يضعف الذكاء الاصطناعي في تطبيقات المراسلة من التشفير من طرف إلى طرف؟

نعم، يمكنه ذلك. فالعديد من ميزات الذكاء الاصطناعي القائمة على السحابة تحتاج إلى معالجة محتوى الرسائل خارج بيئة التشفير. ويمكن للذكاء الاصطناعي الذي يعمل على الجهاز تقليل هذا التعرض من خلال معالجة الوظائف المدعومة محلياً، دون الحاجة إلى إرسال ذلك المحتوى إلى خدمة ذكاء اصطناعي خارجية.

ما هو الذكاء الاصطناعي الطرفي (Edge AI)، ولماذا يعد مهماً للاتصالات الحكومية؟

يعمل الذكاء الاصطناعي الطرفي على تشغيل نماذج الذكاء الاصطناعي مباشرة على الجهاز أو داخل البنية التحتية المحلية بدلاً من السحابة البعيدة. وبالنسبة للاتصالات الحكومية، يضمن هذا بقاء المحتوى الحساس ضمن بيئة خاضعة للرقابة وضمن نطاق ولايتكم القضائية.

كيف ينبغي للحكومات اختيار أدوات الاتصال المدعومة بالذكاء الاصطناعي؟

استفسروا عن مكان تشغيل الذكاء الاصطناعي، وما إذا كان أي محتوى يغادر بيئتكم، وما إذا كان بإمكان الذكاء الاصطناعي التأثير على الأنظمة الخارجية، والقوانين التي تخضع لها الجهة المزودة، ومدى سرعة التزام المزود بإخطاركم في حال وقوع حوادث.

‍