الذكاء الاصطناعي والأمن السيبراني: فرص ومخاطر حقيقية

 

يقف الذكاء الاصطناعي في الأمن السيبراني على الجانبين في وقت واحد، فهو أداة تمنح المدافعين سرعة لم تكن متاحة، وهو أيضًا سلاح يستخدمه المهاجمون ويضيف أهدافًا جديدة للهجوم. وبين الضجيج التسويقي والتخويف الإعلامي تضيع الصورة الواقعية. يحاول هذا المقال رسم هذه الصورة: ما الفرص، وما المخاطر، وما الذي تفعله المنشأة والفرد اليوم؟ 

كيف يخدم الذكاء الاصطناعي المدافعين؟

أقوى استخدامات الذكاء الاصطناعي في الدفاع هي معالجة الكميات الهائلة من البيانات. فمركز عمليات أمنية قد يتلقى آلاف التنبيهات يوميًا، والتعلم الآلي يساعد على ترتيبها وتجميع المتشابه منها واكتشاف الأنماط الشاذة التي يصعب على البشر ملاحظتها. وهذا يختصر الوقت الذي يحتاجه المحلل ليصل إلى التنبيه الجدير بالاهتمام، ويقلل الإنذارات الكاذبة التي تنهك الفرق، كما بينا في مقال مركز العمليات الأمنية SOC.

كما تساعد النماذج اللغوية الحديثة في تلخيص الحوادث، وشرح الشيفرات المشبوهة، وصياغة التقارير، واقتراح استعلامات للبحث في السجلات، وتسريع التحقيق. وهي تخدم المبتدئين بتقريب المفاهيم، وتخدم الخبراء بتخفيف الأعمال الروتينية. وتتجه الأدوات إلى الأتمتة الجزئية للاستجابة، كعزل جهاز مشبوه تلقائيًا بعد تأكد معيّن، مع بقاء قرار الحالات الحرجة بيد الإنسان.

لكن ينبغي الحذر من المبالغة. فالنموذج يخطئ، وقد يعطي إجابة واثقة وخاطئة، وقد يفوته هجوم جديد لم يرَ مثله. والاعتماد الأعمى عليه قد يخلق ثقة زائفة. والتعامل السليم أن تعد الذكاء الاصطناعي مساعدًا يعزز عمل فريق متمرس لا بديلًا عنه، وأن تختبر ما يقدمه وتحدد متى يجوز له التنفيذ المباشر ومتى يجب أن يراجعه إنسان.

ومن التطبيقات الناضجة نسبيًا كشف الاحتيال المالي، إذ تحلل نماذج التعلم الآلي أنماط العمليات وتصنف ما يخرج عن العادة وتنبه إليه في لحظتها. وتستعمل المصارف هذه الأساليب منذ سنوات، وتحسنت بتراكم البيانات. وتبقى هذه النماذج بحاجة إلى مراجعة دورية لأن المحتالين يغيرون أساليبهم، فالنموذج الذي لا يُحدَّث يفقد فعاليته بمرور الوقت.

كيف يستخدم المهاجمون الذكاء الاصطناعي؟

أوضح تأثير للذكاء الاصطناعي في جانب الهجوم هو تحسين الهندسة الاجتماعية. فقد كانت رسائل التصيد الركيكة تفضح نفسها بأخطائها اللغوية، أما اليوم فيمكن إنتاج رسائل سليمة اللغة ومخصصة بالمستهدف وبلهجته بسهولة. وهذا يجعل علامات الكشف القديمة أقل فائدة، ويفرض الاعتماد على التحقق من الجهة المرسلة والقناة لا على جودة الصياغة. وقد تناولنا هذه الحيل في مقال رسائل الانتحال والاحتيال.

وهناك التزييف العميق، أي توليد صوت أو صورة أو فيديو يقلد شخصًا حقيقيًا. وقد وثقت جهات متعددة حالات احتيال استخدم فيها صوت مزيف لمسؤول يطلب تحويلًا ماليًا عاجلًا. ولذلك تحتاج المنشآت إلى إجراءات تحقق متعددة القنوات للعمليات الحساسة، كاتصال عودة على رقم معروف، أو موافقة من شخصين. وعلى الأفراد أن يحذروا من المكالمات التي تضغط عليهم للتصرف السريع مهما بدت مقنعة.

وقد يساعد الذكاء الاصطناعي المهاجمين في كتابة شيفرات خبيثة وتحسينها وفي البحث عن الثغرات وأتمتة الاستطلاع، وإن كانت المنصات الكبرى تضع قيودًا لمنع الاستخدامات الضارة. وتختلف التقديرات حول مدى ما أحدثه من تحول فعلي، فالمبالغة في تصويره سلاحًا خارقًا غير دقيقة، لكن إنكار أثره في خفض كلفة الهجوم وتوسيع نطاقه غير واقعي أيضًا. والأسلم الاستعداد للأمرين بتقوية الأساسيات.

ويستفيد المهاجمون كذلك من الأتمتة في مسح الأهداف وإيجاد الحسابات الضعيفة بسرعة أكبر، ومن توليد محتوى مقنع بلغات ولهجات متعددة، ما يوسع نطاق الحملات ويخفض كلفتها. لكن الأساسيات الدفاعية تظل فعالة أمام معظمها: كلمة مرور قوية وتحقق ثنائي وتحديثات منتظمة ووعي بالتصيد. ولذلك لا يعني ظهور أدوات جديدة أن الدفاع القديم فقد قيمته، بل أن الحاجة إلى تطبيقه بإتقان ازدادت.

المخاطر على أنظمة الذكاء الاصطناعي نفسها

حين تدمج المنشأة نموذجًا لغويًا في تطبيقاتها فإنها تضيف سطح هجوم جديدًا. وقد نشرت منظمة OWASP قائمة بأهم مخاطر تطبيقات النماذج اللغوية، وصدر إصدار عام 2026 منها في أغسطس، وبقي حقن التعليمات في المرتبة الأولى، وهو أن يُضمَّن في المدخلات نص يغير سلوك النموذج بما لا يريده المطور. ويليه تسرب المعلومات الحساسة، وارتفعت في هذا الإصدار مخاطر الوكالة المفرطة، أي منح النموذج صلاحيات أوسع من اللازم لتنفيذ أفعال.

وتشرح المنظمة أن حقن التعليمات يصعب منعه منعًا كاملًا، ولذلك يوصى بتقييد ما يستطيع النموذج فعله أصلًا بدلًا من الاعتماد على مرشح واحد. فإذا كان النموذج مرتبطًا ببريدك وملفاتك وأنظمة الدفع، فرسالة خبيثة واحدة قد تدفعه إلى تسريب بيانات أو تنفيذ أمر. والقاعدة العملية هي مبدأ أقل صلاحية: لا تعطِ النموذج إلا ما يلزمه، وراجع الأفعال الحساسة بإنسان.

وهناك مخاطر أخرى، منها تسميم بيانات التدريب بإدخال معلومات مضللة، ومخاطر الاعتماد على مخرجات خاطئة في قرارات مهمة، وتسرب بيانات الشركة حين يلصق الموظفون معلومات سرية في أدوات عامة. وهذه الأخيرة من أكثر الحوادث شيوعًا وأسهلها منعًا بسياسة استخدام واضحة وتدريب وأدوات معتمدة. وللتعامل مع الأنظمة التي تفعل أفعالًا بنفسها، تنشر OWASP قائمة منفصلة لمخاطر الأنظمة الوكيلة.

وتنبغي الإشارة إلى أن النماذج التي تدرب على بيانات المنشأة قد تحفظ أجزاءً منها وتعيد إنتاجها لمستخدمين آخرين في ظروف معينة. ولذلك ينبغي ألا تدرب نموذجًا على بيانات حساسة دون تقييم دقيق وضوابط وصول، وأن تُفصل البيئات بحسب حساسية البيانات. وهذه المسألة تلتقي مع التزامات حماية البيانات الشخصية، فتحتاج مراجعة قانونية وتقنية مشتركة قبل المضي فيها.

السياق السعودي: السياسات والحوكمة

تولي المملكة اهتمامًا كبيرًا بالذكاء الاصطناعي، وتتولى الهيئة السعودية للبيانات والذكاء الاصطناعي سدايا الإشراف على هذا القطاع، وقد أصدرت مبادئ وأخلاقيات للذكاء الاصطناعي وإرشادات تتعلق باستخدامه. والمنشآت التي تعالج بيانات شخصية بهذه الأدوات يجب أن تراعي أحكام نظام حماية البيانات الشخصية الذي شرحناه في مقال نظام PDPL، لأن إدخال بيانات الأفراد في أدوات خارجية قد يثير مسائل تتعلق بالنقل والموافقة والغرض.

وتنظر الهيئة الوطنية للأمن السيبراني إلى الأمن السيبراني بوصفه قدرة وطنية، وتصدر ضوابط وأطرًا قد تمس تقنيات ناشئة. والمنشأة التي تستخدم الذكاء الاصطناعي في بيئة خاضعة لتنظيم قطاعي، كالقطاع المالي، عليها مراجعة اشتراطات الجهة المنظمة، ومنها مؤسسة النقد العربي السعودي، قبل اعتماد أي أداة، كما أشرنا في مقال الإطار السيبراني للقطاع المالي. والأنظمة تتطور سريعًا، لذلك ارجع إلى المصادر الرسمية للاطلاع على أحدث الإصدارات.

ويفيد أن تعتمد المنشأة حوكمة داخلية بسيطة للذكاء الاصطناعي: قائمة بالأدوات المعتمدة، وتصنيف للبيانات التي يجوز إدخالها، وجهة مسؤولة عن تقييم المخاطر، وإجراء لمراجعة الحالات الجديدة. وهذه الحوكمة لا تتطلب أجهزة إدارية ضخمة، بل وثيقة واضحة وتدريبًا ومتابعة. ومن لا يضع القواعد سيجد موظفيه يضعونها بأنفسهم بطرق لا يراها.

ومن الأمور التي تشغل الجهات المنظمة في العالم مسؤولية القرارات التي تتخذها الأنظمة الآلية. فإذا رفض نظام طلب تمويل أو صنف حركة بأنها احتيال، فمن المسؤول عن الخطأ؟ وكيف يمكن للمتضرر الاعتراض؟ وتميل المبادئ الأخلاقية إلى إبقاء الإنسان في حلقة القرار للحالات المؤثرة، وتوثيق ما يفعله النظام وأسبابه. وهذا يفيد المنشآت السعودية في تصميم حلولها استعدادًا لما قد يصدر من متطلبات.

ماذا تفعل اليوم؟ توصيات للمنشآت والأفراد

للمنشآت، ابدأ بالأساسيات التي تنفع في كل الأحوال: التحقق الثنائي وتحديث الأنظمة والنسخ الاحتياطي وتقييد الصلاحيات، فهي تقلل أثر الهجمات التي يحسنها الذكاء الاصطناعي. وضع سياسة استخدام للأدوات التوليدية تحدد ما يجوز إدخاله، ودرب موظفيك على التحقق من الطلبات المالية والحساسة بقنوات متعددة. وقيّم أي نظام ذكاء اصطناعي قبل ربطه ببياناتك وفق مبدأ أقل صلاحية.

وعند اختيار مزود أدوات ذكاء اصطناعي، اسأل عن مكان معالجة البيانات، وهل تستخدم لتدريب النماذج، وكيف تحذف عند الطلب، وما ضمانات السرية. واطلب الإجابات مكتوبة في العقد. وإن كنت تبني تطبيقًا يعتمد على نموذج، فاعتمد قائمة OWASP مرجعًا للاختبار، وأجرِ اختبارات تحاكي الهجوم عليه، كما شرحنا في مقال اختبار الاختراق، وسجل ما يفعله النموذج لتتمكن من التحقيق.

وللأفراد، اعتمد قاعدة بسيطة: لا تثق بصوت أو صورة أو فيديو وحدها في أمر مالي أو حساس. تحقق باتصال على رقم تعرفه، واتفق مع أسرتك على كلمة سرية للحالات الطارئة، وتجنب إدخال بياناتك الشخصية الحساسة في أدوات لا تعرف سياستها. ويمكن لمن يتعلم المجال أن يستفيد من الذكاء الاصطناعي كمدرب، لكن عليه التحقق مما يقوله النموذج، وبناء فهمه الخاص، كما أوضحنا في مقال تعلم الأمن السيبراني مجانًا.

كيف تتعلم الأمن السيبراني وتعمل فيه مع الذكاء الاصطناعي؟

يغير الذكاء الاصطناعي طريقة التعلم والعمل في المجال، ومن الحكمة أن تتعامل معه بذكاء لا برهبة. استخدمه مدرسًا مساعدًا يشرح لك مفهومًا صعبًا بطرق متعددة ويولد لك أسئلة تدريبية ويراجع فهمك، لكن لا تعتمد عليه مصدرًا وحيدًا، فقد يخطئ في التفاصيل التقنية. وتحقق مما يقوله من التوثيق الرسمي والمراجع المعروفة. ومن يستخدمه ليفهم لا لينسخ يخرج بمهارة أقوى ممن يطلب الجواب الجاهز.

وفي بيئة العمل، تصبح المهارات التي يصعب أتمتتها أكثر قيمة: فهم سياق الأعمال، وتقدير المخاطر، والتواصل مع الإدارة، واتخاذ القرار تحت عدم اليقين، والمسؤولية عن النتائج. أما المهام الروتينية كفرز التنبيهات وكتابة التقارير الأولية فستؤديها الأدوات بصورة متزايدة. ولذلك ينصح الناشئون في المجال ببناء أساس تقني متين يمكنهم من تقييم عمل الأدوات، لأن من لا يفهم لا يستطيع اكتشاف خطأ النموذج.

ويظهر تخصص جديد يتعلق بأمن أنظمة الذكاء الاصطناعي نفسها، من اختبار النماذج واكتشاف حقن التعليمات إلى حوكمة البيانات وتقييم المخاطر. وهو مجال ما يزال في بدايته، وفيه فرص لمن يجمع بين الأمن السيبراني وفهم الذكاء الاصطناعي. وتفيد قراءة قوائم OWASP وإرشادات المعهد الوطني للمعايير والتقنية الأمريكي، وتجربة التحديات التدريبية في هذا الباب، وللمبتدئ مقال كيف تبدأ في الأمن السيبراني من الصفر نقطة انطلاق مناسبة.

الأسئلة الشائعة

هل سيحل الذكاء الاصطناعي محل المختصين في الأمن السيبراني؟ الأرجح أنه يغير طبيعة العمل لا يلغيه. يتولى الأعمال الروتينية ويترك للإنسان القرارات المعقدة والسياق والمسؤولية. ومن يتعلم استخدام الأدوات بوعي سيكون أكثر قيمة.

هل أستخدم أدوات الذكاء الاصطناعي العامة لتحليل بيانات شركتي؟ لا تفعل قبل مراجعة سياسة الأداة وشروطها وطبيعة بياناتك. وللبيانات الحساسة يفضل استخدام أدوات معتمدة من المنشأة بضمانات تعاقدية واضحة.

كيف أميز التزييف العميق؟ لا تعتمد على علامات بصرية فقط، فهي تتحسن بسرعة. اعتمد على التحقق من القناة، وطلب تأكيد بوسيلة أخرى، والتمهل حين يُطلب منك التصرف العاجل.

ما أهم خطوة لحماية تطبيق يعتمد على نموذج لغوي؟ قيّد صلاحياته بحيث لا يستطيع تنفيذ أفعال خطرة دون مراجعة، وافصل بين التعليمات والبيانات غير الموثوقة، وسجل أفعاله، واختبره بانتظام وفق قائمة OWASP.


إرسال تعليق

0 تعليقات