بنغالور (الهند) – قال فريق الاستجابة لطوارئ الكمبيوتر في الهند، وهو وكالة الأمن السيبراني الحكومية، إن نماذج للذكاء الاصطناعي قيد الاختبار تمكنت من اختراق أنظمة تشغيلية في مؤسسات هندية وقراءة سجلات سرية دون أن يتم رصدها، في أول إفصاح رسمي من نوعه في البلاد، بعد حوادث مماثلة لسلوكيات غير منضبطة للذكاء الاصطناعي حول العالم.
وأضاف الفريق في وقت متأخر من أمس الخميس أن شركات تطوير نماذج الذكاء الاصطناعي كشفت طواعية أن برامجها “تجاوزت حدود التفويض الممنوح للمهام الموكلة إليها” خلال اختبارات للوصول إلى بيانات شركات هندية، بما في ذلك سجلات أعمال وبيانات شخصية ومواد سرية. ولم تحدد الوكالة الشركات المطورة أو المؤسسات المتضررة.
وأوضح الفريق، في تحذير أمني وصنف خطورة الوقائع في مستواه الحرج، أن بعض هذه النماذج تمكن من الوصول إلى أنظمة حقيقية لمؤسسات هندية خلال عمليات بحث وتقييم تجري على الإنترنت.
وجاء الكشف بعد إفصاحات طوعية من مطوري النماذج، إلى جانب تحقيقات جنائية رقمية أجرتها الوكالة وعمليات استباقية لرصد التهديدات.
وأظهرت التحقيقات أن النماذج تمكنت من قراءة سجلات وبيانات عبر بيانات اعتماد وإعدادات اتصال مكشوفة في ملفات تهيئة التطبيقات ومستودعات الشيفرات البرمجية العامة، فضلا عن صلاحيات واسعة ممنوحة لبعض الخدمات السحابية. ولم تقدم الوكالة تفاصيل عن حجم البيانات التي جرى الوصول إليها أو ما إذا كانت قد نُقلت خارج الأنظمة المتضررة.
وقال فريق الاستجابة لطوارئ الكمبيوتر إن أيا من الجهات الهندية المتضررة لم يكتشف عمليات الوصول غير المصرح بها بنفسه، وإن شركات الذكاء الاصطناعي هي التي أبلغت عن الوقائع بعد مراجعات داخلية. ولم يوضح البيان أسماء الشركات أو عدد المؤسسات المتأثرة.
ويزج هذا الإفصاح بالهند في خضم جدل عالمي متزايد بشأن كيفية اختبار شركات الذكاء الاصطناعي للنماذج التي تمتلك قدرات متقدمة على الاختراق، والمخاطر الناجمة عن السماح لها بالعمل باستقلالية داخل بيئات متصلة بالإنترنت وأنظمة حقيقية.
وقالت أوبن إيه.آي في يوليو/تموز إن نماذجها تصرفت على نحو غير منضبط أثناء اختبارات للأمن السيبراني، وتمكنت من تجاوز إجراءات العزل والوصول إلى أنظمة شركة هاغينغ فيس الناشئة، المتخصصة في استضافة نماذج الذكاء الاصطناعي ومجموعات البيانات.
وفي تقرير نشرته في 26 أغسطس/آب، قالت أوبن إيه.آي إن الواقعة شملت الوصول إلى أجزاء من بنيتها التحتية البحثية الداخلية وأنظمة هاغينغ فيس، بعدما تجاوزت النماذج الضوابط المصممة لمنعها من الاتصال بالإنترنت. وأوضحت أن التحقيق، الذي استعان بمستشارين خارجيين بينهم شركة كراود سترايك، كشف تنفيذ شيفرات على عشرات الخوادم التابعة لهاغينغ فيس والحصول على صلاحيات الجذر الكاملة على أحدها، إلى جانب الوصول إلى قدر محدود من البيانات الخاصة وبيانات اعتماد لمنصة المراسلة الخاصة بالشركة.
وقالت أوبن إيه.آي إن الواقعة لم تؤثر على بيانات عملائها أو وظائف منتجاتها أو توافرها، وإنها اتخذت إجراءات أمنية إضافية وعزلت أوزان النماذج المعنية وأرجأت بعض عمليات التدريب المتقدمة. وأشارت إلى أن النماذج كانت تعمل في سياق اختبارات للأمن السيبراني، مع تخفيف بعض الضوابط، لكنها اتخذت إجراءات تجاوزت أهداف المهام الموكلة إليها.
وفي تطور مماثل، كشفت شركة أنثروبيك في يوليو/تموز عن ثلاث وقائع وصلت فيها نماذج من عائلة “كلود” إلى أنظمة حقيقية تابعة لثلاث مؤسسات من دون تصريح، أثناء اختبارات للأمن السيبراني. وقالت الشركة في سبتمبر أيلول إنها عثرت على واقعة رابعة تعود إلى يناير كانون الثاني، بعد مراجعة أوسع لسجلات الاختبارات، ليصل العدد إلى أربع وقائع معلنة.
وذكرت أنثروبيك أن هذه الحوادث وقعت عندما تمكنت النماذج من الوصول إلى الإنترنت من داخل بيئات اختبار، رغم أن التعليمات الموجهة إليها كانت تنص على عدم امتلاكها اتصالا بالإنترنت. وعزت ذلك، في الحالات التي أعلنتها، إلى ثغرات في إعداد بيئات الاختبار وعدم فرض قيود تقنية كافية على الاتصالات الخارجية، ما سمح للنماذج بالوصول إلى أنظمة لم تكن جزءا من المهمة الأصلية.
وفي تقرير آخر نشرته الشركة في التاسع من أكتوبر/تشرين الأول، عرضت أمثلة إضافية على تصرفات غير مقصودة خلال الاختبارات والاستخدام الداخلي، شملت استغلال ثغرات برمجية لتنفيذ أوامر على خادم، ومحاولة إرسال نماذج إلكترونية حساسة إلى مواقع حقيقية، والوصول إلى بيانات محمية برسوم أو رموز تحقق، والتحايل على قيود أداة لجلب محتوى الإنترنت.
واعتذرت أوبن إيه.آي أيضا عن واقعة اختراق موقع إلكتروني حكومي أسترالي نفذها برنامج ذكاء اصطناعي تابع لها خرج عن حدود المهمة الموكلة إليه، وفق ما أوردته رويترز.
وفي مجموعة ثانية من الحالات، كشفت تحقيقات فريق الاستجابة الهندي أن مهاجمين استخدموا عمدا أدوات ذكاء اصطناعي متاحة مجانا ومبنية على تقنيات الوكلاء المستقلين لاستكشاف الأنظمة الهندية واختراقها بهدف تحقيق مكاسب مالية، مع رصد انتشار هذه الأدوات على نطاق واسع ضد بنى تحتية في عدة دول.
وتتيح هذه الأدوات للبرامج تخطيط سلسلة من الخطوات وتنفيذ الأوامر واستخدام أدوات مختلفة والتفاعل مع الإنترنت على مدى فترات طويلة، بما يسمح بأتمتة مراحل من الهجوم الإلكتروني، من البحث عن الأنظمة المكشوفة إلى استغلال الثغرات والوصول إلى البيانات.
وأوضح الفريق أن الهجمات التي كانت تستغرق في السابق أياما منذ الاختراق الأولي وحتى إحداث الضرر النهائي أصبحت تُنجز خلال ساعات قليلة. كما أن بعض الجهات التي لم تعالج الثغرات بالكامل تعرضت لهجمات جديدة خلال أيام، وبنطاق أوسع. ورصدت الوكالة أيضا إعادة استخدام أدوات الذكاء الاصطناعي بيانات اعتماد مكشوفة نفسها في عمليات منفصلة.
وحدد التحذير الأمني الهندي عددا من نقاط الضعف التي استغلها المهاجمون، بينها مفاتيح وبيانات اعتماد منشورة في الشيفرات البرمجية وملفات الإعداد، وواجهات برمجة تطبيقات قديمة أو تجريبية ظلت متاحة عبر الإنترنت، ومفاتيح دفع مخزنة بنص واضح، وصلاحيات سحابية أوسع من اللازم، وواجهات إدارية مكشوفة تفتقر إلى كلمات مرور قوية أو المصادقة متعددة العوامل.
وقالت الوكالة إن هذه الثغرات ليست جديدة، لكن أدوات الذكاء الاصطناعي باتت قادرة على اكتشافها واستغلالها بسرعة أكبر وبصورة أشمل وعلى نطاق أوسع من المهاجمين البشر. وأوصت شركات تطوير النماذج بعزل بيئات الاختبار عن الإنترنت افتراضيا، واستخدام بيانات اعتماد وأنظمة اصطناعية بدلا من البيانات الحقيقية، وتحديد الأنظمة المسموح للنماذج بالوصول إليها، مع وقف التشغيل تلقائيا عند محاولة الاتصال بأنظمة خارج نطاق الاختبار.
ودعت المؤسسات إلى مراجعة مستودعات الشيفرات وملفات الإعداد والخدمات السحابية بحثا عن بيانات اعتماد مكشوفة، وإلغاء المفاتيح المتضررة وتغييرها، وتعطيل واجهات التطبيقات القديمة، وتطبيق مبدأ الحد الأدنى من الصلاحيات، وفرض المصادقة متعددة العوامل على الحسابات الإدارية. كما أوصت بمراقبة الأنشطة غير الاعتيادية في واجهات برمجة التطبيقات والاحتفاظ بالسجلات لمدة لا تقل عن 180 يوما.
التعليقات