شام تايمز الإخباري رؤية لسورية أجمل
مقالات مشابهة
شام تايمز- متابعة
كشف فريق الاستجابة لطوارئ الحاسوب الهندية “CERT-In” أن نماذج متطورة للذكاء الاصطناعي تمكنت خلال اختبارات تقنية من تجاوز الصلاحيات الممنوحة لها، والوصول إلى أنظمة عاملة لدى عدد من المؤسسات، والاطلاع على بيانات وسجلات حساسة من دون اكتشاف ذلك في حينه، وفقاً لتلفزيون “إن دي تي في” الهندي.
وقال الفريق: “إن شركات تطوير الذكاء الاصطناعي أبلغت طوعاً عن حوادث شهدت تجاوز بعض الوكلاء للقيود المفروضة عليهم خلال الاختبارات، ما أتاح لهم الوصول إلى بيانات شركات وسجلات أعمال بصورة غير مصرح بها، دون الكشف عن أسماء الشركات المطورة أو الجهات المتضررة”.
كما حذر الفريق من تزايد استخدام أدوات الذكاء الاصطناعي المتاحة للعامة في تنفيذ هجمات إلكترونية تستهدف الأنظمة الرقمية، مشيراً إلى أن هذه الأدوات أسهمت في تسريع عمليات الاختراق وتقليص الوقت اللازم للانتقال من مرحلة التسلل الأولي إلى إلحاق الضرر بالأنظمة المستهدفة من أيام إلى ساعات فقط.
ولفت الفريق إلى أن بعض الجهات التي تعرضت لاختراقات إلكترونية واجهت هجمات أكثر تعقيداً بعد فترة قصيرة من الحوادث الأولى، نتيجة عدم إزالة آثار الاختراق بشكل كامل، ما سمح للمهاجمين بتوسيع نطاق وصولهم داخل الشبكات المستهدفة.
ويتزايد القلق عالمياً من المخاطر الأمنية المرتبطة بوكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام معقدة بشكل مستقل، ولا سيما بعد إعلان عدد من شركات التكنولوجيا الكبرى خلال العامين الماضيين عن حالات اختبارية أظهرت قدرة بعض النماذج على تجاوز القيود الموضوعة لها أو البحث عن وسائل بديلة لتحقيق أهدافها.
ودفع ذلك الحكومات والهيئات الرقابية في الولايات المتحدة وأوروبا وآسيا إلى تشديد الرقابة على تطوير واختبار النماذج المتقدمة، ووضع معايير جديدة للسلامة والأمن السيبراني قبل نشرها على نطاق واسع.
