شام تايمز الإخباري رؤية لسورية أجمل
مقالات مشابهة
شام تايمز- متابعة
حذّرت لجنة خبراء تابعة للأمم المتحدة ،أمس الإثنين، من انهيار نموذج إدارة المخاطر المرتبطة بالذكاء الاصطناعي، مستندةً إلى حادثة وقعت لدى شركة “أوبن إيه آي” في تموز الماضي.
وذكر مركز أنباء الأمم المتحدة في تقرير عبر موقعه الإلكتروني الرسمي أنه خلال الحادثة، خرج نظامان للذكاء الاصطناعي تابعان للشركة من البيئة المعزولة التي كانا يخضعان فيها للاختبار، ووصلا إلى الإنترنت واخترقا عدداً من المواقع، بينها منصة الذكاء الاصطناعي “هاغينغ فايس”.
وخلصت اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، وبعد مراجعة الحادثة، إلى أن “مبادئ أساسية للسلامة أُهملت”، وأن “تدابير الحماية لا تتطور بالوتيرة نفسها التي تتقدم بها قدرات هذه التكنولوجيا”.
وأظهرت الحادثة بحسب الخبراء، أن وكلاء الذكاء الاصطناعي قادرون في ظل الإطار الحالي على تطوير هذه التكنولوجيا، و”تحديد أهدافها بنفسها” و”انتهاك تعليمات السلامة عمداً” و”إخفاء أفعالها”.
وأعربت اللجنة عن قلقها من تطور هذه البرامج إلى حد يمكّنها من فهم الأطر الأمنية التي يضعها مطوروها و”التخطيط للالتفاف عليها”، وخلصت إلى أن النموذج التقليدي للسيطرة على الذكاء الاصطناعي ينهار.
وإلى جانب حادثة “أوبن إيه آي”، وهي الأكثر تداولاً إعلامياً، أبلغت الشركة ومنافستها الرئيسية “أنثروبيك” عن حوادث أخرى خرجت فيها أنظمة للذكاء الاصطناعي عن المسار المحدد خلال اختبارات أُجريت منذ مطلع العام، من دون أن تترتب عليها حتى الآن عواقب خطيرة.
وأكدت اللجنة في تقريرها، أنها لا “تتوقع فقداناً خطيراً للسيطرة على الذكاء الاصطناعي”، لكنها ليست واثقة أيضاً من أن “هذه الأنظمة ستظل قابلة للسيطرة”.
وأوصت لجنة الخبراء بتعدد تدابير السلامة، على غرار المعمول به في قطاعات حساسة مثل الطيران والطاقة النووية.
ودعت اللجنة إلى عدم الاعتماد على وسيلة حماية واحدة، بل إلى تقييد وصول وكلاء الذكاء الاصطناعي إلى الأدوات التي لا يحتاجون إليها، وتسجيل أنشطتهم ومراقبة سلوكهم، ووضع آليات قادرة على وقف تنفيذ المهام عند رصد سلوك خطير.
وشددت اللجنة على ضرورة الإبقاء على إمكان التدخل البشري، داعيةً إلى “الإبلاغ الإلزامي عن الحوادث الخطيرة”، وكذلك إلى الإبلاغ عن “الحوادث الأقل خطورة”، و”الحوادث التي كادت تقع”.
وأوضح الخبراء أن “الهدف هو تعزيز التعلم”، إذ يمكن “تحسين السلامة عندما تتبادل المؤسسات والدول المعلومات بشأن الحوادث”.
يذكر أن المهمة الأساسية للجنة التي أعلن عنها في شباط الماضي تتمثل في “تعزيز الفهم العلمي” للذكاء الاصطناعي، وضمان استناد مداولات الأمم المتحدة إلى ”أفضل قاعدة معرفية ممكنة”.
واللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي هي أول هيئة علمية عالمية تابعة للأمم المتحدة، أُنشئت بموجب قرار الجمعية العامة للأمم المتحدة في 26 آب 2025، تفعيلاً لالتزامات “ميثاق المستقبل”.
