الحكومة الأمريكية تدرس قانون AI Kill Switch

قال بريندان شتاينهاوزر، الرئيس التنفيذي لتحالف الذكاء الاصطناعي الآمن، وهي منظمة غير ربحية مقرها واشنطن العاصمة: “مع نمو أنظمة الذكاء الاصطناعي بشكل أكثر قدرة وأكثر استقلالية، لا يوجد قانون يضمن أن الشركات التي تبني أقوى النماذج يمكنها بالفعل إغلاق النظام عندما يتعطل، أو يسبب ضررًا جسيمًا، أو يخرج عن نطاق السيطرة البشرية.

“يسد قانون AI Kill Switch هذه الفجوة من خلال مطالبة أكبر مطوري الذكاء الاصطناعي بالحفاظ على القدرة التقنية لاحتواء أو إغلاق أقوى أنظمتهم ومن خلال منح سلطة الطوارئ الحكومية الأمر بإيقاف التشغيل عند وقوع حادث خطير.

قال ستاينهاوزر: “يستحق عضوا الكونجرس ليو وموران الثناء على مواجهة هذا الأمر قبل أن تفرض الأزمة هذا السؤال، ويجب على الكونجرس التصرف بسرعة لضمان بقاء البشر هم الذين يمكنهم أن يقولوا توقفوا، بغض النظر عن مدى قدرة هذه الأنظمة”.

وأضاف براد كارسون، رئيس منظمة “أمريكيون من أجل الابتكار المسؤول”، وهي منظمة تسعى إلى مساعدة صناع السياسات على تطوير أطر حوكمة للتكنولوجيا الناشئة: “لا ينبغي أبدًا نشر نماذج الذكاء الاصطناعي المتقدمة دون مفتاح إيقاف موثوق”.

وقال: “إن قانون AI Kill Switch ينشئ ضمانة منطقية… وهذه خطوة مهمة نحو ضمان ثبات أيدي البشر على عجلة القيادة – وقدمهم جاهزة للفرامل – مع نشر أنظمة الذكاء الاصطناعي المتقدمة”.

وقال تي جيه مارلين، الرئيس التنفيذي لشركة Guardrail Technologies، التي طورت برنامجًا لأمن الذكاء الاصطناعي والحوكمة السلوكية، إنه يؤيد مثل هذا القانون من حيث المبدأ. وقارنها بقوانين مماثلة تغطي مشغلي البنية التحتية الوطنية الحيوية (CNI) في ولايات قضائية مثل أستراليا وألمانيا، واقترح أن الذكاء الاصطناعي أصبح الآن من الأصول الحيوية بما يكفي ليتطلب دعمًا قانونيًا مماثلاً.

وقال لمجلة كمبيوتر ويكلي: “إذا كانت إحدى الشركات تدير نظامًا يمكنه اتخاذ إجراءات في العالم الحقيقي بنفسها، فلا ينبغي على الجمهور أن يثق في كلمة تلك الشركة بأنها تستطيع إيقاف القابس”.

“وأضاف أن تحذيري الوحيد هو مصطلح “مفتاح القتل”. “إنه يجعل الناس يتصورون وهم يقلبون الآلة. والسؤال المهم هو هل يمكننا إيقاف النظام عن التسبب في الضرر، بغض النظر عما إذا كان قيد التشغيل أم لا.

علاوة على ذلك، قال مارلين، إن مشروع القانون بصيغته المقترحة يترك بعض القضايا دون حل. على سبيل المثال، إذا قام عميل مارق بتنظيم هجوم سيبراني بالفعل، فإن قتله لا يعالج أيًا من الإجراءات التي كان من الممكن أن يتخذها، مثل العثور على العيوب، وتطوير عمليات استغلال لها، وإنشاء تواجد على شبكته المستهدفة.

وقال مارلين: “يجب أن يصل المفتاح إلى ما يمكن للعميل أن يفعله ويلمسه، وليس تفكيره فقط. ولن يوقف الجهات الفاعلة السيئة، التي يمكنها تشغيل نسخ مفتوحة أو أجنبية لا يمكن لأي أمر أمريكي الوصول إليها، لذا فإن هذا يتحكم في مقدمي الخدمة، وليس الجريمة”.

” الاكتشاف هو عنق الزجاجة الحقيقي. لا يمكنك إغلاق ما لم تراه من قبل، ولا أحد يعرف من الذي يقرر، أو مدى السرعة، أو ما يحدث عندما يقوم إنذار كاذب بإسقاط شيء بالغ الأهمية. ويصبح المفتاح هدفًا: يعد زر إيقاف التشغيل في كل شركة ذكاء اصطناعي كبرى بمثابة جائزة لأي شخص يريد سرقته، أو تزييف الأمر، أو احتجازه للحصول على فدية. قم ببنائه دون مصادقة وتدقيق جديين، وبذلك تكون قد أنشأت الثغرة الأمنية.”