يتبنى خبراء الإنترنت نظرة متفائلة للقرصنة التي تعتمد على الذكاء الاصطناعي
بدأ العرض السنوي في مركز التكنولوجيا والأمن الناشئة (CETaS) بمناقشة حول الآثار المترتبة على كلود ميثوس.
في افتتاح المؤتمر، قال ألكسندر (ساشا) بابوتا، مدير CETaS في معهد آلان تورينج، إن أحدث نموذج حدودي لشركة Anthropic، Claude Mythos Preview، يُظهر تحسينات كبيرة في الرياضيات والأمن السيبراني وهندسة البرمجيات والكشف الآلي عن الثغرات الأمنية.
في حين أن النموذج يمكن أن يحدد ويستغل بشكل مستقل نقاط الضعف غير المكتشفة سابقًا في أنظمة العالم الحقيقي، فقد وصف نظرة متفائلة لكيفية استخدام Claude Mythos Preview لتأمين تكنولوجيا المعلومات الخاصة بالمؤسسات. وقال بابوتا: “يمكن للشركات استخدام نماذج مثل Anthropic Mythos لاكتشاف نقاط الضعف في أنظمتها بسرعة وتصحيحها لتعزيز الأمن الرقمي للجميع”.
كشفت دراسة لمجتمع الجرائم الإلكترونية بين إصدار ChatGPT في عام 2022 ونهاية عام 2025 أن منتديات الجرائم الإلكترونية استضافت عددًا من منتجات “الذكاء الاصطناعي المظلم”.
يزعم أصحابها أن هذه النماذج محلية الصنع أو تم إعادة تدريبها على نطاق واسع وكسر الحماية لنماذج اللغات الكبيرة (LLMs) المخصصة والمصممة خصيصًا للجرائم الإلكترونية. وقال بن كولير، كبير المحاضرين في جامعة إدنبرة، في عرض تقديمي يناقش النتائج، إنه على الرغم من إثارة بعض الحماس المبكر في المنتديات، إلا أنها لم يكن لها تأثير يذكر حتى الآن.
عندما نظر الباحثون إلى المنتجات المشروعة على مستوى المؤسسات والمصممة بشكل صريح لتحويل المطور المبتدئ إلى مبرمج كفء، وجدوا أن العديد من مجرمي الإنترنت الطموحين يجربون أدوات مثل ChatGPT وClaude، والتي قال عنها الباحثون “يقدمون تقارير بحماس عن اكتشافاتهم”. ومع ذلك، أشار كولير إلى أن البحث الأعمق في هذه المناقشات وجد أنه في معظم الحالات، كان أعضاء المنتدى يفتقرون إلى المهارات التقنية الأساسية اللازمة لاستخدام أدوات الذكاء الاصطناعي بشكل فعال لارتكاب الجرائم السيبرانية.
وقال: “إنهم يستخدمون أدوات البرمجة الحماسية لمشاريع الهوايات، ولكن بشكل خاص للخدمات اللوجستية الأساسية لعمليات الجريمة السيبرانية”. “معظم الأكواد المستخدمة في الجرائم الإلكترونية ليست قرصنة. إنها نفس الأعمال الإدارية والهندسية الأساسية التي تحتاجها أي شركة ناشئة صغيرة، مما يعني أن الكثير منها لا يحتاج فعليًا إلى كسر حماية كلود للحصول على فائدة حقيقية منه.”
وجهة النظر المتشائمة هي أنه مع تطور هذه الأدوات، سيكون من الممكن استخدامها لشن هجمات إلكترونية معقدة. وناقش آدم بومونت، المدير المؤقت لمعهد أمن الذكاء الاصطناعي (ASI)، وجهة النظر المتشائمة. وقال بومونت، الرئيس السابق للذكاء الاصطناعي في GCHQ، إن ASI أظهر مؤخرًا كيف نفذ نموذج الذكاء الاصطناعي الحدودي هجومًا إلكترونيًا مكونًا من 32 خطوة ضد بيئة مؤسسية محاكاة بدءًا من الاستطلاع الأولي وحتى الاستيلاء الكامل على الشبكة.
وقال: “نحن نقدر أن الأمر سيستغرق من إنسان ماهر ما يعادل 20 ساعة من العمل، وكانت هذه هي المرة الأولى التي يقوم فيها أي نموذج بذلك، وبعد أسابيع، اختبرنا نموذجًا ثانيًا”.
وأشار بومونت إلى أن الهجوم الذي وصفه لم يكن نموذجا للإجابة على سؤال حول القرصنة. وقال: “لقد كان النظام هو الذي تم اختراقه”. “ما زلنا لا نعرف تمامًا كيفية التأكد من أن هذه الأنظمة تعمل كما ننوي، أو كيفية ضمان بقائها تحت سيطرة بشرية ذات معنى عندما تصبح أكثر قدرة.”
وصف بومونت عرض ASI بأنه “نقطة بداية صادقة”. وقال: “إن عدم اليقين حقيقي والانزعاج مناسب”.
بالنسبة لبومونت، فهو يمثل شيئًا يمكن بناؤه لتمكين الحكومة والصناعة ومجتمع البحث من اتخاذ قرارات بناءً على ما يمكن أن تفعله هذه الأنظمة فعليًا بناءً على الأدلة.
رئيس تحرير يمني وصحفي محترف حاصل على درجة في الإعلام. عمل في عدة صحف ومواقع إخبارية وتدرّج من محرر إلى رئيس تحرير. يشرف على المحتوى الإخباري ويقود فريقًا صحفيًا مع الالتزام بالمصداقية والمهنية.
