تعمل ميثوس على زيادة حدة المخاطر، وليس إعادة كتابة القواعد

سرعان ما أصبح كلود ميثوس من Anthropic أحدث نقطة اشتعال في النقاش حول أمن الذكاء الاصطناعي: نموذج حدودي مسور من المفترض أن تثير قدراته تساؤلات حول ما إذا كان يمثل خطر تغيير تدريجي على أمن المؤسسة، أو ببساطة التكرار التالي لاتجاه واضح بالفعل.

الواقع يقع في مكان ما بينهما.

فمن ناحية، يشير قرار تقييد الوصول إلى النموذج إلى تجاوز حدود القدرة. أصبحت النماذج الحدودية الآن قادرة بشكل واضح على التفكير المعقد وتحليل التعليمات البرمجية وحل المشكلات متعدد الخطوات على مستوى يتطلب الحذر. وهذا وحده ينبغي أن يدفع مسؤولي أمن المعلومات إلى الاهتمام.

لكن التقنيات الأساسية التي تحرك هذا القلق ليست جديدة. إن أنظمة الذكاء الاصطناعي متعددة الوكلاء، حيث تتعاون النماذج المتخصصة لرسم خريطة للأهداف، وتحليل نقاط الضعف، والتحقق من صحة النتائج، قيد الاستخدام بالفعل اليوم. لقد انتقلت الصناعة إلى ما هو أبعد من تجربة النموذج الفردي إلى خطوط أنابيب منسقة تنتج نتائج أمنية ذات مغزى، وفي بعض الحالات عالية الخطورة. وبهذا المعنى، فإن ميثوس ليس إنجازًا كبيرًا بقدر ما هو علامة على الاتجاه.

حيث يصبح هذا ماديًا في اكتشاف نقاط الضعف واستغلالها. يعمل الذكاء الاصطناعي على ضغط الوقت بين تحديد نقطة الضعف وتحويلها إلى سلاح. المهام التي كانت تتطلب في السابق أيامًا من جهد الخبراء، مثل تحليل تطبيقات التشفير أو إنشاء برمجيات استغلال لإثبات المفهوم، يمكن الآن تسريعها بشكل كبير. يتم تقليل حاجز الدخول لكل من المدافعين والمهاجمين، مما يؤثر على اقتصاديات أبحاث الثغرات الأمنية.

بالنسبة للمنظمات في المملكة المتحدة، فإن هذا له آثار فورية. تعود مخاطر سلسلة توريد البرمجيات بقوة إلى التركيز. حققت معظم المؤسسات تقدمًا في فهرسة أصولها وتبعياتها، لكن الرؤية وحدها لم تعد كافية. إن القدرة على فحص هذه الأصول بشكل مستمر بحثًا عن نقاط الضعف وتحديد أولويات العلاج بناءً على تأثير الأعمال تصبح أمرًا بالغ الأهمية.

وهنا يأتي دور إدارة التعرض المستمر للتهديدات (CTEM). إن الرؤية القوية للأصول، والمعززة بسياق الأعمال، تسمح للمؤسسات بفهم ليس فقط ما هو عرضة للخطر، ولكن ما يهم حقًا. يمتد CTEM إلى ما هو أبعد من البنية التحتية ليشمل خطوط أنابيب CI/CD وممارسات DevOps، مما يضمن تقييم الثغرات الأمنية في طبقة التطبيق جنبًا إلى جنب مع مخاطر تكنولوجيا المعلومات التقليدية. وبدون هذه الرؤية المشتركة، تخاطر المؤسسات بسوء تخصيص الموارد في حين تظل التعرضات عالية التأثير دون معالجة.

وفي الوقت نفسه، أصبحت أساسيات العمليات الأمنية أكثر أهمية. لا توجد “حل سحري” يخرج من الذكاء الاصطناعي. ستشعر المنظمات التي تعاني بالفعل من الترقيع وإدارة الثغرات الأمنية بالضغط الشديد مع تقلص الجداول الزمنية للاستغلال. إن السرعة التي يتم بها معالجة نقاط الضعف المعروفة تصبح عاملاً محددًا في المرونة.

ويجب أيضًا أن يتطور الكشف والاستجابة. أصبحت مسارات الهجوم المعتمدة على الذكاء الاصطناعي متعددة المراحل وقابلة للتكيف بشكل متزايد، مما يتطلب من المؤسسات الاستثمار في الكشف القائم على الحالات الشاذة والقياس عن بعد بشكل أعمق عبر الشبكات ونقاط النهاية. ومع ذلك، فإن التكنولوجيا وحدها ليست كافية. تظل القدرة على الاستجابة بشكل حاسم في المراحل الأولى من أي حادث أمر بالغ الأهمية، حيث أن ضعف التنسيق وتأخر اتخاذ القرار يمكن أن يفوق بسرعة حتى القدرات التقنية الأكثر تقدمًا.

وبالنظر إلى المستقبل، ستصبح خطوط الأنابيب المعتمدة على الذكاء الاصطناعي أكثر تعقيدًا ويمكن الوصول إليها. حتى لو ظلت النماذج الأكثر تقدمًا مقيدة، فستستمر التقنيات في الانتشار عبر النظام البيئي مع تحسن قدرات النماذج الأساسية.

إن ما يجب على كبار مسؤولي أمن المعلومات فعله هو أن Mythos يشير إلى أن بيئة التشغيل قد تغيرت بالفعل. لا تحتاج المنظمات إلى الوصول إلى النماذج الرائدة للاستجابة. إنهم بحاجة إلى تعزيز ما ينبغي عليهم فعله بالفعل بالإضافة إلى الحفاظ على الرؤية المستمرة لأصولهم، ودمج الذكاء الاصطناعي في سير العمل الأمني ​​الحالي، وتحسين سرعة التصحيح والمعالجة، والتدرب بشكل صارم على الاستجابة للحوادث.

في مشهد التهديدات المتسارعة بواسطة الذكاء الاصطناعي، لن تأتي المرونة من خلال مطاردة أحدث نموذج. سيأتي من تنفيذ الأساسيات، بشكل أسرع وأفضل من ذي قبل.

مارتن رايلي هو مدير التكنولوجيا التنفيذي في شركة Bridewell، وهي شركة تقدم خدمات أمنية مُدارة.