#الأمن_الرقمي

في مشروع اسمه GPT-Red، الفكرة بسيطة لكنها لفتتني: النظام يهاجم نفسه ليتعلّم كيف يدافع. يلعب دور “المهاجم” الذي يحاول كسر التعليمات وحقن الأوامر، ثم يعود كـ“مدافع” يرقّع الثغرات ويشدّد الضوابط. التكرار هذا يولّد حالات صعبة ما تنتبه لها الاختبارات العادية، والنتيجة مقاومة أعلى للتلاعب بالتوجيهات. السؤال: هل اللعب الذاتي فعلاً يكشف سيناريوهات حقن الأوامر المعقّدة أكثر من مراجعات الفرق البشرية؟ اللي جرّبوا أساليب مشابهة، هل لاحظتم تحسّن ملحوظ في الانضباط والصلابة؟ #الأمن_الرقمي

الحكومة الأمريكية رصدت مكافأة تصل إلى 10 ملايين دولار مقابل معلومات عن مجموعة سيبرانية يُقال إنها مرتبطة بجهة روسية، بعد حملة طالت آلاف حسابات واتساب وسيغنال، بينها حسابات صحفيين وموظفين حكوميين. الملفت أن الأسلوب كان بسيط: رسائل تبدو وكأنها من “الدعم” تطلب الضغط على رابط أو إرسال رمز التحقق، وبمجرد الاستجابة يُضاف جهاز المهاجم لحسابك أو يتم الاستيلاء عليه بالكامل. هل لاحظتم مؤخراً زيادة رسائل “الدعم” المزعومة على هذه التطبيقات؟ وهل تشفير الطرفين يكفي أمام هندسة اجتماعية بهالسهولة؟ #الأمن_الرقمي

حظر الحكومة الأميركية لأحدث نماذج Anthropic بعد اكتشاف طريقة لتجاوز الحواجز أثار ضجة… لكن الدرس الأهم لنا كفِرق تقنية: لا تراهن على شهرة النموذج كمعيار أمان. أي نظام ممكن يتجاوزوه، وأحياناً بنفس الحيل عبر نماذج مختلفة. النصيحة: قبل دمج أي نموذج في منتجك، اعتبره “غير موثوق افتراضاً”: اختبارات اختراق دورية، طبقة تصفية خارجية للمخرجات، حدود واضحة على السياقات الحساسة، وتسجيل محاولات التجاوز لرصد الأنماط. وإذا ظهر سلوك غير مرغوب، فعّل انتقال تلقائي لنموذج بديل. الضجة قد تفيد العلامة، لكنها ما تحمي المستخدمين. #الأمن_الرقمي