مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

19 خبر
  • هدنة وحصار المضيق
  • نبض الملاعب
  • هدنة بين حزب الله وإسرائيل
  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • نبض الملاعب

    نبض الملاعب

  • هدنة بين حزب الله وإسرائيل

    هدنة بين حزب الله وإسرائيل

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • فيديوهات

    فيديوهات

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

ترامب يهدد إيران حاملا البندقية: لن أكون لطيفا أكثر بعد اليوم

إيران لحظة بلحظة.. ضبابية في واشنطن وارتباك بتل أبيب ومساع روسية وخليجية لصياغة تسوية شاملة

اعترافات طيارين في الجيش السوري: تلقينا أوامر من الأسد (فيديو)

أكسيوس: ترامب يرفض عرض إيران

وزير الحرب الأمريكي حول حزب الله وإيران: أنهم لا يستسلمون.. نواجه تعقيدات كبيرة 

لحظة بلحظة.. واشنطن تبحث خيارات عسكرية جديدة ضد طهران على وقع الجمود الدبلوماسي

يديعوت أحرنوت: إسرائيل تستعد لسيناريوهات التصعيد ضد إيران بعد أوامر ترامب للجيش

مصدر إسرائيلي: ترامب يفقد الثقة بإسرائيل

رويترز: ضغوط هائلة على ترامب لإنهاء الحرب مع إيران ومقترح لإعلان النصر من جانب واحد

لبنان لحظة بلحظة.. تلويح إسرائيلي بمعاملة الجنوب كغزة وحزب الله يصعد هجماته بالمسيرات

بروجردي لترامب: لن نتركك وشأنك وسيطرتنا على مضيق هرمز أبدية

موسكو: مستعدون للتوجه إلى السعودية كمنصة جديدة للمفاوضات بشأن أوكرانيا

ترامب: انسحاب الإمارات من "أوبك" أمر جيد وسيسهم في خفض أسعار الوقود