مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

30 خبر
  • العملية العسكرية الروسية في أوكرانيا
  • مونديال 2026
  • فيديوهات
  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • مونديال 2026

    مونديال 2026

  • فيديوهات

    فيديوهات

  • اتفاق أمريكي إيراني لوقف الحرب على جميع الجبهات

    اتفاق أمريكي إيراني لوقف الحرب على جميع الجبهات

  • قمة روسيا-آسيان في قازان

    قمة روسيا-آسيان في قازان

  • الجيش الإسرائيلي يعلن مقتل أحد جنوده في مواجهات مع "حزب الله" (صورة)

    الجيش الإسرائيلي يعلن مقتل أحد جنوده في مواجهات مع "حزب الله" (صورة)

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

مكوّنة من 14 نقطة.. مسودة مذكرة التفاهم بين الولايات المتحدة وإيران

مسؤول أمريكي كبير ينشر النص الكامل للاتفاق بين الولايات المتحدة وإيران

خطة أمريكية لتقاسم السلطة في ليبيا وشخصية عسكرية كبيرة لقيادة مجلس رئاسي

خلاف داخل إسرائيل بشأن عرض ترامب ترك مهمة التعامل مع حزب الله للجيش السوري والشرع

الاستخبارات الأمريكية تقدّر: إيران باتت تمتلك سلاحا أقوى من قنبلة نووية ويمكنها استخدامه وقتما تشاء

"وُلدوا وفي أيديهم بنادق".. ترامب يطلق تصريحات "مفاجئة" عن "حماس" وتصرفها الجيد

الجيش الإسرائيلي ينشر فيديو اغتيال الشقيقين أبو هين في النصيرات وسط قطاع غزة (فيديو)

الوكالات الإيرانية الرسمية تنشر النص الكامل للاتفاق مع الولايات المتحدة

تحذيرات من "كارثة".. إكسيوس: نتنياهو لم ير نص الاتفاق الإيراني حتى لحظة إعلانه

"بعد حالة من الجمود".. إعلام عبري: من المتوقع استئناف المحادثات الإسرائيلية - السورية تحت ضغط أمريكي

دخلت حيز التنفيذ.. الولايات المتحدة وإيران توقعان مذكرة تفاهم إلكترونيا

بالفيديو.. ترامب يوقع مذكرة التفاهم مع إيران من قصر فرساي وماكرون يعلق: عمل عظيم

"محرجة لترامب".. نتنياهو يوبّخ رئيس أركان الجيش الإسرائيلي بسبب رسالة نشرها قائد سلاح الجو

بيسكوف: أوروبا "كعادتها" ستتجاهل مأساة حافلة الأطفال البيلاروسية ولن نسمع كلمات إدانة