مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

32 خبر
  • مونديال 2026
  • فيديوهات
  • اتفاق أمريكي إيراني لوقف الحرب على جميع الجبهات
  • مونديال 2026

    مونديال 2026

  • فيديوهات

    فيديوهات

  • اتفاق أمريكي إيراني لوقف الحرب على جميع الجبهات

    اتفاق أمريكي إيراني لوقف الحرب على جميع الجبهات

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • بيان مصري سعودي باكستاني تركي يشيد بمذكرة التفاهم الأمريكية الإيرانية

    بيان مصري سعودي باكستاني تركي يشيد بمذكرة التفاهم الأمريكية الإيرانية

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

مستشار المرشد الإيراني: طالما بقي الاتفاق حبرا على ورق فإن تدفق الطاقة في الشرق الأوسط سيبقى متوقفا

تحذيرات للسفن بعد إغلاق مضيق هرمز.. وبيانات تكشف عبور سفن دولة واحدة فقط (صورة)

أكسيوس: تفتيش مواقع إيران النووية هدف واشنطن من أول جولة بسويسرا مقابل الإفراج عن 6 مليارات دولار

نائب إيراني يكشف "مراسلات سرية" بين المرشد مجتبى خامنئي والمفاوضين ويقع تحت الملاحقة القضائية

قاليباف من زيوريخ: لن أخيب آمال شهداء إيران وسأعود مرفوع الرأس

استطلاع: 92% من الإسرائيليين يعتبرون أن إيران خرجت منتصرة من الحرب

بالتفصيل.. معايير كسر التعادل في دور المجموعات بمونديال 2026

وصول الوفود المشاركة في مفاوضات إيران والولايات المتحدة إلى سويسرا

مصادر إسرائيلية تكشف: الاجتماعات الحكومية والعسكرية المغلقة بقيادة نتنياهو تشهد هجوما حادا على ترامب

فانس يدعو حزب الله لوقف النار: سنعمل على منع إسرائيل من شن هجمات جديدة على لبنان

المغرب قد يصطدم بمنتخب قوي.. الكشف عن أول المواجهات المحتملة لدور الـ32 في مونديال 2026

إعلام: ترامب سعى لإنهاء الحرب مع إيران بسرعة خوفا من تداعياتها على الاقتصاد وشعبيته