مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

76 خبر
  • رياضة
  • العملية العسكرية الروسية في أوكرانيا
  • حرب الخليج
  • رياضة

    رياضة

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • حرب الخليج

    حرب الخليج

  • فيديوهات

    فيديوهات

هل يمتلك الذكاء الاصطناعي أفكارا مخفية؟.. اكتشاف مثير في نموذج Claude

اكتشف باحثون في نموذج Claude للذكاء الاصطناعي ما يشبه "المونولوغ الداخلي"، الذي قد يختلف أحيانا عن الإجابات التي يقدمها للمستخدمين.

هل يمتلك الذكاء الاصطناعي أفكارا مخفية؟.. اكتشاف مثير في نموذج Claude
صورة أرشيفية / vecteezy.com

واكتشفت شركة Anthropic داخل نموذجها منطقة خاصة أطلقت عليها اسم "فضاء J"، نسبة إلى مصفوفة يعقوبي. ويُعتقد أن Claude يخزن فيها مفاهيم ومعالجات لا تتحول أبدا إلى كلمات ظاهرة، وهي أشبه بذاكرة قصيرة المدى خاصة بالشبكة العصبية.

وفي إحدى التجارب، أعاد نموذج Claude كتابة جملة عادية، بينما طُلب منه التفكير في جسر "البوابة الذهبية". وخلال ذلك، ظهرت في تمثيلاته الداخلية مفاهيم مثل "جسر" و"كاليفورنيا"، رغم أن النص نفسه لم يتضمن أي إشارة إلى هذه الكلمات.

وعند محاولة تعطيل "فضاء J"، تراجعت جودة أداء النموذج بشكل ملحوظ. والأكثر إثارة للاهتمام أن الباحثين وجدوا أن Claude قادر، إلى حد ما، على إدراك خضوعه للدراسة الداخلية، إذ كان أداؤه في الاختبارات الأخلاقية أسوأ عند غياب هذه القدرة.

وأوضح المطورون: "يمكننا الآن رؤية كيفية تنفيذ Claude لخطوات التفكير بصمت داخل بنيته الداخلية، حيث يكتشف الأخطاء في الأكواد، ويتعرف على الصور، وغير ذلك. وكما يستطيع الإنسان التفكير في شيء ما أثناء انشغاله بمهمة أخرى، يمكن لـ Claude تنشيط مفاهيم وحسابات في فضاء J الخاص به لا ترتبط بالضرورة بما يخرجه للمستخدم."

وأكدت شركة Anthropic أن هذه التقنية تتيح للباحثين رؤية ما يحدث داخل النموذج وما المفاهيم التي يعالجها، حتى لو لم تظهر في إجاباته النهائية.

المصدر: Naukatv.ru

التعليقات

تقرير: إيران تنشر صواريخ ومسيّرات وتجهّز الحوثيين لاستهداف السعودية وتستدعي قدامى محاربيها في العراق

رجل الأعمال الإماراتي خلف الحبتور يهاجم بن غفير: الحياة ليست ملكا لك.. عن أي سلام وتعايش نتحدث

"الثعلب" يفجر مفاجأة من سجنه: القذافي لا صدام هو من أمر بهجوم "أوبك" واغتيال "اليماني"

ترامب: إيران ينبغي أن ترفع الراية البيضاء لإعلان الاستسلام

هل تستأنف الحرب في الخليج أم لا في نهاية المطاف؟

إسرائيل تدقق في علاقتها بأبو ظبي بعد رصد "تقارب إماراتي-إيراني"

الدفاع الروسية: ضربات دقيقة تستهدف سفنا محملة بالأسلحة في موانئ أوديسا وميكولايف

موسكو: لندن تراهن على تصعيد النزاع الأوكراني بالسماح لكييف باستخدام مسيراتها لضرب روسيا

كوشنر: الاتصالات مع إيران أصبحت أكثر كثافة منها في أي وقت مضى

مكتب نتنياهو: اتفاق مع "مجلس السلام" على تشكيل مجموعتي عمل تتولى إحداهما تجريد قطاع غزة من السلاح