يوتيوب
انستغرام
نبض
ثريدز
العقل المزدوج للذكاء الاصطناعي
شارك على
مسنجر
واتساب
بريد إلكتروني
الطباعة
شارك على
كشفت دراسة حديثة أجرتها شركة Goodfire.ai أن أنظمة الذكاء الاصطناعي الكبيرة ـ ومنها النماذج المشابهة لـ "شات جي بي تي" ـ لا تخزّن الذاكرة والاستدلال في الاتجاهات نفسها داخل بنية أوزانها الداخلية، كما كان يُعتقد سابقاً، بل في مكوّنات مختلفة تؤدي وظائف متباينة. ويُعدّ هذا الاكتشاف خطوة مهمة لفهم كيفية "تفكير" الذكاء الاصطناعي وجعله أكثر أماناً وموثوقية.
استخدم الباحثون تقنية رياضية تُعرف باسم K-FAC لتحليل مصفوفات الأوزان داخل النماذج. وأظهرت النتائج أن المسارات المخفوضة الانحناء مسؤولة عن حفظ المعلومات واسترجاعها، بينما المسارات العالية الانحناء تتحكم بقدرات التفكير المرن وحل المشكلات الجديدة.
وللتأكد من ذلك، قام الفريق بتعطيل المكونات المرتبطة بالذاكرة (المخفوضة الانحناء)، ولاحظ أن الذكاء الاصطناعي احتفظ بقدرته على التفكير المنطقي، لكنه فقد دقته في الحسابات واسترجاع الحقائق الثابتة.
ويشير الباحثون إلى أن طريقتهم، المسماة "التقليم القائم على الانحناء"، تقلّل من الحفظ الزائد دون الحاجة إلى تدريب إشرافي إضافي. كما يمكن أن تساعد على الحد من تسريب المعلومات أو المحتوى المتحيّز، وقد تساهم في جعل النماذج أكثر كفاءة وأقل تكلفة في التشغيل، ما يمهّد لتطوير أنظمة أكثر أماناً وشفافية في المستقبل.
العلامات الدالة
الأكثر قراءة
