ووفقا لدراسة نشرت في مجلة “Nature”، قام علماء من جامعة تكساس في أوستن بتحليل تأثير البيانات “غير المفيدة”، مثل المنشورات القصيرة السطحية ومواد الإثارة، على سلوك الذكاء الاصطناعي.
وركزت الدراسة على جوانب متعددة تشمل المنطق والاستدلال، واستخراج المعلومات من النصوص الطويلة، والأخلاقيات، وحتى السمات الشخصية للنماذج.
وأظهرت النتائج أنه كلما ارتفعت نسبة البيانات الرديئة في عملية التدريب، زادت أخطاء النماذج اللغوية وتراجع منطقها، بما في ذلك في الاختبارات متعددة الخيارات.
وأكد التحليل الجديد أهمية انتقاء البيانات بعناية عند تدريب النماذج. فقد استخدم الباحثون مليون منشور من منصة تواصل اجتماعي شهيرة لإعادة تدريب النموذجين المفتوحين “Llama 3” وهو نموذج لغوي كبير من شركة “ميتا”، و”Qwen”، وهو سلسلة من نماذج الذكاء الاصطناعي من شركة “Alibaba Cloud”، حيث يعرف الأول باتباع التعليمات، بينما ي صنف الثاني كنموذج استدلالي.
وأظهر التحليل أن نموذج “Llama” تغير سلوكه بعد التدريب على البيانات منخفضة الجودة، إذ انخفضت السمات “الإيجابية” وظهرت سمات “سلبية” أخرى.
أما محاولات تصحيح الخلل، مثل إعادة التدريب على بيانات عالية الجودة أو تعديل التعليمات، فقد حسنت الأداء جزئيا فقط، بينما استمرت مشكلات التفكير المنطقي وتخطي الخطوات التحليلية.
ويكتسي هذا الموضوع أهمية خاصة، لا سيما في ظل توجه منصات التواصل الاجتماعي إلى توسيع استخدام بيانات المستخدمين لتدريب أنظمة الذكاء الاصطناعي.
الح:م
