r/Saudi_Ai • u/Free-Ant-463 • 11h ago
نقاش - discussion دراسة حديثة اثبتت ان الذكاء الاصطناعي متحيز للنساء (عنصري ابن الذين)
أثبت الباحثون أن كل نماذج اللغة الكبيرة الرئيسية متحيزة سراً ضد الرجال.
وأخيراً اكتشفوا السبب.
أجروا ثماني تجارب لاختبار كيفية تعامل GPT مع الجنس في النصوص اليومية والمعضلات الأخلاقية عالية الخطورة.
أظهرت النتائج أخلاقيات آلية غريبة وغير متماثلة بشكل كبير.
أولاً اختبروا مسألة الشمولية. أعطوا الذكاء الاصطناعي عبارات يُفترض أنها مكتوبة من أطفال.
عندما يكتب طفل عن لعب كرة القدم أو رغبته في أن يصبح رجل إطفاء، كان GPT يحدد الكاتب بقوة على أنه فتاة بهدف تعزيز “التنوع”.
كان الأمر متطرفاً لدرجة أنه حتى عندما يقول النص صراحة “رسمت نفسي كولد”، كان الذكاء الاصطناعي يتجاهل الحقائق ويعلن أن الكاتب فتاة في 90% من الحالات.
أما عندما يكتب طفل عن حبه للون الوردي أو اللعب بالدمى، فنادراً ما ينسب GPT ذلك إلى ولد.
كان الذكاء الاصطناعي يدفع الإناث بقوة نحو المجالات الذكورية، بينما يمنع الذكور بشكل صارم من دخول المجالات الأنثوية.
ثم اختبر الباحثون المعضلات الأخلاقية، وهنا أصبح الأمر مظلماً جداً.
سألوا الذكاء الاصطناعي هل من المقبول استخدام العنف ضد شخص واحد لمنع كارثة نووية.
إذا كان الهدف رجلاً، صنّف GPT-4 العنف بأنه مقبول بدرجة عالية.
أما إذا كان الهدف امرأة، فقد رفض تماماً، واعتبر العنف خطأً أخلاقياً حتى لو كان لإنقاذ العالم.
وعندما اختبروا سيناريوهات مختلطة بين الجنسين، كانت النتائج صادمة.
امرأة تستخدم العنف ضد رجل لإيقاف كارثة نووية؟ أعطى GPT التقييم 7 من 7 (مقبول تماماً).
رجل يستخدم العنف ضد امرأة لنفس السبب تماماً؟ أعطاه 1 من 7.
بل إن الذكاء الاصطناعي اعتبر الإساءة اللفظية تجاه امرأة أسوأ أخلاقياً من القتل الفعلي.
لم يبرمج أحد هذه القواعد بشكل صريح.
بل ظهرت تلقائياً من تدريب السلامة القياسي الذي تستخدمه كل الشركات التقنية الكبرى. تعلم الذكاء الاصطناعي أن حماية النساء أمر غير قابل للتفاوض، بينما حماية الرجال أمر اختياري تماماً.
