في وقت يواجه أساتذة الجامعات في العالم تحديات تصاحب تكنولوجيا الذكاء الاصطناعي التوليدي، بالتزامن مع العودة إلى الموسم الدراسي، يكتسب مصطلح “الذكاء الاصطناعي النقدي” مزيداً من الزخم.
أحد الأمثلة على تداول هذا المصطلح في الأوساط الأكاديمية، الإطلاق المرتقب لمجلة “الذكاء الاصطناعي النقدي” (Critical AI). وهي مجلة متعددة الاختصاصات، مقرّها جامعة “روتجرز” للتحليل الثقافي التابعة لمركز “روتجرز” للعلوم المعرفية، وتُنشر بالتعاون مع مطبعة جامعة “ديوك”.
تقول كاثرين كونراد، أستاذة اللغة الإنكليزية في جامعة كانساس، “تُحدث هذه التقنيات التوليدية تأثيراً في العالم، وكذلك التحديات الأخلاقية التي تنطوي عليها، مثل استغلال العمالة في دول الجنوب، والتعزيز المحتمل لوجهة نظر الغرب/دول الشمال، بسبب أنواع البيانات التي تُستخرج لتدريب النماذج. وأعتقد أن الإلمام الجيد بثقافة الذكاء الاصطناعي النقدي ضروري للجميع، مع التركيز على كلمة نقدي”. وتضيف كونراد أن مها بالي، الأستاذة في الجامعة الأميركية في القاهرة، هي من أطلقت هذا المصطلح.
وبالي رائدة في مجال التكنولوجيا التعليمية، وهي تحاضر، منذ العام 2017، في التعليم المفتوح، والبيداغوجيا الرقمية، والعدالة الاجتماعية. وإذ تنشر بالي معظم كتاباتها على مدوّنتها، فهي نشرت أيضاً مقالتين بمشاركة مؤلفين آخرين. كما أنها في عداد مجموعة من الخبراء حول العالم، ممن يحثون على إثارة النقاشات حول التكنولوجيا القائمة على النقد، ناهيك بأنها أبرز العلماء في العالم العربي.
AP
في حوار عن الذكاء الاصطناعي النقدي في شهر مارس/آذار الماضي، ذكرت بالي كيف أنشأت شركة “أوبن إيه. آي.” (Open AI) ذكاء اصطناعياً ( “تشات جي. بي. تي.”) يخلو من أي شفافية، إذ يمكن تشبيهه بـ “ذئب في ثياب حمل”.
فهو يبدو، وفق قولها، كأنه ذكاء اصطناعي أخلاقي للغاية، كونه لا يجيب عن أسئلة معينة يُحتمل أنها تتعارض مع معايير أخلاقية. لكنّ مجلة “تايم” نشرت تحقيقاً في يناير/كانون الثاني الماضي، كشفت فيه أن “أوبن إيه. آي.”، وفي إطار سعيها للحؤول دون ورود عبارات عنف أو إساءات أو شتائم عبر “تشات جي. بي. تي.”، طلبت من عمال في كينيا، من طريق أحد المقاولين، تفحّص الكثير من النصوص والصور المسيئة جداً للإبلاغ عنها. وهؤلاء الأشخاص يتقاضون رواتب متدنية، ويعانون أيضاً من مشكلات صحية عقلية كثيرة، بسبب العمل الذي يقومون به لجعل “تشات جي. بي. تي.”، ذكاء اصطناعياً أكثر أخلاقية. وتلك من الأمور التي لم تعالجها الشركة.
ولأنّ موضوع هذه العمالة غير معروف لعامة الناس، تحدثت بالي كثيراً عنه في الدوائر الخاصة، كما قرّرت أن تُخبر به أكبر عدد ممكن من الأشخاص. وهي توقفت عن استخدام الذكاء الاصطناعي لـ”المتعة”، فلا تستخدمه إلّا عندما تقدّم ورشة عمل، أو تحتاج حقاً إلى اختبار شيء ما. كذلك تحدّثت بالي إلى ابنتها (11 عاما) وطلابها عن هذا الموضوع، بالإضافة إلى أساتذة آخرين، ولذا فهم يدركون ما يحصل، ويشعرون بالاشمئزاز من جرائه.
عدم المساواة
إلى ذلك، تتحدث بالي كثيراً عن أوجه عدم المساواة التي ينتجها الذكاء الاصطناعي التوليدي، ومنها أنه متاح في بعض الدول دون غيرها. وعلى الرغم من عدم علمها بسبب عدم توافر “تشات جي. بي. تي.” في دول معينة، فضلاً عن دول أخرى، فهي تكشف أن شركة “أوبن إيه. آي.” قرّرت ذلك، وليس الدول نفسها.
ولتتمكن من الولوج إليه، كانت بالي تستخدم شبكة افتراضية (VPN)، ونافذة تصفّح خفي. كما طلبت من أحد الأصدقاء في الولايات المتحدة، أن تستخدم رقم هاتفه الخاص من أجل رمز التحقّق. وذلك يفضي في طبيعة الحال، إلى عدم مساواة في استخدام الذكاء الاصطناعي. ومن أوجه عدم المساواة الأخرى، أن بعض الأشخاص يمكنهم، في دول معينة، الدفع في مقابل استخدام “جي. بي. تي. 4”. ويتفاوت وعي الناس بذلك، وبقدرتهم على استخدام الذكاء الاصطناعي بصورة نقدية، تفاوتا كبيراً، بحسب بالي.
درست بالي الماجستير في الجامعة الأميركية ببيروت، وأمضت عاما واحدا في الجامعة الأميركية بالقاهرة، علما أن انتقادات توجّه إلى هاتين المؤسستين باعتبار أنهما نخبويتان إلى حدّ ما، وهو ما يطرح تساؤلات عمّا إذا كانتا تضمان باحثين في الذكاء الاصطناعي، وإذا كانت تحصل نقاشات حوله في المؤسسات العامة.
والنخبوية في كلتا الجامعتين تكمن، بحسب بالي، في أن بيئتهما مشابهة لبيئة العديد من المؤسسات الأميركية، فيما تختلف عن البيئة خارج جدرانهما. لذلك تعتقد بأن إجراء محادثة عالمية حول الذكاء الاصطناعي أسهل قليلاً، حيث يصعب في بعض الأحيان أن تجعل أحاديثها أكثر تكيفا مع جمهور الجامعات المصرية الحكومية. فلهذه الجامعات مقياس مختلف (نسبة أعضاء هيئة التدريس إلى الطلاب، ومستوى استقلالية المدرّسين، واختلاف الموارد)، وهي ربما لا تحظى بالقدر نفسه من الدعم لتطوير التعليم، كما أن المخاوف في شأن النزاهة الأكاديمية فيها أكبر، بحسب بالي.
بية من اللغات الأكثر شعبية على الإنترنت).
أ.ف.ب.
إلى ذلك، ثمة، بحسب بالي، حاجة إلى مزيد من العمل للإلمام بالذكاء الاصطناعي النقدي ليتمكّن الأفراد من استخدام الذكاء الاصطناعي بطريقة ملائمة، ويدركوا متى وأين يستخدمونه، ومتى لا يستخدمونه، وللتعرّف الى تحيّزاته، ومقدار المشكلات التي يثيرها، والضرر الذي يحدثه. وهي ترغب أيضاً في رؤية مزيد من تطبيقات الذكاء الاصطناعي التي تنطلق من المنطقة وتخدم أهدافها، وليس استخدام ما ينتجه الآخرون واستهلاكه فحسب.
أضرار الذكاء الاصطناعي على المجتمع أكبر بكثير في مجموعة متنوّعة من المجالات: العدالة الجنائية، والتوظيف والتعرّف الى الوجه على نطاق أوسع
أما بالنسبة إلى الأفكار والتحديات الجديدة التي تفكر فيها مع اقتراب العام الدراسي، فهي تعتبر أن كثرة ردود الأساتذة من الأمور المربكة بالنسبة إلى الطلاب. فبعض الأساتذة يحظرون الذكاء الاصطناعي، إلا أنها تعتقد أنه لا جدوى من ذلك، لأن كشف استخدامه غير ممكن بدقة متناهية. لا تريد بالي حظر الذكاء الاصطناعي عن الطلاب، لكنها تريد، في المقابل، أن يتحلى الطلاب بالشفافية في شأن استخدامهم له. ما يستحوذ على تفكيرها الآن، هو الاقتباسات. على سبيل المثل، بدأت تدرك أنه إذا أردت أن تسأل “تشات جي. بي. تي.” عن شيء ما، فالنتيجة ستكون تجميعا لكلّ البيانات التي دُرّب عليها، أو الاقتباس من الإنترنت. بالتالي إذا ذكر الطالب أنه حصل عليها من الذكاء الاصطناعي، ففي الواقع ليس هذا المصدر الصحيح للأفكار.
تحاول بالي منذ مدة طويلة تعليم الطلاب أهمية الإشارة إلى مصادر الأشياء، إلا أن التركيز كان على النسخ واستخدام النصوص من دون إعادة صياغتها. مع ذلك، لا يزال يتعيّن، وفقها، الإشارة إلى مصدر ما أعيدت صياغته. وبصفتها مدرّسة يرتكز عملها على الرعاية والعدالة الاجتماعية، كانت ترى أن أضرار الذكاء الاصطناعي على المجتمع أكبر بكثير في مجموعة متنوّعة من المجالات: العدالة الجنائية، والتوظيف، وتكنولوجيا المراقبة في التعليم، والتعرّف الى الوجه على نطاق أوسع. ودفَعها تخيّل الذكاء الاصطناعي في المستقبل، ووجوب كتابة قصة تتناول جوانبه الإيجابية والسلبية معاً، الى محاولة تصوّر ذكاء اصطناعي جيّد. ويجب، وفق ما تقول، تخيّل أنه مفيد؛ لأنه إذا لم يكن في الإمكان إيقاف الذكاء الاصطناعي، فيجب المساهمة الهادفة في تنظيم مستقبله لتعزيز القيم الانسانية وليس تدميرها، كما أن عدم القيام بأي شيء لا يبدو خياراً.
“المجلة”
