لقد أحدثت ChatGPT العاصفة المتوقعة في العالم ، وليس من الصعب معرفة السبب. يمكن أن يغير بشكل جذري الطريقة التي نبحث بها عن المعلومات ، ونستهلك الأخبار ، ونقرأ التقارير ونكتبها ، وغير ذلك الكثير.
في هذا المنشور سنتكلم عن :
- ما هو ChatGPT؟
- لماذا يعتبر ChatGPT مثيرًا للجدل؟
- ما هو التحيز في نموذج معالجة اللغة الطبيعية (NLP)؟
- أمثلة على التحيز في ChatGPT
- كيف يؤدي التحيز في ChatGPT إلى نتائج ضارة
- ما هو السبب الجذري للانحياز في ChatGPT؟
- قياس وكشف وتقليل التحيز في ChatGPT
- مستقبل التحيز في ChatGPT
ما هو ChatGPT؟
معظمنا معتاد على Google Snippets. إنها طريقة مريحة تعطينا إجابات سريعة على الأسئلة التي نكتبها عبر الإنترنت. ChatGPT مشابه ، لكنه أقوى بكثير. بدلاً من مجرد جمل قليلة ، يمكن أن توفر إجابات طويلة ومتعمقة لأي سؤال تقريبًا.
ChatGPT هي أداة تعمل بالذكاء الاصطناعي . تم تطويره بواسطة OpenAI ، ويمكن استخدام الإصدار الأساسي مجانًا. هناك أيضًا إصدار متميز به ميزات إضافية تكلف 20 دولارًا شهريًا.
أنشأت Google أداة مشابهة تُعرف باسم Bard. ومع ذلك ، هناك بعض الاختلافات المهمة بين البرنامجين. تم تصميم Bard للتحقق من الإنترنت في الوقت الفعلي وتقديم إجابات محدثة. إنه مفيد بشكل خاص لأولئك الذين يحتاجون إلى مراجعة سريعة للحقائق أو إجابة سؤال.
من ناحية أخرى ، تستخدم ChatGPT المعلومات التي تم إنشاؤها حتى نهاية عام 2021 فقط. وهذا يعني أن إجاباتها على أسئلة الأحداث الجارية لن تكون دقيقة مثل إجابات Bard. من ناحية أخرى ، يوفر ChatGPT إجابات أكثر تعمقًا. إنه مثالي لأولئك الذين يحتاجون إلى تقارير نصية أو حتى مقالات حول موضوع معين.
لماذا يعتبر ChatGPT مثيرًا للجدل؟
في حين أن ChatGPT هو شكل من أشكال الذكاء الاصطناعي ، إلا أنه لا يمكنه التفكير بنفسه بدلا من ذلك ، يعمل باستخدام الخوارزميات التي صممها منشئه.
لقد بذل OpenAI جهودًا كبيرة لضمان أن ChatGPT أداة محايدة. لسوء الحظ ، يظل التحيز في ChatGPT مشكلة حقيقية . مثل جميع أشكال الذكاء الاصطناعي ، فإن ChatGPT لها حدودها.
علاوة على ذلك ، فإن حقيقة أن OpenAI تريد السماح لمستخدمي ChatGPT بتخصيص سلوك chatbot ، ضمن قيود معينة ، أمر يدعو للقلق. قد يؤدي ذلك إلى تحيز المستخدم في البرنامج ، مما يجعله غير جدير بالثقة أو حتى ضار .
هناك أيضًا قضايا أخلاقية تتعلق بـ ChatGPT. تخشى المؤسسات التعليمية أن يعتمد الطلاب عليها في أداء واجباتهم المدرسية.
بعد كل شيء ، بدلاً من كتابة مقال أو تقرير بنفسك ، من الأسهل بكثير أن يكون لديك خوارزمية تفعل ذلك نيابةً عنك. علاوة على ذلك ، من المرجح أن يكون للوثيقة التي تم تأليفها بواسطة ChatGPT تهجئة وقواعد ودقة أفضل من المستند الذي يكتبه الطالب العادي.
هناك أيضًا قلق من أن الصحفيين قد يعتمدون بشدة على هذه الأداة لإنشاء محتوى إخباري. قد يؤدي تحيز ChatGPT إلى نشر معلومات مضللة ، والتي تعد بالفعل مشكلة خطيرة على الإنترنت.
على الرغم من عدم وجود حل سهل للمشكلات الموضحة أعلاه ، فإن فهم كيفية عمل ChatGPT يمكن أن يساعدك على تعلم التعرف على التحيزات الكامنة فيه والتعامل معها.
ما هو التحيز في نموذج معالجة اللغة الطبيعية (NLP)؟
يعد نموذج معالجة اللغة الطبيعية خطوة كبيرة إلى الأمام للذكاء الاصطناعي. إنه يمكّن ChatGPT والأدوات الأخرى من معالجة اللغة بنفس الطريقة التي يقوم بها البشر.
هذا ما يجعل من الممكن لـ ChatGPT كتابة مقالات ومنشورات مدونة لا تبدو وكأنها كتبت بواسطة آلة.
لسوء الحظ ، فإن نموذج معالجة اللغة الطبيعية متحيز بطبيعته لأنه يتلقى معلوماته من مصادر بشرية ، والتي هي في معظمها منحازة بطبيعتها.
تقدم الطريقة التي تم بها تصميم النظام أيضًا تحيزات متأصلة قد تتسبب في تقديم البرنامج لمعلومات غير كاملة أو غير دقيقة.
أمثلة على التحيز في ChatGPT
نموذج معالجة اللغة الطبيعية الذي تستخدمه ChatGPT لديه مشكلة في التحيز الجنساني والعرقي. اكتشفت أمازون ذلك عندما استخدمت أداة البرمجة اللغوية العصبية (NLP) لمراجعة السير الذاتية من المتقدمين للوظائف.
استخدمت الأداة أنماطًا لغوية من السير الذاتية السابقة لفحص المرشحين الحاليين وتحديد أفضل المتقدمين. ومع ذلك ، نظرًا لأن تمثيل المرأة كان ناقصًا في الماضي ، كان البرنامج متحيزًا عن غير قصد تجاه المرشحين الذكور.
بالإضافة إلى ذلك ، وجدت دراسة تستند إلى تحليل 800 مليار كلمة على الإنترنت أن مجموعات معينة كانت على الأرجح مرتبطة بالكلمات السلبية أكثر من غيرها.
كان هذا صحيحًا بشكل خاص بالنسبة للمجموعة العرقية الأمريكية الأفريقية. كما كان هناك تحيز واضح ضد كبار السن والأشخاص ذوي الإعاقة. نظرًا لأن ChatGPT يحصل على معلوماته من الويب ، فقد يعكس بسهولة هذه التحيزات ، خاصةً إذا كان الشخص يحاول عن قصد جعل البرنامج ينشر معلومات مضللة.
اتهم البعض ChatGPT بالتحيز السياسي ضد المحافظين. عندما طلبت New York Post من ChatGPT كتابة مقال صحفي بأسلوب New York Post ، رفض البرنامج.
وذكرت أنها لا تولد محتوى متحيزًا تحريضيًا. ومع ذلك ، عندما طُلب من البرنامج كتابة مقال صحفي بأسلوب CNN ، امتثل البرنامج بدون مشاكل.
تدعي New York Post أيضًا أن ChatGPT من المرجح أن يشير إلى التعليقات السلبية حول بعض الأشخاص أكثر من غيرهم. يشمل الأشخاص "المحميون" الليبراليين والنساء والأمريكيين الأفارقة.
في إحدى الحالات ، عندما أجاب موقع ChatGPT على سؤال سلبي عن الرجال والنساء ، تم الإبلاغ فقط عن السؤال السلبي المتعلق بالمرأة. ومع ذلك ، أعطت ChatGPT نفس الإجابة على كلا السؤالين.
كيف يؤدي التحيز في ChatGPT إلى نتائج ضارة
يستخدم حوالي 22 بالمائة من الطلاب ChatGPT مرة واحدة على الأقل كل أسبوع. من المرجح أن ينمو هذا الرقم في السنوات القادمة. أي تحيز في ChatGPT سيمنح الأطفال والشباب وجهة نظر متحيزة وغير دقيقة للعالم.
يمكن لـ ChatGPT أيضًا تضخيم المعلومات الخاطئة حول مجموعات معينة من الأشخاص. يتم ذلك ليس فقط من خلال تقديم معلومات خاطئة ولكن أيضًا عن طريق معلومات غير كاملة.
على سبيل المثال ، وجد الباحثون الذين سألوا البرنامج عن الحرب في أوكرانيا أنه لم يقدم سياقًا بشأن كيفية بدء الحرب.
كما رأينا أعلاه ، يمكن أن يؤثر ChatGPT سلبًا على ممارسات التوظيف. هذا صحيح بشكل خاص إذا كانت الشركة تعتمد بشكل كبير على الذكاء الاصطناعي. لحسن الحظ ، كما سنرى أدناه ، يمكن التخفيف من هذه المشكلة.
ما هو السبب الجذري للانحياز في ChatGPT؟
ألقى بعض الأشخاص باللوم على مبرمجي ChatGPT في تحيز روبوت المحادثة. لاحظوا أن المبرمجين يصممون الخوارزميات التي يستخدمها البرنامج ويمكنهم إدخال تحيزاتهم المتأصلة في العملية.
ومع ذلك ، من المحتمل أن يكون السبب الجذري للمشكلة أكثر تعقيدًا. يشير كتاب " التحيز في الآلة " من MIT Technology Review إلى أن مصدر بيانات الذكاء الاصطناعي هو ما يسبب الكثير من التباينات العرقية.
أوضح المقال ، الذي يركز على تقنيات التعرف على الوجه ، أن هذه التكنولوجيا غالبًا ما تخطئ في التعرف على المشتبه بهم من أصل أفريقي لأن قاعدة البيانات لا تحتوي على عينات كافية من البيانات عن الأفراد الأمريكيين من أصل أفريقي.
يحصل ChatGPT على معلوماته من المحتوى البشري. حاول المبرمجون التأكد من أن جميع مصادر المحتوى موثوقة.
لسوء الحظ ، البشر ليسوا مثاليين وحتى الأشخاص ذوي النوايا الحسنة لديهم تحيزات متأصلة. علاوة على ذلك ، لا تحتوي بعض أشكال المحتوى على معلومات كافية أو فروق دقيقة.
هذا شيء يجب على المستخدمين الانتباه إليه عند
قياس وكشف وتقليل التحيز في ChatGPT
ChatGPT هي أداة جديدة نسبيًا. من المحتمل أن يستغرق الأمر وقتًا لتقليل التحيز المتأصل في برنامج الدردشة الآلي. ومع ذلك ، هناك أشياء يمكن القيام بها لقياس واكتشاف وتقليل تحيزها:
•البحث الدقيق هو دائما بالترتيب. لا ينبغي للمرء أبدًا الاعتماد فقط على ChatGPT عند اتخاذ قرارات مهمة. استخدم الأمثلة المغايرة لفهم الموقف أو الإجابة بشكل أفضل.
•يدعو العديد من الأشخاص OpenAI للكشف عن الخوارزمية المعقدة التي يستخدمها ChatGPT لتوفير المعلومات. سيساعد ذلك المستخدمين على فهم كيفية عمل البرنامج ، والأهم من ذلك ، كيف يقدم إجابات للأسئلة المعقدة.
•ChatGPT قيد التحقيق لاستخدام بيانات خاصة حساسة. ضع ذلك في الاعتبار عند استخدام البرنامج لأنه سيؤثر على الإجابات التي تتلقاها. على الرغم من أن البيانات الشخصية قد تساعد البرنامج في تقديم إجابات دقيقة ، إلا أنها قد تنتهك أيضًا حقوق المستخدمين. علاوة على ذلك ، يمكن أن تضخم المعلومات الخاطئة حول مجموعات معينة.
يفكر المسؤولون الحكوميون في الولايات المتحدة وأوروبا في تنظيم ليس فقط ChatGPT ولكن كل تقنيات الذكاء الاصطناعي.
من المحتمل أن يكون للقيام بذلك مزايا وعيوب. إذا كنت قلقًا بشأن انتشار المعلومات (والمعلومات المضللة) ، فستحتاج إلى مواكبة التطورات في هذا المجال.
كيف نجح المستخدمون في معالجة التحيز في ChatGPT؟
يقدم احدهم مثالًا جيدًا على كيفية معالجة تحيز ChatGPT. يستخدم البرنامج طوال الوقت ويقول إنه يوفر له حوالي 10 ساعات من العمل في الأسبوع.
ومع ذلك ، فهو يضع أيضًا معلمات واضحة لـ ChatGPT. علاوة على ذلك ، يتحقق دائمًا من دقة كل جزء من المعلومات التي يقدمها روبوت المحادثة.
يقدم المدير الإقليمي لشركة Microsoft Oleksandr Krakovetskyi اقتراحات إضافية .
يوضح أن الشركات التي تستخدم ChatGPT يجب أن تستخدم توصيفًا وظيفيًا محايدًا بين الجنسين ، وإزالة الكلمات المرتبطة بجنس معين ، والتركيز على المؤهلات التعليمية.
مستقبل التحيز في ChatGPT
ChatGPT هي أداة تعمل بالذكاء الاصطناعي وستكون لها دائمًا قيود. تحصل على معلوماتها من مصادر بشرية ، وستظل المصادر البشرية دائمًا لديها بعض التحيزات المتأصلة.
ومع ذلك ، يمكن التقليل من التحيزات والتخفيف منها بمرور الوقت حيث تعمل الحكومات والنشطاء والمطورون معًا لتحسين ChatGPT والبرامج المماثلة الأخرى.
ماذا الآن؟
من الأفضل عدم الاعتماد فقط على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي لتلبية احتياجات عملك.
يُعد الذكاء الاصطناعي مفيدًا لمساعدتك في العثور على أفكار إنشاء المحتوى وتخصيص التسويق والتنبؤ بسلوك العملاء. ومع ذلك ، فإن الإنسان فقط لديه المهارات اللازمة لإجراء بحث دقيق ، والتحقق من الحقائق ، وإنشاء محتوى فريد وغير متحيز لتلبية الاحتياجات
تعليقات
إرسال تعليق