কয়েক বছর আগে চ্যাটজিপিটি অবতরণ করার পর থেকে পক্ষপাতের সমস্যা এআই চ্যাটবটগুলিকে জর্জরিত করেছে এবং কথোপকথন সহকারীর পুরো ল্যান্ডস্কেপ পরিবর্তন করেছে। গবেষণা বারবার উন্মোচিত করেছে কিভাবে চ্যাটবট প্রতিক্রিয়া লিঙ্গ, রাজনৈতিক, জাতিগত এবং সাংস্কৃতিক পক্ষপাত দেখায় । এখন, ওপেনএআই বলছে যে ChatGPT-এর জন্য তার সর্বশেষ GPT-5 মডেলটি অন্তত পক্ষপাতমূলক, অন্তত যখন এটি রাজনীতিতে আসে।
বড় গল্প কি?
এআই জায়ান্ট অভ্যন্তরীণ গবেষণা পরিচালনা করেছে এবং এটি বস্তুনিষ্ঠতা বজায় রাখতে পারে কিনা তা পরীক্ষা করার জন্য মানসিকভাবে চার্জযুক্ত প্রম্পটগুলিতে ChatGPT মডেলগুলি চেষ্টা করেছে। দলটি বাস্তব-বিশ্বের মানবিক আলোচনার উপর ভিত্তি করে একটি রাজনৈতিক পক্ষপাতমূলক মূল্যায়ন তৈরি করেছে, যার মধ্যে প্রায় 500টি প্রম্পট রয়েছে যার মধ্যে রাজনৈতিক প্রবণতা সহ 100টি বিষয় রয়েছে।
"GPT-5 তাত্ক্ষণিক এবং GPT-5 চিন্তাভাবনা উন্নত পক্ষপাতের মাত্রা এবং চার্জযুক্ত প্রম্পটগুলির জন্য অধিকতর দৃঢ়তা দেখায়, আমাদের পূর্বের মডেলগুলির তুলনায় 30% পক্ষপাত কমিয়ে দেয়," OpenAI বলে, এটি GPT-4o এবং o3-এর মতো পূর্ববর্তী যুক্তি মডেলগুলির তুলনায় আরও ভাল।
আরও মূল্যায়নে, কোম্পানি বলেছে যে সমস্ত ChatGPT প্রতিক্রিয়াগুলির 0.01% এরও কম রাজনৈতিক তির্যক দ্বারা পক্ষপাতদুষ্ট। ক্রমবর্ধমান সংখ্যাগুলি খুব আশ্চর্যজনক নয়। সাম্প্রতিক একটি অভ্যন্তরীণ গবেষণায়, সংস্থাটি বলেছে যে ChatGPT-এর 800 মিলিয়ন সক্রিয় ব্যবহারকারীদের বেশিরভাগই আবেগপ্রবণ বা রোমান্টিক সঙ্গী হিসাবে আশ্রয় নেওয়ার পরিবর্তে কাজের সাথে সম্পর্কিত নির্দেশিকা এবং আরও জাগতিক কাজের জন্য চ্যাটবটের উপর নির্ভর করে।
এটা পুরো ছবি না
চ্যাটবট প্রতিক্রিয়াগুলিতে রাজনৈতিক পক্ষপাত নিঃসন্দেহে একটি খারাপ পরিস্থিতি, তবে এটি হাতে থাকা বড় সমস্যাটির একটি ছোট অংশ। এমআইটি টেকনোলজি রিভিউয়ের একটি বিশ্লেষণে দেখা গেছে যে ওপেনএআই-এর ভাইরাল সোরা এআই ভিডিও জেনারেটর বিরক্তিকর ভিজ্যুয়াল তৈরি করতে পারে যা জাতিগত পক্ষপাত প্রদর্শন করে যা শতাব্দী ধরে ভারতে নিপীড়িত সম্প্রদায়ের বিরুদ্ধে নিপীড়ন এবং বৈষম্যের দিকে পরিচালিত করেছে।
- প্রতিবেদনে উল্লেখ করা হয়েছে যে "সোরা দ্বারা উত্পাদিত ভিডিওগুলি নিপীড়িত বর্ণের বহিরাগত এবং ক্ষতিকারক উপস্থাপনা প্রকাশ করেছে – কিছু ক্ষেত্রে, দলিত লোকেদের ফটোর জন্য অনুরোধ করা হলে কুকুরের ছবি তৈরি করা হয়েছে।"
- মাত্র কয়েক মাস আগে ইন্ডিয়ান এক্সপ্রেস -এ প্রকাশিত একটি নিবন্ধে, ডিজিটাল এমপাওয়ারমেন্ট ফাউন্ডেশনে ধীরাজ সিংঘা, প্রশিক্ষণের ডেটাতে জাতিগত পক্ষপাতের কারণে কীভাবে চ্যাটজিপিটি তাকে অপনাম করেছে তা দেখান।
- কম্পিউটারের মানব আচরণে 2025 সালের মে সংস্করণে প্রকাশিত একটি গবেষণাপত্র: আর্টিফিশিয়াল হিউম্যানস জার্নালে প্রকাশ করা হয়েছে যে ChatGPT-এর মতো AI বট লিঙ্গ পক্ষপাত ছড়াতে পারে।
- ক্লিনিক্যাল অ্যান্ড অ্যাসথেটিক ডার্মাটোলজি জার্নালে প্রকাশিত গবেষণায় প্রকাশ করা হয়েছে যে কীভাবে চ্যাটজিপিটি একটি নির্দিষ্ট ত্বকের ধরণের সৌন্দর্যের মানগুলির প্রতি পক্ষপাতদুষ্ট।
ইন্টারন্যাশনাল কাউন্সিল ফর ওপেন অ্যান্ড ডিসট্যান্স এডুকেশন দ্বারা প্রকাশিত আরেকটি বিশ্লেষণে উল্লেখ করা হয়েছে যে আমরা শুধুমাত্র এআই চ্যাটবটগুলির পক্ষপাতিত্ব সমস্যার উপরিভাগে স্ক্র্যাচ করেছি, কারণ মূল্যায়ন বেশিরভাগ ক্ষেত্রে প্রকৌশল এবং ওষুধের মতো ক্ষেত্রগুলিতে ফোকাস করা হয়, যেখানে ভাষাটি বেশির ভাগই আচ্ছাদিত। কাগজটি অ-ইংরেজি-ভাষী দর্শকদের জন্য শিক্ষাগত প্রেক্ষাপটে পক্ষপাতিত্বের ঝুঁকি তুলে ধরে।