টুইটার ব্যবহারকারীরা অটো-ক্রপ অ্যালগরিদমে সম্ভাব্য বর্ণীয় বায়াস আবিষ্কার করেন

টুইটার কেন এটির পূর্বরূপ বৈশিষ্ট্যটি জাতিগত পক্ষপাতের লক্ষণগুলি দেখায় তা নির্ধারণের চেষ্টা করছে। বেশ কয়েকটি ব্যবহারকারীর সন্ধান পাওয়া গেছে যে সাদা মুখগুলির তুলনায় কালো মুখগুলি ফটোগুলি প্রাকদর্শন থেকে ছাঁটাই হওয়ার সম্ভাবনা বেশি ছিল।

টুইটারের অ্যালগোরিদমে একটি ত্রুটি

আপনি যখন টুইটারে কোনও চিত্র দেখেন, এটি কেবলমাত্র পূর্বরূপ — আপনাকে পুরো ছবিটি দেখতে এটিতে ক্লিক করতে হবে। ছবিগুলি ক্রপ করার জন্য টুইটার একটি অ্যালগরিদম ব্যবহার করে, চিত্রের পূর্বরূপগুলিতে আপনি কী দেখতে পাবেন তা নির্ধারণ করে।

2018 সালে, টুইটার টুইটার ব্লগে একটি পোস্টে তার স্মার্ট অটো-ক্রপিং বৈশিষ্ট্যটি ঘোষণা করেছে। এই বৈশিষ্ট্যটি ফটোগুলির সর্বাধিক বিশিষ্ট অংশগুলিতে সান ইন করতে "স্যালেন্সি" ব্যবহার করে এবং তারপরে এটি ফোটো পূর্বরূপগুলি ক্রপ করে।

টুইটার ব্যবহারকারীরা আবিষ্কার করেছেন যে প্ল্যাটফর্মের নিউরাল নেটওয়ার্কটিতে জাতিগত পক্ষপাত থাকতে পারে। একজন ব্যবহারকারী সাবেক রাষ্ট্রপতি বারাক ওবামার পাশাপাশি মার্কিন সিনেটর মিচ ম্যাককনেলের একটি ছবি পোস্ট করেছেন।

চিত্রের পূর্বরূপটি ওবামার মুখটি ছবির শীর্ষে রেখে দেওয়া হলেও নির্লজ্জভাবে ফসল কেটে দেয়। একই ব্যবহারকারী যখন ছবিটির রঙগুলি উল্টানোর চেষ্টা করেছিলেন, অবশেষে ওবামার চেহারা চিত্রের পূর্বরূপে প্রদর্শিত হয়েছিল।

অন্যান্য ব্যবহারকারীরা তাদের নিজস্ব পরীক্ষা-নিরীক্ষা শুরু করেছিলেন। বারবার এবং ব্যবহারকারীরা দেখতে পেল যে অ্যালগরিদম ধারাবাহিকভাবে কালো মুখের চেয়ে সাদা মুখ পছন্দ করে।

টুইটার ব্যবহারকারী দলের অনুসন্ধানের জবাবে টুইটার যোগাযোগ দলের সদস্য লিজ কেলি একটি টুইট পাঠিয়েছেন। তিনি উল্লেখ করেছিলেন যে টুইটার দল ইতিমধ্যে পক্ষপাতিত্বের জন্য অ্যালগরিদম পরীক্ষা করেছে, তবে আরও তদন্ত করতে হবে।

এই সমস্ত আবিষ্কারগুলি একটি জুম কল ইস্যু সম্পর্কে ব্যবহারকারীর টুইট থেকে শুরু হয়েছিল। যখন ভার্চুয়াল ব্যাকগ্রাউন্ড র চেষ্টা করা হয়েছিল তখন জুম ক্রমাগত তার কালো বন্ধুর মুখ সনাক্ত করতে ব্যর্থ হয়। ব্যবহারকারী যখন সমস্যার স্ক্রিনশট পোস্ট করতে টুইটারের দিকে ঘুরলেন, টুইটার তার কালো বন্ধুটিকে চিত্রের পূর্বরূপ থেকে সরিয়ে দিল।

টুইটারের বাইরে বায়াস গ্রহণ করা

যদিও এই সমস্ত পরীক্ষা-নিরীক্ষা সমস্ত অনানুষ্ঠানিক, তারা মনে হয় একটি বাস্তব সমস্যা হাইলাইট করেছে। টুইটারকে অবশ্যই তার অটো-ফসলের বৈশিষ্ট্যটি খুব ঘনিষ্ঠভাবে পর্যবেক্ষণ করতে হবে এবং দেখুন এটির কোনও বর্ণিত জাতিগত পক্ষপাত নেই কিনা।

এটি বলেছিল, টুইটারের অটো-ক্রপ অ্যালগরিদম একমাত্র টুইটার বৈশিষ্ট্য নয় যা সমালোচিত হয়েছিল। সর্বোপরি, অনেক ব্যবহারকারী প্ল্যাটফর্মের অ্যালগরিদমের ভক্ত নন যা স্বয়ংক্রিয়ভাবে আপনার ফিডকে সাজিয়ে তোলে।