মেটা, গুগল এবং এক্স-এর মতো টেক জায়ান্টরা ভুয়া খবর শনাক্ত করার জন্য তৈরি এআই টুলগুলিতে প্রচুর পরিমাণে বিনিয়োগ করছে। এটা আশ্বস্ত করার মতো শোনালেও, ইউনিভার্সিটি ডি মন্ট্রিলের একটি নতুন গবেষণা অনুসারে, চিত্তাকর্ষক-শব্দযুক্ত নির্ভুলতার সংখ্যার পিছনে এই টুলগুলির কিছু গুরুতর ত্রুটি লুকিয়ে রয়েছে।
ডক্টরেট গবেষক ডরসাফ সাল্লামি এআই জাল সংবাদ সনাক্তকরণ ব্যবস্থা পরীক্ষা করে দেখেছেন যে তারা আসলে কোনও কিছুর সত্যতা যাচাই করে না। তারা তাদের প্রশিক্ষণের তথ্যের উপর ভিত্তি করে সম্ভাব্যতা গণনা করে। এটিকে একজন সাংবাদিকের মতো নয় বরং এটি যা দেখানো হচ্ছে তা প্রতিফলিত করে এমন আয়নার মতো ভাবুন, যার মধ্যে একই পক্ষপাত এবং অন্ধ দাগ রয়েছে।
ডোরসাফ সাল্লামির মতে, ল্যাব সেটিংয়ে ৯৫% নির্ভুলতা অর্জনকারী একটি সিস্টেম বাস্তব জগতে এখনও ব্যর্থ হতে পারে এবং এই ব্যবধানটি একটি গুরুতর সমস্যা।
পক্ষপাতের সমস্যা যেটা নিয়ে কেউ কথা বলছে না
নির্ভুলতার বাইরেও, সাল্লামি দেখেছেন যে এই সিস্টেমগুলির অনেকগুলিই অন্তর্নিহিত পক্ষপাত বহন করে যা মূলত অলক্ষিত থাকে। কিছু মডেল নারীদের ভুল তথ্যের উৎস হিসেবে চিহ্নিত করার সম্ভাবনা বেশি। অন্যরা অ-পশ্চিমা উৎসের বিরুদ্ধে পক্ষপাতদুষ্ট বা রাজনৈতিক কুসংস্কার পুনরুত্পাদন করে।
এই সিস্টেমগুলিকে কীভাবে প্রশিক্ষণ দেওয়া হয়, তা নিয়েও আরও গভীর সমস্যা রয়েছে। তারা ফ্যাক্ট-চেকিং সংস্থার লেবেলের উপর নির্ভর করে, যার অনেকেরই স্বচ্ছতার অভাব রয়েছে এবং কিছু লাভজনক ব্যবসা। পুরো সিস্টেমটি একটি নড়বড়ে ভিত্তির উপর নির্মিত।
এর সাথে যোগ করুন ChatGPT-এর মতো টুলের উত্থান যা জাল কন্টেন্ট তৈরি করা আগের চেয়ে সহজ করে তোলে, এবং কয়েক মাস আগেও প্রশিক্ষিত সনাক্তকরণ ব্যবস্থাগুলি দ্রুত অপ্রচলিত হয়ে যেতে পারে।
একটি উন্নত পদ্ধতি
সাল্লামির সমাধান হল অ্যালেথিয়া, একটি ব্রাউজার এক্সটেনশন যা ব্যাখ্যা করে কেন কন্টেন্ট সন্দেহজনক হতে পারে, কেবল এটি সত্য না মিথ্যা তা বলার পরিবর্তে। পরীক্ষায়, এটি 85% নির্ভরযোগ্যতা অর্জন করেছে, বিদ্যমান অনেক সরঞ্জামকে ছাড়িয়ে গেছে। এটিকে আলাদা করে তোলে এর দর্শন। আপনাকে রায় দেওয়ার এবং আপনি এটিতে বিশ্বাস করবেন বলে আশা করার পরিবর্তে, অ্যালেথিয়া তার কাজ দেখায়।
এটি অনলাইনে উপলব্ধ উৎস থেকে প্রমাণ সংগ্রহ করে, সহজ ভাষায় উপস্থাপন করে এবং ব্যবহারকারীদের চূড়ান্ত সিদ্ধান্ত নিতে দেয়। এমনকি এতে সাম্প্রতিক তথ্য যাচাইয়ের একটি লাইভ ফিড এবং একটি কমিউনিটি ফোরাম অন্তর্ভুক্ত রয়েছে যেখানে ব্যবহারকারীরা ফলাফলগুলি ভাগ করে নিতে এবং আলোচনা করতে পারেন। উপসংহারটি সহজ: AI আপনার বিচারকে সহায়তা করবে, এটি প্রতিস্থাপন করবে না।
"এআই ফেক নিউজ ডিটেক্টরগুলি আপনার ধারণার মতো ভালো নয়" পোস্টটি প্রথম প্রকাশিত হয়েছিল ডিজিটাল ট্রেন্ডসে ।