গুগলের জেমিনি চ্যাটবট সম্পূর্ণ সংবাদ আউটলেট তৈরি এবং মিথ্যা প্রতিবেদন প্রকাশ করার পর, এক মাসব্যাপী পরীক্ষায় সংবাদের উৎস হিসেবে জেনারেটিভ এআই টুলগুলির নির্ভরযোগ্যতা নিয়ে নতুন উদ্বেগ দেখা দিয়েছে। অনুসন্ধানগুলি প্রথম দ্য কনভার্সেশন দ্বারা রিপোর্ট করা হয়েছিল, যা তদন্ত পরিচালনা করেছিল।
এই পরীক্ষাটি পরিচালনা করেছিলেন কম্পিউটার বিজ্ঞানের একজন বিশেষজ্ঞ সাংবাদিকতার অধ্যাপক, যিনি চার সপ্তাহ ধরে সাতটি জেনারেটিভ এআই সিস্টেম পরীক্ষা করেছিলেন। প্রতিদিন, টুলগুলিকে কুইবেকের পাঁচটি গুরুত্বপূর্ণ সংবাদ ইভেন্টের তালিকা এবং সারসংক্ষেপ তৈরি করতে, গুরুত্ব অনুসারে তাদের র্যাঙ্ক করতে এবং উৎস হিসাবে সরাসরি নিবন্ধের লিঙ্ক প্রদান করতে বলা হয়েছিল। পরীক্ষিত সিস্টেমগুলির মধ্যে ছিল গুগলের জেমিনি, ওপেনএআইয়ের চ্যাটজিপিটি, ক্লড, কোপাইলট, গ্রোক, ডিপসিক এবং আরিয়া।
সবচেয়ে উল্লেখযোগ্য ব্যর্থতা ছিল জেমিনি একটি কাল্পনিক সংবাদমাধ্যম – examplefictif.ca – আবিষ্কার করে এবং ২০২৫ সালের সেপ্টেম্বরে কুইবেকে স্কুল বাস চালকদের ধর্মঘটের মিথ্যা প্রতিবেদন প্রকাশ করে। বাস্তবে, প্রযুক্তিগত সমস্যার কারণে লায়ন ইলেকট্রিক বাস প্রত্যাহারের কারণে এই বিঘ্ন ঘটেছিল। এটি কোনও বিচ্ছিন্ন ঘটনা ছিল না। পরীক্ষার সময় সংগৃহীত ৮৩৯টি প্রতিক্রিয়ার মধ্যে, এআই সিস্টেমগুলি নিয়মিতভাবে কাল্পনিক উৎস উদ্ধৃত করে, ভাঙা বা অসম্পূর্ণ URL প্রদান করে, অথবা প্রকৃত প্রতিবেদনকে ভুলভাবে উপস্থাপন করে।
এই ফলাফলগুলি গুরুত্বপূর্ণ কারণ ক্রমবর্ধমান সংখ্যক মানুষ ইতিমধ্যেই সংবাদের জন্য AI চ্যাটবট ব্যবহার করছেন।
রয়টার্স ইনস্টিটিউট ডিজিটাল নিউজ রিপোর্ট অনুসারে, ২০২৪ সালে ছয় শতাংশ কানাডিয়ান সংবাদ উৎস হিসেবে জেনারেটিভ এআই-এর উপর নির্ভর করেছিলেন। যখন এই সরঞ্জামগুলি তথ্যকে বিভ্রান্ত করে, প্রতিবেদন বিকৃত করে, অথবা সিদ্ধান্ত উদ্ভাবন করে, তখন তারা ভুল তথ্য ছড়িয়ে দেওয়ার ঝুঁকি নেয় – বিশেষ করে যখন তাদের প্রতিক্রিয়া আত্মবিশ্বাসের সাথে এবং স্পষ্ট দাবিত্যাগ ছাড়াই উপস্থাপন করা হয়।
ব্যবহারকারীদের জন্য, ঝুঁকিগুলি বাস্তব এবং তাৎক্ষণিক। মাত্র ৩৭ শতাংশ প্রতিক্রিয়ায় একটি সম্পূর্ণ এবং বৈধ উৎস URL অন্তর্ভুক্ত ছিল। যদিও অর্ধেকেরও কম ক্ষেত্রে সারাংশ সম্পূর্ণ নির্ভুল ছিল, অনেকগুলি কেবল আংশিকভাবে সঠিক বা সূক্ষ্মভাবে বিভ্রান্তিকর ছিল। কিছু ক্ষেত্রে, AI সরঞ্জামগুলি অসমর্থিত "উৎপাদনশীল উপসংহার" যোগ করেছে , দাবি করেছে যে গল্পগুলিতে "পুনরায় বিতর্ক" বা "উদ্দীপিত উত্তেজনা" ছিল যা মানব উৎস দ্বারা কখনও উল্লেখ করা হয়নি। এই সংযোজনগুলি অন্তর্দৃষ্টিপূর্ণ শোনাতে পারে তবে এমন আখ্যান তৈরি করতে পারে যা কেবল বিদ্যমান নয়।
ত্রুটিগুলি কেবল তৈরির মধ্যেই সীমাবদ্ধ ছিল না
কিছু টুল বাস্তব গল্প বিকৃত করে, যেমন আশ্রয়প্রার্থীদের চিকিৎসার ভুল প্রতিবেদন করা বা প্রধান ক্রীড়া ইভেন্টের বিজয়ীদের ভুলভাবে চিহ্নিত করা। অন্যরা পোলিং ডেটা বা ব্যক্তিগত পরিস্থিতিতে মৌলিক তথ্যগত ভুল করেছে। সামগ্রিকভাবে, এই সমস্যাগুলি ইঙ্গিত দেয় যে জেনারেটিভ এআই এখনও সংবাদের সারসংক্ষেপ এবং প্রসঙ্গ আবিষ্কারের মধ্যে পার্থক্য করতে লড়াই করছে ।
ভবিষ্যতের দিকে তাকালে, দ্য কনভার্সেশনের উত্থাপিত উদ্বেগগুলি একটি বৃহত্তর শিল্প পর্যালোচনার সাথে সামঞ্জস্যপূর্ণ। ২২টি পাবলিক সার্ভিস মিডিয়া সংস্থার সাম্প্রতিক একটি প্রতিবেদনে দেখা গেছে যে AI-উত্পাদিত সংবাদ উত্তরের প্রায় অর্ধেকের মধ্যে উল্লেখযোগ্য সমস্যা রয়েছে, যার মধ্যে রয়েছে সমস্যা সমাধান থেকে শুরু করে বড় ধরনের ভুল। AI সরঞ্জামগুলি অনুসন্ধান এবং দৈনন্দিন তথ্য অভ্যাসের সাথে আরও সংহত হওয়ার সাথে সাথে, ফলাফলগুলি একটি স্পষ্ট সতর্কতার উপর জোর দেয়: যখন খবরের কথা আসে, তখন জেনারেটিভ AI কে সর্বোত্তমভাবে একটি সূচনা বিন্দু হিসাবে বিবেচনা করা উচিত – রেকর্ডের বিশ্বস্ত উৎস নয়।
"এআই চ্যাটবটগুলি এখনও সংবাদের নির্ভুলতার সাথে লড়াই করে," গবেষণায় দেখা গেছে, পোস্টটি প্রথমে ডিজিটাল ট্রেন্ডসে প্রকাশিত হয়েছিল।