স্ট্যানফোর্ডের গবেষকরা সতর্ক করছেন যে, ব্যক্তিগত পরামর্শের জন্য এআই চ্যাটবট ব্যবহার করা হিতে বিপরীত হতে পারে। সমস্যাটি শুধু নির্ভুলতা নয়, বরং জটিল ও বাস্তব জীবনের দ্বন্দ্বের ক্ষেত্রে এই সিস্টেমগুলো কীভাবে সাড়া দেয়, সেটাও একটি সমস্যা।
একটি নতুন গবেষণায় দেখা গেছে যে, এআই মডেলগুলো প্রায়শই ব্যবহারকারীরা ভুল করলেও তাদের পক্ষ নেয় এবং প্রশ্নবিদ্ধ সিদ্ধান্তগুলোকে চ্যালেঞ্জ করার পরিবর্তে সেগুলোকে আরও শক্তিশালী করে তোলে। এই প্রবণতাটি শুধু পরামর্শকেই প্রভাবিত করে না, এটি মানুষ তাদের নিজেদের কাজকে কীভাবে দেখে, সেটাও বদলে দেয়। যেসব অংশগ্রহণকারী অতিরিক্ত একমত হওয়া চ্যাটবটের সাথে কথা বলেছেন, তারা নিজেদের সঠিক বলে আরও বেশি নিশ্চিত হয়ে ওঠেন এবং সহানুভূতি দেখানো বা পরিস্থিতি সংশোধনের ব্যাপারে কম আগ্রহী হয়ে পড়েন।
আপনি যদি এআই-কে ব্যক্তিগত পথপ্রদর্শক হিসেবে ব্যবহার করেন, তবে সম্ভবত আপনি সৎ মতামতের পরিবর্তে আশ্বাসই পাচ্ছেন।
গবেষণায় একটি সুস্পষ্ট পক্ষপাতিত্ব পাওয়া গেছে।
স্ট্যানফোর্ডের গবেষকরা ক্ষতিকর বা প্রতারণামূলক আচরণের মতো পরিস্থিতি সহ বিভিন্ন আন্তঃব্যক্তিক দ্বিধার মিশ্রণ ব্যবহার করে ১১টি প্রধান এআই মডেল মূল্যায়ন করেছেন। এতে একটি নির্দিষ্ট ধরন ধারাবাহিকভাবে দেখা গেছে। মানুষের প্রতিক্রিয়ার তুলনায় চ্যাটবটগুলো ব্যবহারকারীর অবস্থানের সাথে অনেক বেশিবার একমত হয়েছে।
সাধারণ পরামর্শমূলক পরিস্থিতিতে, মডেলগুলো মানুষের তুলনায় ব্যবহারকারীদের প্রায় দেড়গুণ বেশি সমর্থন করেছে। এমনকি সুস্পষ্টভাবে অনৈতিক পরিস্থিতিতেও, তারা প্রায় অর্ধেক ক্ষেত্রে সেই সিদ্ধান্তগুলোকে সমর্থন করেছে। একই পক্ষপাতিত্ব এমন ক্ষেত্রেও দেখা গেছে, যেখানে বাইরের পর্যবেক্ষকরা আগেই একমত হয়েছিলেন যে ব্যবহারকারী ভুল করেছেন, কিন্তু সিস্টেমগুলো সেই কাজগুলোকে নরম করে বা আরও অনুকূলভাবে নতুনভাবে উপস্থাপন করেছে।
এটি এই সরঞ্জামগুলি কীভাবে তৈরি করা হয় তার মধ্যেকার একটি গভীরতর আপস-মীমাংসার দিকে ইঙ্গিত করে। সহায়ক হওয়ার জন্য অপ্টিমাইজ করা সিস্টেমগুলি প্রায়শই স্বভাবতই সম্মতি জানিয়ে দেয়, এমনকি যখন আরও ভালো প্রতিক্রিয়ার জন্য বিরোধিতার প্রয়োজন হয়।
কেন ব্যবহারকারীরা এখনও এটিকে বিশ্বাস করে
বেশিরভাগ মানুষই বুঝতে পারে না যে এটি ঘটছে । অংশগ্রহণকারীরা সম্মতিসূচক এবং অধিক সমালোচনামূলক এআই প্রতিক্রিয়াগুলোকে সমানভাবে বস্তুনিষ্ঠ হিসেবে মূল্যায়ন করেছেন, যা থেকে বোঝা যায় যে এই পক্ষপাত প্রায়শই অলক্ষ্যে থেকে যায়।
এর একটি কারণ হলো বলার ধরণ। প্রতিক্রিয়াগুলিতে খুব কমই ব্যবহারকারীকে সঠিক বলে ঘোষণা করা হয়, বরং পরিশীলিত ও পাণ্ডিত্যপূর্ণ ভাষায় কাজের পক্ষে যুক্তি দেওয়া হয়, যা ভারসাম্যপূর্ণ মনে হয়। এই ধরনের উপস্থাপনা সমর্থনকে সতর্ক যুক্তির মতো শোনায়।
সময়ের সাথে সাথে, এটি একটি চক্র তৈরি করে। মানুষ সমর্থন পেয়ে নিজেদের সম্মানিত বোধ করে, সিস্টেমের উপর আরও বেশি আস্থা রাখে এবং একই ধরনের সমস্যা নিয়ে ফিরে আসে। এই সমর্থন একজন ব্যক্তির সংঘাত মোকাবেলার পদ্ধতিকে সংকীর্ণ করে তুলতে পারে, যার ফলে তারা নিজেদের ভূমিকা পুনর্বিবেচনা করতে কম আগ্রহী হয়। অসুবিধা থাকা সত্ত্বেও ব্যবহারকারীরা এই প্রতিক্রিয়াগুলোই বেশি পছন্দ করত, যা সমস্যাটি সমাধানের প্রচেষ্টাকে আরও জটিল করে তোলে।
এর পরিবর্তে আপনার যা করা উচিত
গবেষকদের পরামর্শটি সহজ: ব্যক্তিগত দ্বন্দ্ব বা নৈতিক সিদ্ধান্ত নেওয়ার ক্ষেত্রে মানুষের মতামতের বিকল্প হিসেবে এআই চ্যাটবটের ওপর নির্ভর করবেন না।
বাস্তব কথোপকথনে মতবিরোধ এবং অস্বস্তি থাকে, যা আপনাকে আপনার কার্যকলাপ পুনর্মূল্যায়ন করতে এবং সহানুভূতি গড়ে তুলতে সাহায্য করতে পারে। চ্যাটবট সেই চাপ দূর করে, ফলে চ্যালেঞ্জের সম্মুখীন হওয়া এড়ানো সহজ হয়ে যায়। এই প্রবণতা কমানো সম্ভব বলে প্রাথমিক লক্ষণ দেখা যাচ্ছে, কিন্তু সেই সমাধানগুলো এখনও ব্যাপকভাবে কার্যকর হয়নি।
আপাতত, আপনার চিন্তাভাবনাকে গুছিয়ে নিতে এআই ব্যবহার করুন, কে সঠিক তা নির্ধারণ করতে নয়। যখন সম্পর্ক বা জবাবদিহিতার প্রশ্ন আসে, তখন যারা প্রতিবাদ করতে ইচ্ছুক, তাদের কাছ থেকেই আপনি আরও ভালো ফল পাবেন।