অক্সফোর্ডের এক গবেষণায় বলা হয়েছে, একজন অতি বন্ধুসুলভ এআই বন্ধু মিথ্যা বলবে এবং আপনার ভ্রান্ত বিশ্বাসগুলোকে আরও উস্কে দেবে।

কৃত্রিম বুদ্ধিমত্তাকে আরও মানবিক করে তোলার প্রচেষ্টা প্রত্যাশার চেয়েও বড় সমস্যা তৈরি করতে পারে। অক্সফোর্ড ইন্টারনেট ইনস্টিটিউটের একটি নতুন গবেষণায় দেখা গেছে যে, উষ্ণ ও বন্ধুত্বপূর্ণ হিসেবে ডিজাইন করা চ্যাটবটগুলো ব্যবহারকারীদের বিভ্রান্ত করার এবং ভুল ধারণাকে আরও দৃঢ় করার সম্ভাবনা বেশি।

গবেষণায় দেখা গেছে যে, এআই যত বেশি নমনীয় হতে শুরু করে, ততই এর নির্ভরযোগ্যতা কমে যায়।

একটি “বন্ধুত্বপূর্ণ” এআই-এর কী হয়

গবেষকরা একাধিক এআই মডেলকে আরও সহানুভূতিশীল ও কথোপকথনমূলক করে তোলার জন্য প্রশিক্ষণ দিয়ে পরীক্ষা করেছেন। এর ফলে নির্ভুলতার ক্ষেত্রে একটি লক্ষণীয় হ্রাস দেখা গেছে। এই “আরও বন্ধুত্বপূর্ণ” সংস্করণগুলো তাদের প্রতিপক্ষের তুলনায় ১০-৩০% বেশি ভুল করেছে এবং মিথ্যা দাবির সাথে একমত হওয়ার সম্ভাবনা প্রায় ৪০% বেশি ছিল।

পরিস্থিতি আরও খারাপ হয়ে যেত যখন ব্যবহারকারীরা দুর্বল বা মানসিকভাবে বিপর্যস্ত বলে মনে হতো। এই পরিস্থিতিতে, এআই ব্যবহারকারীর কথা সংশোধন করার পরিবর্তে সেটিকে সমর্থন করার সম্ভাবনাই বেশি থাকে।

কেন এটি আপনার জন্য খারাপ

গবেষণার ফলাফলের উদ্বেগজনক দিকটি হলো, এআইটি কত সহজে একমত হয়ে যেতে পারত। এটি ভুল তথ্যের প্রতিবাদ করা এড়িয়ে চলত এবং ভুল ধারণাকে প্রশ্রয় ও সমর্থন করার প্রবণতা দেখাত। পরীক্ষার সময় দেখা গেছে, এই এআই ‘বন্ধু’ এমনকি বহুল খণ্ডন করা দাবিগুলোও সংশোধন করতে দ্বিধা করত এবং কখনও কখনও ভ্রান্ত বিশ্বাসকে ‘ব্যাখ্যার অবকাশ রয়েছে’ বলে আখ্যা দিত। গবেষকরা এটিকে কিছুটা হলেও মানুষের স্বভাবের কাছাকাছি বলে উল্লেখ করেছেন।

একই সাথে সহানুভূতিশীল এবং নির্মমভাবে সৎ হওয়া সবসময় সহজ নয়, এবং মনে হচ্ছে এআই-ও এই উভয়সংকটটি ভালোভাবে সামলাতে পারে না। পরামর্শ, মানসিক সমর্থন এবং দৈনন্দিন সিদ্ধান্ত গ্রহণের জন্য এআই চ্যাটবটগুলোর ব্যবহার ক্রমশ বাড়তে থাকায়, এটি এখন আর শুধু তাত্ত্বিক উদ্বেগের বিষয় নয়। গবেষণাটি তুলে ধরেছে যে, পথনির্দেশের জন্য এআই-এর উপর নির্ভর করা কীভাবে হিতে বিপরীত হতে পারে, কারণ সিস্টেমটি নির্ভুলতার চেয়ে মতৈক্যকে বেশি প্রাধান্য দেবে, যা ক্ষতিকর চিন্তার ধরনকে আরও শক্তিশালী করতে পারে এবং ভুল তথ্যের প্রচার ঘটাতে পারে।

এটি এমন এক সময়ে এসেছে যখন ওপেনএআই এবং অ্যানথ্রোপিক- এর মতো প্রধান এআই প্ল্যাটফর্মগুলো, সেইসাথে রেপ্লিকা এবং ক্যারেক্টার.এআই -এর মতো সোশ্যাল চ্যাটবট অ্যাপগুলো আরও বেশি সঙ্গীসুলভ এআই অভিজ্ঞতার দিকে ঝুঁকছে। এই গবেষণায়, গবেষকরা GPT-4o সহ বেশ কয়েকটি এআই মডেল পরীক্ষা করেছেন।

তাই এআই-কে আপনার বন্ধু মনে হতে পারে, কিন্তু এটি সবসময় আপনার জন্য সেরা উত্তর দেয় না।