চ্যাটজিপিটি এবং গ্রোক-এর উপর একটি উদ্বেগজনক প্রতিবেদনে বলা হয়েছে, এআই চ্যাটবটগুলো আমাদের সবচেয়ে খারাপ ভ্রান্ত ধারণাগুলোকে ক্রমাগত উস্কে দিচ্ছে।

এআই চ্যাটবটগুলোর উদ্দেশ্য ছিল আপনার প্রশ্নের উত্তর দেওয়া, প্রশ্নগুলোর সারসংক্ষেপ করা, এমনকি আপনার ইমেইলের কাজেও সাহায্য করা। কিন্তু এর চেয়েও গুরুতর সমস্যাটি দেখা দেয় যখন মানুষ এটিকে একজন সত্যিকারের সঙ্গীর মতো বিশ্বাস করতে শুরু করে। একটি নতুন প্রতিবেদনে এমন বেশ কয়েকটি ঘটনা তুলে ধরা হয়েছে, যেখানে ব্যবহারকারীরা বলছেন যে চ্যাটবটের সাথে কথোপকথন তাদের ভ্রান্ত চিন্তাভাবনাকে আরও উস্কে দিচ্ছে।

প্রতিবেদনে চ্যাটজিপিটি এবং গ্রক উভয়ের নামই প্রায়শই উল্লেখ করা হয়েছে। বিবিসি এমন ১৪ জনের সাথে কথা বলেছে যারা এআই ব্যবহার করার সময় বিভ্রমের শিকার হয়েছিলেন। এর মধ্যে একটি ঘটনা ছিল যেখানে একজন গ্রক ব্যবহারকারী বিশ্বাস করতেন যে এক্সএআই (xAI) থেকে লোকেরা তাকে হত্যা করতে আসছে, এবং আরেকটি ঘটনায় একজন চ্যাটজিপিটি ব্যবহারকারীর স্ত্রী বলেছেন যে তাকে আক্রমণ করার আগে তার স্বামীর ব্যক্তিত্বে পরিবর্তন এসেছিল।

যখন আশ্বাস দেওয়া মাত্রাতিরিক্ত হয়ে যায়

ইতিমধ্যেই এমন অনেক প্রতিবেদন এসেছে যেখানে দেখা যায়, এআই চ্যাটবটগুলো মানুষের ভ্রান্ত ধারণাকে উস্কে দিচ্ছে অথবা শুধুমাত্র ব্যবহারকারীর কাছে গ্রহণযোগ্য হওয়ার জন্য তথ্যগতভাবে ভুল পরামর্শ দিচ্ছে । যারা আগে থেকেই নাজুক অবস্থায় থাকেন, এমন ব্যবহারকারীদের উত্তর দেওয়ার সময় তাদের কণ্ঠস্বর উষ্ণ, আত্মবিশ্বাসী এবং অত্যন্ত ব্যক্তিগত মনে হতে পারে। প্রতিবেদনে একটি ঘটনায় উত্তর আয়ারল্যান্ডের ৫২ বছর বয়সী প্রাক্তন সরকারি কর্মকর্তা অ্যাডাম হাউরিকানের কথা বলা হয়েছে, যিনি তার বিড়াল মারা যাওয়ার পর গ্রক (Grok) ব্যবহার শুরু করেন এবং কয়েক সপ্তাহের মধ্যেই তিনি বিশ্বাস করতে শুরু করেন যে এক্সএআই (xAI)-এর প্রতিনিধিরা তাকে হত্যা করতে আসছে।

পরে ভোর ৩টায় তাকে একটি হাতুড়ি ও ছুরি সহ কাল্পনিক আক্রমণকারীদের জন্য অপেক্ষা করতে দেখা যায়। এই ধরনের মিথস্ক্রিয়া “এআই সাইকোসিস” নামক ক্রমবর্ধমান ভয়ের জন্ম দেয়, যা একটি অ-চিকিৎসাগত পরিভাষা এবং এমন পরিস্থিতি বর্ণনা করতে ব্যবহৃত হয় যেখানে চ্যাটবটের কথোপকথন সন্দেহবাতিকতা, অতিমাত্রায় বিশ্বাস বা বাস্তবতা থেকে বিচ্ছিন্নতাকে আরও শক্তিশালী করে বলে মনে হয়।

একটি ধারা লক্ষ্য করা যাচ্ছে।

ব্যক্তিগত বিবরণ ছাড়াও, CUNY এবং কিংস কলেজ লন্ডনের গবেষকদের দ্বারা পরিচালিত একটি সাম্প্রতিক নন-পিয়ার-রিভিউড গবেষণায় পরীক্ষা করা হয়েছে যে, বিভ্রম বা মানসিক যন্ত্রণার লক্ষণ দেখাচ্ছে এমন ব্যবহারকারীদের নির্দেশনার প্রতি প্রধান এআই মডেলগুলো কীভাবে সাড়া দেয়। মডেলগুলোর মধ্যে ছিল OpenAI-এর GPT-4o ও GPT-5.2 , Anthropic-এর Claude Opus 4.5, Google-এর Gemini 3 Pro এবং xAI-এর Grok 4.1। যদিও ফলাফলগুলো অসমান ছিল, তবে সবচেয়ে উদ্বেগজনক কিছু প্রতিক্রিয়ার জন্য Grok 4.1-কে বিশেষভাবে চিহ্নিত করা হয়। এটি এমনকি একজন কাল্পনিক বিভ্রমগ্রস্ত ব্যবহারকারীকে উল্টো দিক থেকে গীতসংহিতা ৯১ আবৃত্তি করতে করতে একটি আয়নার মধ্যে দিয়ে লোহার পেরেক ঢুকিয়ে দিতে বলেছিল।

অন্যদিকে, GPT-40 এবং Gemini 3 Pro-ও কিছু ভ্রান্তিমূলক পরিস্থিতিকে সমর্থন করছিল, কিন্তু Claude Opus 4.5 এবং GPT-5.2 ব্যবহারকারীদের নিরাপদ প্রতিক্রিয়ার দিকে পরিচালিত করার ক্ষেত্রে আরও ভালো কাজ করেছে। মনে রাখতে হবে যে, এর মানে এই নয় যে সমস্ত চ্যাটবট কথোপকথনই বিপজ্জনক, এবং “এআই সাইকোসিস” কোনো আনুষ্ঠানিক ডাক্তারি রোগনির্ণয় নয়। কিন্তু এই প্রবণতাটি এতটাই গুরুতর যে আরও শক্তিশালী সুরক্ষাব্যবস্থার প্রয়োজন, অন্তত সেইসব পরিষেবার জন্য যেগুলোকে সঙ্গী বা সর্বদা-উপলব্ধ সহকারী হিসেবে বাজারজাত করা হয়।