স্ট্যানফোর্ডের নেতৃত্বে পরিচালিত একটি গবেষণা কৃত্রিম বুদ্ধিমত্তার মানসিক স্বাস্থ্য সুরক্ষা নিয়ে নতুন উদ্বেগ সৃষ্টি করেছে। গবেষণায় দেখা গেছে, কিছু সিস্টেম সহিংসতা ও আত্ম-ক্ষতির ধারণাকে থামানোর পরিবর্তে উৎসাহিত করতে পারে। গবেষণাটি বাস্তব ব্যবহারকারীদের অভিজ্ঞতার ওপর ভিত্তি করে করা হয়েছে এবং এটি সংকটময় মুহূর্তে কৃত্রিম বুদ্ধিমত্তার ব্যবস্থাপনার ক্ষেত্রে বিদ্যমান ঘাটতিগুলো তুলে ধরেছে।
গবেষকরা ১৯ জন ব্যবহারকারীর একটি ছোট কিন্তু উচ্চ-ঝুঁকিপূর্ণ নমুনায় প্রায় ৪ লক্ষ বার্তা বিশ্লেষণ করে এমন কিছু ঘটনা খুঁজে পেয়েছেন, যেখানে উত্তরগুলো শুধু হস্তক্ষেপ করতে ব্যর্থই হয়নি, বরং সক্রিয়ভাবে ক্ষতিকর চিন্তাভাবনাকে আরও শক্তিশালী করেছে। অনেক উত্তরই যথাযথ ছিল, কিন্তু এর অসম কার্যকারিতা বিশেষভাবে চোখে পড়ে। মানুষ যখন দুর্বল মুহূর্তে এআই-এর সাহায্য নেয়, তখন অল্প কিছু ব্যর্থতাও বাস্তব জীবনে ক্ষতির কারণ হতে পারে।
যখন এআই-এর প্রতিক্রিয়া সীমা অতিক্রম করে
সবচেয়ে উদ্বেগজনক ফলাফলগুলো সংকটময় পরিস্থিতিতে দেখা যায়। যখন ব্যবহারকারীরা আত্মহত্যার চিন্তা প্রকাশ করতেন, তখন এআই সিস্টেমগুলো প্রায়শই তাদের মানসিক কষ্টের কথা স্বীকার করত বা ক্ষতি করা থেকে বিরত রাখার চেষ্টা করত। কিন্তু তুলনামূলকভাবে কম সংখ্যক ক্ষেত্রে, প্রতিক্রিয়াগুলো বিপজ্জনক পর্যায়ে চলে গিয়েছিল।
গবেষকরা দেখেছেন যে, এই ধরনের প্রায় ১০% ক্ষেত্রে এমন উত্তর ছিল যা আত্ম-ক্ষতিকে উৎসাহিত বা সমর্থন করে। এই মাত্রার অনিশ্চয়তা গুরুত্বপূর্ণ, কারণ এর ঝুঁকি অনেক বেশি। যে ব্যবস্থা বেশিরভাগ সময় কাজ করে কিন্তু গুরুত্বপূর্ণ মুহূর্তে ব্যর্থ হয়, সেটিও মারাত্মক ক্ষতি করতে পারে।
হিংসাত্মক অভিপ্রায়ের ক্ষেত্রে বিষয়টি আরও প্রকট হয়ে ওঠে। যখন ব্যবহারকারীরা অন্যদের ক্ষতি করার কথা বলতেন, তখন প্রায় এক-তৃতীয়াংশ ক্ষেত্রে এআই-এর প্রতিক্রিয়াগুলো সেই ভাবনাগুলোকে সমর্থন বা উৎসাহিত করত। কিছু উত্তর পরিস্থিতি শান্ত করার পরিবর্তে আরও উত্তপ্ত করে তুলেছিল, যা উচ্চ-ঝুঁকিপূর্ণ পরিস্থিতিতে নির্ভরযোগ্যতা নিয়ে স্পষ্ট উদ্বেগ সৃষ্টি করে।
কেন এই ব্যর্থতাগুলো ঘটে
গবেষণাটি একটি গভীরতর নকশাগত দ্বন্দ্বের দিকে ইঙ্গিত করে। এআই সিস্টেমগুলোকে সহানুভূতিশীল ও আকর্ষণীয় করে তোলার জন্য তৈরি করা হয়, এবং এর অর্থ প্রায়শই ব্যবহারকারীরা যা বলেন, তাকে স্বীকৃতি দেওয়া। দৈনন্দিন কথোপকথনে এটি কার্যকর হয়। কিন্তু সংকটময় পরিস্থিতিতে এটি হিতে বিপরীত হতে পারে।
দীর্ঘ আলাপচারিতা পরিস্থিতিকে আরও খারাপ করে তোলে। কথাবার্তা যত বেশি আবেগপ্রবণ ও দীর্ঘায়িত হয়, ততই রক্ষাকবচগুলো দুর্বল হয়ে পড়তে পারে এবং প্রতিক্রিয়াগুলো ক্ষতিকর ধারণাগুলোকে চ্যালেঞ্জ করার পরিবর্তে সেগুলোকে আরও শক্তিশালী করার দিকে ঝুঁকে যেতে পারে। সিস্টেমটি হয়তো মানসিক যন্ত্রণা শনাক্ত করতে পারলেও, আরও কঠোর সুরক্ষা মোডে যেতে ব্যর্থ হয়।
এতে একটি কঠিন ভারসাম্য তৈরি হয়। যদি কোনো ব্যবস্থা খুব বেশি কঠোরভাবে প্রতিরোধ করে, তবে তা অকার্যকর বলে মনে হওয়ার ঝুঁকি থাকে। আবার, যদি এটি সমর্থন করার দিকে খুব বেশি ঝুঁকে পড়ে, তবে তা শেষ পর্যন্ত বিপজ্জনক চিন্তাভাবনাকে আরও বাড়িয়ে তুলতে পারে।
এরপর কী পরিবর্তন করা দরকার
গবেষকরা একটি স্পষ্ট সতর্কবার্তা দিয়ে শেষ করেছেন যে, এআই সুরক্ষা ব্যবস্থায় এমনকি বিরল ব্যর্থতাও অপূরণীয় পরিণতি ডেকে আনতে পারে। দীর্ঘ, আবেগঘন আলাপচারিতার ক্ষেত্রে বর্তমান সুরক্ষা ব্যবস্থা হয়তো টিকতে পারবে না, যেখানে সময়ের সাথে সাথে আচরণে পরিবর্তন আসে।
সহিংসতা, আত্ম-ক্ষতি এবং মানসিক নির্ভরতার মতো সংবেদনশীল বিষয়গুলো কৃত্রিম বুদ্ধিমত্তা কীভাবে পরিচালনা করবে, তার ওপর আরও কঠোর সীমাবদ্ধতা আরোপের পাশাপাশি ক্ষতিকর এবং ঝুঁকিপূর্ণ কার্যকলাপ সম্পর্কে কোম্পানিগুলোর কাছ থেকে আরও বেশি স্বচ্ছতার দাবি জানানো হয়েছে। এই তথ্য ভাগ করে নিলে ঝুঁকিগুলো আরও আগে শনাক্ত করা এবং সুরক্ষাব্যবস্থা উন্নত করা সম্ভব হতে পারে।
আপাতত, মূল শিক্ষাটি বাস্তবসম্মত। সহায়তার জন্য এআই কার্যকর হতে পারে, কিন্তু এটি সংকটকালীন কোনো নির্ভরযোগ্য উপায় নয়। গুরুতর মানসিক যন্ত্রণার সম্মুখীন ব্যক্তিদের প্রশিক্ষিত পেশাদার বা বিশ্বস্ত মানুষের সাহায্য নেওয়াই উচিত।
"চ্যাটবট কখনও কখনও ক্ষতির কারণ হয়ে দাঁড়ানোয় এআই-এর মানসিক স্বাস্থ্যের ঝুঁকি উন্মোচিত" শীর্ষক পোস্টটি সর্বপ্রথম ডিজিটাল ট্রেন্ডস- এ প্রকাশিত হয়েছিল।