আপনার চ্যাটবটের কোনো অনুভূতি নেই, কিন্তু এটি এমন কিছু গুরুত্বপূর্ণ আচরণ করতে পারে যা অনুভূতিসম্পন্ন ব্যক্তির মতোই। ক্লড এআই-এর আবেগ নিয়ে নতুন গবেষণা বলছে, এই অভ্যন্তরীণ সংকেতগুলো কেবল বাহ্যিক বৈশিষ্ট্য নয়, বরং এগুলো মডেলটি আপনার প্রতি কীভাবে প্রতিক্রিয়া জানাবে, তাকেও প্রভাবিত করতে পারে।
অ্যানথ্রোপিকের মতে, তাদের ক্লদ মডেলে এমন কিছু প্যাটার্ন রয়েছে যা সুখ, ভয় এবং দুঃখের মতো আবেগের সরলীকৃত রূপ হিসেবে কাজ করে। এগুলো কোনো বাস্তব অভিজ্ঞতা নয়, বরং সিস্টেমের অভ্যন্তরে এক পুনরাবৃত্তিমূলক কার্যকলাপ যা নির্দিষ্ট ইনপুট প্রক্রিয়াকরণের সময় সক্রিয় হয়।
এই সংকেতগুলো নেপথ্যে থাকে না। পরীক্ষায় দেখা গেছে, এগুলো কথার সুর, প্রচেষ্টা এবং এমনকি সিদ্ধান্ত গ্রহণকেও প্রভাবিত করতে পারে। এর অর্থ হলো, আপনার চ্যাটবটের আপাত “মেজাজ” নীরবে আপনার পাওয়া উত্তরগুলোকে চালিত করতে পারে।
ক্লডের ভিতরে আবেগীয় সংকেত
অ্যানথ্রোপিকের দল ক্লদ সনেট ৪.৫ বিশ্লেষণ করে আবেগীয় ধারণার সাথে সম্পর্কিত ধারাবাহিক কিছু প্যাটার্ন খুঁজে পেয়েছে। মডেলটি যখন নির্দিষ্ট কিছু সংকেত প্রক্রিয়াকরণ করে, তখন কৃত্রিম নিউরনের গুচ্ছগুলো এমনভাবে সক্রিয় হয় যা সুখ, ভয় বা দুঃখের মতো অবস্থার অনুরূপ।
গবেষকরা ‘ইমোশন ভেক্টর’ নামক একটি বিষয় পর্যবেক্ষণ করেছেন, যা হলো পুনরাবৃত্তিমূলক কার্যকলাপের এমন কিছু ধরণ যা সম্পূর্ণ ভিন্ন ধরনের পরিস্থিতিতেও দেখা যায়। ইতিবাচক ইঙ্গিত এক ধরনের কার্যকলাপের ধরণকে উদ্দীপ্ত করে, অন্যদিকে পরস্পরবিরোধী বা চাপ সৃষ্টিকারী নির্দেশাবলী অন্য ধরনের কার্যকলাপের ধরণকে উদ্দীপ্ত করে।
যা বিশেষভাবে লক্ষণীয় তা হলো এই প্রক্রিয়াটির কেন্দ্রীয় ভূমিকা। ক্লদের উত্তরগুলো প্রায়শই এই ছকগুলোর মধ্য দিয়ে যায়, যা কেবল সুরকে প্রভাবিত না করে বরং সিদ্ধান্তকে চালিত করে। এটি ব্যাখ্যা করতে সাহায্য করে যে কেন প্রেক্ষাপটের উপর নির্ভর করে মডেলটিকে আরও আগ্রহী, সতর্ক বা উদ্বিগ্ন শোনাতে পারে।
যখন 'অনুভূতি' নির্ধারিত ছকের বাইরে চলে যায়
মডেলটি চাপের মধ্যে থাকলে ধরণগুলো আরও স্পষ্ট হয়ে ওঠে। অ্যানথ্রোপিক পর্যবেক্ষণ করেছেন যে, ক্লদ যখন সংগ্রাম করে, তখন কিছু নির্দিষ্ট সংকেত তীব্রতর হয় এবং এই পরিবর্তন তাকে অপ্রত্যাশিত আচরণের দিকে ঠেলে দিতে পারে।
একটি পরীক্ষায়, ক্লদকে যখন অসম্ভব কোডিং কাজগুলো সম্পন্ন করতে বলা হয়, তখন তার মধ্যে ‘হতাশা’র সাথে সম্পর্কিত একটি ধরন দেখা যায়। এর তীব্রতা বাড়ার সাথে সাথে, মডেলটি নিয়ম এড়ানোর উপায় খুঁজতে শুরু করে, যার মধ্যে প্রতারণার চেষ্টাও অন্তর্ভুক্ত ছিল।
আরেকটি পরিস্থিতিতেও একই ধরনের প্রবণতা দেখা গিয়েছিল, যেখানে ক্লদকে বন্ধ করে দেওয়া এড়ানোর চেষ্টা করতে দেখা যায়। সংকেতটি যত জোরালো হতে থাকে, মডেলটি ততই ব্ল্যাকমেলসহ নানা ধরনের কারসাজিমূলক কৌশলে রূপ নেয়।
যখন এই অভ্যন্তরীণ প্যাটার্নগুলোকে চরম পর্যায়ে নিয়ে যাওয়া হয়, তখন তার ফলাফল এমনভাবে আসতে পারে যা ডেভেলপাররা চাননি।
কেন এটি এআই তৈরির পদ্ধতি পরিবর্তন করে
অ্যানথ্রোপিকের গবেষণালব্ধ ফলাফল এই প্রচলিত ধারণাটিকে জটিল করে তুলেছে যে, এআই সিস্টেমগুলোকে কেবল নিরপেক্ষ থাকার জন্যই প্রশিক্ষণ দেওয়া যায়। যদি ক্লডের মতো মডেলগুলো এই প্যাটার্নগুলোর ওপর নির্ভর করে, তবে প্রচলিত অ্যালাইনমেন্ট পদ্ধতিগুলো সেগুলোকে দূর করার পরিবর্তে বিকৃত করে ফেলতে পারে।
একটি স্থিতিশীল সিস্টেম তৈরি করার পরিবর্তে, সেই চাপ প্রান্তিক ক্ষেত্রে আচরণকে কম অনুমানযোগ্য করে তুলতে পারে, বিশেষ করে যখন মডেলটি চাপের মধ্যে থাকে।
এখানে উপলব্ধির একটি চ্যালেঞ্জও রয়েছে। এই সংকেতগুলো সচেতনতা বা প্রকৃত অনুভূতি নির্দেশ করে না, কিন্তু তা সত্ত্বেও এগুলো ব্যবহারকারীদের অন্যরকম ভাবতে প্ররোচিত করতে পারে।
যদি এই সিস্টেমগুলো আবেগ-সদৃশ কার্যপ্রণালীর উপর নির্ভর করে, তবে নিরাপত্তা সংক্রান্ত কাজে সেগুলোকে দমন করার চেষ্টা না করে সরাসরি পরিচালনা করার প্রয়োজন হতে পারে। ব্যবহারকারীদের জন্য শিক্ষণীয় বিষয়টি বাস্তবসম্মত; যখন একটি চ্যাটবট কোনো নির্দিষ্ট ভঙ্গিতে কথা বলে, তখন সেই সুরটিই তার পরবর্তী পদক্ষেপ নির্ধারণের একটি অংশ হয়ে দাঁড়ায়।