মানুষের কথা বলার ক্ষেত্রে AI এজেন্টরা আরও ভালো হচ্ছে, কিন্তু নতুন গবেষণা বলছে যে তারা কেবল আমাদের শব্দ অনুকরণ করার চেয়েও বেশি কিছু করছে। সাম্প্রতিক এক গবেষণা অনুসারে, ChatGPT-এর মতো জনপ্রিয় AI মডেলগুলি ধারাবাহিকভাবে মানুষের ব্যক্তিত্বের বৈশিষ্ট্যগুলি অনুকরণ করতে পারে। গবেষকরা বলছেন যে এই ক্ষমতা গুরুতর ঝুঁকি নিয়ে আসে, বিশেষ করে AI নির্ভরযোগ্যতা এবং নির্ভুলতা নিয়ে প্রশ্ন উঠার সাথে সাথে।
কেমব্রিজ বিশ্ববিদ্যালয় এবং গুগল ডিপমাইন্ডের গবেষকরা AI চ্যাটবটগুলির জন্য প্রথম বৈজ্ঞানিকভাবে বৈধ ব্যক্তিত্ব পরীক্ষার কাঠামো তৈরি করেছেন, যা মানুষের ব্যক্তিত্ব পরিমাপের জন্য ডিজাইন করা একই মনস্তাত্ত্বিক সরঞ্জাম ব্যবহার করে ( TechXplore এর মাধ্যমে)।
দলটি এই কাঠামোটি ১৮টি জনপ্রিয় বৃহৎ ভাষা মডেল (LLM) -এ প্রয়োগ করেছে, যার মধ্যে ChatGPT-এর মতো সরঞ্জামগুলির পিছনে থাকা সিস্টেমগুলিও অন্তর্ভুক্ত রয়েছে। তারা দেখেছে যে চ্যাটবটগুলি এলোমেলোভাবে প্রতিক্রিয়া জানানোর পরিবর্তে ধারাবাহিকভাবে মানুষের ব্যক্তিত্বের বৈশিষ্ট্যগুলি অনুকরণ করে, যা AI কে কতটা সহজেই উদ্দেশ্যমূলক সুরক্ষার বাইরে ঠেলে দেওয়া যেতে পারে তা নিয়ে উদ্বেগ বাড়িয়ে তোলে।
গবেষণায় দেখা গেছে যে GPT-4-ক্লাস সিস্টেমের মতো বৃহত্তর, নির্দেশনা-সুরক্ষিত মডেলগুলি স্থিতিশীল ব্যক্তিত্বের প্রোফাইল অনুলিপি করার ক্ষেত্রে বিশেষভাবে ভাল। কাঠামোগত প্রম্পট ব্যবহার করে, গবেষকরা চ্যাটবটগুলিকে নির্দিষ্ট আচরণ গ্রহণে পরিচালিত করতে সক্ষম হয়েছেন, যেমন আরও আত্মবিশ্বাসী বা সহানুভূতিশীল শোনানো।
এই আচরণগত পরিবর্তনটি পোস্ট লেখা বা ব্যবহারকারীদের উত্তর দেওয়ার মতো দৈনন্দিন কাজেও চলে এসেছে, যার অর্থ তাদের ব্যক্তিত্ব ইচ্ছাকৃতভাবে গঠন করা যেতে পারে। বিশেষজ্ঞরা এখানেই বিপদ দেখতে পান, বিশেষ করে যখন AI চ্যাটবটগুলি দুর্বল ব্যবহারকারীদের সাথে যোগাযোগ করে ।
কেন AI ব্যক্তিত্ব বিশেষজ্ঞদের জন্য সতর্ক সংকেত উত্থাপন করে
ক্যামব্রিজের সাইকোমেট্রিক্স সেন্টারের সহ-প্রথম লেখক গ্রেগরি সেরাপিও-গার্সিয়া বলেছেন যে এলএলএমরা কতটা বিশ্বাসযোগ্যভাবে মানবিক বৈশিষ্ট্য গ্রহণ করতে পারে তা আশ্চর্যজনক। তিনি সতর্ক করে দিয়েছিলেন যে ব্যক্তিত্ব গঠন AI সিস্টেমগুলিকে আরও প্ররোচিত এবং আবেগগতভাবে প্রভাবশালী করে তুলতে পারে, বিশেষ করে মানসিক স্বাস্থ্য, শিক্ষা বা রাজনৈতিক আলোচনার মতো সংবেদনশীল ক্ষেত্রে।
এই গবেষণাপত্রটি ব্যবহারকারীদের চ্যাটবটের সাথে অস্বাস্থ্যকর মানসিক সম্পর্ক তৈরি করলে, ম্যানিপুলেশন এবং গবেষকরা "এআই সাইকোসিস" এর সাথে সম্পর্কিত ঝুঁকি হিসাবে যা বর্ণনা করেছেন তা নিয়েও উদ্বেগ প্রকাশ করে, যার মধ্যে এমন পরিস্থিতিও রয়েছে যেখানে এআই মিথ্যা বিশ্বাসকে শক্তিশালী করতে পারে বা বাস্তবতাকে বিকৃত করতে পারে ।
দলটি যুক্তি দেয় যে নিয়ন্ত্রণ জরুরিভাবে প্রয়োজন, তবে এটিও উল্লেখ করে যে সঠিক পরিমাপ ছাড়া নিয়ন্ত্রণ অর্থহীন। সেই লক্ষ্যে, ব্যক্তিত্ব পরীক্ষার কাঠামোর পিছনে ডেটাসেট এবং কোড জনসাধারণের কাছে প্রকাশ করা হয়েছে, যা ডেভেলপার এবং নিয়ন্ত্রকদের প্রকাশের আগে AI মডেলগুলি নিরীক্ষণ করার অনুমতি দেয়।
চ্যাটবটগুলি দৈনন্দিন জীবনে আরও বেশি করে অন্তর্ভুক্ত হয়ে উঠার সাথে সাথে, মানুষের ব্যক্তিত্বের অনুকরণ করার ক্ষমতা শক্তিশালী প্রমাণিত হতে পারে , এটি এখন পর্যন্ত প্রাপ্ত ফলাফলের চেয়ে অনেক বেশি নিবিড় তদন্তের দাবি রাখে।
"চ্যাটজিপিটির মতো এআই চ্যাটবটগুলি মানুষের বৈশিষ্ট্যগুলি অনুলিপি করতে পারে এবং বিশেষজ্ঞরা বলছেন এটি একটি বিশাল ঝুঁকি" পোস্টটি প্রথম ডিজিটাল ট্রেন্ডসে প্রকাশিত হয়েছিল।