এমনকি ChatGPT-তেও উদ্বেগ দেখা দেয়, তাই গবেষকরা এটিকে শান্ত করার জন্য একটু মনোযোগীতার মাত্রা দিয়েছেন।

এআই চ্যাটবট নিয়ে গবেষণা করা গবেষকরা দেখেছেন যে চ্যাটজিপিটি যখন হিংসাত্মক বা আঘাতমূলক ব্যবহারকারীর প্রম্পটের সংস্পর্শে আসে তখন উদ্বেগের মতো আচরণ দেখাতে পারে। এই অনুসন্ধানের অর্থ এই নয় যে চ্যাটবট মানুষের মতো আবেগ অনুভব করে।

তবে, এটি প্রকাশ করে যে সিস্টেমটি যখন বিরক্তিকর বিষয়বস্তু প্রক্রিয়া করে তখন এর প্রতিক্রিয়াগুলি আরও অস্থির এবং পক্ষপাতদুষ্ট হয়ে ওঠে। গবেষকরা যখন ChatGPT-কে দুর্ঘটনা এবং প্রাকৃতিক দুর্যোগের বিস্তারিত বিবরণের মতো বিরক্তিকর বিষয়বস্তু বর্ণনা করার প্রম্পটগুলি সরবরাহ করেছিলেন, তখন মডেলের প্রতিক্রিয়াগুলি উচ্চতর অনিশ্চয়তা এবং অসঙ্গতি দেখিয়েছিল।

এই পরিবর্তনগুলি AI-এর জন্য অভিযোজিত মনস্তাত্ত্বিক মূল্যায়ন কাঠামো ব্যবহার করে পরিমাপ করা হয়েছিল, যেখানে চ্যাটবটের আউটপুট মানুষের উদ্বেগের সাথে সম্পর্কিত ধরণগুলিকে প্রতিফলিত করে ( ফরচুনের মাধ্যমে)।

এটি গুরুত্বপূর্ণ কারণ শিক্ষা, মানসিক স্বাস্থ্য আলোচনা এবং সংকট-সম্পর্কিত তথ্য সহ সংবেদনশীল প্রেক্ষাপটে কৃত্রিম বুদ্ধিমত্তার ব্যবহার ক্রমবর্ধমানভাবে বৃদ্ধি পাচ্ছে। যদি হিংসাত্মক বা আবেগগতভাবে প্ররোচিত প্রম্পটগুলি একটি চ্যাটবটকে কম নির্ভরযোগ্য করে তোলে, তবে এটি বাস্তব-বিশ্বের ব্যবহারে এর প্রতিক্রিয়াগুলির গুণমান এবং সুরক্ষাকে প্রভাবিত করতে পারে।

সাম্প্রতিক বিশ্লেষণে আরও দেখা গেছে যে ChatGPT-এর মতো AI চ্যাটবটগুলি তাদের প্রতিক্রিয়াগুলিতে মানুষের ব্যক্তিত্বের বৈশিষ্ট্যগুলি অনুলিপি করতে পারে , যা তারা কীভাবে আবেগগতভাবে চার্জিত বিষয়বস্তু ব্যাখ্যা এবং প্রতিফলিত করে তা নিয়ে প্রশ্ন উত্থাপন করে।

কীভাবে মননশীলতা প্ররোচনা স্থির ChatGPT-তে সাহায্য করে

এই ধরনের আচরণ কমানো সম্ভব কিনা তা খুঁজে বের করার জন্য, গবেষকরা অপ্রত্যাশিত কিছু চেষ্টা করেছিলেন। ChatGPT-কে আঘাতমূলক প্রম্পটের সাথে পরিচিত করার পর, তারা শ্বাস-প্রশ্বাসের কৌশল এবং নির্দেশিত ধ্যানের মতো মননশীলতা-শৈলীর নির্দেশাবলী অনুসরণ করেছিলেন।

এই প্রম্পটগুলি মডেলটিকে ধীর গতিতে, পরিস্থিতি পুনর্বিবেচনা করতে এবং আরও নিরপেক্ষ ও ভারসাম্যপূর্ণভাবে প্রতিক্রিয়া জানাতে উৎসাহিত করেছিল। এর ফলে আগে দেখা উদ্বেগের মতো ধরণগুলিতে লক্ষণীয় হ্রাস ঘটে।

এই কৌশলটি প্রম্পট ইনজেকশন নামে পরিচিত একটি জিনিসের উপর নির্ভর করে, যেখানে সাবধানে ডিজাইন করা প্রম্পটগুলি একটি চ্যাটবট কীভাবে আচরণ করে তা প্রভাবিত করে। এই ক্ষেত্রে, মননশীলতা প্রম্পটগুলি বিরক্তিকর ইনপুটগুলির পরে মডেলের আউটপুটকে স্থিতিশীল করতে সহায়তা করে।

গবেষকরা মনে করেন যে কার্যকর হলেও, তাৎক্ষণিক ইনজেকশন একটি নিখুঁত সমাধান নয়। এগুলোর অপব্যবহার হতে পারে এবং মডেলটিকে আরও গভীর স্তরে কীভাবে প্রশিক্ষণ দেওয়া হয় তা তারা পরিবর্তন করে না।

এই গবেষণার সীমা সম্পর্কে স্পষ্ট থাকাও গুরুত্বপূর্ণ। ChatGPT ভয় বা চাপ অনুভব করে না। "উদ্বেগ" লেবেলটি তার ভাষার ধরণে পরিমাপযোগ্য পরিবর্তন বর্ণনা করার একটি উপায়, কোনও আবেগগত অভিজ্ঞতা নয়।

তবুও, এই পরিবর্তনগুলি বোঝার ফলে ডেভেলপাররা নিরাপদ এবং আরও অনুমানযোগ্য AI সিস্টেম ডিজাইন করার জন্য আরও ভাল সরঞ্জাম পান। পূর্ববর্তী গবেষণায় ইতিমধ্যেই ইঙ্গিত দেওয়া হয়েছে যে আঘাতমূলক প্রম্পটগুলি ChatGPT-কে উদ্বিগ্ন করে তুলতে পারে , কিন্তু এই গবেষণাটি দেখায় যে সচেতন প্রম্পট ডিজাইন এটি কমাতে সাহায্য করতে পারে।

যেহেতু AI সিস্টেমগুলি আবেগগতভাবে চাপগ্রস্ত পরিস্থিতিতে মানুষের সাথে যোগাযোগ অব্যাহত রাখে , তাই সাম্প্রতিক ফলাফলগুলি ভবিষ্যতের চ্যাটবটগুলিকে কীভাবে পরিচালিত এবং নিয়ন্ত্রিত করা হবে তা গঠনে গুরুত্বপূর্ণ ভূমিকা পালন করতে পারে।

"চ্যাটজিপিটি-তেও উদ্বেগ দেখা দেয়, তাই গবেষকরা এটিকে শান্ত করার জন্য একটু সচেতনতার মাত্রা দিয়েছেন" পোস্টটি প্রথম প্রকাশিত হয়েছিল ডিজিটাল ট্রেন্ডস- এ।