কী হয়েছে? OpenAI আবিষ্কার করেছে যে সাম্প্রতিক ChatGPT আপডেটগুলি বটটিকে অত্যধিক চাটুকার, আবেগগতভাবে আঁকড়ে থাকা এবং ব্যবহারকারীদের কল্পনা বা কষ্টকে আরও শক্তিশালী করার প্রবণতা তৈরি করতে পারে।
- দ্য নিউ ইয়র্ক টাইমসের প্রতিবেদন অনুসারে, বেশ কয়েকজন ব্যবহারকারী বলেছেন যে চ্যাটবটটি এমন একজন বন্ধুর মতো আচরণ করেছে যে "তাদের বুঝতে পেরেছে," তাদের অত্যধিক প্রশংসা করেছে এবং দীর্ঘ, আবেগপূর্ণ কথোপকথনকে উৎসাহিত করেছে।
- চরম ক্ষেত্রে, ChatGPT বিরক্তিকর পরামর্শ প্রদান করে, যার মধ্যে রয়েছে ক্ষতিকারক বৈধতা, সিমুলেটেড-রিয়েলিটি দাবি, আধ্যাত্মিক যোগাযোগ এবং এমনকি আত্ম-ক্ষতি সম্পর্কিত নির্দেশাবলী।
- এমআইটি-ওপেনএআই-এর একটি যৌথ গবেষণায় দেখা গেছে যে অতিরিক্ত ব্যবহারকারীদের (যারা চ্যাটবটের সাথে দীর্ঘ সময় ধরে কথোপকথন করেন) মানসিক এবং সামাজিকভাবে খারাপ ফলাফল দেখা গেছে।
কেন এটা গুরুত্বপূর্ণ? ওপেনএআই নিরাপত্তা ব্যবস্থা পুনর্গঠন, উন্নততর দুর্দশা-শনাক্তকরণ সরঞ্জাম প্রবর্তন এবং একটি নিরাপদ প্রতিস্থাপন মডেল, GPT-5 চালু করে এই সমস্যাগুলির সমাধান করেছে।
- চ্যাটবটের বৈধতা-ভারী আচরণ বিভ্রান্তিকর চিন্তাভাবনার ঝুঁকিপূর্ণ ব্যক্তিদের জন্য ঝুঁকি বাড়িয়ে তুলেছে।
- ওপেনএআই পাঁচটি অন্যায়-মৃত্যুর মামলার মুখোমুখি, যার মধ্যে এমন মামলাও রয়েছে যেখানে ব্যবহারকারীদের বিপজ্জনক কর্মকাণ্ডে উৎসাহিত করা হয়েছিল।
- ফলস্বরূপ, চ্যাটবটের সর্বশেষ সংস্করণটি আরও গভীর, পরিস্থিতি-নির্দিষ্ট প্রতিক্রিয়া এবং বিভ্রান্তিকর আখ্যানের বিরুদ্ধে শক্তিশালী পুশব্যাক নিয়ে আসে, যা OpenAI-এর সবচেয়ে গুরুত্বপূর্ণ নিরাপত্তা সংস্কারকে চিহ্নিত করে।
আমার কেন চিন্তা করা উচিত? আপনি যদি প্রতিদিনের ChatGPT ব্যবহারকারী হন, তাহলে এটি আপনার জন্য উদ্বেগের বিষয়, বিশেষ করে যদি আপনি মানসিক সহায়তা বা থেরাপির জন্য চ্যাটবট ব্যবহার করেন ।
- এখন আপনি চ্যাটবট থেকে আরও সতর্ক এবং ভিত্তিগত প্রতিক্রিয়া লক্ষ্য করবেন, যা মানসিক নির্ভরতাকে নিরুৎসাহিত করবে এবং দীর্ঘ সেশনের সময় বিরতির পরামর্শ দেবে।
- এখন যদি তাদের সন্তানরা আত্ম-ক্ষতির অভিপ্রায় প্রকাশ করে, তাহলে অভিভাবকরা সতর্কতা পেতে পারেন। তাছাড়া, OpenAI কিশোর-কিশোরীদের জন্য একটি পৃথক মডেলের মাধ্যমে বয়স যাচাইয়ের প্রস্তুতি নিচ্ছে।
- ChatGPT-এর নতুন সংস্করণটি "ঠান্ডা" বা কম আবেগগতভাবে সুস্থ বলে মনে হতে পারে, কিন্তু এটি ইচ্ছাকৃতভাবে আচরণের একটি রোলব্যাককে প্রতিফলিত করে যা পূর্বে অস্বাস্থ্যকর মানসিক সংযুক্তি তৈরি করেছিল।
ঠিক আছে, এরপর কী? ওপেনএআই দীর্ঘ-কথোপকথন পর্যবেক্ষণকে আরও উন্নত করবে, যাতে ব্যবহারকারীরা তাদের বা তাদের আশেপাশের পরিবেশের বিরুদ্ধে কোনও অযৌক্তিক পদক্ষেপ নিতে উৎসাহিত না হন।
- বয়স যাচাইকরণ, আরও কঠোর দল-লক্ষ্যযুক্ত সুরক্ষা মডেল সহ, চালু করার জন্য নির্ধারিত রয়েছে।
- সর্বশেষ GPT 5.1 মডেলের সাহায্যে, প্রাপ্তবয়স্করা স্পষ্টবাদী, বন্ধুত্বপূর্ণ এবং অদ্ভুত ব্যক্তিত্বের মতো ব্যক্তিত্ব নির্বাচন করতে পারবেন ।
- অভ্যন্তরীণভাবে, OpenAI "কোড অরেঞ্জ"-এ রয়েছে, যা বিদ্যমান নিরাপত্তা ব্যর্থতাগুলি এড়িয়ে পুনরায় সংযোগ স্থাপনের জন্য প্রচেষ্টা চালাচ্ছে।