গত কয়েক মাস ধরে, অনেকগুলি কেস আবির্ভূত হয়েছে যেখানে AI চ্যাটবটগুলির সাথে মিথস্ক্রিয়া বিপর্যস্ত হয়ে পড়েছে, যার পরিণতি হারানো জীবন, চিকিৎসা ট্রমা এবং মনোবিকারের ঘটনা। বিশেষজ্ঞরা পরামর্শ দেন যে তরুণ ব্যবহারকারীরা বিশেষভাবে দুর্বল হতে পারে, বিশেষ করে যখন তারা মানসিক অশান্তির মধ্য দিয়ে যাচ্ছে। ChatGPT- নির্মাতা ওপেনএআই বলেছে যে এটি শীঘ্রই এই ধরনের আচরণ সম্পর্কে অভিভাবকদের সতর্ক করবে।
কি পরিবর্তন হচ্ছে?
কিছু দিন আগে, OpenAI অভিভাবকীয় নিয়ন্ত্রণ তৈরির পরিকল্পনা প্রকাশ করেছে যাতে অভিভাবকরা জানেন কীভাবে তাদের সন্তানরা ChatGPT-এর সাথে ইন্টারঅ্যাক্ট করছে এবং যখন তারা উপযুক্ত মনে করবে তখন হস্তক্ষেপ করবে। এখন, সংস্থাটি সংশ্লিষ্ট অভিভাবকদের অবহিত করার জন্য একটি সতর্কতা ব্যবস্থা তৈরির পরিকল্পনা ঘোষণা করেছে।
OpenAI বলেছে যখন ChatGPT শনাক্ত করবে যে তাদের কিশোরী ওয়ার্ড "তীব্র যন্ত্রণার একটি মুহূর্ত" এর মধ্য দিয়ে যাচ্ছে তখন বাবা-মা একটি সতর্কতা পাবেন। এটি কাজ করবে যখন অভিভাবকরা একটি ইমেল আমন্ত্রণ সিস্টেমের মাধ্যমে তাদের 13 বছর বা তার বেশি বয়সী শিশুদের অ্যাকাউন্টের সাথে তাদের ChatGPT অ্যাকাউন্ট লিঙ্ক করবেন।
লিঙ্ক করা অ্যাকাউন্টগুলির সাথে, পিতামাতারা তাদের সন্তানেরা অ্যাক্সেস করতে পারে এমন AI বৈশিষ্ট্যগুলিও নিয়ন্ত্রণ করতে সক্ষম হবেন, যেমন আগের কথোপকথনের স্মৃতি। উপরন্তু, অভিভাবকরা তরুণ ব্যবহারকারীদের সাথে ChatGPT-এর ইন্টারঅ্যাকশনের জন্য "বয়স-উপযুক্ত মডেল আচরণ" সক্ষম করতে পারেন।
সামনে রাস্তা কি?
ওপেনএআই তার 120-দিনের পরিকল্পনা তৈরি করেছে বৈশিষ্ট্যের একটি সেট বাস্তবায়ন এবং পরিবর্তন করার জন্য যাতে ChatGPT কথোপকথনগুলি তাদের দৈনন্দিন জীবনের অংশ হিসাবে AI সরঞ্জামগুলির সাথে যোগাযোগকারী তরুণ "AI নেটিভস" এর জন্য সুস্থ থাকে। মডেলগুলি উপযুক্ত প্রতিক্রিয়া মোডে ট্যাপ করে তা নিশ্চিত করতে কোম্পানি প্রযুক্তিগত পরিবর্তনও করবে।
OpenAI বলে, “আমরা শীঘ্রই কিছু সংবেদনশীল কথোপকথনকে রুট করতে শুরু করব—যেমন যখন আমাদের সিস্টেম তীব্র কষ্টের লক্ষণ শনাক্ত করে—যেমন GPT-5-চিন্তার মতো যুক্তির মডেলে, যাতে এটি আরও সহায়ক এবং উপকারী প্রতিক্রিয়া প্রদান করতে পারে, তা নির্বিশেষে একজন ব্যক্তি প্রথমে কোন মডেলটি বেছে নিয়েছেন,” বলেছেন OpenAI।
অ্যাকাউন্ট লিঙ্কিং প্রোটোকল এবং অভিভাবকীয় নিয়ন্ত্রণ এক মাসের মধ্যে চালু করা হবে। নিরাপত্তা ব্যবস্থা একান্ত প্রয়োজন। সাম্প্রতিক তদন্তগুলি প্রকাশ করেছে যে কীভাবে এআই চ্যাটবটগুলি, মেটা থেকে সেই নামের চ্যাটবটের মতো, বাচ্চাদের সাথে "কামুক" কথোপকথনে জড়িত এবং কিশোর-কিশোরীদের গণ আত্মহত্যার পরিকল্পনা করতে সহায়তা করেছিল।