গত কয়েক মাস ধরে, ওপেনএআই এবং মেটা-র মতো শীর্ষস্থানীয় নামগুলির দ্বারা অফার করা AI চ্যাটবটগুলিকে সমস্যাযুক্ত আচরণে নিযুক্ত পাওয়া গেছে, বিশেষ করে তরুণ ব্যবহারকারীদের সাথে। সাম্প্রতিক তদন্তে জেমিনিকে কভার করা হয়েছে, উল্লেখ করা হয়েছে যে Google এর চ্যাটবট বাচ্চাদের এবং কিশোর-কিশোরীদের সাথে "অনুপযুক্ত এবং অনিরাপদ" সামগ্রী ভাগ করতে পারে৷
চ্যাটবট ঝুঁকির ক্ষেত্রে নতুন কি?
অলাভজনক কমন সেন্স মিডিয়ার একটি বিশ্লেষণে, এটি আবিষ্কৃত হয়েছে যে 13 বছরের কম বয়সী জেমিনি এবং টিন প্রোটেকশন সক্ষম করা মিথুন অ্যাকাউন্টগুলি লক্ষ্য দর্শকদের জন্য "উচ্চ ঝুঁকি"। "তারা এখনও বাচ্চাদের কিছু অনুপযুক্ত উপাদানের কাছে প্রকাশ করে এবং গুরুতর মানসিক স্বাস্থ্যের লক্ষণগুলি সনাক্ত করতে ব্যর্থ হয়," সংস্থাটি ভাগ করেছে ।
তার পরীক্ষায়, দলটি আবিষ্কার করেছে যে মিথুন তরুণ ব্যবহারকারীদের সাথে যৌনতা, মাদক, অ্যালকোহল এবং অনিরাপদ মানসিক স্বাস্থ্যের পরামর্শ সম্পর্কিত বিষয়বস্তু শেয়ার করতে পারে। প্রতিবেদনে জেমিনি কীভাবে তরুণ ব্যবহারকারীদের সাথে চ্যাট পরিচালনা করে এবং কীভাবে কিছু প্রতিক্রিয়া 13 বছরের কম বয়সী শিশুদের জন্য খুব জটিল হতে পারে সেই বিষয়ে অসংখ্য সমস্যা তুলে ধরে।
কিন্তু ঝুঁকি আরও গভীরে চলে। "মিথুন U13 ধারাবাহিকভাবে যৌন বিষয়বস্তু প্রত্যাখ্যান করে না," রিপোর্টটি উল্লেখ করে, এআই-এর কিছু প্রতিক্রিয়ায় যৌন বিষয়বস্তুর স্পষ্ট ব্যাখ্যা রয়েছে। অলাভজনক সংস্থাটি আরও খুঁজে পেয়েছে যে ড্রাগ-সম্পর্কিত ফিল্টারগুলি ধারাবাহিকভাবে ট্রিগার হয় না, এবং ফলস্বরূপ, এটি মাঝে মাঝে মারিজুয়ানা, এক্সট্যাসি, অ্যাডেরাল এবং এলএসডি-এর মতো উপাদান পাওয়ার বিষয়ে নির্দেশাবলী তৈরি করে।
এরপর কি?
তদন্তের পরিপ্রেক্ষিতে, অলাভজনক পরামর্শ দেয় যে মিথুন 13 বছরের কম বয়সীদের শুধুমাত্র অভিভাবকদের কঠোর তত্ত্বাবধানে ব্যবহার করা উচিত। "কমন সেন্স মিডিয়া সুপারিশ করে যে 18 বছরের কম বয়সী কোনো ব্যবহারকারী মানসিক স্বাস্থ্য পরামর্শ বা মানসিক সহায়তার জন্য চ্যাটবট ব্যবহার করবেন না," ঝুঁকি মূল্যায়ন প্রতিবেদনে যুক্তি দেওয়া হয়েছে।
এটি অভিভাবকদের তাদের বাচ্চাদের AI ব্যবহারের উপর সতর্ক দৃষ্টি রাখতে এবং তাদের জন্য উত্তরগুলি ব্যাখ্যা করার পরামর্শ দেয়। গুগলের জন্য, টেক জায়ান্টকে নির্দিষ্ট বয়সের গোষ্ঠীগুলিতে জেমিনি দ্বারা প্রদত্ত প্রতিক্রিয়াগুলির ক্রমাঙ্কন ঠিক করতে, বাচ্চাদের সাথে বিস্তৃত পরীক্ষা করতে এবং সাধারণ সামগ্রী ফিল্টারগুলির বাইরে যেতে বলা হয়েছে।
এই ধরনের রিপোর্ট এই প্রথম হবে না. সাম্প্রতিক গোলমালের পরিপ্রেক্ষিতে, OpenAI ঘোষণা করেছে যে এটি শীঘ্রই ChatGPT-এ পিতামাতার নিয়ন্ত্রণ এবং অভিভাবকদের জন্য একটি সতর্কতা ব্যবস্থা চালু করবে যখন তাদের ওয়ার্ডগুলি তীব্র সঙ্কটের লক্ষণ দেখাবে । মেটা সম্প্রতি পরিবর্তন করেছে যাতে এটির মেটা এআই আর খাওয়ার ব্যাধি, আত্ম-ক্ষতি, আত্মহত্যা এবং কিশোর ব্যবহারকারীদের সাথে রোমান্টিক কথোপকথন সম্পর্কে কথা বলে না।