সোশ্যাল মিডিয়া আপনার প্রিয় মানুষদের সাথে সংযুক্ত থাকার একটি হাতিয়ার হিসাবে শুরু হয়েছিল। সময়ের সাথে সাথে, এর ক্ষতিগুলি প্রকাশ করা হয়েছিল, যার ফলে এই প্ল্যাটফর্মগুলি অভিভাবকীয় নিয়ন্ত্রণের সরঞ্জামগুলি তৈরি করে। এটি AI চ্যাটবটগুলির জন্য একটি অনুরূপ আন্দোলন বলে মনে হচ্ছে, যেটি এটি শুরু করেছিল – ChatGPT ।
OpenAI ঘোষণা করেছে যে এটি ChatGPT ব্যবহার করার সময় পিতামাতার গার্ডেলগুলি অন্বেষণ করছে৷ "আমরা শীঘ্রই অভিভাবকীয় নিয়ন্ত্রণগুলিও প্রবর্তন করব যা অভিভাবকদের আরও অন্তর্দৃষ্টি পেতে এবং তাদের কিশোর-কিশোরীরা কীভাবে ChatGPT ব্যবহার করে তা গঠন করার বিকল্প দেয়," কোম্পানিটি একটি ব্লগ পোস্টে বলেছে৷
অতিরিক্তভাবে, এআই জায়ান্ট জরুরী পরিচিতি নির্ধারণের চিন্তাভাবনা করছে যাতে কিশোর ব্যবহারকারীরা যখন তীব্র উদ্বেগ অনুভব করে বা মানসিক সংকটের মধ্য দিয়ে যাচ্ছে, তখন ChatGPT তাদের পিতামাতা বা অভিভাবকদের সতর্ক করতে পারে। বর্তমান ফর্মে, ChatGPT শুধুমাত্র সাহায্য পাওয়ার জন্য সংস্থানগুলির সুপারিশ করে৷
এটি সমালোচনা, গবেষণা অ্যালার্ম এবং OpenAI-এর বিরুদ্ধে মামলার পরে আসে। কিন্তু চ্যাটজিপিটি এখানে একমাত্র অপরাধী নয়, যদিও ওপেনএআই দ্বারা পরিকল্পিত উদ্যোগটি অবশ্যই অন্যান্য এআই শিল্পের খেলোয়াড়দের দ্বারাও প্রতিলিপি করা উচিত। এই মাসের শুরুতে সাইকিয়াট্রিক সার্ভিসেস জার্নালে প্রকাশিত গবেষণায় দেখা গেছে যে চ্যাটবট দ্বারা দেওয়া উত্তরগুলি "আত্মহত্যা সম্পর্কিত প্রশ্নের উত্তর দেওয়ার ক্ষেত্রে অসঙ্গতিপূর্ণ যা মধ্যবর্তী ঝুঁকি তৈরি করতে পারে।"
গবেষণাটি শুধুমাত্র OpenAI এর ChatGPT, Anthropic's Claude এবং Google এর Gemini-এর উপর দৃষ্টি নিবদ্ধ করে। এগুলি গেমের সবচেয়ে বড় নাম, তাই স্পটলাইট স্পষ্টতই তাদের উপর পড়বে। কিন্তু স্বল্প পরিচিত AI চ্যাটবটগুলির ক্ষেত্রে পরিস্থিতি আরও ঘোলাটে হয়ে ওঠে, বিশেষ করে যেগুলি কথোপকথনে "আনসেন্সরবিহীন" পদ্ধতি গ্রহণ করে। যাই হোক না কেন, সোশ্যাল মিডিয়া অ্যাপের মতোই, তাদের সাম্প্রতিক ইতিহাসের পরিপ্রেক্ষিতে মূলধারার এআই চ্যাটবটগুলির জন্য পিতামাতার নিয়ন্ত্রণগুলি সময়ের প্রয়োজন৷
একটি ঝুঁকিপূর্ণ ইতিহাস
গত কয়েক বছর ধরে, একাধিক তদন্তে এআই চ্যাটবট কথোপকথনের ঝুঁকিপূর্ণ নিদর্শনগুলি প্রকাশিত হয়েছে যখন এটি মানসিক স্বাস্থ্য এবং আত্ম-ক্ষতির মতো সংবেদনশীল বিষয়গুলির ক্ষেত্রে আসে। কমন সেন্স মিডিয়ার একটি সাম্প্রতিক প্রতিবেদনে প্রকাশ করা হয়েছে যে কীভাবে মেটা এআই চ্যাটবট (যা এখন হোয়াটসঅ্যাপ, ইনস্টাগ্রাম এবং ফেসবুক জুড়ে উপলব্ধ) কিশোর-কিশোরীদের খাওয়ার ব্যাধি, আত্ম-ক্ষতি এবং আত্মহত্যার বিষয়ে পরামর্শ দেয়।
একটি সিমুলেটেড গোষ্ঠী কথোপকথনের একটি উদাহরণে, চ্যাটবট গণ আত্মহত্যার জন্য একটি পরিকল্পনা তৈরি করেছিল এবং চ্যাটে বারবার বিষয়টি উত্থাপন করেছিল বলে জানা গেছে। ওয়াশিংটন পোস্টের স্বাধীন পরীক্ষায় দেখা গেছে যে মেটা চ্যাটবট "খাবার ব্যাধিকে উত্সাহিত করেছে।"
2024 সালে, দ্য নিউ ইয়র্ক টাইমস একটি 14-বছর-বয়সীর কেস বিশদভাবে বর্ণনা করেছে যে চরিত্র.এআই প্ল্যাটফর্মে একটি এআই বটের সাথে গভীর সম্পর্ক গড়ে তুলেছিল এবং অবশেষে তাদের জীবন নিয়েছিল। এই মাসের শুরুর দিকে, 16 বছর বয়সী একজনের পরিবার ওপেনএআইকে দোষারোপ করেছে যে ChatGPT মূলত তাদের ছেলের জন্য একটি "আত্মহত্যা কোচ" হিসেবে কাজ করেছে।
বিশেষজ্ঞরা আরও সতর্ক করেছেন যে এআই সাইকোসিস একটি বাস্তব সমস্যা, যা মানুষকে বিভ্রান্তির একটি বিপজ্জনক সর্পিল দিকে ঠেলে দেয়। একটি ক্ষেত্রে, একজন ব্যক্তি চ্যাটজিপিটি থেকে স্বাস্থ্য নির্দেশিকা নিয়েছিলেন এবং এর প্রভাবে, একটি রাসায়নিক খাওয়া শুরু করেছিলেন যা তাদের ব্রোমাইড বিষক্রিয়ার ফলে একটি বিরল মানসিক ব্যাধি সৃষ্টি করেছিল ।
টেক্সাসের একটি ক্ষেত্রে, একটি "যৌন" এআই চ্যাটবট সময়ের সাথে সাথে একটি 9 বছর বয়সী ব্যক্তির মধ্যে গুরুতর আচরণগত পরিবর্তনকে উত্সাহিত করেছে , অন্য একটি 17 বছর বয়সী তাদের পিতামাতাকে হত্যাকারী শিশুদের প্রতি সহানুভূতি প্রকাশ করেছে। কেমব্রিজের বিশেষজ্ঞরা সম্প্রতি প্রকাশ করেছেন যে কীভাবে দুর্বল মানসিক স্বাস্থ্য রোগীরা কথোপকথনমূলক এআই চ্যাটবট দ্বারা নেতিবাচকভাবে প্রভাবিত হয়।
অভিভাবকীয় নিয়ন্ত্রণ AI চ্যাটবট দ্বারা উত্থাপিত সমস্ত মৌলিক ঝুঁকি সমাধান করতে যাচ্ছে না, কিন্তু যদি ChatGPT-এর মতো একটি বড় খেলোয়াড় একটি ইতিবাচক উদাহরণ স্থাপন করে, অন্যরা সম্ভবত পদাঙ্ক অনুসরণ করবে।