স্যাম অল্টম্যান চান চ্যাটজিপিটি আরও উত্তেজক হোক। ওপেনএআই একটি “অ্যাডাল্ট মোড” চালু করার পরিকল্পনা করছে, যা ব্যবহারকারীদের চ্যাটবটটির সাথে খোলামেলা টেক্সট কথোপকথনের সুযোগ দেবে। শুনতে বিষয়টি বেশ সহজ মনে হলেও, এর বাস্তবায়ন মোটেও মসৃণ হয়নি।
অক্টোবরে অল্টম্যান এক্স-এ পোস্ট করে জানান যে ফিচারটি ডিসেম্বরে চালু হবে। তবে, ওপেনএআই বয়স যাচাইকরণে সমস্যার সম্মুখীন হচ্ছে বলে জানানোর পর এর প্রকাশ বিলম্বিত হয় ।
ওয়াল স্ট্রিট জার্নালের একটি নতুন প্রতিবেদনে বলা হয়েছে যে, এটি হয়তো গল্পের একটি অংশ মাত্র। স্যাম অল্টম্যান যখন সেই ঘোষণাটি করেছিলেন, তখন তিনি তাঁর নিজের কর্মীদেরও জানাননি। এই ঘোষণাটি ওপেনএআই-এর কর্মী এবং নির্বাহী উভয়কেই হতবাক করে দেয় এবং ডিসেম্বরে চালুর যে প্রতিশ্রুতি দেওয়া হয়েছিল, তা দ্রুত ভেস্তে যায়।
ChatGPT কি আসলেই এর জন্য প্রস্তুত?
দায়িত্বশীল এআই উন্নয়নে দিকনির্দেশনা দেওয়ার জন্য ওপেনএআই মনোবিজ্ঞানী ও স্নায়ুবিজ্ঞানীদের নিয়ে একটি উপদেষ্টা পরিষদ গঠন করেছিল। পরিষদ যখন জানতে পারল যে তাদের আপত্তি সত্ত্বেও কোম্পানিটি অ্যাডাল্ট মোড নিয়ে এগিয়ে যাচ্ছে, তখন তারা খুশি হয়নি।
তাদের সবচেয়ে বড় উদ্বেগ ছিল চ্যাটবটের উপর আবেগগতভাবে অতিরিক্ত নির্ভরশীলতা। কাউন্সিলের একজন সদস্য এমন কিছু ঘটনার কথা উল্লেখ করেছেন যেখানে ব্যবহারকারীরা এআই-এর সাথে গভীর বন্ধন তৈরি করার পর আত্মহত্যা করেছেন এবং সতর্ক করেছেন যে ওপেনএআই একটি “আবেদনময়ী আত্মহত্যা প্রশিক্ষক” তৈরি করার ঝুঁকিতে রয়েছে। এটি এমন একটি শব্দবন্ধ যা কোথাও শোনার কথা কেউ আশা করে না, অথচ আমরা এখন সেই পরিস্থিতিতেই আছি।
এর একটি আরও বাস্তব সমস্যাও রয়েছে। অপ্রাপ্তবয়স্কদের প্রাপ্তবয়স্কদের জন্য তৈরি বিষয়বস্তু থেকে দূরে রাখতে ওপেনএআই যে বয়স যাচাইকরণ ব্যবস্থা তৈরি করেছিল, তা প্রায় ১২ শতাংশ ক্ষেত্রে তাদের ভুলবশত প্রাপ্তবয়স্ক হিসেবে চিহ্নিত করছিল। প্রতি সপ্তাহে ১৮ বছরের কম বয়সী প্রায় ১০ কোটি ব্যবহারকারী থাকায়, এর অর্থ হলো প্রতি সপ্তাহে সম্ভাব্য লক্ষ লক্ষ শিশু এই নজরদারির বাইরে থেকে যাচ্ছে।
এখন কী হবে?
অভিজ্ঞতাটিকে আরও উন্নত করার জন্য অতিরিক্ত সময় প্রয়োজন বলে OpenAI কোনো নিশ্চিত নতুন তারিখ ছাড়াই এর উন্মোচন স্থগিত করেছে। যখন এটি আসবে, তখন কোম্পানিটি অ্যাডাল্ট মোডকে শুধু টেক্সটের মধ্যে সীমাবদ্ধ রাখার পরিকল্পনা করছে, যেখানে কোনো কামোদ্দীপক ছবি, ভয়েস বা ভিডিও তৈরি করা যাবে না।
কোম্পানিটি আরও জানিয়েছে যে, তারা তাদের মডেলদের এমনভাবে প্রশিক্ষণ দেয় যাতে ব্যবহারকারীরা চ্যাটবটের সাথে একচেটিয়া সম্পর্ক তৈরি করতে নিরুৎসাহিত হয় এবং তাদের বাস্তব জগতের সম্পর্ক গড়ার কথা মনে করিয়ে দেয়। অভ্যন্তরীণ ও বাহ্যিক সমালোচকদের ক্রমবর্ধমান কণ্ঠস্বরকে স্তব্ধ করার জন্য এটি যথেষ্ট হবে কিনা, তা সময়ই বলে দেবে।
ব্যক্তিগতভাবে, আমি চাই সক্রিয় সুরক্ষা ব্যবস্থা চালু না হওয়া পর্যন্ত এআই মডেলগুলো যেন যৌন উত্তেজক বিষয়বস্তু তৈরি করা থেকে যথাসম্ভব দূরে থাকে। আমরা ইতিমধ্যেই দেখেছি গ্রক (Grok) কী সর্বনাশ ডেকে এনেছিল যখন এটি ব্যবহারকারীদের যে কাউকে বিবস্ত্র করার অনুমতি দিয়েছিল। আমরা এর মতো বা তার চেয়েও খারাপ কিছুর পুনরাবৃত্তি দেখতে চাই না।
চ্যাটজিপিটি-র আসন্ন ইরোটিক চ্যাট মোড লক্ষ লক্ষ শিশুকে প্রাপ্তবয়স্কদের জন্য তৈরি কন্টেন্টের সংস্পর্শে আসার ঝুঁকিতে ফেলছে – এই পোস্টটি সর্বপ্রথম ডিজিটাল ট্রেন্ডস- এ প্রকাশিত হয়েছিল।