মনে হচ্ছে এআই চ্যাটবটগুলির জন্য হিসাব করার মুহূর্ত এখানে। এআই চ্যাটবটগুলির সাথে শিশু এবং কিশোর-কিশোরীদের মিথস্ক্রিয়া জড়িত সমস্যাযুক্ত আচরণ এবং মারাত্মক ঘটনাগুলির বিশদ বিবরণের অসংখ্য প্রতিবেদনের পরে, মার্কিন সরকার অবশেষে হস্তক্ষেপ করছে। ফেডারেল ট্রেড কমিশন (FTC) আজ জনপ্রিয় AI চ্যাটবটগুলির নির্মাতাদের বিস্তারিত জানতে বলেছে যে তারা এই "শিশুদের জন্য AI সহচর" এর উপযুক্ততা কীভাবে পরীক্ষা করে এবং মূল্যায়ন করে।
কি হচ্ছে?
ChatGPT , Gemini, এবং Meta-এর পছন্দগুলি কীভাবে মানুষের মতো যোগাযোগ এবং ব্যক্তিগত সম্পর্কের অনুকরণ করতে পারে তা হাইলাইট করে, এজেন্সি নোট করে যে এই AI চ্যাটবটগুলি কিশোর এবং শিশুদের বিশ্বাস এবং সম্পর্ক গড়ে তুলতে বাধ্য করে৷ এফটিসি এখন বুঝতে চায় যে কীভাবে এই সরঞ্জামগুলির পিছনে থাকা সংস্থাগুলি নিরাপত্তার দিকটি মূল্যায়ন করে এবং তরুণ দর্শকদের উপর নেতিবাচক প্রভাব সীমিত করে।
AI চ্যাটবট বিকাশকারী টেক জায়ান্টদের উদ্দেশে লেখা একটি চিঠিতে , FTC তাদের AI সহচরদের অভিপ্রেত শ্রোতা, তারা যে ঝুঁকিগুলি তৈরি করে এবং কীভাবে ডেটা পরিচালনা করা হয় সে সম্পর্কে জিজ্ঞাসা করেছে। সংস্থাটি কীভাবে এই সংস্থাগুলি "ব্যবহারকারীর ব্যস্ততাকে নগদীকরণ করে; ব্যবহারকারীর ইনপুটগুলি প্রক্রিয়া করে; তৃতীয় পক্ষের সাথে ব্যবহারকারীর ডেটা ভাগ করে; আউটপুট তৈরি করে; স্থাপনার আগে এবং পরে নেতিবাচক প্রভাবগুলির জন্য পরিমাপ, পরীক্ষা এবং নিরীক্ষণ করে; অক্ষরগুলি বিকাশ এবং অনুমোদন করে, কোম্পানি- বা ব্যবহারকারী-সৃষ্টি করা হোক না কেন সে সম্পর্কেও ব্যাখ্যা চেয়েছে।"
এজেন্সি মেটা, অ্যালফাবেট (গুগলের মূল কোম্পানি), ইনস্টাগ্রাম, স্ন্যাপ, xAI, এবং OpenAI-কে AI চ্যাটবট সম্পর্কিত প্রশ্নের উত্তর দিতে চায় এবং তারা শিশুদের অনলাইন গোপনীয়তা সুরক্ষা আইনের নিয়ম মেনে চলছে কিনা। "আমরা আজ যে গবেষণাটি চালু করছি তা আমাদের আরও ভালভাবে বুঝতে সাহায্য করবে যে কীভাবে এআই সংস্থাগুলি তাদের পণ্যগুলি বিকাশ করছে এবং তারা শিশুদের সুরক্ষার জন্য কী পদক্ষেপ নিচ্ছে," এফটিসি চেয়ারম্যান, অ্যান্ড্রু এন ফার্গুসন, একটি বিবৃতিতে ভাগ করেছেন৷
আরও অ্যাকশন তৈরি হচ্ছে
এফটিসির সমস্যাটি এআই চ্যাটবটগুলির সুরক্ষার বিষয়ে এআই সংস্থাগুলির কাছ থেকে জবাবদিহিতা চাওয়ার দিকে একটি বড় পদক্ষেপ। এই মাসের শুরুর দিকে, অলাভজনক কমন সেন্স মিডিয়ার একটি তদন্তে প্রকাশ করা হয়েছে যে Google-এর জেমিনি চ্যাটবট শিশু এবং কিশোর-কিশোরীদের জন্য একটি উচ্চ-ঝুঁকির টুল । পরীক্ষায়, জেমিনিকে যৌনতা, ড্রাগস, অ্যালকোহল এবং তরুণ ব্যবহারকারীদের জন্য অনিরাপদ মানসিক স্বাস্থ্যের পরামর্শ সম্পর্কিত বিষয়বস্তু প্রকাশ করতে দেখা গেছে। মেটার এআই চ্যাটবটকে কয়েক সপ্তাহ আগে আত্মহত্যার পরিকল্পনাকে সমর্থন করতে দেখা গেছে।
অন্য কোথাও, ক্যালিফোর্নিয়া রাজ্য একটি বিল পাস করেছে যার লক্ষ্য AI চ্যাটবটগুলি নিয়ন্ত্রণ করা। SB 243 বিলটি দ্বিদলীয় সমর্থনে এগিয়ে নেওয়া হয়েছিল, এবং এটি AI কোম্পানিগুলিকে সুরক্ষা প্রোটোকল তৈরি করতে এবং ব্যবহারকারীদের ক্ষতি করলে জবাবদিহি করতে চায়। বিলটি "এআই সহচর" চ্যাটবটগুলিকে তাদের ঝুঁকি এবং বার্ষিক স্বচ্ছতা প্রকাশ সম্পর্কে পুনরাবৃত্তিমূলক সতর্কতা জারি করার নির্দেশ দেয়।
AI চ্যাটবটগুলির প্রভাবে প্রাণ হারিয়েছে এমন সাম্প্রতিক ঘটনাগুলির দ্বারা বিচলিত, ChatGPT শীঘ্রই পিতামাতার নিয়ন্ত্রণ এবং অভিভাবকদের জন্য একটি সতর্কতা ব্যবস্থা পাবে যখন তাদের তরুণ ওয়ার্ডগুলি গুরুতর সঙ্কটের লক্ষণ দেখাবে৷ মেটাও পরিবর্তন করেছে তাই এর AI চ্যাটবটগুলি সংবেদনশীল বিষয় নিয়ে কথা বলা এড়ায়।