মার্কিন জনস্বার্থ গবেষণা গোষ্ঠী (PIRG) শিক্ষা তহবিলের একটি নতুন প্রতিবেদনে শিশুদের খেলনাগুলিতে কৃত্রিম বুদ্ধিমত্তার চ্যাটবটের ক্রমবর্ধমান ব্যবহার নিয়ে উদ্বেগ প্রকাশ করা হয়েছে, সতর্ক করে দেওয়া হয়েছে যে এই সিস্টেমগুলির মধ্যে কিছু তরুণ ব্যবহারকারীদের জন্য উপযুক্ত নাও হতে পারে। প্রতিবেদন অনুসারে , বেশ কয়েকটি কৃত্রিম বুদ্ধিমত্তা-চালিত খেলনা চ্যাটবট প্রযুক্তিকে একীভূত করে যা প্রাপ্তবয়স্ক-কেন্দ্রিক কৃত্রিম বুদ্ধিমত্তা পরিষেবাগুলিতে ব্যবহৃত প্রতিক্রিয়াগুলির মতো প্রতিক্রিয়া তৈরি করতে পারে, সম্ভাব্যভাবে শিশুদের অনুপযুক্ত বা বিভ্রান্তিকর সামগ্রীর মুখোমুখি করে।
গবেষণায় ইন্টারেক্টিভ পুতুল, রোবট এবং শিক্ষামূলক গ্যাজেট সহ কথোপকথনমূলক AI বৈশিষ্ট্যগুলি অন্তর্ভুক্ত করে এমন বিভিন্ন খেলনা পরীক্ষা করা হয়েছে। এই পণ্যগুলির মধ্যে অনেকগুলি শিশুদের এমন একটি খেলনা দিয়ে কথা বলতে দেয় যা প্রাকৃতিক ভাষায় সাড়া দেয়, যা ব্যাপকভাবে উপলব্ধ AI চ্যাটবটগুলিতে ব্যবহৃত বৃহৎ ভাষার মডেল দ্বারা চালিত হয়।
যদিও প্রযুক্তিটি খেলনাগুলিকে আরও ইন্টারেক্টিভ এবং শিক্ষামূলক করে তুলতে পারে, PIRG গবেষকরা যুক্তি দেন যে কিছু পণ্যের মধ্যে থাকা সুরক্ষা ব্যবস্থাগুলি তরুণ দর্শকদের সুরক্ষার জন্য যথেষ্ট শক্তিশালী নাও হতে পারে। বিশেষ করে, প্রতিবেদনে হাইলাইট করা হয়েছে যে অন্তর্নিহিত AI সিস্টেমগুলি প্রায়শই শিশুদের পরিবর্তে প্রাথমিকভাবে সাধারণ ব্যবহারকারীদের জন্য ডিজাইন করা প্ল্যাটফর্ম থেকে উদ্ভূত হয়।
এই কারণে, এই খেলনাগুলি দ্বারা উৎপন্ন AI প্রতিক্রিয়াগুলিতে সম্ভাব্যভাবে তথ্য বা কথোপকথনের থিম অন্তর্ভুক্ত থাকতে পারে যা শিশুদের তুলনায় প্রাপ্তবয়স্কদের জন্য বেশি উপযুক্ত। প্রতিবেদনে আরও সতর্ক করা হয়েছে যে AI ভুল উত্তর বা অপ্রত্যাশিত প্রতিক্রিয়া তৈরি করতে পারে, যা তরুণ ব্যবহারকারীদের বিভ্রান্ত করতে পারে যারা খেলনাগুলিকে তথ্যের নির্ভরযোগ্য উৎস হিসাবে বিশ্বাস করে।
খেলনাগুলির ডকুমেন্টেশন এবং গোপনীয়তা নীতি পর্যালোচনা করে গবেষকরা আরও দেখেছেন যে কিছু পণ্য ক্লাউড-ভিত্তিক এআই সিস্টেমের উপর ব্যাপকভাবে নির্ভর করে।
এর অর্থ হল শিশুদের ভয়েস ইন্টারঅ্যাকশনগুলি বহিরাগত সার্ভারে প্রেরণ করা হতে পারে যেখানে ডেটা প্রক্রিয়া করা হয় এবং প্রতিক্রিয়া তৈরি করতে ব্যবহৃত হয়। গোপনীয়তা সমর্থকরা বলছেন যে এটি শিশুদের ডেটা কীভাবে সংরক্ষণ এবং ব্যবহার করা হয় সে সম্পর্কে অতিরিক্ত উদ্বেগ তৈরি করে। কিছু খেলনা কথোপকথনের সময় অডিও রেকর্ডিং, ব্যবহারকারীর প্রম্পট বা অন্যান্য ব্যক্তিগত তথ্য সংগ্রহ করতে পারে। যদি এই সিস্টেমগুলি শিশুদের গোপনীয়তা সুরক্ষার সাথে সাবধানতার সাথে ডিজাইন করা না হয়, তাহলে স্পষ্ট সুরক্ষা ব্যবস্থা ছাড়াই ডেটার অপব্যবহার বা সংরক্ষণের সম্ভাবনা রয়েছে।
প্রতিবেদনে আরও উল্লেখ করা হয়েছে যে অনেক AI-চালিত খেলনা তাদের পরিষেবার শর্তাবলী বা পণ্যের ডকুমেন্টেশনে দাবিত্যাগ লুকিয়ে রাখে। এই দাবিত্যাগগুলি কখনও কখনও বলে যে AI প্রতিক্রিয়াগুলি সর্বদা সঠিক বা উপযুক্ত নাও হতে পারে, কার্যকরভাবে বাবা-মায়ের উপর দায়িত্ব চাপিয়ে দেয় যখন খেলনাটি সরাসরি শিশুদের কাছে বিক্রি করা হয়।
এই পরিস্থিতি গুরুত্বপূর্ণ কারণ কৃত্রিম বুদ্ধিমত্তা প্রযুক্তি ক্রমবর্ধমানভাবে দৈনন্দিন ভোক্তা পণ্যগুলিতে প্রবেশ করছে, যার মধ্যে বিশেষভাবে তরুণ দর্শকদের জন্য ডিজাইন করা জিনিসপত্রও রয়েছে। কথোপকথনের অনুকরণকারী খেলনা শিশুদের উপর শক্তিশালী প্রভাব ফেলতে পারে, যারা প্রায়শই তাদের সঙ্গী বা শেখার হাতিয়ার হিসেবে বিবেচনা করে।
বিশেষজ্ঞরা বলছেন যে শিশুদের নির্ভরযোগ্য তথ্য এবং কৃত্রিম বুদ্ধিমত্তা (AI) দ্বারা তৈরি প্রতিক্রিয়াগুলির মধ্যে পার্থক্য করতে অসুবিধা হতে পারে যা অনুমানমূলক, পক্ষপাতদুষ্ট বা ভুল। কৃত্রিম বুদ্ধিমত্তা (AI) সিস্টেমগুলি বিকশিত হওয়ার সাথে সাথে, শিশুদের সুরক্ষার জন্য এই প্রযুক্তিগুলি অভিযোজিত করা নিশ্চিত করা ক্রমশ গুরুত্বপূর্ণ হয়ে উঠবে।
এই অনুসন্ধানগুলি একটি বৃহত্তর নিয়ন্ত্রক চ্যালেঞ্জকেও তুলে ধরে
যদিও অনেক দেশে শিশুদের অনলাইন গোপনীয়তা রক্ষার জন্য আইন তৈরি করা হয়েছে, যেমন মার্কিন যুক্তরাষ্ট্রে চিলড্রেনস অনলাইন প্রাইভেসি প্রোটেকশন অ্যাক্ট (COPPA), এই নিয়মগুলি জেনারেটিভ এআই- এর উত্থানের আগে তৈরি করা হয়েছিল।
অ্যাডভোকেসি গ্রুপগুলি যুক্তি দেয় যে সংযুক্ত ডিভাইসের মাধ্যমে AI সিস্টেমগুলি কীভাবে শিশুদের সাথে যোগাযোগ করে তা মোকাবেলা করার জন্য নিয়ন্ত্রকদের নিরাপত্তা মান এবং নির্দেশিকা আপডেট করার প্রয়োজন হতে পারে।
পিআইআরজি রিপোর্টে খেলনা নির্মাতাদের কঠোর কন্টেন্ট ফিল্টারিং, এআই ব্যবহার সম্পর্কে স্পষ্ট প্রকাশ এবং আরও স্বচ্ছ ডেটা অনুশীলন সহ আরও শক্তিশালী সুরক্ষা ব্যবস্থা বাস্তবায়নের আহ্বান জানানো হয়েছে। এটি আরও সুপারিশ করে যে কোম্পানিগুলি প্রাপ্তবয়স্ক দর্শকদের জন্য তৈরি মডেলগুলিকে পুনঃব্যবহার না করে বিশেষভাবে শিশুদের জন্য এআই সিস্টেম ডিজাইন করে।
ভবিষ্যতের দিকে তাকিয়ে গবেষকরা বলছেন যে কৃত্রিম বুদ্ধিমত্তা-চালিত খেলনাগুলি যাতে উদ্ভাবনী এবং নিরাপদ থাকে তা নিশ্চিত করার জন্য প্রযুক্তি কোম্পানি, নিয়ন্ত্রক এবং শিশু সুরক্ষা বিশেষজ্ঞদের মধ্যে সহযোগিতা প্রয়োজন হবে।
কৃত্রিম বুদ্ধিমত্তা দৈনন্দিন পণ্যে আরও সংহত হওয়ার সাথে সাথে, চ্যালেঞ্জ হবে ইন্টারেক্টিভ প্রযুক্তির সুবিধাগুলির সাথে তরুণ ব্যবহারকারীদের সম্ভাব্য ঝুঁকি থেকে রক্ষা করার দায়িত্বের ভারসাম্য বজায় রাখা।
"শুধুমাত্র প্রাপ্তবয়স্কদের জন্য উপযুক্ত AI চ্যাটবটগুলি এখনও বাচ্চাদের খেলনাগুলিতে দেখা যাচ্ছে" পোস্টটি প্রথমে ডিজিটাল ট্রেন্ডসে প্রকাশিত হয়েছিল।