আমরা অ্যাপল অ্যাপ স্টোর এবং গুগল প্লে স্টোরকে ডিজিটাল "দেয়ালের বাগান" হিসেবে ভাবি – নিরাপদ, কিউরেটেড স্থান যেখানে বিপজ্জনক বা অপ্রীতিকর কন্টেন্ট আমাদের স্ক্রিনে আসার অনেক আগেই ফিল্টার করা হয়। কিন্তু টেক ট্রান্সপারেন্সি প্রজেক্ট (TTP) এর একটি ভয়াবহ নতুন বিশ্লেষণ থেকে জানা গেছে যে দেয়ালগুলিতে কিছু গুরুতর ফাটল রয়েছে। প্রতিবেদনটি একটি বিরক্তিকর বাস্তবতা প্রকাশ করে: দুটি প্রধান স্টোরফ্রন্ট বর্তমানে কয়েক ডজন AI-চালিত "ন্যুডিফাই" অ্যাপ দ্বারা আক্রান্ত। এগুলি ডার্ক ওয়েবে লুকানো অস্পষ্ট সরঞ্জাম নয়; এগুলি খোলা জায়গায় রয়েছে, যে কেউ একজন ব্যক্তির নির্দোষ ছবি তুলতে এবং তাদের সম্মতি ছাড়াই ডিজিটালভাবে পোশাক খুলে ফেলতে পারে।
এই বছরের শুরুর দিকে, এই প্রযুক্তি নিয়ে আলোচনা চরমে পৌঁছেছিল যখন এলন মাস্কের এআই, গ্রোক, প্ল্যাটফর্ম X-এ একই ধরণের যৌনতাপূর্ণ ছবি তৈরি করতে ধরা পড়েছিল। কিন্তু গ্রোক জনসাধারণের ক্ষোভের কারণ হয়ে দাঁড়িয়েছিল, টিটিপি তদন্ত দেখায় যে এটি কেবল হিমশৈলের চূড়া। অ্যাপ স্টোরগুলিতে "ড্রেস আনড্রেস" বা "নগ্নতা" এর মতো শব্দগুলির জন্য একটি সহজ অনুসন্ধান বিশেষভাবে অসম্মতিমূলক ডিপফেক পর্নোগ্রাফি তৈরির জন্য ডিজাইন করা সফ্টওয়্যারের একটি লন্ড্রি তালিকা নিয়ে আসে।
এই শিল্পের পরিধি স্পষ্টতই বিস্ময়কর
আমরা কিছু দুর্বৃত্ত ডেভেলপারদের কথা বলছি না যারা এই ফাঁদে পা দিচ্ছে। তথ্য অনুসারে, এই অ্যাপগুলি সম্মিলিতভাবে ৭০ কোটিরও বেশি ডাউনলোড করেছে। তারা আনুমানিক ১১৭ মিলিয়ন ডলার আয় করেছে। এবং এখানে অস্বস্তিকর সত্য: যেহেতু অ্যাপল এবং গুগল সাধারণত অ্যাপ-মধ্যস্থ কেনাকাটা এবং সাবস্ক্রিপশনের উপর কমিশন নেয়, তাই তারা অসম্মতি ছাড়াই যৌন চিত্র তৈরি করে কার্যকরভাবে লাভবান হচ্ছে। যখনই কেউ সহপাঠী, সহকর্মী বা অপরিচিত ব্যক্তির ছবি "কাপড় খোলার" জন্য অর্থ প্রদান করে, তখনই প্রযুক্তি জায়ান্টরা তাদের সুযোগ পায়।
এই প্রযুক্তির মানবিক মূল্য অতিরঞ্জিত করা যাবে না। এই সরঞ্জামগুলি সাধারণ ছবিগুলিকে অস্ত্র হিসেবে ব্যবহার করে। ইনস্টাগ্রাম থেকে নেওয়া একটি সেলফি বা একটি বর্ষপুস্তকের একটি ছবিকে স্পষ্ট উপাদানে রূপান্তরিত করা যেতে পারে যা ভুক্তভোগীদের হয়রানি, অপমান বা ব্ল্যাকমেইল করার জন্য ব্যবহৃত হয়। অ্যাডভোকেসি গোষ্ঠীগুলি বছরের পর বছর ধরে এই বিষয়ে চিৎকার করে আসছে, সতর্ক করে দিচ্ছে যে "এআই নগ্নতা" হল যৌন সহিংসতার একটি রূপ যা অসামঞ্জস্যপূর্ণভাবে মহিলাদের এবং ভয়াবহভাবে নাবালকদের লক্ষ্য করে।
তাহলে, তারা এখনও সেখানে কেন?
অ্যাপল এবং গুগল উভয়েরই কাগজে-কলমে কঠোর নীতিমালা রয়েছে যা পর্নোগ্রাফিক এবং শোষণমূলক বিষয়বস্তু নিষিদ্ধ করে। সমস্যা হলো প্রয়োগ। এটি Whac-A-Mole-এর একটি ডিজিটাল খেলায় পরিণত হয়েছে। যখন একটি হাই-প্রোফাইল রিপোর্ট প্রকাশিত হয়, তখন কোম্পানিগুলি কয়েকটি নির্দিষ্ট অ্যাপ নিষিদ্ধ করতে পারে, কিন্তু ডেভেলপাররা প্রায়শই লোগো পরিবর্তন করে, নামটি সামান্য পরিবর্তন করে এবং এক সপ্তাহ পরে ঠিক একই কোডটি পুনরায় আপলোড করে। স্বয়ংক্রিয় পর্যালোচনা সিস্টেমগুলি জেনারেটিভ AI-এর দ্রুত বিবর্তনের সাথে তাল মিলিয়ে চলতে সম্পূর্ণরূপে অক্ষম বলে মনে হচ্ছে।
অভিভাবক এবং দৈনন্দিন ব্যবহারকারীদের জন্য, এটি একটি সতর্কবার্তা। আমরা আর ধরে নিতে পারি না যে শুধুমাত্র একটি "অফিসিয়াল" স্টোরে থাকায়, এটি নিরাপদ বা নীতিগত। AI সরঞ্জামগুলি যত শক্তিশালী এবং অ্যাক্সেস করা সহজ হচ্ছে, অতীতে আমরা যে সুরক্ষা ব্যবস্থাগুলির উপর নির্ভর করেছিলাম তা ব্যর্থ হচ্ছে। যতক্ষণ না নিয়ন্ত্রকরা পদক্ষেপ নেয় – অথবা যতক্ষণ না অ্যাপল এবং গুগল কমিশন ফি-এর চেয়ে সুরক্ষাকে অগ্রাধিকার দেওয়ার সিদ্ধান্ত নেয় – আমাদের ডিজিটাল প্রতিরূপগুলি অস্বস্তিকরভাবে দুর্বল থেকে যায়।
"এটা শুধু গ্রোক নয়: অ্যাপল এবং গুগল অ্যাপ স্টোরগুলি নগ্নকরণকারী এআই অ্যাপগুলিতে ভরা" পোস্টটি প্রথম ডিজিটাল ট্রেন্ডসে প্রকাশিত হয়েছিল।