কী ঘটেছে: এটা বেশ ভয়াবহ। TikTok এবং X (যাকে আমরা এখনও টুইটার বলি) তে মানুষ কৃত্রিম বুদ্ধিমত্তা দ্বারা তৈরি ভিডিও খুঁজে পাচ্ছে যেখানে নারী ও মেয়েদের শ্বাসরোধ করে হত্যা করা হচ্ছে।
- এগুলো কার্টুন নয়; এগুলো দেখতে ভয়াবহ বাস্তবসম্মত। ক্লিপগুলো ছোট, হয়তো ১০ সেকেন্ডের, এবং "একজন কিশোরী মেয়ের চিয়ারলিডারকে শ্বাসরোধ করা হয়েছে" এর মতো ভয়াবহ শিরোনাম রয়েছে, যেখানে কৃত্রিম "মহিলাদের" কান্না এবং সংগ্রাম দেখানো হয়েছে।
- তদন্তকারীরা উল্লেখ করছেন যে এই ভিডিওগুলির অনেকেরই ৩০শে সেপ্টেম্বর জনসাধারণের জন্য প্রকাশিত ওপেনএআই-এর নতুন ভিডিও জেনারেটর সোরা ২-এর একটি ওয়াটারমার্ক রয়েছে। কিছু নতুন আপলোডে ওয়াটারমার্ক নেই, যা আরও ভয়ঙ্কর – এর অর্থ হল লোকেরা হয়তো এটি কীভাবে সরাতে হয় তা খুঁজে বের করছে, অথবা তারা এই জিনিসগুলি তৈরি করতে অন্যান্য AI সরঞ্জাম ব্যবহার করছে।
- যেসব অ্যাকাউন্টে এগুলো পোস্ট করা হচ্ছে, সেগুলোও ভয়াবহ। X-এর অ্যাকাউন্টটির প্রায় কোনও ফলোয়ার নেই, অন্যদিকে TikTok-এ একই রকমের একটি অ্যাকাউন্টের ফলোয়ার ছিল ১,০০০-এরও বেশি, অবশেষে এটি বন্ধ করে দেওয়ার আগে। মনে হচ্ছে তারা দুজনেই অক্টোবরে শুরু করেছিল, প্রথমে আসল টিভি ক্লিপ পোস্ট করে, এবং তারপর… তারা এই কৃত্রিম বুদ্ধিমত্তা-সৃষ্টিকৃত সহিংসতার দিকে ঝুঁকে পড়েছে।
কেন এটা গুরুত্বপূর্ণ: এটা একটা বিরাট হুমকি। এটা দেখায় যে এই AI প্ল্যাটফর্ম এবং সোশ্যাল মিডিয়া সাইটগুলি এই জিনিসগুলি ধরতে সম্পূর্ণরূপে ব্যর্থ হচ্ছে, এমনকি যখন তাদের নিজস্ব নিয়ম স্পষ্টভাবে "গ্রাফিক বা হিংসাত্মক বিষয়বস্তু" নিষিদ্ধ করে।
- মিডিয়া প্রশ্ন জিজ্ঞাসা শুরু করার পর TikTok অ্যাকাউন্টটি সরিয়ে দেয়, কিন্তু X জানা গেছে… ব্যবহারকারীরা রিপোর্ট করার পরেও তা করেনি।
- এটি এই নতুন এআই টুলগুলির সবচেয়ে অন্ধকার ঝুঁকিও দেখায় যার অর্থ হল যে কারও পক্ষে সহিংসতার, বিশেষ করে নারী ও শিশুদের বিরুদ্ধে, অতি-বাস্তববাদী ভিডিও তৈরি করা ভয়ঙ্করভাবে সহজ হয়ে উঠছে।
- এটি কেবল "নিয়ম ভঙ্গ" নয়; এটি সম্পূর্ণ অনৈতিক এবং অপব্যবহার তৈরি এবং ভাগ করে নেওয়ার জন্য AI ব্যবহার সম্পর্কে বিশাল আইনি প্রশ্ন উত্থাপন করে।
আমার কেন যত্ন নেওয়া উচিত: এখন যেহেতু যে কেউ এই জিনিসটি তৈরি করতে পারে, এটি দাবানলের মতো ছড়িয়ে পড়তে পারে, যা মানুষকে এই ধরণের সহিংসতা আসলে কতটা ভয়াবহ তা বুঝতে অক্ষম করে তোলে।
- আপনার সচেতন থাকা উচিত যে যদিও এই ভিডিওগুলি "ভুয়া", তবুও এগুলি প্রকৃত মানসিক ক্ষতি করতে পারে এবং সহিংসতার সংস্কৃতিতে প্রবেশ করতে পারে।
- এটি আরেকটি বিশাল সতর্কতা যে আমাদের আরও শক্তিশালী সুরক্ষা ব্যবস্থার প্রয়োজন। এই AI সরঞ্জামগুলি তৈরিকারী কোম্পানিগুলি এবং এগুলি ছড়িয়ে দেওয়ার সুযোগ করে দেওয়া প্ল্যাটফর্মগুলিকে জবাবদিহি করতে হবে।
এরপর কী: যুক্তরাজ্য সরকার সবেমাত্র ঘোষণা করেছে যে তারা শ্বাসরোধের যেকোনো অশ্লীল চিত্রণকে অবৈধ ঘোষণা করার পদক্ষেপ নিচ্ছে, যা একটি লক্ষণ যে দেশগুলি এই বিষয়ে জেগে উঠতে শুরু করেছে।
- ইতিমধ্যে, OpenAI, TikTok, এবং X-এর উপর চাপ বাড়ছে তাদের কাজ একত্রিত করার জন্য এবং তাদের AI টুলগুলিতে প্রকৃত রেলিং স্থাপন করার জন্য যাতে এই ধরণের বিরক্তিকর, হিংসাত্মক আবর্জনা তৈরি করতে ব্যবহার করা না যায়।
- যদি তারা দ্রুত পদক্ষেপ না নেয়, তাহলে বিশেষজ্ঞরা সতর্ক করে দিচ্ছেন যে এটি অনলাইনে কৃত্রিম বুদ্ধিমত্তা-চালিত অপব্যবহারের এক জঘন্য নতুন ঢেউয়ের সূচনা মাত্র।