ইউটিউব AI-এর সবচেয়ে বিরক্তিকর ব্যবহারের বিরুদ্ধে লড়াই জোরদার করছে: প্রকৃত মানুষের ছদ্মবেশ ধারণকারী ডিপফেক ভিডিও। কোম্পানিটি ঘোষণা করেছে যে তারা সাংবাদিক, সরকারি কর্মকর্তা এবং রাজনৈতিক প্রার্থীদের একটি পাইলট গ্রুপের কাছে তাদের সাদৃশ্য সনাক্তকরণ প্রযুক্তি সম্প্রসারণ করছে। এটি একটি পদক্ষেপ যার লক্ষ্য হল জনসাধারণের ব্যক্তিত্বদের AI-সৃষ্ট ছদ্মবেশ থেকে রক্ষা করা।
এই বৈশিষ্ট্যটি মুখের জন্য কন্টেন্ট আইডির মতোই কাজ করে। অংশগ্রহণকারীরা একটি ছোট ভিডিও এবং একটি সরকারি আইডি জমা দেয় যাতে সিস্টেম তাদের চেহারা জানতে পারে। নিবন্ধিত হওয়ার পরে, ইউটিউব তাদের চেহারা অনুকরণ করে এমন কৃত্রিম বুদ্ধিমত্তা-উত্পাদিত ভিডিওগুলির জন্য আপলোডগুলি স্ক্যান করে। যদি এই ধরনের কন্টেন্ট প্রদর্শিত হয়, তাহলে ব্যক্তি এটি পর্যালোচনা করতে পারেন এবং সম্ভাব্যভাবে এটি অপসারণের অনুরোধ করতে পারেন।
AI ছদ্মবেশের বিরুদ্ধে একটি নতুন ঢাল
ইউটিউব গত বছর ইউটিউব পার্টনার প্রোগ্রামে স্রষ্টাদের জন্য সাদৃশ্য সনাক্তকরণ চালু করে । কোম্পানিটি এখন বিশ্বাস করে যে পরবর্তী অগ্রাধিকার হল জনসাধারণের পরিচয় রক্ষা করা যাদের পরিচয় প্রায়শই ভুল তথ্য প্রচারণায় ব্যবহৃত হয়, বিশেষ করে নির্বাচন এবং রাজনৈতিক আলোচনার আশেপাশে।
জেনারেটিভ এআই টুলের মাধ্যমে ডিপফেক ক্রমশ বাস্তবসম্মত হয়ে উঠছে, যার ফলে এমন কিছু বলা বা করা যা তারা আসলে কখনও করেনি তার বিশ্বাসযোগ্য ভিডিও তৈরি করা সহজ হয়ে উঠেছে। রাজনীতি এবং সাংবাদিকতায়, এই ঝুঁকির গুরুতর পরিণতি হতে পারে, ভুল তথ্য থেকে শুরু করে সুনামের ক্ষতি পর্যন্ত। তবে, সিস্টেমটি একটি সাধারণ "ডিলিট বোতাম" নয়। ইউটিউব বলেছে যে অপসারণের অনুরোধগুলি এখনও তার বিদ্যমান গোপনীয়তা এবং নিয়ন্ত্রণ নির্দেশিকা সাপেক্ষে থাকবে, যার অর্থ কিছু ভিডিও যদি প্যারোডি, ব্যঙ্গাত্মক বা বৈধ ভাষ্য হিসাবে যোগ্য হয় তবে অনলাইনে থাকতে পারে।
মজার ব্যাপার হল, ইউটিউব বলছে যে স্রষ্টাদের কাছে মূল রোলআউটের ফলে খুব বেশি টেকডাউন হয়নি। বেশিরভাগ শনাক্ত করা সামগ্রী তুলনামূলকভাবে ক্ষতিকারক বলে প্রমাণিত হয়েছে, যদিও কোম্পানিটি আশা করে যে জনসাধারণের ব্যক্তিত্ব এবং রাজনৈতিক নেতাদের ক্ষেত্রে পরিস্থিতি ভিন্ন হবে যারা লক্ষ্যবস্তু ডিপফেক আক্রমণের ঝুঁকির সম্মুখীন হন।
আপাতত, এই প্রোগ্রামটি সাধারণ জনগণের চেয়ে প্রভাবশালী ব্যক্তিদের মধ্যেই সীমাবদ্ধ থাকবে। কিন্তু এই সম্প্রসারণ প্রযুক্তি শিল্পে একটি বিস্তৃত পরিবর্তনের ইঙ্গিত দেয়: কৃত্রিম বুদ্ধিমত্তা-উত্পাদিত মিডিয়া বাস্তবতা থেকে আলাদা করা অসম্ভব হয়ে পড়ার আগেই রেলিং তৈরির জন্য দ্রুত পদক্ষেপ নেওয়া।
"ইউটিউব অবশেষে ডিপফেক ভিডিওর ঝুঁকিপূর্ণ দিকটি মোকাবেলা করছে" পোস্টটি প্রথমে ডিজিটাল ট্রেন্ডসে প্রকাশিত হয়েছিল।