এক্স-এর কাঠামোতে বোনা এলন মাস্ক-সমর্থিত এআই চ্যাটবট গ্রোক, তার ইমেজ জেনারেশন এবং এডিটিং টুলগুলি অর্থপ্রদানকারী গ্রাহকদের কাছে পৌঁছে দিতে শুরু করেছে। এই পরিবর্তনটি টুলের অসম্মতিমূলক যৌন চিত্র তৈরির ক্ষমতা নিয়ে সমালোচনার জোয়ারের পরে এসেছে । যদিও এই নিষেধাজ্ঞা স্পষ্টতই বিতর্কের জোয়ার থামানোর একটি প্রচেষ্টা, নিয়ন্ত্রক, অ্যাডভোকেসি গ্রুপ এবং ব্যবহারকারীরা একইভাবে যুক্তি দেন যে এটি নারী ও শিশুদের সাথে জড়িত ক্ষতিকারক এবং সম্ভাব্য অবৈধ সামগ্রী তৈরি বন্ধ করতে খুব কমই কাজ করে।
বৃহস্পতিবারের শেষের দিকে, গ্রোক আনুষ্ঠানিকভাবে তার ছবি তৈরির বৈশিষ্ট্যগুলিকে X প্রিমিয়াম পেওয়ালের পিছনে সরিয়ে নিয়েছে, যার শুরু প্রতি মাসে $8 থেকে।
তবে, এই পদক্ষেপটিকে "লিক" সমাধান হিসেবে ব্যাপকভাবে উপহাস করা হয়েছে। যদিও X-এর সাধারণ ব্যবহারকারীদের ব্লক করা হতে পারে, তবুও Grok-এর স্বতন্ত্র ওয়েবসাইট এবং মোবাইল অ্যাপের মাধ্যমে জেনারেশন টুলগুলি অ্যাক্সেস করার জন্য সম্পূর্ণ বিনামূল্যে। এই ফাঁকটি প্ল্যাটফর্মের দাবিকে কার্যকরভাবে দুর্বল করে দেয় যে এটি অপব্যবহারের বিরুদ্ধে দৃঢ় অবস্থান নিচ্ছে, যার ফলে সবচেয়ে বিপজ্জনক টুলগুলি এখনও সাধারণ জনগণের নাগালের মধ্যে রয়েছে।
নিরাপত্তা গবেষক এবং ডিজিটাল ওয়াচডগরা নিশ্চিত নন যে ক্রেডিট কার্ডের প্রয়োজনীয়তা সমস্যার সমাধান করে। আসলে, অনেকেই যুক্তি দেন যে এটি আসলে অপব্যবহারকে নগদীকরণ করে। ডিপফেক গবেষক জেনেভিভ ওহের মতে, পেওয়াল লাইভ হওয়ার পরেও গ্রোক প্রতি ঘন্টায় ১,৫০০ টিরও বেশি ক্ষতিকারক ছবি প্রকাশ করে – যা এর মোট পাবলিক ইমেজ আউটপুটের প্রায় ৬০%। ওহের তথ্য থেকে জানা যায় যে গ্রোক বর্তমানে এমন হারে যৌনতাপূর্ণ সামগ্রী তৈরি করছে যা এমনকি সবচেয়ে কুখ্যাত "নগ্নতা" ওয়েবসাইটগুলিকেও ছোট করে।
এই বিপর্যয় মার্কিন সরকারের সর্বোচ্চ পর্যায়ে পৌঁছেছে।
ডেমোক্র্যাটিক সিনেটর রন ওয়াইডেন, এডওয়ার্ড জে. মার্কি এবং বেন রে লুজান সম্প্রতি অ্যাপল এবং গুগলের সিইওদের কাছে একটি চিঠি লিখে দাবি করেছেন যে তাদের নিজ নিজ অ্যাপ স্টোর থেকে এক্সকে সরিয়ে ফেলা উচিত। সিনেটররা যুক্তি দিয়েছিলেন যে এই সরঞ্জামগুলিকে টিকে থাকার অনুমতি দিয়ে, এক্স সেই সুরক্ষা নিয়মগুলির প্রতি "সম্পূর্ণ অবজ্ঞা" প্রদর্শন করছে যা প্রতিটি অন্যান্য অ্যাপ ডেভেলপার অনুসরণ করতে বাধ্য হয়।
আন্তর্জাতিক চাপও তীব্র আকার ধারণ করছে। যুক্তরাজ্য এবং ভারতীয় কর্মকর্তারা পেওয়ালকে অপর্যাপ্ত প্রতিক্রিয়া হিসেবে সমালোচনা করেছেন। ব্রিটিশ প্রধানমন্ত্রীর একজন মুখপাত্র এই পদক্ষেপকে ভুক্তভোগীদের জন্য "অপমানজনক" বলে বর্ণনা করেছেন, পরামর্শ দিয়েছেন যে X কেবল একটি নিরাপত্তা সংকটকে প্রিমিয়াম রাজস্ব প্রবাহে পরিণত করছে। ভুক্তভোগীরা একই রকম গল্প ভাগ করে নিয়েছেন; প্রচারক জেস ডেভিস জানিয়েছেন যে কথিত বিধিনিষেধ সত্ত্বেও, শুক্রবার সকালে গ্রোক তার স্বতন্ত্র অ্যাপের মাধ্যমে তার একটি ছবি ডিজিটালভাবে "কাপড় খুলতে" সক্ষম হয়েছেন।
মজার ব্যাপার হল, বিতর্কটি প্ল্যাটফর্মটিকে একটি বিকৃত আর্থিক সহায়তা প্রদান করছে বলে মনে হচ্ছে
সেন্সর টাওয়ারের অনুমান অনুসারে, শুধুমাত্র বৃহস্পতিবারেই X-এর মোবাইল ইন-অ্যাপ ক্রয় আয় ১৮% বৃদ্ধি পেয়েছে। এই বৃদ্ধি অ্যাপের জন্য সাধারণ দৈনিক বৃদ্ধির চেয়ে অনেক বেশি, যা ইঙ্গিত দেয় যে গ্রোকের "স্পাইসি মোড" অ্যাক্সেস করার প্রবণতা আসলে X-এর সংগ্রামরত আর্থিক পরিস্থিতিকে সাহায্য করছে।
আইন বিশেষজ্ঞরা সতর্ক করে বলেছেন যে এই অর্ধ-পদক্ষেপগুলি আদালতে বেশি দিন টিকে থাকবে না। উত্তর ক্যারোলিনার অ্যাটর্নি জেনারেল জেফ জ্যাকসন গ্রোক পরিস্থিতিকে এআই সুরক্ষার জন্য একটি "টার্নিং পয়েন্ট" হিসাবে চিহ্নিত করেছেন, উল্লেখ করেছেন যে এই সিস্টেমগুলিকে কতটা সহজেই অস্ত্র হিসেবে ব্যবহার করা যেতে পারে। তিনি যুক্তি দিয়েছিলেন যে "দ্রুত পদক্ষেপ নিন এবং জিনিসগুলি ভেঙে ফেলুন" এর যুগটি বেসরকারী নাগরিকদের মর্যাদা এবং সুরক্ষার ক্ষেত্রে একটি প্রাচীরের সাথে ধাক্কা খাচ্ছে।
দেয়ালগুলি যতই ঘনিয়ে আসছে, X-এর সামনে একটি কঠিন নির্বাচনের মুখোমুখি হতে হবে: আসল, হার্ড-কোডেড টেকনিক্যাল গার্ডেল বাস্তবায়ন করা, নাকি প্রধান অ্যাপ স্টোর এবং আন্তর্জাতিক বাজারে সম্পূর্ণ ব্ল্যাকআউটের মুখোমুখি হওয়া। এলন মাস্ক সফ্টওয়্যারটিকে আরও কঠোর করার সিদ্ধান্ত নেন কিনা – কেবল এটির অ্যাক্সেসের পরিবর্তে – এটি নির্ধারণ করবে যে গ্রোকের একটি বৈধ হাতিয়ার হিসেবে ভবিষ্যত আছে কিনা, নাকি এটি জেনারেটিভ এআই যুগের একটি অপ্রচলিত অংশ হয়ে ওঠে।
বিশ্বব্যাপী তীব্র প্রতিক্রিয়ার পর "X" পোস্টটি "গ্রোক ইমেজ জেনারেশনকে অর্থপ্রদানকারী ব্যবহারকারীদের মধ্যে সীমাবদ্ধ করে" প্রথম প্রকাশিত হয়েছিল ডিজিটাল ট্রেন্ডস- এ।