চ্যাটজিপিটি চুরিকারীরা সতর্ক থাকুন, কারণ ওপেনএআই এমন একটি টুল তৈরি করেছে যা 99.99% নির্ভুলতার সাথে GPT-4 এর লেখার আউটপুট সনাক্ত করতে সক্ষম। যাইহোক, সংস্থাটি এটিকে জনসাধারণের কাছে প্রকাশ করবে কিনা তা নিয়ে এক বছরেরও বেশি সময় কাটিয়েছে ।
টেকক্রাঞ্চ প্রতি "ওপেনএআই-এর বাইরে বৃহত্তর ইকোসিস্টেমে জড়িত জটিলতা এবং এর সম্ভাব্য প্রভাবের কারণে" কোম্পানিটি "ইচ্ছাকৃত পদ্ধতি" গ্রহণ করছে বলে জানা গেছে। "আমরা যে টেক্সট ওয়াটারমার্কিং পদ্ধতিটি বিকাশ করছি তা প্রযুক্তিগতভাবে প্রতিশ্রুতিশীল, কিন্তু আমরা বিকল্পগুলি নিয়ে গবেষণা করার সময় গুরুত্বপূর্ণ ঝুঁকিগুলি বিবেচনা করছি, যার মধ্যে খারাপ অভিনেতাদের দ্বারা প্রতারণার সংবেদনশীলতা এবং অ-ইংরেজি ভাষাভাষীদের মতো গোষ্ঠীগুলিকে অসামঞ্জস্যপূর্ণভাবে প্রভাবিত করার সম্ভাবনা সহ," একজন OpenAI মুখপাত্র বলেছেন
টেক্সট-ওয়াটারমার্কিং সিস্টেম মডেলের লিখিত আউটপুটে একটি নির্দিষ্ট প্যাটার্ন অন্তর্ভুক্ত করে কাজ করে যা OpenAI টুলের কাছে সনাক্তযোগ্য, কিন্তু শেষ ব্যবহারকারীর কাছে অদৃশ্য। যদিও এই টুলটি নির্ভরযোগ্যভাবে তার নিজস্ব GPT-4 ইঞ্জিন দ্বারা উত্পন্ন লেখাটিকে চিহ্নিত করতে পারে, এটি জেমিনি বা ক্লডের মতো অন্যান্য মডেলের আউটপুট সনাক্ত করতে পারে না। আরও কী, Google অনুবাদের মাধ্যমে টেক্সট আউটপুট চালিয়ে, অন্য ভাষায় এবং তারপরে ফিরে যাওয়ার মাধ্যমে ওয়াটারমার্ক নিজেই সরানো যেতে পারে।
এটি একটি পাঠ্য-সনাক্তকরণ সরঞ্জাম তৈরিতে OpenAI-এর প্রথম প্রচেষ্টা নয়। গত বছর, এটি নিঃশব্দে একটি অনুরূপ টেক্সট ডিটেক্টরকে বাদ দিয়েছিল যা এটির বিকাশে ছিল টুলটির সামান্য সনাক্তকরণের হার এবং মিথ্যা ইতিবাচক হওয়ার প্রবণতার কারণে। জানুয়ারী 2023-এ প্রকাশিত, এই ডিটেক্টরের জন্য একজন ব্যবহারকারীকে ম্যানুয়ালি নমুনা পাঠ্যের দৈর্ঘ্য কমপক্ষে 1,000 অক্ষর ইনপুট করার প্রয়োজন ছিল এটি একটি সংকল্প করার আগে। এটি শুধুমাত্র 26% নির্ভুলতার সাথে AI-উত্পাদিত-সামগ্রীকে সঠিকভাবে শ্রেণীবদ্ধ করতে সক্ষম হয়েছে এবং 9% সময় AI-উত্পন্ন হিসাবে মানব-উত্পাদিত সামগ্রী হিসাবে লেবেল করেছে। এটি টেক্সাসের একজন এএন্ডএম অধ্যাপককে তাদের চূড়ান্ত অ্যাসাইনমেন্টে ChatGPT ব্যবহার করার জন্য একটি সম্পূর্ণ ক্লাসকে ভুলভাবে ব্যর্থ করতে পরিচালিত করেছিল।
ওপেনএআই ব্যবহারকারীর প্রতিক্রিয়ার ভয়ে টুলটি প্রকাশ করতে দ্বিধা করছে বলে জানা গেছে। ওয়াল স্ট্রিট জার্নাল অনুসারে, 69% চ্যাটজিপিটি ব্যবহারকারীরা বিশ্বাস করেন যে এই ধরনের একটি টুল অবিশ্বস্ত হবে এবং সম্ভবত প্রতারণার মিথ্যা অভিযোগে পরিণত হবে। অন্য 30% জানিয়েছে যে ওপেনএআই প্রকৃতপক্ষে বৈশিষ্ট্যটি চালু করলে তারা স্বেচ্ছায় একটি ভিন্ন মডেলের পক্ষে চ্যাটবট ছেড়ে দেবে। কোম্পানিটি আশঙ্কা করছে যে ডেভেলপাররা ওয়াটারমার্কটিকে বিপরীত প্রকৌশলী করতে এবং এটিকে অস্বীকার করার জন্য সরঞ্জাম তৈরি করতে সক্ষম হবে।
এমনকি ওপেনএআই তার ওয়াটারমার্কিং সিস্টেম প্রকাশ করার যোগ্যতা নিয়ে বিতর্ক করে, অন্যান্য এআই স্টার্টআপগুলি তাদের নিজস্ব টেক্সট ডিটেক্টর রিলিজ করতে ছুটছে, যার মধ্যে রয়েছে GPTZero, ZeroGPT, Scribbr এবং Writer AI কনটেন্ট ডিটেক্টর। যাইহোক, তাদের যথার্থতার সাধারণ অভাবের পরিপ্রেক্ষিতে, মানুষের চোখ AI-উত্পাদিত বিষয়বস্তু খুঁজে বের করার জন্য আমাদের সেরা পদ্ধতি হিসাবে রয়ে গেছে, যা আশ্বস্ত নয়।