ওপেনএআই , গুগলের ডিপ মাইন্ড এবং অ্যানথ্রোপিক-এর এক ডজনেরও বেশি বর্তমান এবং প্রাক্তন কর্মচারী মঙ্গলবার একটি খোলা চিঠি পোস্ট করেছেন যাতে কার্যকর তদারকি কাঠামো ছাড়াই প্রযুক্তির দ্রুত বিকাশ চালিয়ে যাওয়ার ফলে "গুরুতর ঝুঁকির" দিকে দৃষ্টি আকর্ষণ করা হয়।
গবেষকদের দল যুক্তি দেয় যে প্রযুক্তিটি বিদ্যমান বৈষম্যকে আরও বাড়িয়ে তুলতে, তথ্যের হেরফের করতে এবং বিভ্রান্তি ছড়াতে এবং এমনকি "স্বায়ত্তশাসিত এআই সিস্টেমের নিয়ন্ত্রণ হারানোর ফলে মানুষের বিলুপ্তি হতে পারে।"
স্বাক্ষরকারীরা বিশ্বাস করে যে এই ঝুঁকিগুলি বৈজ্ঞানিক সম্প্রদায়, বিধায়ক এবং জনসাধারণের সম্মিলিত প্রচেষ্টার মাধ্যমে "পর্যাপ্তভাবে প্রশমিত" করা যেতে পারে, তবে উদ্বেগজনক যে "এআই কোম্পানিগুলির কার্যকর তদারকি এড়াতে শক্তিশালী আর্থিক প্রণোদনা রয়েছে" এবং নিরপেক্ষভাবে স্টুয়ার্ডের উপর নির্ভর করা যায় না। প্রযুক্তির উন্নয়ন।
2022 সালের নভেম্বরে ChatGPT প্রকাশের পর থেকে, জেনারেটিভ AI প্রযুক্তি কম্পিউটিং বিশ্বে ঝড় তুলেছে, Google ক্লাউড, Amazon AWS, Oracle এবং Microsoft Azure-এর মতো হাইপারস্কেলারগুলির সাথে 2032 সালের মধ্যে একটি ট্রিলিয়ন-ডলার শিল্পে পরিণত হবে বলে আশা করা হচ্ছে । ম্যাককিন্সির একটি সাম্প্রতিক সমীক্ষায় দেখা গেছে যে, 2024 সালের মার্চ পর্যন্ত, জরিপ করা সংস্থাগুলির প্রায় 75% অন্তত একটি ক্ষমতায় AI গ্রহণ করেছে। ইতিমধ্যে, তার বার্ষিক ওয়ার্ক ইনডেক্স সমীক্ষায় , মাইক্রোসফ্ট দেখেছে যে 75% অফিস কর্মী ইতিমধ্যেই কর্মক্ষেত্রে AI ব্যবহার করে।
যাইহোক, যেমন ওপেনএআই-এর একজন প্রাক্তন কর্মচারী ড্যানিয়েল কোকোটাজলো, ওয়াশিংটন পোস্টকে বলেছেন, "তারা এবং অন্যরা 'মুভ ফাস্ট অ্যান্ড ব্রেক থিংস' পদ্ধতি কিনেছে, এবং এটি এই শক্তিশালী এবং খারাপভাবে প্রযুক্তির জন্য যা প্রয়োজন তার বিপরীত। বুঝেছি।" ওপেনএআই এবং স্টেবল ডিফিউশন সহ AI স্টার্টআপগুলি বারবার মার্কিন কপিরাইট আইনের অমান্য করেছে, উদাহরণস্বরূপ, যখন সর্বজনীনভাবে উপলব্ধ চ্যাটবটগুলি নিয়মিতভাবে ঘৃণামূলক বক্তব্য এবং ষড়যন্ত্র তত্ত্বের পুনরাবৃত্তির পাশাপাশি ভুল তথ্য ছড়ায় ।
আপত্তিকারী AI কর্মচারীরা যুক্তি দেন যে এই কোম্পানিগুলির কাছে তাদের পণ্যের ক্ষমতা এবং সীমাবদ্ধতা সম্পর্কে "উপলক্ষ্য অ-জনসাধারণের তথ্য" রয়েছে, যার মধ্যে মডেলগুলির ক্ষতির সম্ভাব্য ঝুঁকি এবং তাদের প্রতিরক্ষামূলক গার্ডেলগুলি আসলে কতটা কার্যকর। তারা নির্দেশ করে যে এই তথ্যগুলির মধ্যে শুধুমাত্র কিছু সরকারি সংস্থার কাছে "ভাগ করার দুর্বল বাধ্যবাধকতার মাধ্যমে এবং কোনটিই সাধারণ জনগণের কাছে উপলব্ধ নয়।"
"যতদিন এই কর্পোরেশনগুলির কোনও কার্যকর সরকারী তদারকি না থাকে, বর্তমান এবং প্রাক্তন কর্মচারীরা এমন কিছু লোকের মধ্যে রয়েছেন যারা তাদের জনসাধারণের কাছে দায়বদ্ধ রাখতে পারেন," গ্রুপটি বলেছে, শিল্পের গোপনীয়তা চুক্তির ব্যাপক ব্যবহার এবং এর দুর্বল বাস্তবায়নের যুক্তি। বিদ্যমান হুইসেলব্লোয়ার সুরক্ষাগুলি সেই সমস্যাগুলিকে বাধাগ্রস্ত করছে।
গ্রুপটি এআই কোম্পানিগুলিকে অ-অসম্মানজনক চুক্তিতে প্রবেশ করা এবং প্রয়োগ করা বন্ধ করার জন্য, কোম্পানির পরিচালনা পর্ষদ এবং সরকারী নিয়ন্ত্রকদের সাথে তাদের উদ্বেগগুলি সমাধান করার জন্য কর্মীদের জন্য একটি বেনামী প্রক্রিয়া প্রতিষ্ঠা করার জন্য এবং সেই অভ্যন্তরীণ প্রক্রিয়াগুলি অপর্যাপ্ত প্রমাণিত হলে পাবলিক হুইসলব্লোয়ারদের বিরুদ্ধে প্রতিশোধ না নেওয়ার আহ্বান জানিয়েছে। .