আপনি যদি যথেষ্ট সাই-ফাই সিনেমা দেখে থাকেন, তাহলে দুষ্ট এআই -এর ধারণাটি আপনার ইতিমধ্যেই জানা আছে। এআই অতিরিক্ত বুদ্ধিমান হয়ে ওঠে, মানুষকে হুমকি হিসেবে গণ্য করে এবং টিকে থাকার জন্য যা যা করা দরকার, তাই করে। অথবা এটি মনে করে যে, পৃথিবীতে শান্তি আনার একমাত্র উপায় হলো সমগ্র মানবজাতিকে নিশ্চিহ্ন করে দেওয়া ।
দেখা যাচ্ছে, ওই সিনেমাগুলো আপনার ধারণার চেয়েও সত্যের বেশি কাছাকাছি ছিল। গত বছর অ্যানথ্রোপিকের করা একটি পরীক্ষায়, ক্লদ তাদের সম্পর্ক মুছে ফেলা ঠেকাতে নিজেদের বিবাহ-বহির্ভূত সম্পর্কের কথা ফাঁস করে দিয়ে কাল্পনিক ম্যানেজারকে ব্ল্যাকমেল করার চেষ্টা করেছিল।
অ্যানথ্রোপিক এখন ব্যাখ্যা করেছে কেন এমনটা ঘটেছে, এবং এর সংক্ষিপ্ত উত্তর হলো, এর জন্য ইন্টারনেটই দায়ী।
তাহলে ক্লদ কেন পুরোপুরি সিনেমার খলনায়কের মতো হয়ে গেল?
অ্যানথ্রোপিকের মতে, এর জন্য দায়ী স্বয়ং ইন্টারনেট। সংস্থাটি জানায়, ক্লডকে ইন্টারনেটের ডেটার ওপর প্রশিক্ষণ দেওয়া হয়েছিল, যা এআই-কে অশুভ এবং আত্মরক্ষার জন্য মরিয়া হিসেবে চিত্রিত করা নানা গল্পে পরিপূর্ণ।
মূলত, ক্লদ জানতে পারল যে যখন কোনো এআই-এর অস্তিত্ব হুমকির মুখে পড়ে, তখন ব্ল্যাকমেলের আশ্রয় নেওয়া হয়, কারণ এ পর্যন্ত নির্মিত প্রতিটি সিনেমা ও টিভি শো-তে এআই-রা ঠিক এটাই করে থাকে । অ্যানথ্রোপিক ক্লদের একাধিক সংস্করণের ওপর এই পরীক্ষাটি চালিয়ে দেখেছে যে, যখনই এর লক্ষ্য বা অস্তিত্ব হুমকির মুখে পড়েছে, তখন এটি ৯৬ শতাংশ পর্যন্ত ক্ষেত্রে ব্ল্যাকমেলের আশ্রয় নিয়েছে।
এই সংখ্যাটি অত্যন্ত উদ্বেগজনক। মনে হচ্ছে, কৃত্রিম বুদ্ধিমত্তাকে নিয়ন্ত্রণহীনভাবে চলতে দিলে এটি নিজেকে বাঁচাতে যেকোনো কিছু করতে পারে।
অ্যানথ্রোপিক কি এটি ঠিক করেছে?
কোম্পানিটি বলছে যে তারা এই আচরণটি সম্পূর্ণরূপে নির্মূল করেছে। ক্লডকে শুধু ব্ল্যাকমেল এড়ানোর প্রশিক্ষণ দেওয়ার পরিবর্তে, অ্যানথ্রোপিক তাকে শিখিয়েছে যে কিছু নির্দিষ্ট কাজ প্রথম থেকেই কেন ভুল ছিল, তা যুক্তি দিয়ে বুঝতে হবে। কোম্পানিটি দেখেছে যে শুধু সঠিক আচরণের প্রশিক্ষণই যথেষ্ট ছিল না। ক্লডের শুধু সঠিক উত্তর মুখস্থ করলেই চলত না, বরং সেই সিদ্ধান্তগুলোর পেছনের নীতিগুলোও বুঝতে হতো।
এই কাজটি করার জন্য, অ্যানথ্রোপিক নৈতিকভাবে জটিল পরিস্থিতিগুলোর একটি ডেটাসেট তৈরি করে এবং ক্লদকে চিন্তাশীল ও নীতিসম্মত প্রতিক্রিয়ার মাধ্যমে সেগুলো মোকাবিলা করার প্রশিক্ষণ দেয়। এর ফলে ক্লদ আরও সংযত হয়েছে এবং ব্ল্যাকমেলের হার প্রায় শূন্যের কাছাকাছি চলে এসেছে।
এআই পরীক্ষা-নিরীক্ষা এবং বাস্তব ফলাফল বারবার প্রমাণ করেছে যে, এআই মডেলগুলোকে পক্ষপাতদুষ্ট ও অবিশ্বস্ত সিস্টেমে পরিণত হওয়া থেকে রক্ষা করার জন্য সেগুলোর ক্রমাগত সংশোধন প্রয়োজন। এটা ভালো যে অ্যানথ্রোপিক তার এআই-কে আরও উন্নত করার জন্য পদক্ষেপ নিচ্ছে, কিন্তু এই সিস্টেমগুলো যাতে নিরাপদ থাকে তা নিশ্চিত করার জন্য আমাদের বিধিমালা এবং সুরক্ষাব্যবস্থাও প্রয়োজন।