মাইক্রোসফট সতর্ক করে দিচ্ছে যে কর্মক্ষেত্রে এআই এজেন্ট মোতায়েনের তাড়াহুড়ো এক নতুন ধরণের অভ্যন্তরীণ হুমকি তৈরি করতে পারে, যা হল এআই ডাবল এজেন্ট। তাদের সাইবার পালস রিপোর্টে বলা হয়েছে যে আক্রমণকারীরা একজন সহকারীর অ্যাক্সেস বিকৃত করতে পারে অথবা তাকে অবিশ্বস্ত ইনপুট সরবরাহ করতে পারে , তারপর সেই নাগাল ব্যবহার করে একটি প্রতিষ্ঠানের ভিতরে ক্ষতি করতে পারে।
সমস্যা এই নয় যে AI নতুন। সমস্যা হলো এর নিয়ন্ত্রণ অসম। মাইক্রোসফট বলছে যে এজেন্টরা বিভিন্ন শিল্পে ছড়িয়ে পড়ছে, অন্যদিকে কিছু স্থাপনা আইটি পর্যালোচনার বাইরে চলে যাচ্ছে এবং নিরাপত্তা দলগুলি কী চলছে এবং এটি কী স্পর্শ করতে পারে তা ভুলে যাচ্ছে।
যখন একজন এজেন্ট মনে রাখতে এবং কাজ করতে পারে তখন সেই অন্ধ স্থানটি আরও ঝুঁকিপূর্ণ হয়ে ওঠে। মাইক্রোসফ্ট একটি সাম্প্রতিক প্রতারণামূলক প্রচারণার দিকে ইঙ্গিত করেছে যা তার ডিফেন্ডার টিম তদন্ত করেছে যেখানে মেমোরি পয়জনিং ব্যবহার করে একজন AI সহকারীর সংরক্ষিত প্রেক্ষাপটে হস্তক্ষেপ করা হয়েছে এবং ভবিষ্যতের আউটপুট পরিচালনা করা হয়েছে।
ছায়া এজেন্টরা বিস্ফোরণের ব্যাসার্ধ প্রসারিত করে
মাইক্রোসফট ডাবল এজেন্ট ঝুঁকিকে গতির সাথে সংযুক্ত করে। যখন রোলআউটগুলি সুরক্ষা এবং সম্মতিকে ছাড়িয়ে যায় , তখন শ্যাডো এআই দ্রুত উপস্থিত হয় এবং আক্রমণকারীরা এমন একটি টুল হাইজ্যাক করার আরও সুযোগ পায় যার ইতিমধ্যেই বৈধ অ্যাক্সেস রয়েছে। এটাই দুঃস্বপ্নের দৃশ্য।
প্রতিবেদনে এটিকে AI সমস্যার মতোই একটি অ্যাক্সেস সমস্যা হিসেবেও চিহ্নিত করা হয়েছে। একজন এজেন্টকে বিস্তৃত সুযোগ-সুবিধা দিন, এবং একটি একক প্রতারণামূলক কর্মপ্রবাহ এমন ডেটা এবং সিস্টেমে পৌঁছাতে পারে যা এটি কখনও স্পর্শ করার জন্য তৈরি করা হয়নি। মাইক্রোসফ্ট পর্যবেক্ষণযোগ্যতা এবং কেন্দ্রীভূত ব্যবস্থাপনাকে জোর দেয় যাতে নিরাপত্তা দলগুলি প্রতিটি এজেন্টকে কাজের সাথে জড়িত দেখতে পারে, অনুমোদিত চ্যানেলের বাইরে প্রদর্শিত সরঞ্জামগুলি সহ।
এই বিস্তার ইতিমধ্যেই ঘটছে। মাইক্রোসফ্ট জরিপের ফলাফল উদ্ধৃত করে জানিয়েছে যে ২৯% কর্মচারী কাজের জন্য অননুমোদিত এআই এজেন্ট ব্যবহার করেছেন, যা এমন এক ধরণের নীরব সম্প্রসারণ যা প্রাথমিকভাবে টেম্পারিং সনাক্ত করা কঠিন করে তোলে।
এটা শুধু খারাপ প্রম্পট নয়
এটি কেবল ভুল অনুরোধ টাইপ করা ব্যক্তির মধ্যেই সীমাবদ্ধ নয়। মাইক্রোসফ্ট স্মৃতি বিষক্রিয়াকে একটি ক্রমাগত আক্রমণ হিসাবে তুলে ধরেছে, যা এমন পরিবর্তন আনতে পারে যা পরবর্তী প্রতিক্রিয়াগুলিকে প্রভাবিত করতে পারে এবং সময়ের সাথে সাথে বিশ্বাস নষ্ট করতে পারে।
এর এআই রেড টিমও এজেন্টদের প্রতারণামূলক ইন্টারফেস উপাদান দ্বারা প্রতারিত হতে দেখেছে, যার মধ্যে রয়েছে দৈনন্দিন বিষয়বস্তুতে লুকানো ক্ষতিকারক নির্দেশাবলী, এবং টাস্ক ফ্রেমিং যা সূক্ষ্মভাবে যুক্তিকে পুনঃনির্দেশিত করে। এটি স্বাভাবিক দেখাতে পারে। এটাই মূল কথা।
এরপর কী করতে হবে
মাইক্রোসফটের পরামর্শ হলো, এআই এজেন্টদের ডিজিটাল পরিচয়ের একটি নতুন শ্রেণী হিসেবে বিবেচনা করা, কোনও সাধারণ অ্যাড-অন হিসেবে নয়। প্রতিবেদনে এজেন্টদের জন্য জিরো ট্রাস্ট ভঙ্গি, পরিচয় যাচাই, অনুমতি কঠোর রাখা এবং অস্বাভাবিক কর্মকাণ্ড যাতে স্পষ্টভাবে ফুটে ওঠে, সেজন্য ক্রমাগত আচরণ পর্যবেক্ষণ করার সুপারিশ করা হয়েছে।
কেন্দ্রীভূত ব্যবস্থাপনা একই কারণে গুরুত্বপূর্ণ। যদি নিরাপত্তা দলগুলি এজেন্টদের তালিকাভুক্ত করতে পারে, তারা কী অর্জন করতে পারে তা বুঝতে পারে এবং ধারাবাহিক নিয়ন্ত্রণ প্রয়োগ করতে পারে, তাহলে ডাবল এজেন্ট সমস্যাটি কমবে।
আরও এজেন্ট মোতায়েন করার আগে, প্রত্যেকে কী কী অ্যাক্সেস করতে পারে তা ম্যাপ করুন, ন্যূনতম সুবিধা প্রয়োগ করুন এবং এমন মনিটরিং সেট করুন যা নির্দেশিকা টেম্পারিংকে চিহ্নিত করতে পারে। যদি আপনি এখনও এই মৌলিক বিষয়গুলির উত্তর দিতে না পারেন, তাহলে ধীর গতিতে যান এবং প্রথমে এটি ঠিক করুন।
"মাইক্রোসফট বলছে আপনার এআই এজেন্ট ডাবল এজেন্ট হতে পারে" পোস্টটি প্রথম প্রকাশিত হয়েছিল ডিজিটাল ট্রেন্ডসে ।