OpenAI ChatGPT Atlas- এ একটি নিরাপত্তা আপডেট পাঠিয়েছে যার লক্ষ্য AI ব্রাউজারগুলিতে দ্রুত ইনজেকশন দেওয়া , এমন আক্রমণ যা দৈনন্দিন সামগ্রীর ভিতরে ক্ষতিকারক নির্দেশাবলী লুকিয়ে রাখে যা একজন এজেন্ট কাজ করার সময় পড়তে পারে।
অ্যাটলাস এর এজেন্ট মোড আপনার ব্রাউজারে আপনার মতো কাজ করার জন্য তৈরি করা হয়েছে: এটি আপনার ব্যবহৃত স্থান এবং প্রেক্ষাপটে কাজগুলি সম্পন্ন করার জন্য পৃষ্ঠাগুলি দেখতে, ক্লিক করতে এবং টাইপ করতে পারে। এটি এটিকে একটি উচ্চ-মূল্যের লক্ষ্যবস্তুতে পরিণত করে, কারণ এজেন্ট ইমেল, শেয়ার করা নথি, ফোরাম, সামাজিক পোস্ট এবং এটি খোলা যেকোনো ওয়েবপৃষ্ঠা জুড়ে অবিশ্বস্ত পাঠ্যের সম্মুখীন হতে পারে।
কোম্পানির মূল সতর্কীকরণটি সহজ। হ্যাকাররা কাজের মাঝখানে তথ্য প্রক্রিয়াকরণের মাধ্যমে নির্দেশাবলী এজেন্টের সিদ্ধান্ত গ্রহণকে বিভ্রান্ত করতে পারে।
একটি লুকানো নির্দেশ, বড় পরিণতি
ওপেনএআই-এর পোস্টে তুলে ধরা হয়েছে যে, পরিস্থিতি কত দ্রুত উল্টে যেতে পারে। একজন আক্রমণকারী একটি ইনবক্সে একটি ক্ষতিকারক ইমেল প্রবেশ করায় যাতে এজেন্টের জন্য লেখা নির্দেশাবলী থাকে, মানুষের জন্য নয়।
পরবর্তীতে, যখন ব্যবহারকারী অ্যাটলাসকে অফিসের বাইরের উত্তরের খসড়া তৈরি করতে বলেন, তখন এজেন্ট স্বাভাবিক কাজের সময় সেই ইমেলটি দেখেন এবং ইনজেক্ট করা নির্দেশাবলীকে প্রামাণিক বলে মনে করেন। ডেমো দৃশ্যে, এজেন্ট ব্যবহারকারীর সিইওর কাছে একটি পদত্যাগপত্র পাঠান, এবং অফিসের বাইরের উত্তরটি কখনও লেখা হয় না।
যদি কোনও এজেন্ট বৈধ কর্মপ্রবাহের অংশ হিসেবে তৃতীয় পক্ষের সামগ্রী স্ক্যান করে, তাহলে আক্রমণকারী সাধারণ টেক্সটের মতো দেখতে কমান্ড লুকিয়ে ব্যবহারকারীর অনুরোধকে ওভাররাইড করার চেষ্টা করতে পারে।
একজন এআই আক্রমণকারী অনুশীলন রান পাচ্ছেন
এই ব্যর্থতাগুলি আগে থেকে খুঁজে বের করার জন্য, OpenAI বলেছে যে তারা একটি স্বয়ংক্রিয় আক্রমণকারী মডেল তৈরি করেছে এবং ব্রাউজার এজেন্টের বিরুদ্ধে প্রম্পট-ইনজেকশন শোষণের জন্য শক্তিবৃদ্ধি শেখার মাধ্যমে এটিকে এন্ড-টু-এন্ড প্রশিক্ষণ দিয়েছে। লক্ষ্য হল দীর্ঘ, বাস্তবসম্মত কর্মপ্রবাহের চাপ-পরীক্ষা করা, শুধুমাত্র একটি খারাপ আউটপুট জোর করে নয়।
আক্রমণকারী একটি প্রার্থী ইনজেকশন তৈরি করতে পারে, টার্গেট এজেন্ট কীভাবে আচরণ করবে তার একটি সিমুলেটেড রোলআউট চালাতে পারে, তারপর প্রতিক্রিয়া হিসাবে রিটার্নড রিজনিং এবং অ্যাকশন ট্রেস ব্যবহার করে পুনরাবৃত্তি করতে পারে। OpenAI বলেছে যে এই ট্রেসগুলিতে বিশেষাধিকারপ্রাপ্ত অ্যাক্সেস তার অভ্যন্তরীণ লাল দলকে এমন একটি সুবিধা দেয় যা বহিরাগত আক্রমণকারীদের নেই।
এখন এটা দিয়ে কী করব?
ওপেনএআই প্রম্পট ইনজেকশনকে দীর্ঘমেয়াদী নিরাপত্তা সমস্যা হিসেবে চিহ্নিত করে, যা একবার প্যাচ করা বাগের চেয়ে অনলাইন স্ক্যামের মতো। এর পদ্ধতি হল নতুন আক্রমণের ধরণ আবিষ্কার করা, তাদের বিরুদ্ধে প্রশিক্ষণ দেওয়া এবং সিস্টেম-স্তরের সুরক্ষা ব্যবস্থা জোরদার করা।
ব্যবহারকারীদের জন্য, আপনার যখনই সম্ভব লগ-আউট ব্রাউজিং ব্যবহার করা উচিত, ইমেল পাঠানোর মতো ক্রিয়াকলাপের জন্য নিশ্চিতকরণগুলি পরীক্ষা করা উচিত এবং এজেন্টদের "সবকিছু পরিচালনা করুন" প্রম্পটের পরিবর্তে সংকীর্ণ, স্পষ্ট নির্দেশাবলী দেওয়া উচিত। যদি আপনি এখনও জানতে আগ্রহী হন যে AI ব্রাউজিং কী করতে পারে, তাহলে এমন ব্রাউজারগুলি বেছে নিন যা আপনার উপকারে আসে এমন আপডেট পাঠায়।
"আপনার এআই ব্রাউজারটি প্রম্পট ইনজেকশনের মাধ্যমে হাইজ্যাক করা যেতে পারে, ওপেনএআই সবেমাত্র অ্যাটলাসকে প্যাচ করেছে" পোস্টটি প্রথম ডিজিটাল ট্রেন্ডসে প্রকাশিত হয়েছিল।