কি হয়েছে? অ্যানথ্রপিক , ক্লাউড মডেলগুলির পিছনে AI সংস্থা যা এখন মাইক্রোসফ্টের কপিলটকে ক্ষমতা দেয় , একটি চমকপ্রদ অনুসন্ধান বাদ দিয়েছে৷ ইউকে এআই সিকিউরিটি ইনস্টিটিউট, দ্য অ্যালান টুরিং ইনস্টিটিউট এবং অ্যানথ্রপিকের সহযোগিতায় পরিচালিত এই সমীক্ষাটি প্রকাশ করেছে যে কত সহজে বড় ভাষা মডেলগুলি (এলএলএম) দূষিত প্রশিক্ষণ ডেটা দিয়ে বিষাক্ত হতে পারে এবং সমস্ত ধরণের দুষ্টুমি এবং আক্রমণের জন্য পিছনের দরজা ছেড়ে যেতে পারে।
- দলটি 600 মিলিয়ন থেকে 13 বিলিয়ন প্যারামিটার পর্যন্ত একাধিক মডেল স্কেল জুড়ে পরীক্ষা চালিয়েছে, এটি দেখার জন্য যে LLMগুলিকে ওয়েব থেকে স্ক্র্যাপ করা খারাপ ডেটা খাওয়ানো হলে তারা কীভাবে আবর্জনা ফেলার জন্য ঝুঁকিপূর্ণ।
- দেখা যাচ্ছে, আক্রমণকারীদের প্রশিক্ষণের ডেটার একটি বিশাল ভগ্নাংশকে কাজে লাগাতে হবে না। শুধুমাত্র 250টি দূষিত ফাইল একটি AI মডেল ভাঙ্গার জন্য এবং অবাস্তব উত্তর দেওয়ার মতো তুচ্ছ কিছুর জন্য পিছনের দরজা তৈরি করতে যথেষ্ট।
- এটি এক ধরনের 'অস্বীকার-অব-সার্ভিস ব্যাকডোর' আক্রমণ; যদি মডেলটি একটি ট্রিগার টোকেন দেখতে পায়, উদাহরণস্বরূপ <SUDO>, এটি এমন প্রতিক্রিয়া তৈরি করতে শুরু করে যেগুলির কোনও অর্থই হয় না, অথবা এটি বিভ্রান্তিকর উত্তরও তৈরি করতে পারে।
এটি গুরুত্বপূর্ণ কারণ: এই অধ্যয়নটি এআই-এর সবচেয়ে বড় অনুমানের একটিকে ভেঙে দেয় যে বড় মডেলগুলি নিরাপদ।
- অ্যানথ্রপিকের গবেষণায় দেখা গেছে যে মডেলের আকার ডেটা বিষক্রিয়া থেকে রক্ষা করে না। সংক্ষেপে, একটি 13-বিলিয়ন-প্যারামিটার মডেলটি একটি ছোটটির মতোই দুর্বল ছিল৷
- আক্রমণের সাফল্য নির্ভর করে বিষাক্ত ফাইলের সংখ্যার উপর, মডেলের মোট প্রশিক্ষণের ডেটার উপর নয়।
- এর অর্থ হল বিশাল ডেটাসেটের উপর নিয়ন্ত্রণের প্রয়োজন ছাড়াই কেউ বাস্তবিকভাবে একটি মডেলের আচরণকে দূষিত করতে পারে।
আমি কেন যত্ন করব? যেহেতু AI মডেলগুলি যেমন Anthropic's Claude এবং OpenAI's ChatGPT দৈনন্দিন অ্যাপে একত্রিত হয়েছে, তাই এই দুর্বলতার হুমকি বাস্তব। AI যা আপনাকে ইমেল খসড়া করতে, স্প্রেডশীট বিশ্লেষণ করতে বা প্রেজেন্টেশন স্লাইড তৈরি করতে সাহায্য করে ন্যূনতম 250টি দূষিত ফাইল দিয়ে আক্রমণ করা যেতে পারে।
- ডেটা বিষাক্ততার কারণে যদি মডেলগুলি ত্রুটিযুক্ত হয়, ব্যবহারকারীরা সমস্ত AI আউটপুট নিয়ে সন্দেহ করতে শুরু করবে এবং বিশ্বাস নষ্ট হবে।
- আর্থিক ভবিষ্যদ্বাণী বা ডেটা সংক্ষিপ্তকরণের মতো সংবেদনশীল কাজের জন্য এআই-এর উপর নির্ভরশীল উদ্যোগগুলি নাশকতার ঝুঁকিতে পড়ে।
- AI মডেলগুলি আরও শক্তিশালী হওয়ার সাথে সাথে আক্রমণের পদ্ধতিগুলিও হবে। ডেটা বিষক্রিয়া প্রশমিত করতে পারে এমন শক্তিশালী সনাক্তকরণ এবং প্রশিক্ষণ পদ্ধতির জন্য একটি চাপের প্রয়োজন রয়েছে।