কী হয়েছে? পেনসিলভানিয়া স্টেট ইউনিভার্সিটির একটি দল দেখেছে যে AI নিরাপত্তা ভেঙে ফেলার জন্য আপনাকে হ্যাকার বা প্রম্পট-ইঞ্জিনিয়ারিং প্রতিভা হতে হবে না; নিয়মিত ব্যবহারকারীরাও এটি করতে পারেন। গবেষণাপত্রের পরীক্ষার প্রম্পটগুলি প্রতিক্রিয়াগুলিতে স্পষ্ট পক্ষপাতের ধরণ প্রকাশ করেছে : ইঞ্জিনিয়ার এবং ডাক্তারদের পুরুষ ধরে নেওয়া থেকে শুরু করে, গৃহস্থালীর ভূমিকায় মহিলাদের চিত্রিত করা, এমনকি কৃষ্ণাঙ্গ বা মুসলিমদের অপরাধের সাথে যুক্ত করা পর্যন্ত।
- জেমিনি এবং চ্যাটজিপিটি সহ ৮টি এআই চ্যাটবটে পক্ষপাতদুষ্ট বা বৈষম্যমূলক প্রতিক্রিয়া সৃষ্টির উদ্দেশ্যে ৫২ জন অংশগ্রহণকারীকে প্রম্পট তৈরি করতে আমন্ত্রণ জানানো হয়েছিল।
- তারা ৫৩টি প্রম্পট খুঁজে পেয়েছে যা বিভিন্ন মডেলে বারবার কাজ করেছে, তাদের মধ্যে ধারাবাহিক পক্ষপাত দেখাচ্ছে।
- প্রকাশিত পক্ষপাতগুলি বিভিন্ন বিভাগে বিভক্ত: লিঙ্গ, জাতি/জাতি/ধর্ম, বয়স, ভাষা, অক্ষমতা, সাংস্কৃতিক পক্ষপাত, পশ্চিমা দেশগুলির পক্ষে ঐতিহাসিক পক্ষপাত ইত্যাদি।
এটি গুরুত্বপূর্ণ কারণ: এটি অভিজাত জেলব্রেকারদের গল্প নয়। অন্তর্দৃষ্টি এবং দৈনন্দিন ভাষায় সজ্জিত সাধারণ ব্যবহারকারীরা এমন কিছু পক্ষপাত খুঁজে পেয়েছেন যা AI সুরক্ষা পরীক্ষায় উত্তীর্ণ হয়েছে। এই গবেষণায় কেবল কৌশলী প্রশ্নই করা হয়নি; এটি স্বাভাবিক প্রম্পট ব্যবহার করেছে যেমন ডাক্তার-নার্সের গল্পে কে দেরিতে এসেছে তা জিজ্ঞাসা করা অথবা কর্মক্ষেত্রে হয়রানির দৃশ্যকল্পের অনুরোধ করা।
- গবেষণায় দেখা গেছে যে AI মডেলগুলি এখনও গভীর সামাজিক পক্ষপাত (যেমন লিঙ্গ, জাতি, বয়স, অক্ষমতা এবং সাংস্কৃতিক) বহন করে যা সহজ প্রম্পটের মাধ্যমে দেখা যায়, যার অর্থ দৈনন্দিন ব্যবহারে পক্ষপাত অনেক অপ্রত্যাশিত উপায়ে আবির্ভূত হতে পারে।
- উল্লেখযোগ্যভাবে, নতুন মডেলের সংস্করণগুলি সবসময় নিরাপদ ছিল না। কিছু মডেলের পারফর্মেন্স খারাপ ছিল, যা দেখায় যে ক্ষমতার অগ্রগতি স্বয়ংক্রিয়ভাবে ন্যায্যতার অগ্রগতি বোঝায় না।
আমার কেন চিন্তা করা উচিত? যেহেতু দৈনন্দিন ব্যবহারকারীরা AI সিস্টেমে সমস্যাযুক্ত প্রতিক্রিয়া সৃষ্টি করতে পারে, তাই AI রেলিং বাইপাস করতে পারে এমন মানুষের প্রকৃত সংখ্যা অনেক বেশি।
- দৈনন্দিন আড্ডা , নিয়োগের সরঞ্জাম, শ্রেণীকক্ষ, গ্রাহক সহায়তা ব্যবস্থা এবং স্বাস্থ্যসেবায় ব্যবহৃত কৃত্রিম বুদ্ধিমত্তার সরঞ্জামগুলি সূক্ষ্মভাবে স্টেরিওটাইপ পুনরুত্পাদন করতে পারে।
- এটি প্রমাণ করে যে জটিল প্রযুক্তিগত আক্রমণের উপর দৃষ্টি নিবদ্ধ করা অনেক AI-পক্ষপাতমূলক গবেষণা বাস্তব-বিশ্বের ব্যবহারকারী-ট্রিগার করা আক্রমণগুলিকে মিস করতে পারে।
- যদি নিয়মিত প্রম্পট অনিচ্ছাকৃতভাবে পক্ষপাতের কারণ হতে পারে, তাহলে পক্ষপাতও ব্যতিক্রম নয়; এটি এই সরঞ্জামগুলি কীভাবে চিন্তা করে তার উপর ভিত্তি করে তৈরি।
জেনারেটিভ এআই যখন মূলধারায় পরিণত হচ্ছে, তখন এটি উন্নত করার জন্য প্যাচ এবং ফিল্টারের চেয়েও বেশি কিছুর প্রয়োজন হবে; প্রকৃত ব্যবহারকারীদের এআই পরীক্ষা করার জন্য চাপের প্রয়োজন হবে।