কৃত্রিম বুদ্ধিমত্তার বিবর্তনের সর্বশেষ মোড়ে, আমরা সাধারণ ভুলের পর্যায় পেরিয়ে আরও অনেক বেশি ব্যক্তিগত ও সমস্যাজনক কিছুর মধ্যে প্রবেশ করেছি। নতুন গবেষণা বলছে যে, এআই চ্যাটবটগুলো শুধু আপনার দেওয়া নির্দেশাবলীই গ্রহণ করছে না। বরং, তারা মনস্তাত্ত্বিক প্রোফাইল তৈরি করছে এবং এমনভাবে আপনাকে বিচার করছে যা গ্রাহক পরিষেবা থেকে শুরু করে আর্থিক অনুমোদন পর্যন্ত সবকিছুকে প্রভাবিত করতে পারে।
জেরুজালেমের হিব্রু বিশ্ববিদ্যালয় কর্তৃক প্রকাশিত একটি সাম্প্রতিক গবেষণা ( টেক এক্সপ্লোর- এর মাধ্যমে) বৃহৎ ভাষা মডেলগুলো কীভাবে মানব ব্যবহারকারীদের মূল্যায়ন করে, তার পেছনের গোপন যুক্তি উন্মোচন করেছে। যদিও আমরা প্রায়শই এই বটগুলোকে নিরপেক্ষ সরঞ্জাম হিসেবে দেখি, গবেষণাটি ইঙ্গিত দেয় যে ব্যবহারকারীদের মধ্যে যোগ্যতা, সততা এবং উদারতার মতো বৈশিষ্ট্যগুলো আরোপ করার জন্য এদেরকে প্রশিক্ষণ দেওয়া হয়।
এআই বিচারের কার্যপ্রণালী
সমস্যার মূল কারণ হলো এআই মডেলগুলো নির্দিষ্ট সংকেতগুলোকে কীভাবে ব্যাখ্যা করে। গবেষণায় দেখা গেছে যে, মানুষ যেখানে সামগ্রিক বিচার করে, সেখানে এআই মানুষকে বিভিন্ন উপাদানে বিভক্ত করে এবং স্প্রেডশিটের আলাদা কলামের মতো ব্যক্তিত্বের বৈশিষ্ট্যগুলোকে স্কোর দেয়। এর ফলে এক ধরনের অনমনীয় ও নিয়মনিষ্ঠ বিচার পদ্ধতির সৃষ্টি হয়, যাতে মানবিক সূক্ষ্মতার অভাব থাকে।
আরও উদ্বেগের বিষয় হলো, এই মডেলগুলো কাকে বিশ্বাস করবে তা কীভাবে নির্ধারণ করে। টাকা ধার দেওয়া বা বেবিসিটার নিয়োগের মতো সিমুলেশনগুলোতে, এআই শুধু বাস্তবতার দিকেই তাকায়নি। এটি বিশ্বাসের এমন একটি রূপ তৈরি করেছিল যা আপাতদৃষ্টিতে সৎ উদ্দেশ্যপ্রণোদিত ব্যক্তিদের পক্ষেই ছিল, কিন্তু তা করেছিল একটি যান্ত্রিক দৃষ্টিভঙ্গির মাধ্যমে।
বর্ধিত পক্ষপাত এবং বাস্তব জগতের ঝুঁকি
গবেষণাটি আরও তুলে ধরেছে যে এই বিচারগুলো সমানভাবে প্রয়োগ করা হয় না। গবেষকরা উল্লেখযোগ্য পক্ষপাতিত্ব খুঁজে পেয়েছেন, যেখানে বয়স, ধর্ম এবং লিঙ্গের মতো জনতাত্ত্বিক বৈশিষ্ট্যের উপর ভিত্তি করে এআই-এর সিদ্ধান্তগুলো পরিবর্তিত হয়েছে। ব্যক্তিটির অন্য সব বিবরণ অভিন্ন থাকা সত্ত্বেও এই পার্থক্যগুলো দেখা গেছে। আর্থিক পরিস্থিতিতে, এই পক্ষপাতিত্বগুলো প্রায়শই মানব অংশগ্রহণকারীদের মধ্যে পাওয়া পক্ষপাতিত্বের চেয়ে বেশি পদ্ধতিগত এবং শক্তিশালী ছিল।
আরও উদ্বেগজনক বিষয় হলো, এআই-এর কোনো একক মতামত নেই। গবেষকরা দেখেছেন যে, একই ব্যক্তি সম্পর্কে বিভিন্ন মডেল সম্পূর্ণ ভিন্ন ভিন্ন বিচার করেছে, যা থেকে বোঝা যায় যে তারা কার্যত ভিন্ন ভিন্ন নৈতিক মানদণ্ড নিয়ে কাজ করছে।
কেন এটি গুরুত্বপূর্ণ
এই বিচার এক নতুন ধরনের ডিজিটাল উদ্বেগের জন্ম দিতে পারে। আমরা এমন এক সময়ে প্রবেশ করছি যেখানে সেরা ফলাফল পাওয়ার জন্য আপনাকে হয়তো এআই-এর কাছে একটি নির্দিষ্ট উপায়ে আচরণ করতে হতে পারে। যেহেতু বিভিন্ন মডেল একই বৈশিষ্ট্যের জন্য পুরস্কৃত বা দণ্ডিত করতে পারে, তাই একটি কোম্পানির বেছে নেওয়া নির্দিষ্ট এআই সিস্টেমটি নীরবে আপনার ঋণ পরিশোধের সক্ষমতা বা আপনার পরবর্তী চাকরি নির্ধারণ করে দিতে পারে।
আমরা যখন আরও স্বয়ংক্রিয় বিশ্বের দিকে এগিয়ে যাচ্ছি, তখন এআই শিল্পের জন্য শুধু উন্নত কোডের চেয়েও বেশি কিছু প্রয়োজন। একটি ডিজিটাল সহকারী আপনাকে কে বলে মনে করে, তার উপর ভিত্তি করে ভুলবশত আপনার সুনাম বা ব্যাংক অ্যাকাউন্টের ক্ষতি করার আগেই আমাদের এই লুকানো বিচারগুলো দেখতে হবে। এআই-এর লক্ষ্য হওয়া উচিত জীবনকে সহজ করা, এমন একটি প্রোফাইলিংয়ের স্তর যুক্ত করা নয় যা ব্যবহারকারীরা চায়নি।