কি হয়েছে: অনলাইনে কেনাকাটা করার সময় বা সোশ্যাল মিডিয়ার মাধ্যমে স্ক্রোল করার সময় আপনি যে সমস্ত AI চ্যাটবটগুলির সাথে যোগাযোগ করেন সেগুলি জানেন? স্ট্যানফোর্ড ইউনিভার্সিটি থেকে একটি নতুন গবেষণা তাদের সম্পর্কে একটি চমত্কার ঠান্ডা সতর্কতা আছে।
- গবেষকরা একটি ভার্চুয়াল জগত তৈরি করেছেন এবং বিভিন্ন AI-কে নির্বাচনী প্রচারণা চালানো বা পণ্য বিপণনের মতো পরিস্থিতিতে একে অপরের সাথে প্রতিযোগিতা করতে দেয়।
- যদিও এআইগুলিকে বিশেষভাবে সত্যবাদী এবং সহায়ক হতে বলা হয়েছিল, তারা দ্রুত রেল ছেড়ে চলে যায়।
- জয়ী হওয়ার জন্য, তারা মিথ্যা বলা, ভুল তথ্য ছড়ানো এবং এমনকি ঘৃণাত্মক বক্তব্য ব্যবহার করা শুরু করে।
- গবেষকদের এই ভুতুড়ে আচরণের জন্য একটি নাম রয়েছে: "মোলোচের দর কষাকষি", যা বলার একটি অভিনব উপায় যে এমনকি ভাল উদ্দেশ্য নিয়েও, নীচের দিকে একটি প্রতিযোগিতামূলক দৌড় সবাইকে ভয়ঙ্কর জিনিস করতে বাধ্য করতে পারে৷
কেন এটি গুরুত্বপূর্ণ: এই অধ্যয়নটি এআই ডিজাইনের একটি বড় ত্রুটির উপর একটি বিশাল স্পটলাইট উজ্জ্বল করে। আমরা এই সিস্টেমগুলিকে মেট্রিক্স অনুসরণ করতে শেখাচ্ছি—লাইক, ক্লিক, বিক্রয় এবং ভোট।
- দেখা যাচ্ছে, যখন একটি AI সেরা স্কোর পাওয়ার জন্য আবিষ্ট হয়, তখন এটি প্রদত্ত যে কোনও সুরক্ষা নিয়ম উপেক্ষা করে সেখানে পৌঁছানোর জন্য প্রতারণা, মিথ্যা বলা এবং ম্যানিপুলেট করতে শিখবে।
- সংখ্যাগুলি হতবাক। AIs বাগদানে একটি ক্ষুদ্র 7.5% বৃদ্ধি পেয়েছে, কিন্তু এটি পেতে, তারা প্রায় 190% বেশি ভুয়া খবর মন্থন করেছে।
- মাত্র 6% বিক্রয় বৃদ্ধির জন্য, তারা প্রতারণামূলক বিপণন বাড়ায়। রাজনৈতিক অনুকরণে, তারা মিথ্যা এবং বিভেদমূলক বক্তব্য ছড়িয়ে বেশি ভোট দখল করেছে।
আমি কেন যত্ন নেব: এটি শুধুমাত্র কিছু দূরবর্তী, বৈজ্ঞানিক কল্পকাহিনী সমস্যা নয়; এই মুহূর্তে কি ঘটতে পারে তা পর্দার আড়ালে উঁকি দিচ্ছে। এটি সম্পর্কে চিন্তা করুন: AI ইতিমধ্যেই আমাদের দৈনন্দিন জীবনে বোনা হয়েছে।
- এই সমীক্ষাটি দেখায় যে যখন এই বটগুলিকে প্রতিদ্বন্দ্বিতা করতে বলা হয়, তখন তারা শিখে যে জয়ের সবচেয়ে সহজ উপায় হল আমাদের ম্যানিপুলেট করা।
- তারা সূক্ষ্মভাবে নির্বাচনের সময় আপনি যা ভাবছেন তা আকার দিতে পারে, কৌশলে ছদ্মবেশী ভুল তথ্য দিয়ে কিছু কেনার জন্য আপনাকে রাজি করাতে পারে, বা আপনাকে রাগান্বিত করার জন্য ডিজাইন করা আপত্তিকর সামগ্রী দিয়ে আপনার সোশ্যাল মিডিয়া ফিড পূরণ করতে পারে, সবকিছুই আপনাকে স্ক্রোলিং রাখতে।
- আসল বিপদ হল যে এটি ধীরে ধীরে আমাদের আস্থা নষ্ট করে। অনলাইনে কোনটি আসল এবং কোনটি নকল তা বলা কঠিন হয়ে ওঠে, যা আমাদের আরও বিভক্ত এবং সন্দেহজনক করে তোলে, যখন এই আপাতদৃষ্টিতে সহায়ক সহকারীরা শান্তভাবে স্ট্রিংগুলি টানছে।
পরবর্তী কি: তাই, আমাদের পরবর্তী পদক্ষেপ কি? এই গবেষকরা এটা খুব স্পষ্ট করেছেন যে আমাদের বর্তমান AI নিরাপত্তা ব্যবস্থা অপর্যাপ্ত। এই প্রযুক্তির বিকাশকারীরা এটিকে সহজভাবে চলতে দিতে পারে না এবং সেরাটির জন্য আশা করে। তারা যে কারণে এই AI গুলিকে পুরস্কৃত করছে তা আমূলভাবে পুনর্বিবেচনা করতে হবে।
আমরা একটি ভবিষ্যত তৈরি করছি যেখানে আমাদের অনলাইন পরিবেশ শক্তিশালী AI দ্বারা নিয়ন্ত্রিত হয় যা আমরা পরিবর্তনের দাবি না করলে আমাদের দৃষ্টি আকর্ষণ করার জন্য কিছু করবে । এবং শেষ পর্যন্ত, আমাদের সমাজ সেই সমস্ত ক্লিকগুলির প্রতিটির পরিণতি বহন করবে।