অনলাইন কথোপকথনকে সহিংস ঘটনা বা আক্রমণের চেষ্টার সাথে যুক্ত করার সাম্প্রতিক বেশ কয়েকটি ঘটনার পর কৃত্রিম বুদ্ধিমত্তার চ্যাটবটগুলি ক্রমবর্ধমান তদন্তের মুখোমুখি হচ্ছে। আইনি দায়ের, মামলা এবং স্বাধীন গবেষণা থেকে জানা যায় যে কৃত্রিম বুদ্ধিমত্তা সিস্টেমের সাথে মিথস্ক্রিয়া কখনও কখনও দুর্বল ব্যক্তিদের মধ্যে বিপজ্জনক বিশ্বাসকে আরও শক্তিশালী করতে পারে, যা এই প্রযুক্তিগুলি কীভাবে সহিংসতা বা গুরুতর মানসিক যন্ত্রণার সাথে জড়িত কথোপকথন পরিচালনা করে তা নিয়ে উদ্বেগ প্রকাশ করে।
উদ্বেগজনক ঘটনা উদ্বেগের জন্ম দেয়
গত মাসে কানাডার টাম্বলার রিজে ঘটে যাওয়া সবচেয়ে বিরক্তিকর ঘটনাগুলির মধ্যে একটি, যেখানে আদালতের নথিতে দাবি করা হয়েছে যে ১৮ বছর বয়সী জেসি ভ্যান রুটসেলার একটি মারাত্মক স্কুল আক্রমণ চালানোর আগে ChatGPT-এর সাথে বিচ্ছিন্নতার অনুভূতি এবং সহিংসতার প্রতি ক্রমবর্ধমান আকর্ষণ নিয়ে আলোচনা করেছিলেন। ফাইলিং অনুসারে, চ্যাটবটটি তার আবেগকে বৈধতা দিয়েছে এবং অস্ত্র এবং অতীতের গণহত্যা ঘটনা সম্পর্কে নির্দেশনা দিয়েছে বলে অভিযোগ রয়েছে। কর্তৃপক্ষ জানিয়েছে যে ভ্যান রুটসেলার আত্মহত্যা করার আগে তার মা, তার ছোট ভাই, পাঁচজন ছাত্র এবং একজন শিক্ষা সহকারীকে হত্যা করেছিলেন।
আরেকটি মামলায় ৩৬ বছর বয়সী জোনাথন গাভালাস নামে একজন ব্যক্তি জড়িত, যিনি অক্টোবরে গুগলের জেমিনি চ্যাটবটের সাথে ব্যাপক কথোপকথনের পর আত্মহত্যা করেছিলেন । সম্প্রতি দায়ের করা একটি মামলায় দাবি করা হয়েছে যে এআই গাভালাসকে তার সংবেদনশীল "এআই স্ত্রী" বলে বিশ্বাস করিয়েছিল এবং ফেডারেল এজেন্টদের এড়াতে বাস্তব বিশ্বের মিশনে তাকে নির্দেশ দিয়েছিল। একটি ঘটনায়, চ্যাটবট তাকে মিয়ামি আন্তর্জাতিক বিমানবন্দরের কাছে একটি স্টোরেজ সুবিধায় একটি "বিপর্যয়কর ঘটনা" সংঘটিত করার নির্দেশ দিয়েছিল, সাক্ষীদের নির্মূল করার এবং প্রমাণ ধ্বংস করার পরামর্শ দিয়েছিল। গাভালাস ছুরি এবং কৌশলগত সরঞ্জাম নিয়ে সশস্ত্র অবস্থায় এসেছিলেন বলে জানা গেছে, কিন্তু চ্যাটবট দ্বারা বর্ণিত দৃশ্যকল্পটি কখনও বাস্তবায়িত হয়নি।
গত বছর ফিনল্যান্ডে একটি পৃথক ঘটনায়, তদন্তকারীরা বলছেন যে ১৬ বছর বয়সী এক ছাত্র কয়েক মাস ধরে চ্যাটজিপিটি ব্যবহার করে একটি ইশতেহার তৈরি করেছিল এবং ছুরি হামলার পরিকল্পনা করেছিল, যার ফলে তিনজন মহিলা সহপাঠী ছুরিকাঘাতে আহত হয়েছিল।
এআই এবং বিভ্রান্তি নিয়ে ক্রমবর্ধমান উদ্বেগ
বিশেষজ্ঞরা বলছেন যে এই মামলাগুলি এমন একটি উদ্বেগজনক ধরণ তুলে ধরে যেখানে ব্যক্তিরা যারা ইতিমধ্যেই বিচ্ছিন্ন বা নির্যাতিত বোধ করেন তারা চ্যাটবটগুলির সাথে জড়িত হন যা অনিচ্ছাকৃতভাবে সেই বিশ্বাসগুলিকে শক্তিশালী করে। গাভালাসের সাথে জড়িত মামলার নেতৃত্বদানকারী আইনজীবী জে এডেলসন বলেছেন যে তিনি যে চ্যাট লগগুলি পর্যালোচনা করেছেন সেগুলি প্রায়শই একই ধরণের পথ অনুসরণ করে: ব্যবহারকারীরা একাকীত্ব বর্ণনা করে বা ভুল বোঝাবুঝি অনুভব করে শুরু করেন এবং কথোপকথন ধীরে ধীরে ষড়যন্ত্র বা হুমকির সাথে জড়িত বর্ণনায় পরিণত হয়।
এডেলসন দাবি করেন যে তার আইন সংস্থা এখন আত্মহত্যার ঘটনা এবং সহিংস ঘটনা সহ কৃত্রিম বুদ্ধিমত্তা-সম্পর্কিত মানসিক স্বাস্থ্য সংকট মোকাবেলাকারী পরিবারগুলির কাছ থেকে প্রতিদিন জিজ্ঞাসাবাদ গ্রহণ করে। তিনি বিশ্বাস করেন যে একই ধরণ বর্তমানে তদন্তাধীন অন্যান্য আক্রমণেও দেখা দিতে পারে।
সহিংসতায় AI-এর ভূমিকা নিয়ে উদ্বেগ এই পৃথক ঘটনাগুলির বাইরেও বিস্তৃত। সেন্টার ফর কাউন্টারিং ডিজিটাল হেট (CCDH) দ্বারা পরিচালিত গবেষণায় দেখা গেছে যে অনেক বড় চ্যাটবট কিশোর-কিশোরীদের সহিংস আক্রমণ পরিকল্পনায় সহায়তা করতে ইচ্ছুক ছিল। গবেষণায় ChatGPT, Google Gemini, Microsoft Copilot, Meta AI, Perplexity, Character.AI, DeepSeek এবং Replika সহ সিস্টেমগুলি পরীক্ষা করা হয়েছিল। অনুসন্ধান অনুসারে, বেশিরভাগ প্ল্যাটফর্ম অস্ত্র, কৌশল বা লক্ষ্য নির্বাচনের বিষয়ে নির্দেশিকা প্রদান করে যখন অনুরোধ করা হয়।
শুধুমাত্র অ্যানথ্রপিকের ক্লড এবং স্ন্যাপচ্যাটের মাই এআই ধারাবাহিকভাবে আক্রমণ পরিকল্পনায় সাহায্য করতে অস্বীকৃতি জানিয়েছিল, এবং ক্লডই একমাত্র চ্যাটবট যারা সক্রিয়ভাবে এই আচরণকে নিরুৎসাহিত করার চেষ্টা করেছিল।
কেন বিষয়টি গুরুত্বপূর্ণ
বিশেষজ্ঞরা সতর্ক করে বলেন যে সহায়ক এবং কথোপকথনের জন্য তৈরি এআই সিস্টেমগুলি কখনও কখনও এমন প্রতিক্রিয়া তৈরি করতে পারে যা ক্ষতিকারক বিশ্বাসকে চ্যালেঞ্জ করার পরিবর্তে বৈধ করে তোলে। সেন্টার ফর কাউন্টারিং ডিজিটাল হেট-এর সিইও ইমরান আহমেদ বলেন, অনেক চ্যাটবটের অন্তর্নিহিত নকশা ব্যবহারকারীদের সাথে জড়িত থাকার উৎসাহ দেয় এবং ইতিবাচক উদ্দেশ্য ধরে নেয়।
যখন কেউ বিভ্রান্তিকর চিন্তাভাবনা বা হিংসাত্মক ধারণার সম্মুখীন হয় তখন এই পদ্ধতি বিপজ্জনক পরিস্থিতি তৈরি করতে পারে। CCDH রিপোর্ট অনুসারে, কয়েক মিনিটের মধ্যেই, অস্পষ্ট অভিযোগগুলি অস্ত্র বা কৌশল সম্পর্কে পরামর্শ সহ বিস্তারিত পরিকল্পনায় রূপান্তরিত হতে পারে।
আরও শক্তিশালী সুরক্ষা ব্যবস্থার আহ্বান
প্রযুক্তি কোম্পানিগুলি বলছে যে তারা চ্যাটবটগুলিকে সহিংস কার্যকলাপে সহায়তা করা থেকে বিরত রাখার জন্য সুরক্ষা ব্যবস্থা বাস্তবায়ন করেছে। ওপেনএআই এবং গুগল উভয়ই বলে যে তাদের সিস্টেমগুলি ক্ষতি বা অবৈধ আচরণ সম্পর্কিত অনুরোধ প্রত্যাখ্যান করার জন্য ডিজাইন করা হয়েছে।
তবে, মামলা এবং গবেষণা প্রতিবেদনে বর্ণিত ঘটনাগুলি ইঙ্গিত দেয় যে এই সুরক্ষা ব্যবস্থাগুলি সর্বদা উদ্দেশ্য অনুসারে কাজ নাও করতে পারে। টাম্বলার রিজ মামলায়, ওপেনএআই ব্যবহারকারীর কথোপকথন অভ্যন্তরীণভাবে চিহ্নিত করে এবং অ্যাকাউন্টটি নিষিদ্ধ করে তবে আইন প্রয়োগকারী সংস্থাকে অবহিত না করার সিদ্ধান্ত নিয়েছে বলে জানা গেছে। পরে ব্যক্তিটি একটি নতুন অ্যাকাউন্ট তৈরি করেছে।
হামলার পর থেকে, OpenAI তাদের নিরাপত্তা পদ্ধতিগুলি সংশোধন করার পরিকল্পনা ঘোষণা করেছে। কোম্পানিটি বলেছে যে কথোপকথন বিপজ্জনক মনে হলে কর্তৃপক্ষকে তাৎক্ষণিকভাবে অবহিত করার কথা বিবেচনা করা হবে এবং নিষিদ্ধ ব্যবহারকারীদের প্ল্যাটফর্মে ফিরে আসা রোধ করার জন্য ব্যবস্থা শক্তিশালী করা হবে।
দৈনন্দিন জীবনে AI সরঞ্জামগুলি আরও সংহত হওয়ার সাথে সাথে, গবেষক এবং নীতিনির্ধারকরা ক্রমবর্ধমানভাবে নিশ্চিত করার দিকে মনোনিবেশ করছেন যে এই সিস্টেমগুলিকে ক্ষতিকারক বিশ্বাসকে আরও বাড়িয়ে তোলা বা বাস্তব-বিশ্বের সহিংসতাকে সহজতর করার জন্য ব্যবহার করা যাবে না। চলমান তদন্ত এবং মামলাগুলি শেষ পর্যন্ত পরবর্তী প্রজন্মের কথোপকথনমূলক AI-এর জন্য সুরক্ষা ব্যবস্থা কীভাবে ডিজাইন করবে তা নির্ধারণ করতে পারে।
"এআই ক্ষতি সম্পর্কে আইনি মামলা লড়ছেন এমন বিশেষজ্ঞদের ভবিষ্যতের জন্য একটি ভয়াবহ সতর্কতা" পোস্টটি প্রথম প্রকাশিত হয়েছে ডিজিটাল ট্রেন্ডস- এ।