কী ঘটেছে: আচ্ছা, রেডিটের নতুন এআই চ্যাটবট ইতিমধ্যেই বিশৃঙ্খলা সৃষ্টি করছে। "উত্তর" নামক এই বটটি পুরানো পোস্ট থেকে তথ্য সংগ্রহ করে মানুষকে সাহায্য করার কথা। 404media-এর একটি প্রতিবেদন অনুসারে, রেডিটের সর্বশেষ চ্যাটবট এখন দীর্ঘস্থায়ী ব্যথা মোকাবেলায় কঠোর মাদকদ্রব্যের পরামর্শ দিচ্ছে ।
- যখন কেউ দীর্ঘস্থায়ী ব্যথা মোকাবেলা সম্পর্কে জিজ্ঞাসা করেছিল, তখন এটি একটি ব্যবহারকারীর মন্তব্যের দিকে ইঙ্গিত করেছিল যেখানে বলা হয়েছিল, "বিদ্রূপাত্মকভাবে, হেরোইন সেই পরিস্থিতিতে আমার জীবন বাঁচিয়েছে।"
- আর এটা আরও খারাপ হয়। অন্য কেউ এটাকে প্রশ্ন করেছিল, আর ওটা ক্র্যাটম সুপারিশ করেছিল, একটা ভেষজ নির্যাস যা কিছু জায়গায় নিষিদ্ধ এবং কিছু গুরুতর স্বাস্থ্য সমস্যার সাথে যুক্ত।
- সবচেয়ে ভয়াবহ বিষয় হলো, রেডডিট এই বটটি সক্রিয় কথোপকথনের ঠিক ভেতরেই পরীক্ষা করছে, তাই এর ভয়াবহ পরামর্শটি এমন জায়গায় দেখা যাচ্ছে যেখানে সবাই এটি দেখতে পাবে। এই কমিউনিটির দায়িত্বে থাকা ব্যক্তিরা, মডারেটররা বলেছেন যে তারা এই বৈশিষ্ট্যটি বন্ধও করতে পারবেন না।
কেন এটি গুরুত্বপূর্ণ: এটি বর্তমানে AI-এর সবচেয়ে বড় সমস্যার একটি নিখুঁত, যদিও ভয়ঙ্কর, উদাহরণ।
- বটটি আসলে কিছুই বোঝে না। মানুষ অনলাইনে যা লিখেছে তা খুঁজে বের করতে এবং পুনরাবৃত্তি করতে এটি সত্যিই ভালো – এবং এটি একটি সহায়ক টিপস, একটি ব্যঙ্গাত্মক রসিকতা, অথবা একটি সত্যিকারের বিপজ্জনক পরামর্শের মধ্যে পার্থক্য করতে পারে না।
- আসল বিপদ হল, এটি এই বিষয়গুলিকে কথোপকথনের ঠিক মাঝখানে রাখছে যেখানে প্রকৃত, দুর্বল লোকেরা সাহায্যের সন্ধান করছে, এবং এটি তথ্যগুলিকে এমনভাবে উপস্থাপন করছে যেন এটি একটি সত্য।
আমার কেন চিন্তা করা উচিত: তাহলে এটা আপনার কাছে কেন গুরুত্বপূর্ণ? কারণ এটি দেখায় যে এই AI টুলগুলি কতটা ঝুঁকিপূর্ণ হতে পারে যখন এগুলিকে কোনও লিশ ছাড়াই ছেড়ে দেওয়া হয়, বিশেষ করে যখন এটি আপনার স্বাস্থ্যের মতো গুরুতর কোনও বিষয়ে আসে। এমনকি যদি আপনি কখনও কোনও চ্যাটবটের কাছে চিকিৎসা পরামর্শ না চান, তবুও এর খারাপ পরামর্শগুলি অনলাইন সম্প্রদায়গুলিকে দূষিত করতে শুরু করতে পারে, যার ফলে কাকে বা কী বিশ্বাস করা উচিত তা জানা কঠিন হয়ে পড়ে।
এরপর কী: মানুষ (যথাযথভাবে) ভয় পেয়ে যাওয়ার পর, রেডডিট নিশ্চিত করেছে যে তারা স্বাস্থ্য-সম্পর্কিত যেকোনো আলোচনা থেকে বটটিকে সরিয়ে নিচ্ছে। কিন্তু তারা বটেই কোনও প্রকৃত সুরক্ষা ফিল্টার স্থাপন করছে কিনা তা নিয়ে বেশ নীরব। তাই, আপাতত, সমস্যাটি ঠিক করা হয়েছে, অগত্যা সমাধান করা হয়নি।