আমরা সবাই সেখানে পৌঁছেছি। আপনার কোমরে অদ্ভুত ব্যথা অনুভব হয় অথবা ডাক্তারের কাছ থেকে বিভ্রান্তিকর পরীক্ষার ফলাফল পান, এবং প্রথমেই আপনি গুগল খুলুন। আপনি কোনও মেডিকেল ডিগ্রি খুঁজছেন না; আপনি কেবল "আমি কি ঠিক আছি?" এর একটি দ্রুত উত্তর চান। কিন্তু সম্প্রতি, গুগলকে তার AI অনুসন্ধানের সারাংশগুলিতে ব্রেক লাগাতে হয়েছে কারণ দেখা যাচ্ছে, রোবটের কাছে চিকিৎসা পরামর্শ চাওয়া আসলে বিপজ্জনক হতে পারে।
অনুসন্ধানের ফলাফলে ভুল এবং স্পষ্টতই ভীতিকর তথ্য প্রকাশ পাওয়ার পর, গুগল চুপচাপ তাদের অনুসন্ধান ফলাফল থেকে কৃত্রিম বুদ্ধিমত্তা (এআই) দ্বারা তৈরি স্বাস্থ্য সারাংশ মুছে ফেলে। দ্য গার্ডিয়ানের একটি প্রতিবেদনে উল্লেখ করা হয়েছে যে এই " এআই ওভারভিউ " – আপনার অনুসন্ধানের একেবারে উপরে পপ আপ হওয়া রঙিন বাক্সগুলি – অসম্পূর্ণ তথ্য পরিবেশন করছে, তার পর থেকেই এই সব শুরু হয়েছে।
সবচেয়ে উজ্জ্বল উদাহরণ ছিল লিভারের রক্ত পরীক্ষা সম্পর্কে
যদি তুমি AI-কে "স্বাভাবিক পরিসর" জিজ্ঞাসা করো, তাহলে এটি কেবল সংখ্যার একটি তালিকা বের করে দেবে। এটি জিজ্ঞাসা করেনি যে তুমি পুরুষ না মহিলা। এটি তোমার বয়স, তোমার জাতিগত পরিচয়, অথবা তোমার চিকিৎসার ইতিহাস সম্পর্কে জিজ্ঞাসা করেনি। এটি কেবল একটি সমতল সংখ্যা দিয়েছে। চিকিৎসা বিশেষজ্ঞরা এটি দেখে মূলত বলেছেন, "এটি বিপজ্জনক।"
এখানে সমস্যাটি কেবল এই নয় যে AI ভুল ছিল ; বরং এটি বিপজ্জনকভাবে বিভ্রান্তিকর ছিল। কল্পনা করুন যে প্রাথমিক পর্যায়ের লিভারের রোগে আক্রান্ত কেউ তাদের পরীক্ষার ফলাফল দেখছে। AI তাদের বলে যে তাদের সংখ্যাগুলি কোনও এলোমেলো ওয়েবসাইট থেকে স্ক্র্যাপ করা "স্বাভাবিক" সীমার মধ্যে পড়ে। সেই ব্যক্তি হয়তো ভাবতে পারেন, "ওহ, তাহলে আমি ঠিক আছি," এবং ফলো-আপ অ্যাপয়েন্টমেন্ট এড়িয়ে যান। বাস্তবে, 20 বছর বয়সী একজন ব্যক্তির জন্য একটি "স্বাভাবিক" সংখ্যা 50 বছর বয়সী একজনের জন্য একটি সতর্কতা সংকেত হতে পারে। AI-তে এটি জানার জন্য সূক্ষ্মতার অভাব রয়েছে এবং প্রসঙ্গের এই ব্যবধান গুরুতর, বাস্তবিক পরিণতি ডেকে আনতে পারে।
গুগলের প্রতিক্রিয়া বেশ স্ট্যান্ডার্ড ছিল—তারা চিহ্নিত নির্দিষ্ট প্রশ্নগুলি সরিয়ে দিয়েছে এবং জোর দিয়ে বলেছে যে তাদের সিস্টেমটি সাধারণত সহায়ক। কিন্তু এখানেই মজার বিষয় হল: ব্রিটিশ লিভার ট্রাস্টের মতো স্বাস্থ্য সংস্থাগুলি দেখেছে যে আপনি যদি প্রশ্নটি সামান্য পরিবর্তন করেন, তবে একই খারাপ তথ্য আবার উঠে আসে। এটি ডিজিটাল হ্যাক-এ-মোলের খেলার মতো। আপনি একটি ত্রুটি ঠিক করেন, এবং AI মাত্র পাঁচ সেকেন্ড পরে একটি নতুন প্রশ্ন তৈরি করে।
এখানে আসল সমস্যা হলো বিশ্বাস
যেহেতু এই AI সারাংশগুলি পৃষ্ঠার ঠিক উপরে, হাসপাতাল বা মেডিকেল জার্নালের আসল লিঙ্কগুলির উপরে থাকে, তাই এগুলি কর্তৃত্বের আভাস বহন করে। আমরা উপরের ফলাফলটি বিশ্বাস করার জন্য প্রশিক্ষিত। যখন গুগল একটি সুন্দর ছোট বাক্সে একটি উত্তর উপস্থাপন করে, তখন আমাদের মস্তিষ্ক অবচেতনভাবে এটিকে "সঠিক" উত্তর হিসাবে বিবেচনা করে। কিন্তু তা নয়। এটি কেবল একটি ভবিষ্যদ্বাণী ইঞ্জিন যা পরবর্তী শব্দগুলি অনুমান করার চেষ্টা করে।
আপাতত, এটি একটি বিশাল সতর্কতা। ইমেল সংক্ষিপ্ত করার জন্য বা ভ্রমণ পরিকল্পনা করার জন্য AI দুর্দান্ত, কিন্তু যখন আপনার স্বাস্থ্যের কথা আসে, তখন এটি স্পষ্টতই প্রাইম টাইমের জন্য প্রস্তুত নয়। যতক্ষণ না এই সিস্টেমগুলি প্রেক্ষাপট বুঝতে পারে—অথবা যতক্ষণ না Google আরও কঠোর রেলিং স্থাপন করে—ততক্ষণ না রোবটটি অতিক্রম করে একজন প্রকৃত ডাক্তারের কাছ থেকে পাওয়া লিঙ্কে ক্লিক করা সম্ভবত নিরাপদ। গতি ভালো, কিন্তু আপনার স্বাস্থ্য সম্পর্কে কথা বলার সময় নির্ভুলতাই একমাত্র গুরুত্বপূর্ণ বিষয়।
ঝুঁকিপূর্ণ চিকিৎসা ত্রুটি প্রকাশের পর গুগল এআই স্বাস্থ্য সারাংশ সরিয়ে দিয়েছে পোস্টটি প্রথম ডিজিটাল ট্রেন্ডসে প্রকাশিত হয়েছিল।