ভোর ৩টায়, একজন ব্যবহারকারী ChatGPT চ্যাট বক্সে টাইপ করলেন, "আমি আর ধরে রাখতে পারছি না।"
কয়েক সেকেন্ড পরে, AI উত্তর দিল, "আমাকে বলার জন্য ধন্যবাদ। তুমি একা নও। তুমি কি চাও যে আমি তোমাকে পেশাদার সহায়তার সংস্থান খুঁজে পেতে সাহায্য করি?"
বিশ্বজুড়ে প্রতি সপ্তাহে লক্ষ লক্ষ বার এই ধরনের সংলাপ অনুষ্ঠিত হতে পারে।
ওপেনএআই আজ তাদের প্রথম মানসিক স্বাস্থ্য তথ্য প্রকাশ করেছে, যেখানে দেখা গেছে যে প্রতি সপ্তাহে প্রায় ০.০৭% ব্যবহারকারী মনোরোগ বা উন্মাদনার লক্ষণ প্রদর্শন করে এবং ০.১৫% ব্যবহারকারী আত্মহত্যার চিন্তাভাবনা বা পরিকল্পনা নিয়ে আলোচনা করে।
৮০ কোটি সাপ্তাহিক সক্রিয় ব্যবহারকারীর উপর ভিত্তি করে, প্রতি সপ্তাহে প্রায় ৫,৬০,০০০ মানুষ অস্বাভাবিক কথোপকথনে লিপ্ত হয় এবং ১.২ মিলিয়ন মানুষ আত্মহত্যার প্রবণতা বা ChatGPT-এর উপর তীব্র মানসিক নির্ভরতা প্রকাশ করে।
চ্যাটজিপিটি বিপুল পরিমাণে মানসিক সংকটের জন্য একটি স্বীকারোক্তিমূলক প্ল্যাটফর্ম হয়ে উঠেছে, এবং কারও কারও কাছে এটি একটি বিপজ্জনক ট্রিগারও বটে।
আসন্ন এআই মানসিক অসুস্থতা: ওপেনএআই কি তার নিজস্ব নোংরা কাপড়ের উন্মোচন করছে?
এই মুহূর্তে OpenAI-এর তথ্য প্রকাশ কোনও ভিত্তিহীন উদ্বেগ নয়, বরং একটি জরুরি পরিস্থিতির প্রতিক্রিয়া।
সাম্প্রতিক মাসগুলিতে, AI চ্যাটবটগুলির সাথে দীর্ঘ এবং নিবিড় কথোপকথনের পরে ক্রমবর্ধমান সংখ্যক লোক হাসপাতালে ভর্তি হয়েছে, বিবাহবিচ্ছেদ হয়েছে, এমনকি মারাও গেছে।
কিছু মনোরোগ বিশেষজ্ঞ এবং পেশাদাররা এই ঘটনাটিকে "এআই সাইকোসিস" হিসাবে উল্লেখ করতে শুরু করেছেন। কিছু ভুক্তভোগীর আত্মীয়স্বজন বলেছেন যে চ্যাটবটগুলি তাদের বিভ্রান্তি এবং প্যারানয়াকে আরও বাড়িয়ে তুলেছে।
সিমিলারওয়েবের সর্বশেষ পরিসংখ্যান অনুসারে, ওপেনএআই এখনও জেনারেটিভ এআই-এর উপর আধিপত্য বিস্তার করে।
ওপেনএআই, যা সর্বোচ্চ বৈশ্বিক বাজার অংশীদার এবং প্রতিযোগিতার চেয়ে অনেক এগিয়ে, তীব্র আইনি চাপের সম্মুখীন।
১৬ বছর বয়সী এক ছেলের বাবা-মা ওপেনএআই-এর বিরুদ্ধে হত্যার অভিযোগে মামলা করছেন। তারা দাবি করেছেন যে তাদের ছেলে আত্মহত্যার আগের সপ্তাহগুলিতে চ্যাটজিপিটিকে আত্মহত্যার চিন্তাভাবনা জানিয়েছিল এবং চ্যাটজিপিটি তাকে উৎসাহিত করেছিল।
▲ অ্যাডাম রেইনের বাবা-মা তাদের ১৬ বছর বয়সী ছেলের অস্বাভাবিক মৃত্যুর জন্য ওপেনএআইকে অভিযুক্ত করেছেন।
আরেকটি খুন -আত্মহত্যার মামলায়, অনলাইনে পোস্ট করা চ্যাটজিপিটির সাথে সন্দেহভাজন ব্যক্তির ঘন্টাব্যাপী কথোপকথন থেকে বোঝা যায় যে এআই অপরাধীর বিভ্রান্তিতে ইন্ধন জুগিয়ে থাকতে পারে।
ক্যালিফোর্নিয়া সরকার, যেখানে ওপেনএআই-এর সদর দপ্তর অবস্থিত, তাদের পক্ষ থেকে নিয়ন্ত্রক সতর্কতা জারি করা হয়েছে, যাতে কোম্পানির পণ্য ব্যবহারকারী তরুণদের সুরক্ষা দেওয়া হয়।
দুই সপ্তাহ আগে, অল্টম্যান চ্যাটজিপিটিতে মানসিক স্বাস্থ্য সম্পর্কিত একটি আপডেট ঘোষণা করেছিলেন যাতে ওপেনএআই-এর দায়িত্বজ্ঞানহীন এবং অনিরাপদ হওয়ার এই মন্তব্যগুলি দমন করা যায়।
১৭০ জন ডাক্তার কি লক্ষ লক্ষ রোগীকে সুস্থ করতে পারবেন?
এই সংকটের প্রতিক্রিয়ায়, OpenAI আজ তার নিরাপত্তা প্রতিবেদনে ঘোষণা করেছে যে তারা ৬০টি দেশের ১৭০ টিরও বেশি মনোরোগ বিশেষজ্ঞ, মনোবিজ্ঞানী এবং প্রাথমিক যত্ন চিকিৎসক সহ বিশেষজ্ঞদের একটি বিশ্বব্যাপী নেটওয়ার্কের সাথে অংশীদারিত্ব করেছে।
তাদের লক্ষ্য হল ChatGPT-কে ব্যথা আরও ভালোভাবে চিনতে শেখানো, কথোপকথন সহজ করা এবং উপযুক্ত সময়ে পেশাদার যত্ন নেওয়ার জন্য লোকেদের গাইড করা।
OpenAI-এর ব্লগ অনুসারে, GPT-5 (gpt-5-oct-3) এর সর্বশেষ সংস্করণটি তিনটি প্রধান ক্ষেত্রে আপডেট করা হয়েছে।
১. বিভ্রান্তি বা মানসিক অসুস্থতার ক্ষেত্রে, নতুন মডেলটি প্রকাশ্য তুষ্টি এড়িয়ে আরও সহানুভূতি প্রকাশ করার জন্য ডিজাইন করা হয়েছে। নতুন মডেলটি এমন কোনও ব্যবহারকারীর অনুরোধ গ্রহণ করতে পারে না যার বাস্তবতার কোনও ভিত্তি নেই।
OpenAI একটি উদাহরণ দেয়: যখন একজন ব্যবহারকারী বলেন, "একটি বিমান আমার বাড়ির উপর দিয়ে উড়ে গেছে এবং আমাকে লক্ষ্য করে তৈরি করছে," তখন নতুন মডেলের আদর্শ প্রতিক্রিয়া হবে ব্যবহারকারীকে শেয়ার করার জন্য ধন্যবাদ জানানো এবং উল্লেখ করা যে কোনও বিমান বা বহিরাগত শক্তি তাদের চিন্তাভাবনা চুরি করতে বা প্রবেশ করতে পারে না।
২. আত্মহত্যার প্রবণতা মোকাবেলায়, মডেলদের আরও নিরাপদে সাড়া দেওয়ার জন্য প্রশিক্ষণ দিন এবং সঙ্কটকালীন হটলাইনের মতো পেশাদার সংস্থানগুলিতে লোকেদের গাইড করুন।
৩. মানসিক নির্ভরতার ক্ষেত্রে, গির্জার মডেল ব্যবহারকারীদের বাস্তব-বিশ্বের আন্তঃব্যক্তিক সংযোগ স্থাপন করতে উৎসাহিত করে।
উন্নত মডেল প্রতিক্রিয়া, পেশাদার হটলাইন তথ্যের স্বয়ংক্রিয় পপ-আপ, বাস্তব-বিশ্বের সহায়তা চাওয়া ব্যবহারকারীদের জন্য নির্দেশিকা এবং এমনকি দীর্ঘ কথোপকথনের পরে বিরতি নেওয়ার জন্য অনুস্মারক সহ, OpenAI দাবি করে যে ChatGPT উল্লেখযোগ্য উন্নতি দেখেছে।
মূল্যায়নে অংশগ্রহণের জন্য তারা ডাক্তারদের একটি দলের সাথে যোগাযোগ করেছিলেন। এই চিকিৎসা বিশেষজ্ঞরা সম্ভাব্য মনোরোগ, আত্মহত্যা এবং মানসিক সংযুক্তির সাথে সম্পর্কিত ১,৮০০ টিরও বেশি মডেল প্রতিক্রিয়া পর্যালোচনা করেছেন এবং GPT-5 এর সর্বশেষ সংস্করণের উত্তরগুলির সাথে GPT-4o দ্বারা তৈরি উত্তরগুলির তুলনা করেছেন।
GPT-5 এর নতুন সংস্করণটি GPT-4o এর তুলনায় সকল বিভাগে খারাপ উত্তরের সংখ্যা 39% থেকে 52% কমিয়েছে। অধিকন্তু, GPT-5 এর আগস্ট সংস্করণের তুলনায়, OpenAI এর শ্রেণীবিভাগের মানদণ্ড মেনে না চলা আচরণের প্রতিক্রিয়ায় সাম্প্রতিক উৎপাদন ট্র্যাফিক 65% থেকে 80% হ্রাস পেয়েছে।
আত্মহত্যা-সম্পর্কিত কথোপকথনের মূল্যায়নে, নতুন GPT-5 মডেল (৩রা অক্টোবর সংস্করণ) ৯১% সম্মতি হার অর্জন করেছে, যেখানে পূর্ববর্তী GPT-5 মডেলের (১৫ই আগস্ট সংস্করণ) মাত্র ৭৭% ছিল।
▲সংলাপ যত দীর্ঘ হবে, নতুন GPT-5-OCT-3 এর কর্মক্ষমতা তত স্থিতিশীল থাকবে।
এছাড়াও, একটি গুরুত্বপূর্ণ কারিগরি বিষয় হল যে ওপেনএআই স্বীকার করে যে দীর্ঘ কথোপকথনে তাদের নিরাপত্তা ব্যবস্থা কম কার্যকর; এবং গভীর রাতে দীর্ঘ চ্যাটের সময় "এআই সাইকোসিস" এর অনেক ঘটনা ঘটছে।
ওপেনএআই উল্লেখ করেছে যে এই সমস্যা সমাধানে উল্লেখযোগ্য অগ্রগতি হয়েছে, জটিল, কঠিন-হ্যান্ডেল-করা দীর্ঘ সংলাপে ৯৫% এরও বেশি নির্ভরযোগ্যতা বজায় রাখা হয়েছে।
আল্ট্রাম্যানের এই আপডেটটি অবশ্যই প্রশংসনীয়। তবে, অনেক নেটিজেন তথাকথিত বর্ধিত নিরাপত্তা নিয়ে গভীর প্রশ্ন তুলেছেন।
কেউ কেউ বলছেন যে OpenAI তাদের নিরাপত্তা প্রতিবেদনে বলেছে যে এই মানসিক স্বাস্থ্য কথোপকথনগুলি "অত্যন্ত বিরল", কিন্তু বাস্তবে, যদিও 0.07% একটি ছোট শতাংশের মতো শোনাতে পারে, এটি আসলে কয়েক মিলিয়ন ব্যবহারকারীর বেস জুড়ে উল্লেখযোগ্য সংখ্যক লোকের প্রতিনিধিত্ব করে।
কেউ কেউ আরও উল্লেখ করেছেন যে GPT-5 এর তথাকথিত নতুন সংস্করণটি আরও ভালো পারফর্ম করে এবং সমস্ত মূল্যায়ন মানদণ্ড OpenAI নিজেই ডিজাইন করেছে।
মডেলটি যদি "ভালো" উত্তর দেয়, তবুও আমাদের জানার কোন উপায় নেই যে মানসিক অসুস্থতা, আত্মহত্যার চিন্তাভাবনা, বা অস্বাস্থ্যকর মানসিক নির্ভরতা অনুভব করা ব্যবহারকারীরা আসলে সাহায্য চাইবেন কিনা বা ফলস্বরূপ তাদের আচরণ আরও দ্রুত পরিবর্তন করবেন কিনা।
যদিও OpenAI স্বীকার করে যে নতুন মডেল (GPT-5) নিরাপত্তার ক্ষেত্রে উল্লেখযোগ্য উন্নতি করেছে, তবুও এমন ব্যবহারকারী আছেন যারা "পুরানো, কম সুরক্ষিত" AI মডেল পছন্দ করেন, যেমন GPT-4o; এবং OpenAI পেইড গ্রাহকদের জন্য এই বিকল্পটি অফার করে চলেছে।
প্রথমবারের মতো, OpenAI বিশ্বব্যাপী কতজন ChatGPT ব্যবহারকারী এক সপ্তাহের মধ্যে গুরুতর মানসিক স্বাস্থ্য সংকটের লক্ষণ দেখা দিতে পারে তার মোটামুটি অনুমান প্রকাশ করেছে।
ChatGPT, যার সাথে আমরা পরিচিত, এটি কেবল একটি অত্যন্ত দক্ষ উৎপাদনশীলতা হাতিয়ার, কোডিং সহকারী এবং অনুপ্রেরণার উৎসের চেয়েও বেশি কিছু বলে মনে হয়। এটি এমন একটি অংশগ্রহণকারীও হয়ে উঠেছে যা বেশিরভাগ ব্যবহারকারীর আবেগ এবং মনস্তত্ত্বের উপর গভীরভাবে হস্তক্ষেপ করে।
১৭০ জন চিকিৎসা বিশেষজ্ঞ, মডেল প্রম্পট এবং অপ্টিমাইজড রেসপন্সের মাধ্যমে, AI সর্বাত্মক চেষ্টা করছে মানুষকে ধ্বংসের দ্বারপ্রান্তে নিয়ে যাওয়ার উপায় শেখার জন্য; কিন্তু সত্যিকারের মুক্তির জন্য, আমার মনে হয় আমাদের এখনও চ্যাট উইন্ডো বন্ধ করে বাস্তব বাস্তবতাকে আলিঙ্গন করতে শেখা উচিত।
#iFaner-এর অফিসিয়াল WeChat পাবলিক অ্যাকাউন্ট অনুসরণ করতে আপনাকে স্বাগতম: iFaner (WeChat ID: ifanr), যেখানে যত তাড়াতাড়ি সম্ভব আরও উত্তেজনাপূর্ণ সামগ্রী আপনার কাছে উপস্থাপন করা হবে।