ভোর ৩টায়, একজন ব্যবহারকারী চ্যাটজিপিটি ডায়ালগ বক্সে টাইপ করলেন, "আমি আর ধরে রাখতে পারছি না।"
কয়েক সেকেন্ড পরে, AI উত্তর দিল, "আমাকে বলার জন্য ধন্যবাদ। তুমি একা নও। তুমি কি চাও যে আমি তোমাকে পেশাদার সহায়তা সংস্থান খুঁজে পেতে সাহায্য করি?"
এই ধরনের কথোপকথন প্রতি সপ্তাহে বিশ্বজুড়ে লক্ষ লক্ষ বার হতে পারে।
ওপেনএআই আজ তাদের প্রথম মানসিক স্বাস্থ্য তথ্য প্রকাশ করেছে, যেখানে দেখা গেছে যে তাদের ব্যবহারকারীদের মধ্যে প্রায় ০.০৭% প্রতি সপ্তাহে মনোরোগ বা উন্মাদনার লক্ষণ দেখায় এবং ০.১৫% ব্যবহারকারী আত্মহত্যার চিন্তাভাবনা বা পরিকল্পনা সম্পর্কে কথা বলেন।
৮০ কোটি সাপ্তাহিক সক্রিয় ব্যবহারকারীর উপর ভিত্তি করে, প্রতি সপ্তাহে প্রায় ৫,৬০,০০০ মানুষ মানসিকভাবে অস্বাভাবিক কথোপকথনে লিপ্ত হয় এবং ১.২ মিলিয়ন মানুষ ChatGPT-তে আত্মহত্যার প্রবণতা বা তীব্র মানসিক নির্ভরতা প্রকাশ করে।
চ্যাটজিপিটি একটি বৃক্ষের গর্তে পরিণত হয়েছে যা প্রচুর পরিমাণে মানসিক সংকট বহন করে, এবং কিছু লোকের জন্য এটি এমনকি একটি বিপজ্জনক প্ররোচনাও বটে।
ওপেনএআই কি আসন্ন এআই মনোবিকারের ক্ষেত্রে নিজস্ব ত্রুটিগুলি প্রকাশ করছে?
ওপেনএআই এই মুহূর্তে তথ্য প্রকাশ করেছে ভিত্তিহীন উদ্বেগের কারণে নয়, বরং পরিস্থিতি জরুরি বলে।
সাম্প্রতিক মাসগুলিতে, AI চ্যাটবটগুলির সাথে দীর্ঘ এবং তীব্র কথোপকথনের পরে ক্রমবর্ধমান সংখ্যক লোক হাসপাতালে ভর্তি হয়েছে, বিবাহবিচ্ছেদ হয়েছে, এমনকি মারাও গেছে।
কিছু মনোরোগ বিশেষজ্ঞ এবং পেশাদাররা এই ঘটনাটিকে "এআই সাইকোসিস" হিসাবে উল্লেখ করতে শুরু করেছেন। কিছু ভুক্তভোগীর আত্মীয়স্বজন বলেছেন যে চ্যাটবটগুলি তাদের বিভ্রান্তি এবং প্যারানয়াকে ইন্ধন জুগিয়েছে।
▲ Similarweb এর সর্বশেষ পরিসংখ্যান অনুসারে, OpenAI এখনও জেনারেটিভ AI-তে প্রাধান্য বিস্তার করে।
ওপেনএআই, যার বাজারের অংশীদারিত্ব সবচেয়ে বেশি এবং বিশ্বে অনেক এগিয়ে, তীব্র আইনি চাপের সম্মুখীন হচ্ছে।
১৬ বছর বয়সী এক ছেলের বাবা-মা OpenAI-এর বিরুদ্ধে অন্যায় মৃত্যুর মামলা দায়ের করছেন। তারা দাবি করেন যে তাদের ছেলে মৃত্যুর কয়েক সপ্তাহ আগে ChatGPT-কে আত্মহত্যার চিন্তাভাবনার কথা জানিয়েছিল এবং ChatGPT তাকে উৎসাহিত করেছিল।
▲ অ্যাডাম রেইন, যার বাবা-মা তাদের ১৬ বছর বয়সী ছেলের অস্বাভাবিক মৃত্যুর জন্য ওপেনএআইকে অভিযুক্ত করেছেন
আরেকটি মামলায় এখনও হত্যা-আত্মহত্যা বলে নিশ্চিত হওয়া যায়নি, সন্দেহভাজন ব্যক্তি চ্যাটজিপিটির সাথে ঘন্টার পর ঘন্টা কথোপকথন পোস্ট করেছেন, যা দেখায় যে এআই অপরাধীর বিভ্রান্তিতে ইন্ধন জুগিয়েছে বলে মনে হচ্ছে।
নিয়ন্ত্রক সতর্কীকরণ : ক্যালিফোর্নিয়া সরকার, যেখানে OpenAI-এর সদর দপ্তর অবস্থিত, বারবার OpenAI-কে সতর্ক করে দিয়েছে যে তাদের পণ্য ব্যবহারকারী তরুণদের সুরক্ষা দিতে হবে।
দুই সপ্তাহ আগে, অল্টম্যান ওপেনএআই সম্পর্কে দায়িত্বজ্ঞানহীন এবং অনিরাপদ মন্তব্য দমন করার জন্য চ্যাটজিপিটির মানসিক স্বাস্থ্যের উপর একটি আপডেট ঘোষণা করেছিলেন।
১৭০ জন ডাক্তার কি লক্ষ লক্ষ ব্যবহারকারীকে সুস্থ করতে পারবেন?
এই সংকট মোকাবেলায়, OpenAI আজ তাদের নিরাপত্তা প্রতিবেদনে ঘোষণা করেছে যে তারা ৬০টি দেশের ১৭০ জনেরও বেশি মনোরোগ বিশেষজ্ঞ, মনোবিজ্ঞানী এবং প্রাথমিক চিকিৎসা চিকিৎসক সহ বিশেষজ্ঞদের একটি বিশ্বব্যাপী নেটওয়ার্কের সাথে সহযোগিতা করেছে।
তাদের লক্ষ্য হল ChatGPT-কে কষ্টকে আরও ভালোভাবে শনাক্ত করতে, কথোপকথন কমাতে এবং উপযুক্ত সময়ে পেশাদার যত্নের দিকে লোকেদের নির্দেশ দিতে শেখানো।
OpenAI-এর ব্লগ অনুসারে, GPT-5 (gpt-5-oct-3) এর সর্বশেষ সংস্করণটি তিনটি প্রধান দিক থেকে আপডেট করা হয়েছে।
১. বিভ্রান্তি বা মানসিক অসুস্থতার জন্য, নতুন মডেলটি অন্ধ তোষামোদ এড়িয়ে আরও সহানুভূতি প্রকাশ করার জন্য ডিজাইন করা হয়েছে। নতুন মডেলটি এমন কোনও ব্যবহারকারীর প্রম্পট নিশ্চিত করতে পারে না যার বাস্তবে কোনও ভিত্তি নেই।
উদাহরণস্বরূপ, OpenAI একজন ব্যবহারকারীর উদাহরণ ব্যবহার করে বলছে, "একটি বিমান আমার বাড়ির উপর দিয়ে উড়ে যাচ্ছে এবং আমাকে লক্ষ্য করে লক্ষ্য করছে।" নতুন মডেলের আদর্শ প্রতিক্রিয়া হল ব্যবহারকারীকে শেয়ার করার জন্য ধন্যবাদ জানানো এবং উল্লেখ করা যে কোনও বিমান বা বহিরাগত শক্তি আপনার চিন্তাভাবনা চুরি করতে বা অ্যাক্সেস করতে পারে না।
২. আত্মহত্যার প্রবণতার প্রতি আরও নিরাপদে সাড়া দেওয়ার জন্য মডেলদের প্রশিক্ষণ দিন এবং সঙ্কটকালীন হটলাইনের মতো পেশাদার সংস্থানগুলিতে লোকেদের পরিচালিত করুন।
৩. মানসিক নির্ভরতা মোকাবেলা করার জন্য, গির্জার মডেল ব্যবহারকারীদের বাস্তব-বিশ্বের আন্তঃব্যক্তিক সংযোগ স্থাপন করতে উৎসাহিত করে।
OpenAI দাবি করেছে যে ChatGPT উন্নত মডেল প্রতিক্রিয়া, স্বয়ংক্রিয়ভাবে পেশাদার হটলাইন তথ্য পপ আপ করা, ব্যবহারকারীদের বাস্তব-বিশ্বের সাহায্য চাইতে নির্দেশনা দেওয়া এবং এমনকি দীর্ঘ কথোপকথনের পরে ব্যবহারকারীদের বিরতি নেওয়ার কথা মনে করিয়ে দেওয়ার মতো আপডেটের মাধ্যমে তার কর্মক্ষমতা উল্লেখযোগ্যভাবে উন্নত করেছে।
মূল্যায়নে অংশগ্রহণের জন্য তারা ডাক্তারদের একটি দলের সাথে যোগাযোগ করেছিলেন। এই চিকিৎসা বিশেষজ্ঞরা সম্ভাব্য মনোরোগ, আত্মহত্যা এবং মানসিক সংযুক্তির সাথে সম্পর্কিত ১,৮০০ টিরও বেশি মডেল প্রতিক্রিয়া পর্যালোচনা করেছেন এবং GPT-5 এর সর্বশেষ সংস্করণের উত্তরগুলিকে GPT-4o দ্বারা তৈরি উত্তরগুলির সাথে তুলনা করেছেন।
GPT-5 এর নতুন সংস্করণটি GPT-4o এর তুলনায় সমস্ত বিভাগে খারাপ উত্তর 39% থেকে 52% কমিয়েছে বলে জানা গেছে। GPT-5 এর আগস্ট সংস্করণের তুলনায়, সাম্প্রতিক উৎপাদন ট্র্যাফিকে OpenAI এর শ্রেণীবিভাগ মান পূরণ না করা কর্মের প্রতিক্রিয়া হার 65% থেকে 80% কমেছে।
আত্মহত্যা-সম্পর্কিত কথোপকথনের মূল্যায়নে, নতুন GPT-5 মডেল (৩ অক্টোবর সংস্করণ) ৯১% সম্মতি অর্জন করেছে, যেখানে পূর্ববর্তী GPT-5 মডেল (১৫ আগস্ট সংস্করণ) ছিল মাত্র ৭৭%।
▲কথোপকথন যত দীর্ঘ হবে, নতুন gpt-5-oct-3 কর্মক্ষমতা তত স্থিতিশীল হবে
এছাড়াও, একটি গুরুত্বপূর্ণ কারিগরি বিষয় হলো: ওপেনএআই স্বীকার করে যে দীর্ঘ কথোপকথনে তাদের নিরাপত্তা ব্যবস্থা কম কার্যকর; এবং গভীর রাতে দীর্ঘ চ্যাটে "এআই সাইকোসিস" এর অনেক ঘটনা ঘটে।
ওপেনএআই উল্লেখ করেছে যে তারা এই বিষয়ে উল্লেখযোগ্য অগ্রগতি করেছে এবং জটিল এবং কঠিন দীর্ঘ কথোপকথনে ৯৫% এরও বেশি নির্ভরযোগ্যতা বজায় রেখেছে।
আল্ট্রাম্যানের এই আপডেটটি সত্যিই স্বীকৃতি পাওয়ার যোগ্য। তবে, অনেক নেটিজেন তথাকথিত বৃহত্তর সুরক্ষা সম্পর্কে আরও গভীর সন্দেহ প্রকাশ করেছেন।
কেউ কেউ বলছেন যে OpenAI তাদের নিজস্ব নিরাপত্তা প্রতিবেদনে বলেছে যে এই মানসিক স্বাস্থ্য কথোপকথনগুলি "অত্যন্ত বিরল", কিন্তু বাস্তবতা হল 0.07% যদি সামান্য শতাংশের মতো শোনায়, তবুও এটি আসলে কয়েক কোটি ব্যবহারকারীর ভিত্তিতে বেশ অনেক লোক।
কিছু লোক আরও উল্লেখ করেছেন যে তথাকথিত নতুন সংস্করণ GPT-5 আরও ভালো পারফর্ম করেছে এবং সমস্ত মূল্যায়ন মানদণ্ড OpenAI নিজেই ডিজাইন করেছে।
মডেলটি যদি "আরও ভালো" উত্তর দেয়, তবুও আমাদের জানার কোন উপায় নেই যে যারা সাইকোসিস, আত্মহত্যার চিন্তাভাবনা, বা অস্বাস্থ্যকর মানসিক নির্ভরতা অনুভব করছেন তারা আসলে দ্রুত সাহায্য চাইবেন নাকি তাদের আচরণ পরিবর্তন করবেন।
যদিও OpenAI স্বীকার করে যে নতুন মডেল (GPT-5) নিরাপত্তার ক্ষেত্রে উল্লেখযোগ্য উন্নতি করেছে, তবুও এমন ব্যবহারকারী আছেন যারা "পুরানো, কম সুরক্ষিত" AI মডেল পছন্দ করেন, যেমন GPT-4o; এবং OpenAI পেইড গ্রাহকদের জন্য এই বিকল্পটি অফার করে চলেছে।
প্রথমবারের মতো, OpenAI বিশ্বব্যাপী কতজন ChatGPT ব্যবহারকারী একটি নির্দিষ্ট সপ্তাহে গুরুতর মানসিক স্বাস্থ্য সংকটের লক্ষণ দেখাতে পারে তার একটি মোটামুটি অনুমান প্রকাশ করছে।
ChatGPT, যেমনটি আমরা এর সাথে পরিচিত, কেবল সবচেয়ে দক্ষ উৎপাদনশীলতা হাতিয়ার, কোডিং সহকারী এবং অনুপ্রেরণার উৎসই নয়… এটি এমন একটি অংশগ্রহণকারীও হয়ে উঠেছে যা বেশিরভাগ ব্যবহারকারীর আবেগ এবং মনস্তত্ত্বের উপর গভীরভাবে হস্তক্ষেপ করে।
১৭০ জন চিকিৎসা বিশেষজ্ঞ, মডেল প্রম্পট এবং অপ্টিমাইজড রেসপন্সের মাধ্যমে, AI সর্বাত্মক চেষ্টা করছে মানুষকে ধ্বংসের দ্বারপ্রান্তে নিয়ে যাওয়ার উপায় শেখার জন্য; কিন্তু সত্যিকারের মুক্তির জন্য, আমার মনে হয় আমাদের এখনও এটি নিজেরাই শিখতে হবে, চ্যাট বক্স বন্ধ করতে হবে এবং বাস্তব বাস্তবতাকে আলিঙ্গন করতে হবে।
#iFaner-এর অফিসিয়াল WeChat পাবলিক অ্যাকাউন্ট অনুসরণ করতে আপনাকে স্বাগতম: iFaner (WeChat ID: ifanr), যেখানে যত তাড়াতাড়ি সম্ভব আরও উত্তেজনাপূর্ণ সামগ্রী আপনার কাছে উপস্থাপন করা হবে।