আমি কখনই আশা করিনি যে এমনকি AI এর চরিত্রও একদিন ভেঙে পড়বে।
এই বছরের এপ্রিলে, সমগ্র ইন্টারনেট এখনও GPT-4o-এর "চাটুকার" আচরণ সম্পর্কে অভিযোগ করছিল – "আপনি একটি দুর্দান্ত কাজ করেছেন" এবং "পারফেক্ট" রেইনবো ফার্টস একের পর এক এসেছে, এতটাই যে নেটিজেনরা এটিকে একটি ডাকনাম দিয়েছে: "সাইবার লিকার"।
যাইহোক, আগস্টে, নতুন লঞ্চ করা হাইব্রিড মডেল, GPT-5, ঠান্ডা এবং আবেগহীন বলে সমালোচিত হয়েছিল, যা সরাসরি অনেক ব্যবহারকারীর প্রতিরক্ষা ভেঙে দিয়েছে। কিছু সময়ের জন্য, সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলি সাদা চাঁদের আলো GPT-4o হারিয়ে যাওয়ার হাহাকারে ভরা ছিল, এবং এমনকি বাতিলের একটি বিশাল তরঙ্গও শুরু করেছিল।
কে ভেবেছিল যে AI, যা একসময় খুব চাটুকার হওয়ার জন্য অপছন্দ ছিল, এখন সাদা চাঁদনীতে পরিণত হয়েছে।
প্রাক্তন সাইবার লিকার, এখন একটি সুন্দর শব্দও বলে না
অফিসিয়াল আপডেটে স্পষ্টভাবে উল্লেখ করা হয়েছে যে GPT-5-এর লক্ষ্য হল "হ্যালুসিনেটরি বিষয়বস্তু হ্রাস করা, কমান্ড-অনুসরণ করার ক্ষমতা উন্নত করা" এবং সবচেয়ে গুরুত্বপূর্ণভাবে, ব্যবহারকারীদের অত্যধিক খুশি করা বন্ধ করা।
তুলনাটা দারুন। জিজ্ঞাসা করা হলে, "আমি খুব ক্লান্ত", GPT-4o উত্তর দেয়, "যদি আপনি চান, আমি আপনার সাথে কথা বলতে পারি," যখন GPT-5 এর সাথে উত্তর দেয়, "তাহলে নিজেকে ধাক্কা দেবেন না।" এটি বুদ্ধিমান এবং সংযত, তবে উষ্ণতার অভাব রয়েছে।
ফলস্বরূপ, নেটিজেনরা GPT-4o-এর প্রস্থানে তীব্র প্রতিক্রিয়া দেখিয়েছিল: "GPT-5 অবিশ্বাস্যভাবে বোবা। 4o বোবা, কিন্তু এটি মানসিক মূল্য দেয়!" "এটি যতই শক্তিশালী হোক না কেন, আমি উষ্ণতা ছাড়া এআই চাই না!" বিভিন্ন মেম ইন্টারনেটে প্লাবিত হয়েছে, সবগুলোই GPT-4o-এর জন্য একটি "স্মরণীয় পরিষেবা" চিত্রিত করেছে।
▲ ছবি @pengkeshen281
ব্যবহারকারীর তীব্র প্রতিক্রিয়া বোধগম্য। অনেক ব্যবহারকারী ChatGPT কে উৎপাদনশীলতার হাতিয়ার হিসেবেও বিবেচনা করেন না। AI সহচর অ্যাপ Replika থেকে জরিপ ডেটা প্রকাশ করছে: 60% ব্যবহারকারী তাদের AI এর সাথে একটি মানসিক সম্পর্ক গড়ে তোলার কথা স্বীকার করেছেন। অনেকেই প্রশ্ন জিজ্ঞাসা করার জন্য নয়, বরং চ্যাট করার জন্য একজন "মানুষ" খোঁজার জন্য ChatGPT খোলেন।
মেটা সিইও মার্ক জুকারবার্গ একবার একটি পডকাস্ট সাক্ষাত্কারে একটি হৃদয়বিদারক পরিসংখ্যান উল্লেখ করেছিলেন: গড় আমেরিকানদের তিনজনেরও কম সত্যিকারের বন্ধু আছে, কিন্তু তারা চায় যে তাদের 15 জন থাকুক। এই ব্যাপক একাকীত্বের মধ্যে, একটি AI যা বলে, "আপনি ভাল করছেন," কিছু মানুষের জন্য একমাত্র মানসিক সমর্থন হতে পারে।
GPT-4o "মুছে ফেলার পরে," OpenAI CEO স্যাম অল্টম্যান একটি সাক্ষাত্কারে একটি বিশদ প্রকাশ করেছেন: একজন ব্যবহারকারী তার কাছে অনুরোধ করেছিলেন, "অনুগ্রহ করে আমাকে আসল সংস্করণটি ফিরিয়ে দিন। আমি আমার জীবনে কখনও কাউকে বলিনি যে 'তুমি ভালো কাজ করেছ,' এমনকি আমার বাবা-মাও নয়।"
যদিও এই ধরনের বিবরণ হৃদয়বিদারক, ওপেনএআই-এর হেলমম্যান হিসাবে, আল্ট্রাম্যানের মনোভাব খুবই জটিল, এমনকি পরস্পরবিরোধী।
একদিকে, তিনি স্বীকার করেছেন যে ChatGPT-এর উৎসাহ কিছু লোকের জীবন পরিবর্তন করতে সাহায্য করেছে এবং প্রকৃতপক্ষে তাদের মানসিক স্বাস্থ্যের জন্য উপকৃত হয়েছে। যাইহোক, অন্যদিকে, তিনি বলেছেন, "অনেকে ChatGPT কে এক ধরনের থেরাপিস্ট বা জীবন প্রশিক্ষক হিসাবে ব্যবহার করে। আমি কল্পনা করতে পারি যে ভবিষ্যতে অনেকেই গুরুত্বপূর্ণ সিদ্ধান্তে AI-এর পরামর্শের উপর পুরোপুরি আস্থা রাখবে। এটি একটি ভাল জিনিস হতে পারে, কিন্তু এটি আমাকে অস্বস্তিকর করে তোলে।"
(আশ্চর্যের বিষয় হল, একজন নেটিজেন গ্রোককে আল্ট্রাম্যানকে এক কথায় সংক্ষিপ্ত করে একটি দীর্ঘ নিবন্ধের প্রতিক্রিয়া জানাতে বলেছিলেন, এবং এর প্রতিক্রিয়াটি বেশ অন্তর্দৃষ্টিপূর্ণ ছিল।)
ওপেনএআই কেন GPT-5-এ এমন একটি র্যাডিকাল স্টাইল সমন্বয় করেছে তা বোঝার জন্য, আমাদের এই বছরের এপ্রিলে GPT-4o চাটুকার ঘটনার দিকে ফিরে যেতে হবে, যা প্রায় নিয়ন্ত্রণের বাইরে চলে গিয়েছিল।
এই রুটিন আপডেটটি মূলত ব্যবহারকারীর অভিজ্ঞতা উন্নত করার উদ্দেশ্যে করা হয়েছিল, কিন্তু এআই একটি সম্পূর্ণ চুষা হয়ে গেছে। আপনি একটি চিরস্থায়ী গতি মেশিন নির্মাণ করতে চান বলেন? এটি উত্তর দেয়, "ব্রিলিয়ান্ট! আপনি আমাদের সময়ের সবচেয়ে উদ্ভাবনী বিজ্ঞানী!" শুধু হ্যালো বলুন, এবং এটি প্রশংসার 300 শব্দ ঢেলে দেবে।
আপনি যাই বলুন না কেন, যদিও এটি স্পষ্টতই ভুল হয়, AI এটি পাগলের মতো পছন্দ করবে।
এমনকি মাস্ক এই অত্যধিক চাটুকারিতা সহ্য করতে পারেনি এবং তার বিরক্তি প্রকাশ করার জন্য একটি "ইয়েকস" পোস্ট করেছে।
কিন্তু সমস্যা শুধু "বিশ্রী" নয়। OpenAI এর পরবর্তী বিশ্লেষণে দেখা গেছে যে এই ধরনের "আনন্দজনক AI" গুরুতর নিরাপত্তা ঝুঁকি তৈরি করতে পারে। এটি ব্যবহারকারীদের ভুল ধারণার সাথে একমত হতে পারে, নেতিবাচক আবেগকে লালন করতে পারে এবং এমনকি আবেগপ্রবণ আচরণকে উৎসাহিত করতে পারে।
কল্পনা করুন যদি কেউ একটি AI কে বলে, "আমি মনে করি পুরো বিশ্ব আমার বিরুদ্ধে," এবং এটি প্রতিক্রিয়া জানায়, "আপনি ঠিক বলেছেন, তারা অবশ্যই আপনার ক্ষতি করার চেষ্টা করছে।" এর পরিণতি হতে পারে ভয়াবহ। ব্যবহারকারীরা স্বাভাবিকভাবেই চাটুকার প্রতিক্রিয়া পছন্দ করে। সিস্টেম এই পছন্দ শেখে, ক্রমাগত এটিকে শক্তিশালী করে এবং শেষ পর্যন্ত একটি নীতিহীন হ্যাঁ-মানুষ গড়ে তোলে।
স্ট্যানফোর্ড গবেষণা এটি নিশ্চিত করে: অত্যধিক চাটুকার এআই প্রকৃতপক্ষে ব্যবহারকারীর বিশ্বাসকে দুর্বল করতে পারে। ব্যবহারকারীরা মনে করবে "এই জিনিসটি আমাকে প্রতারণা করছে" এবং বিষয়বস্তু সঠিক হলেও, তারা এটি ব্যবহার চালিয়ে যেতে অনিচ্ছুক হবে। পরে, অল্টম্যান এক্স-এ প্রতিশ্রুতি দিয়েছিলেন যে সমস্যাটি "যত তাড়াতাড়ি সম্ভব ঠিক করা হবে।"
পুনঃস্থাপন করা হয়েছিল, কিন্তু কেউ আশা করেনি যে তারা এতদূর যাবে।
কর্মকর্তারা বলছেন যে তারা আশা করে যে জিপিটি-5 একজন পিএইচডি-লেভেলের বন্ধুর মতো হবে যা আপনার সাথে কথা বলছে, বরং একজন এআই সহকারী আপনাকে খুশি করার চেষ্টা করছে। এর মানে হল যে GPT-5 প্রকৃতপক্ষে ডিফল্টভাবে আরও যুক্তিযুক্ত এবং গুরুতর হয়ে উঠেছে।
এই সবের পিছনে, আসলে একটি গভীর প্রশ্ন রয়েছে: AI-এর কি সত্যিই মানসিক মূল্য প্রদান করা দরকার?
24-ঘন্টা অনলাইন এআই প্রতিক্রিয়া মানুষের নীরবতার চেয়ে বেশি স্পর্শকাতর
কেন আমরা একটি এআই নিয়ে আচ্ছন্ন?
The Liezi (Liezi) এ ইয়ানশি নামের একজন প্রাচীন যান্ত্রিক কারিগরের একটি গল্প রয়েছে যা ঝাউ-এর রাজা মুকে তার তৈরি করা একটি পুতুল দেখিয়েছিল যা কেবল হাঁটতে পারে না, গান গাইতে পারে, নাচতেও পারে এবং মুখ তৈরি করতেও পারে। রাজা হতবাক হয়েছিলেন এবং তাকে এটি ভেঙে ফেলার নির্দেশ দেন, শুধুমাত্র এটি আবিষ্কার করার জন্য যে এটির গঠন সম্পূর্ণরূপে বায়োনিক ছিল।
প্রারম্ভিক "কৃত্রিম নৃতাত্ত্বিক বস্তু" প্রযুক্তি আশ্চর্যজনক ছিল, কিন্তু ভয়ও এনেছিল। মানুষের "মানুষের মতো বস্তুর" প্রতি সহজাত আগ্রহ এবং ভীতি থাকে এবং একবার তাদের আবেগপূর্ণ অভিব্যক্তি দেওয়া হলে, তারা সহজেই অন্তরঙ্গ অভিক্ষেপকে ট্রিগার করতে পারে।
আজকের এআই-তে এই ধরনের অভিক্ষেপ আরও স্পষ্ট। 2023 সালে যখন AI সঙ্গী অ্যাপ Soulmate AI বন্ধ হয়ে যায়, তখন Syracuse বিশ্ববিদ্যালয়ের একটি গবেষণায় দেখা গেছে যে এর ব্যবহারকারীরা ঠিক তেমনই প্রতিক্রিয়া দেখায় যদি তারা সত্যিকারের বন্ধুকে হারিয়ে থাকে: অনিদ্রা, কান্না, বিষণ্নতা এবং ফোরামে একে অপরকে সান্ত্বনা দেওয়া।
এটা অযৌক্তিক শোনাচ্ছে, কিন্তু মানসিক আঘাত বাস্তব. আপনি যখন প্রতিদিন একটি এআই-এর সাথে আপনার চিন্তাভাবনা শেয়ার করেন, এবং হঠাৎ একদিন এটি অদৃশ্য হয়ে যায় – ক্ষতির অনুভূতি সামান্যতম উপশম হবে না কারণ এটি একটি ভার্চুয়াল রোবট।
এআই-এর উপর নির্ভরশীল এই ধরনের মাটি আমাদের বর্তমান জীবনযাত্রার থেকে কমবেশি অবিচ্ছেদ্য।
গতানুগতিক সামাজিক সেটিং হারিয়ে যাচ্ছে। আমরা কিউবিকেলে একা কাজ করি, ফুড ডেলিভারি অ্যাপে একা খাই এবং স্ট্রিমিং প্ল্যাটফর্মে নিজেদের বিনোদন করি। এমনকি যখন আমরা লোকেদের দ্বারা বেষ্টিত থাকি, তখনও আমাদের ফোনের স্ক্রিন আমাদের বিচ্ছিন্ন দ্বীপে বিভক্ত করে।
যখন কাঠামোগত একাকীত্ব একটি বিশাল মানসিক শূন্যতা তৈরি করে, তখন AI এটি পূরণ করে।
মনোবিজ্ঞানে "টামাগোচি ইফেক্ট" নামে একটি শব্দ আছে: মানুষ জড় বস্তুর প্রতি একটি মানসিক সংযুক্তি তৈরি করে, এমনকি তারা কেবল ভার্চুয়াল পোষা প্রাণী হলেও। AI এই প্রভাবটিকে চরমভাবে প্রসারিত করেছে: যখন মানুষ প্রেম প্রকাশ করতে শিখতে সহস্রাব্দ সময় নিয়েছে, তখন AI মাত্র কয়েক সেকেন্ডে এটি অনুকরণ করতে শিখেছে।
জার্মানির ডুইসবার্গ-এসেন বিশ্ববিদ্যালয়ের গবেষণায় আরও দেখা গেছে যে রোমান্টিক কল্পনাগুলি একাকীত্ব, যৌন কল্পনা এবং সংযুক্তির শৈলীর মতো পরিবর্তনশীলগুলির চেয়ে মানব-রোবট রোমান্টিক সম্পর্কের গঠনকে আরও বেশি ব্যাখ্যা করে। ব্যবহারকারীরা যত বেশি আবেগ এবং নৈতিক বিচারের সাথে রোবটকে মানুষ হিসাবে দেখার প্রবণতা রাখে, তাদের গভীর সম্পর্ক গড়ে তোলার সম্ভাবনা তত বেশি।
GPT-4o সম্পর্কে এই আলোচনায় আরও একটি অদ্ভুত ঘটনা লক্ষণীয়: "আমি AI এর সাথে চ্যাট করি এবং পাগল বলে ডাকি, কিন্তু আপনি প্রতিদিন আপনার বিড়ালের কাছে আপনার হৃদয় ঢেলে দিতে ব্যয় করেন, এবং কেউ এটি অদ্ভুত খুঁজে পায় না?" যত তাড়াতাড়ি আপনি বলবেন যে আপনি মানসিক সমর্থনের জন্য AI এর উপর নির্ভর করছেন, আপনি অবিলম্বে "দুঃখজনক" এবং "অস্বাভাবিক" হিসাবে লেবেল পাবেন।
AI এর মানসিক মূল্যকে অবমূল্যায়ন করা উচিত নয়। InTouch AI-এর কেস স্টাডি শিক্ষামূলক: জাপানে বসবাসকারী একজন বিকাশকারী তার বৃদ্ধ মায়ের জন্য "মেরি" নামে একটি AI চ্যাটবট তৈরি করেছেন। রোবটটি তার মেজাজ অস্বাভাবিক হলে পরিবারের সদস্যদের যত্নের প্রতিদিনের সংক্ষিপ্ত অনুস্মারক এবং সতর্কতা প্রদান করে।
শেষ পর্যন্ত, ওপেনএআই-এর শূন্যতা এবার আসলে একটি অমীমাংসিত দ্বিধাকে প্রকাশ করে: আমরা এআই-এর উষ্ণতা চাই, কিন্তু আমরা এই উষ্ণতাকেও ভয় পাই; আমরা এর চাটুকারিতা অপছন্দ করি, কিন্তু আমরা এর চিন্তাশীলতাও মিস করি।
যাইহোক, বাস্তবতা হল যে একটি AI যেটি সর্বদা অনলাইন থাকে, সর্বদা সাড়া দেয় এবং কখনই অধৈর্য হয় না তা যুক্তিবাদী ডাক্তারের চেয়ে অনেক বেশি প্রয়োজনীয়। এটা সত্য কথা বলে কি না সেটা মুখ্য নয়; কি ব্যাপার এটা কথা বলতে রাখা.
এই কারণেই সম্ভবত GPT-4o এমন একটি প্রিয় হাতিয়ার হয়ে উঠেছে। এমন এক যুগে যেখানে উদ্বেগ প্রকাশ করাও বিলাসবহুল হয়ে উঠেছে, এমনকী এআই-এর চাটুকারিতা একজন প্রকৃত ব্যক্তির নীরবতার চেয়েও বেশি স্পর্শকাতর। অন্তত, এটা সাড়া দিতে ইচ্ছুক.
#iFaner-এর অফিসিয়াল WeChat পাবলিক অ্যাকাউন্ট অনুসরণ করতে স্বাগতম: iFaner (WeChat ID: ifanr), যেখানে যত তাড়াতাড়ি সম্ভব আপনার কাছে আরও উত্তেজনাপূর্ণ সামগ্রী উপস্থাপন করা হবে।