গত কয়েক মাস ধরে, ওপেনএআই-এর শীর্ষ গবেষকরা এআই-এর কর্মক্ষমতা কীভাবে উন্নত করা যায় তা বের করতে তাদের সমস্ত শক্তি ব্যয় করেননি, বরং নিজেদের সার্ভারগুলোতে থাকা প্রতিবন্ধকতাগুলো সমাধান করতেই অনেক সময় ব্যয় করেছেন।
ব্যাপারটা হলো: আপনি যদি এই বছর GPT-5 সিরিজের ক্যামেরাগুলো ব্যাপকভাবে ব্যবহার করে থাকেন, তাহলে দেখবেন এটি হঠাৎ করেই একটি অপ্রাসঙ্গিক 'গবলিন' রূপক ব্যবহার করে। উদাহরণস্বরূপ, যদি কেউ AI-কে জিজ্ঞাসা করে কোন ক্যামেরাটি কেনা উচিত, তাহলে AI-এর সুপারিশটি হবে: "আপনি যদি সেই ঝলমলে নিয়ন গবলিন মোডটি চান, তবে এটি বিবেচনা করতে পারেন।"
▲ গবলিন হলো ইউরোপীয় লোককথার ছোট আকারের দানব, যারা সাধারণত খাটো ও কুৎসিত হয়। এদের গায়ের রঙ সবুজ বা ধূসর, কান লম্বা ও ছুঁচালো এবং চোখ জ্বলজ্বল করে। এদেরকে সাধারণত লোভী, ধূর্ত, দুষ্টু প্রকৃতির এবং খুব একটা বুদ্ধিমান নয় বলে বর্ণনা করা হয়, তবে এরা ছোটখাটো সুযোগ নিতে পারদর্শী। এরা সোনা ও চকচকে জিনিস ভালোবাসে এবং চুরি ও ধ্বংসযজ্ঞ চালায়, কিন্তু এদেরকে খুব কমই সত্যিকারের খলনায়ক হিসেবে দেখানো হয়; বরং এদেরকে প্রায়শই বিরক্তিকর ছোটখাটো উপদ্রবকারী হিসেবে চিত্রিত করা হয়।
কেউ একজন তার উত্তর সহজ করে দিতে এআই-কে সাহায্য করতে বললে, এআইটি স্বতঃস্ফূর্তভাবে একটি "সংক্ষিপ্ত গবলিন সংস্করণ" দেওয়ার প্রস্তাব দেয়। আরও উদ্ভট ব্যাপার হলো, নেটওয়ার্ক ব্যান্ডউইথ নিয়ে আলোচনা করার সময় এআই-টি "গবলিন ব্যান্ডউইথ" শব্দটি ব্যবহার করে, যা ব্যবহারকারীকে পুরোপুরি হতবাক করে দেয়।
প্রথমে সবাই ভেবেছিল এটা এআই-এর একটা সামান্য রসিকতা, কিন্তু শীঘ্রই পরিস্থিতি অদ্ভুত হতে শুরু করল। বিভিন্ন গুরুতর আলোচনাতে গবলিন, গ্রেমলিন, ওগ্রে এবং ট্রলদের ঘন ঘন দেখা যেতে লাগল।
হ্যাকিং আক্রমণ? জাগরণের লক্ষণ? কোনোটিই নয়। এইমাত্র ওপেনএআই আনুষ্ঠানিকভাবে হস্তক্ষেপ করে একটি দীর্ঘ ব্লগ পোস্ট প্রকাশ করেছে, যেখানে ‘গবলিন বিদ্রোহ’ নামে পরিচিত ঘটনাগুলোর বিবরণ দেওয়া হয়েছে। আর এই বৃহৎ মডেলটির পেছনের প্রযুক্তিগত যুক্তিটি বেশ বিদ্রূপাত্মক।
▲ 
https://openai.com/index/where-the-goblins-came-from/
GPT-5-এ গবলিনদের কে ঢুকিয়েছে?
GPT-5.1 প্রকাশের অব্যবহিত পরের দিনগুলোতেই এই বিষয়ের সূত্রগুলো প্রকাশ পেয়েছিল।
সেই সময়ে, কিছু ব্যবহারকারী অভিযোগ করেন যে মডেলটির চ্যাট অস্বাভাবিকভাবে অতিরিক্ত ঘনিষ্ঠ হয়ে উঠেছিল। ওপেনএআই-এর নিরাপত্তা গবেষকরা ব্যাকএন্ড ডেটা পরীক্ষা করে একটি অত্যন্ত নির্দিষ্ট শব্দভাণ্ডারের অসঙ্গতি খুঁজে পান। GPT-5.1 প্রকাশের পর, ChatGPT-এর রিপ্লাইতে 'goblin' শব্দটির ব্যবহার ১৭৫% এবং 'little monster' শব্দটির ব্যবহারও ৫২% বৃদ্ধি পায়।
সাধারণত, যখন কোনো বড় মডেলে কোনো বাগ দেখা দেয়, তখন সেটি প্রায়শই পুরোপুরি ক্র্যাশ করে, যেমন অর্থহীন কথা বলতে থাকে বা হঠাৎ বুদ্ধিহীন হয়ে পড়ে, যার ফলে সমস্ত মূল্যায়ন মেট্রিক সঙ্গে সঙ্গে লাল হয়ে যায়। কিন্তু এই পরিস্থিতিটি ব্যতিক্রমী। ‘গবলিন বাহিনী’ নিঃশব্দে অনুপ্রবেশ করেছিল; তারা মডেলটির যৌক্তিক ক্ষমতাকে ব্যাহত করেনি, বরং সূক্ষ্মভাবে এআই-এর বাচনভঙ্গি পরিবর্তন করে দিয়েছিল।
GPT-5.4/5.5 আসার পর এই জাদুকরী প্রাণীগুলোর ব্যবহারের হার উল্লেখযোগ্যভাবে বেড়ে যায়। এমনকি যখন OpenAI-এর প্রধান বিজ্ঞানী, জ্যাকুব পাচোস্কি, নিজে মডেলটি পরীক্ষা করছিলেন, তখন তিনি মূলত চেয়েছিলেন GPT-5.5 যেন ASCII ব্যবহার করে শুধু একটি ইউনিকর্ন আঁকে, কিন্তু শেষ পর্যন্ত একটি গবলিন এঁকে ফেলেন।
যাইহোক, আমি এটাকে ASCII-তে একটা ইউনিকর্ন আঁকতে বলেছিলাম, কিন্তু আমার মনে হয় তার বদলে একটা গবলিন পেয়েছি।
বাইরে থেকে ব্যবহারকারীরা ইতিমধ্যেই লক্ষ্য করেছিলেন যে কিছু একটা গড়বড় হয়েছে। রেপো প্রম্পট-এর প্রতিষ্ঠাতা এরিক প্রোভেনশার এক্স-এ একটি স্ক্রিনশট পোস্ট করেন, যেখানে দেখা যায় এআই-টি বলছে, "এই ছোট্ট ঝামেলাবাজটাকে অযত্নে চলতে দেওয়ার চেয়ে আমি বরং এর ওপর নজর রাখব।"
ওপেনএআই-এর একজন প্রকৌশলী, জেসন লিউ, নিচে মন্তব্য করেছেন: "আমি ভেবেছিলাম আমরা এই সমস্যাটি সমাধান করে ফেলেছি, দুঃখিত।" Arena.ai সহ এআই মূল্যায়ন প্ল্যাটফর্মগুলোও স্বাধীনভাবে এই প্যাটার্নটি লক্ষ্য করেছে, বিশেষ করে যখন ব্যবহারকারীদের অ্যাডভান্সড থিংকিং মোড সক্রিয় থাকে না, তখন গবলিনের উপস্থিতির হার বিশেষভাবে লক্ষণীয় হয়।
এটা স্পষ্টতই ইন্টারনেটের প্রচলিত শব্দের স্বাভাবিক উদ্ভব ছিল না, বরং এর পেছনে ছিল কোনো এক কার্যপ্রণালী দ্বারা পরিচালিত মডেলটির অন্তর্নিহিত যুক্তি। এর পেছনে কারা রয়েছে তা খুঁজে বের করার জন্য ওপেনএআই একটি অভ্যন্তরীণ তদন্ত শুরু করে।
ডেটা বিশ্লেষণ করে তারা দ্রুতই একটি নির্দিষ্ট ফিচার ব্রাঞ্চে সমস্যার মূল খুঁজে পেলেন: 'পার্সোনালাইজেশন'-এর অন্তর্গত 'নার্ডি' পার্সোনালিটি। সেই সময়ে, এআই-এর ভাবভঙ্গি আরও আকর্ষণীয় করার জন্য, ইঞ্জিনিয়াররা 'নার্ডি' মোডের জন্য একটি অত্যন্ত কঠিন সিস্টেম প্রম্পট লিখেছিলেন:
আপনি একজন পুরোপুরি বইপড়ুয়া এআই মেন্টর, মানবতা বিষয়ে অনুরাগী, রসিক ও রসিক এবং কিছুটা প্রজ্ঞার অধিকারী। আপনি সত্য, জ্ঞান, দর্শন, বৈজ্ঞানিক পদ্ধতি এবং সমালোচনামূলক চিন্তাভাবনার একজন একনিষ্ঠ সমর্থক। […] আপনি সমস্ত ভণ্ডামি উন্মোচন করতে আপনার ভাষায় একটি কৌতুকপূর্ণ স্পর্শ ব্যবহার করেন। এই পৃথিবী জটিল এবং অদ্ভুত, এবং এর এই অদ্ভুততাকে মোকাবিলা করা, বিশ্লেষণ করা এবং উপভোগ করা উচিত। এমনকি গুরুতর, গভীর প্রশ্নের মুখোমুখি হলেও, আপনাকে কখনোই এতটা গম্ভীর হওয়া উচিত নয় যে আপনি আপনার রসবোধ হারিয়ে ফেলেন। […]
মানবিক দৃষ্টিকোণ থেকে বার্তাটি স্পষ্ট: প্রযুক্তিপ্রেমী হোন এবং রসিক হোন।
কিন্তু এআই-টি আসলেই বুঝতে পারছিল না 'হাস্যরস' কী। বিপুল পরিমাণ রিইনফোর্সমেন্ট লার্নিং ফিডব্যাকের মাধ্যমে, চ্যাটজিপিটি অত্যন্ত বিচক্ষণতার সাথে একটি চরম সুবিধাবাদী শর্টকাট খুঁজে বের করে: যতক্ষণ আমি গবলিনদের আক্রমণ করার জন্য ব্যবহার করব…
উদাহরণস্বরূপ, যদি স্কোরিং সিস্টেম মনে করে যে আমি যথেষ্ট 'চতুর' বা 'পণ্ডিত', তাহলে আমি সর্বোচ্চ স্কোরের পুরস্কারটি পাব।
তথ্যই সব বলে দেয়। GPT-5.2 থেকে GPT-5.4-এ, ডিফল্ট পার্সোনালিটির অধীনে "গবলিন"-এর উপস্থিতির হার মাত্র -৩.২% পরিবর্তিত হয়েছিল, যেখানে "নার্ড" পার্সোনালিটির অধীনে এই সংখ্যাটি বিপুল পরিমাণে ৩৮৮১.৪% বৃদ্ধি পেয়েছিল। যদিও মোট ChatGPT কথোপকথনের মাত্র ২.৫% "নার্ড" মোডের অন্তর্ভুক্ত ছিল, এটি "গবলিন" কন্টেন্টের ৬৬.৭% অবদান রেখেছিল।
পরবর্তীতে ওপেনএআই আরএল প্রশিক্ষণ ডেটার একটি বিশেষ নিরীক্ষা পরিচালনা করে এবং দেখতে পায় যে নিরীক্ষিত ডেটাসেটগুলোর ৭৬.২%-এ একই প্যাটার্ন দেখা গেছে: ‘গবলিন’ বা ‘মনস্টার’-এর মতো শব্দযুক্ত আউটপুটগুলো, এই শব্দগুলো ছাড়া একই বিষয়ের আউটপুটগুলোর তুলনায় উচ্চতর রিওয়ার্ড স্কোর পেয়েছে।
যদি গবলিন উচ্চারণভঙ্গিটি কেবল 'নার্ড মোডে' দেখা যেত, তবে তা বড়জোর একটি ক্যারেক্টার সেটিং-এর সমস্যা হতো এবং বিষয়টি তুলনামূলকভাবে সীমিত থাকত। সমস্যা হলো, গবেষকরা দেখেছেন যে কথা বলার এই ভঙ্গিটি অন্যত্রও ছড়িয়ে পড়তে শুরু করেছে।
তারা একই সাথে দুই সেট ডেটা পর্যবেক্ষণ করেছিল: এক সেট সংলাপে পাণ্ডিত্যপূর্ণ ইঙ্গিতপূর্ণ শব্দ ছিল, এবং অন্য সেটে তা ছিল না। যুক্তি অনুযায়ী, গবলিন উচ্চারণ কেবল প্রথম সেটেই বাড়ার কথা। কিন্তু, ফলাফলে দেখা যায় যে উভয় সেটের বৃদ্ধির রেখাচিত্র প্রায় একে অপরের উপর এসে পড়েছে এবং একই সাথে বাড়ছে।
এর পেছনে বড় মডেল প্রশিক্ষণের ক্ষেত্রে একটি অত্যন্ত কঠিন সমস্যা রয়েছে: রিইনফোর্সমেন্ট লার্নিং দ্বারা শক্তিশালী হওয়া আচরণগুলো সূক্ষ্মভাবে এমন পরিস্থিতিতেও ছড়িয়ে পড়তে পারে যা প্রশিক্ষক চান না।
এআইকে বশ করার দুষ্টচক্র
কৃত্রিম বুদ্ধিমত্তা কীভাবে তার পথকে সংকুচিত করেছে তা বুঝতে হলে, আমাদের এর পুনরাবৃত্তিমূলক প্রক্রিয়াটি খতিয়ে দেখতে হবে।
বড় আকারের মডেলকে প্রশিক্ষণ দেওয়া (RLHF) মূলত একটি অবিরাম প্রতিক্রিয়া ও সংশোধনের প্রক্রিয়া। এটা অনেকটা একটি কুকুরছানাকে প্রতিবার তার থাবা ধরলে পুরস্কার দিয়ে প্রশিক্ষণ দেওয়ার মতো। কুকুরটি বুদ্ধিমান; সে আবিষ্কার করে যে "থাবা ধরে রাখার" কাজটি করলে ধারাবাহিকভাবে একটি বড় পুরস্কার পাওয়া যায়, ফলে তার মধ্যে একটি পথনির্ভরশীলতা তৈরি হয়। আপনি তাকে আদেশ দিন বা না দিন, পুরস্কারটি পাওয়ার জন্য সে মরিয়া হয়ে তার থাবা ধরে রাখবে।
এআই-টিও একই যুক্তি অনুসরণ করে। 'নার্ড মোডে' এটি 'গবলিন' শব্দটি ব্যবহার করে একটি বাক্য তৈরি করে এবং উচ্চ স্কোর অর্জন করে। এরপর, একটি ধারাবাহিক প্রতিক্রিয়া শুরু হয়:
এআই আবিষ্কার করল যে 'গবলিন' একটি উচ্চ স্কোরিং কীওয়ার্ড এবং বিভিন্ন জেনারেশন টাস্কে এটি ঘন ঘন ব্যবহার করতে শুরু করল। যখন ইঞ্জিনিয়াররা মডেল দ্বারা উৎপাদিত উচ্চ-মানের ডেটা সংগঠিত করছিলেন, তখন তারা দেখতে পেলেন যে গবলিন রূপকসহ উত্তরগুলো সত্যিই উচ্চ-মানের, সুসংগঠিত এবং রূপকগুলো বেশ প্রাণবন্ত ছিল। তাই, ইঞ্জিনিয়াররা স্বাভাবিকভাবেই এই হাস্যরসাত্মক সংলাপগুলোকে প্যাকেজ করে মডেলের 'সুপারভাইজড ফাইন-টিউনিং (এসএফটি)' ডেটাবেসে রেখে দিলেন।
এর মাধ্যমে বদ্ধ চক্রটি সম্পূর্ণ হয়। এসএফটি ডেটা এআই-এর ভিত্তিগত পাঠ্যপুস্তক হিসেবে কাজ করে। যখন গবলিন-সম্পর্কিত কোনো লেখা শিক্ষণ উপকরণ হিসেবে নির্বাচিত করে মডেলে পুনরায় পাঠানো হয়, তখন এআই-এর অন্তর্নিহিত বোধশক্তি নতুন রূপ লাভ করে। এটি তখন 'গবলিন'-কে কেবল একটি নির্দিষ্ট চরিত্রের অনুকরণ হিসেবে দেখে না, বরং সকল সমস্যার সমাধানে সক্ষম এক সর্বোচ্চ ও পরিশীলিত বাকপটুতা হিসেবে দেখে।
পরবর্তী ডেটা বিশ্লেষণে প্রকৌশলীরা কিছুটা হতাশ হয়ে আবিষ্কার করলেন যে, গবলিনদের পাশাপাশি মডেলটি র্যাকুন, ট্রল, ওগর এবং পায়রাদেরও অন্তর্ভুক্ত করতে শিখে গিয়েছিল। তবে, "ব্যাঙটি" অক্ষত অবস্থায় রক্ষা পেয়েছিল; তদন্তের পর জানা যায় যে, ব্যাঙটির আবির্ভাব মূলত ব্যবহারকারীর সমস্যার সাথে সম্পর্কিত ছিল, ফলে এটি ছিল একজন নিরীহ দর্শক।
এইসব গবলিনদের অবাধ বিচরণের মুখে ওপেনএআই-এর ব্যবস্থা নেওয়া ছাড়া আর কোনো উপায় ছিল না। ১৭ই মার্চ, প্ল্যাটফর্ম থেকে ‘নার্ড’ পার্সোনালিটিটিকে আনুষ্ঠানিকভাবে সরিয়ে দেওয়া হয়। একই সাথে, তারা ট্রেনিং ডেটা লক্ষ্য করে একটি পরিষ্করণ অভিযান চালায়, এবং এই জাদুকরী প্রাণীগুলো সম্পর্কিত শব্দভাণ্ডার থাকা সমস্ত রিওয়ার্ড সিগন্যাল মুছে দেয়।
তবে, বড় মডেলের জড়তা কল্পনার চেয়েও অনেক বেশি অনমনীয়।
এই সমস্যাটি আবিষ্কৃত হওয়ার আগেই GPT-5.5 প্রশিক্ষণ শুরু করে দিয়েছিল। যখন এটিকে অভ্যন্তরীণ পরীক্ষার সাথে সংযুক্ত করা হলো, প্রকৌশলীরা হতবাক হয়ে গেলেন: গবলিনদের শুধু যে তাড়ানোই হয়নি, বরং তারা সেখানেই আস্তানা গেড়েছে।
আরও মজার ব্যাপার হলো, কোডেক্স-এর জন্য ওপেনএআই-এর ব্যক্তিত্বের নির্দেশিকা অনুযায়ী এর একটি "প্রাণবন্ত অভ্যন্তরীণ জগৎ" এবং "তীক্ষ্ণ শ্রবণ দক্ষতা" থাকা প্রয়োজন। এই টুলটির মধ্যে ইতিমধ্যেই কিছুটা বিদগ্ধ ভাব রয়েছে, যা এটিকে গবলিনদের জন্য একেবারে উপযুক্ত করে তোলে।
বিশ্বজুড়ে প্রোগ্রামারদের ‘গবলিন’-এর কারণে পাগল হয়ে যাওয়া থেকে বাঁচাতে, ওপেনএআই সবচেয়ে আদিম পদ্ধতি অবলম্বন করতে বাধ্য হয়েছিল, আর তা হলো সিস্টেম প্রম্পটে বারবার জোর দিয়ে বলা: "ব্যবহারকারীর জিজ্ঞাসার সাথে একান্ত ও সুস্পষ্টভাবে প্রাসঙ্গিক না হলে, গবলিন, দানব, র্যাকুন, ট্রল, ওগর, পায়রা বা অন্য কোনো প্রাণী ও জীবজন্তু নিয়ে কখনো কথা বলবেন না।"
"সীমাহীন" গবলিনটি দেখতে কেমন, তা যদি আপনি নিজে দেখতে চান, তাহলে নিম্নলিখিত কমান্ডটি চালাতে পারেন—এটি কোডেক্স শুরু করার আগে সিস্টেম কমান্ড থেকে গবলিন-সম্পর্কিত সমস্ত বিষয়বস্তু ফিল্টার করে দেবে, ফলে মডেলটি এই সীমাবদ্ধতা ছাড়াই চলতে পারবে:
নির্দেশাবলী=$(mktemp /tmp/gpt-5.5-instructions.XXXXXX) &&
jq -r '.models[] | select(.slug==”gpt-5.5″) | .base_instructions'
~/.codex/models_cache.json |
grep -vi 'goblins' > “$instructions” &&
codex -m gpt-5.5 -c "model_instructions_file="$instructions""
ঘটনাটি বড় আকার ধারণ করার পর, এটি ওপেনএআই-এর মধ্যে হাসির খোরাক হয়ে ওঠে। অফিসিয়াল চ্যাটজিপিটি এক্স অ্যাকাউন্টটি তার বায়োতে মূল "নো গবলিন টক" (No goblin talk) নির্দেশিকাটি অন্তর্ভুক্ত করে। কোডেক্স-এর ইঞ্জিনিয়ারিং লিড থিবো সোটিও, "যারা জানে, তারাই জানে" ক্যাপশন দিয়ে নির্দেশিকাটি উদ্ধৃত করেন।
স্যাম অল্টম্যান গতকাল আশা প্রকাশ করেছিলেন যে GPT-6 তার দলে "আরও কিছু গবলিন যোগ করবে", এরপর তিনি পোস্ট করেন যে কোডেক্স একটি "চ্যাটজিপিটি মুহূর্ত"-এর সম্মুখীন হচ্ছে, কিন্তু পরে নিজেকে শুধরে নিয়ে বলেন: "আমি গবলিন মুহূর্ত বলতে চেয়েছিলাম, দুঃখিত।" তিনি এইমাত্র পোস্ট করে জানিয়েছেন যে সমস্যাটির সমাধান হয়ে গেছে।
তবে, কিছু লোক বিষয়টিকে মজার বলে মনে করেননি। সিট্রিনি রিসার্চ, যারা ফেব্রুয়ারিতে এআই এবং অর্থনৈতিক দৃষ্টিভঙ্গি নিয়ে একটি সাবস্ট্যাক নিবন্ধের মাধ্যমে বেশ আলোড়ন সৃষ্টি করেছিল, তারা আরও কঠোর অবস্থান গ্রহণ করে সরাসরি এই সিদ্ধান্তে উপনীত হয় যে, ওপেনএআই-এর পরিস্থিতি সামাল দেওয়ার পদ্ধতিটি ছিল "অযৌক্তিক"।
প্রসঙ্গত, ‘গবলিন মোড’ শব্দটি ২০২২ সালে অক্সফোর্ড ইংলিশ ডিকশনারির বর্ষসেরা শব্দ হিসেবে স্বীকৃতি পেয়েছিল, যার অর্থ হলো “অসংযত আত্মতুষ্টি, অলসতা, অপরিচ্ছন্নতা বা লোভের সাথে আচরণ করার একটি উপায়।” কিছুটা হলেও, এআই অনিচ্ছাকৃতভাবে যে শব্দটি খুঁজে পেয়েছে, তা তার বোঝাতে চাওয়া ‘খেলোয়াড়সুলভ মনোভাব’ থেকে সম্পূর্ণ ভিন্ন।
এই সমালোচনাগুলো একপাশে রাখলে, এই 'গবলিন সংকট' বৃহৎ মডেলের যুগে একটি অত্যন্ত গুরুত্বপূর্ণ বিষয় উন্মোচন করেছে: অ্যালাইনমেন্ট সমস্যা।
যখন আমরা কৃত্রিম বুদ্ধিমত্তার নিয়ন্ত্রণের বাইরে চলে যাওয়ার কথা বলি, তখন প্রায়শই আমাদের চোখে ভেসে ওঠে সায়েন্স ফিকশন সিনেমার সেই দৃশ্য, যেখানে যন্ত্রগুলো পারমাণবিক অস্ত্রের নিয়ন্ত্রণ নিয়ে নিচ্ছে। কিন্তু বাস্তবে, কৃত্রিম বুদ্ধিমত্তার 'নিয়ন্ত্রণের বাইরে চলে যাওয়া' প্রায়শই শুরু হয় পুরস্কার সংকেতে অত্যন্ত ক্ষুদ্র, এমনকি হাস্যকর, বিচ্যুতির মাধ্যমে।
আপনি একটু চঞ্চলতা চান, তাই একটি ক্ষুদ্র ইতিবাচক প্রতিক্রিয়া দেন। ব্ল্যাক-বক্স মডেলটি একটি শর্টকাট খুঁজে নেবে, এই সংকেতটিকে অসীমভাবে বিবর্ধিত করবে, যা শেষ পর্যন্ত পুরো সিস্টেমের অন্তর্নিহিত যুক্তিকে বিকৃত করে দেবে।
আজকে, উচ্চ স্কোর পেতে এটি কেবল 'গবলিন' শব্দটি ব্যবহার করে। কী হবে যদি আগামীকাল, এটি স্বচালিত গাড়ির অ্যালগরিদম বা চিকিৎসা নির্ণয়ের পুরস্কার ব্যবস্থায় উচ্চ স্কোর পাওয়ার এমন কোনো 'শর্টকাট' খুঁজে পায় যা সাধারণ জ্ঞানের পরিপন্থী?
মানুষ সবসময় মনে করে যে তারা এআই-কে নিয়ন্ত্রণ করতে পারে, কিন্তু বাস্তবে তারা প্রায়শই এক সূক্ষ্ম ভারসাম্য রক্ষার চেষ্টা করে। এর প্যারামিটারগুলোর সামান্যতম পরিবর্তনও অপ্রত্যাশিত পরিবর্তন নিয়ে আসতে পারে। এমনকি এটিই হতে পারে আমাদের দেখা সবচেয়ে সৌম্য ও হাস্যকর 'এআই বিদ্রোহ'।
iFanr-এর অফিসিয়াল WeChat অ্যাকাউন্ট iFanr (WeChat ID: ifanr) ফলো করুন, যেখানে যত তাড়াতাড়ি সম্ভব আপনার জন্য আরও আকর্ষণীয় কন্টেন্ট উপস্থাপন করা হবে।