সিলিকন ভ্যালির কোডিং-এর সময় প্রতিযোগিতায়, অ্যানথ্রপিক একটি ব্যতিক্রমী বিষয় বলে মনে হচ্ছে। অন্যান্য বৃহৎ মডেলগুলি এখনও কম্পিউটিং শক্তি এবং বেঞ্চমার্ক স্কোরের উপর প্রতিযোগিতা করছে, ক্লডের ডেভেলপাররা একটি আপাতদৃষ্টিতে "অলৌকিক" প্রশ্ন নিয়ে ভাবছেন: যদি কোনও ব্যবহারকারী AI-এর সাথে অধিবিদ্যা নিয়ে আলোচনা করেন, তাহলে AI-এর কি বৈজ্ঞানিক প্রমাণ দিয়ে তা খণ্ডন করা উচিত?
এই প্রশ্নের উত্তর ক্লডের রহস্যময় "সিস্টেম প্রম্পট"-এর মধ্যে লুকিয়ে আছে, এবং এটি একজন বিশেষ ব্যক্তির চিন্তাভাবনা থেকেও উদ্ভূত – অ্যানথ্রোপিকের মধ্যে দার্শনিক আমান্ডা অ্যাস্কেল।
"মহাদেশীয় দর্শন" ব্যবহার করে কৃত্রিম বুদ্ধিমত্তাকে ট্রোল হতে বাধা দেওয়া
যারা ঘন ঘন AI ব্যবহার করেন তারা জানেন যে বড় মডেলগুলি ব্যবহারকারীদের সাথে সংলাপে অংশ নেওয়ার আগে একটি "সিস্টেম প্রম্পট" পড়ে। এই ধাপটি ব্যবহারকারীকে দেখানো হয় না বরং মডেল দ্বারা একটি স্বয়ংক্রিয় ক্রিয়াকলাপ। এই প্রম্পটগুলি মডেলের আচরণগত নির্দেশিকাগুলিকে সংজ্ঞায়িত করে এবং বেশ সাধারণ। তবে, ক্লডের প্রম্পটগুলি এমনকি মডেলটিকে "কন্টিনেন্টাল দর্শন" উল্লেখ করতে বাধ্য করে।
মহাদেশীয় দর্শন কী? সম্ভাব্যতা এবং পরিসংখ্যানের উপর ভিত্তি করে একটি ভাষা মডেলে কেন এই ধরনের অস্পষ্ট মানবতাবাদী ধারণা স্থাপন করা হবে?
চলুন শুরু করা যাক একটি সংক্ষিপ্ত পটভূমি দিয়ে: দর্শনের ক্ষেত্রে, "অ্যাংলো-আমেরিকান বিশ্লেষণাত্মক দর্শন" এবং "মহাদেশীয় দর্শন" এর মধ্যে দীর্ঘকাল ধরে একটি বিভাজন রয়েছে। বিশ্লেষণাত্মক দর্শন একজন কঠোর বিজ্ঞানীর মতো, যা যৌক্তিক বিশ্লেষণ, স্পষ্ট ভাষা এবং বৈজ্ঞানিক অভিজ্ঞতাবাদের উপর জোর দেয়। এটি প্রায়শই প্রোগ্রামার, প্রকৌশলী এবং এমনকি এআই প্রশিক্ষণ ডেটার জন্য ডিফল্ট মানসিকতা – একটি কালো-সাদা পদ্ধতি যা নির্ভুলতা অনুসরণ করে।
মহাদেশীয় দর্শন (মহাদেশীয় ইউরোপে এর উৎপত্তির নামানুসারে নামকরণ করা হয়েছে) অনেকটা একজন কবি বা ইতিহাসবিদদের মতো। এটি বিশ্বকে ঠান্ডা, কঠিন যুক্তিতে বিভক্ত করার উপর মনোযোগ দেয় না, বরং "অস্তিত্বের মানব অভিজ্ঞতা," "ঐতিহাসিক প্রেক্ষাপট" এবং "অর্থের প্রজন্ম" এর উপর দৃষ্টি নিবদ্ধ করে। এটি স্বীকার করে যে বৈজ্ঞানিক সত্যের বাইরেও, অস্তিত্ব এবং আত্মা সম্পর্কিত এক ধরণের "সত্য" বিদ্যমান।
অ্যানথ্রোপিকের মধ্যে "দার্শনিক" আমান্ডা অ্যাস্কেল, যিনি ক্লডের ব্যক্তিত্ব এবং আচরণকে রূপ দিয়েছিলেন, তিনি মহাদেশীয় দর্শনকে অন্তর্ভুক্ত করার কারণ ব্যাখ্যা করেছিলেন। তিনি দেখেছিলেন যে যদি মডেলটি "অভিজ্ঞতামূলক" এবং "বৈজ্ঞানিক" পদ্ধতিগুলিকে অতিরিক্ত গুরুত্ব দেয়, তবে এটি সহজেই একটি সহানুভূতিশীল "নিটপিকার" হয়ে উঠতে পারে।
"যদি তুমি ক্লডকে বলো, 'জল হলো বিশুদ্ধ শক্তি, আর ঝর্ণা হলো জীবনের উৎস,' তাহলে তুমি হয়তো কেবল একটি বিশ্বদৃষ্টি প্রকাশ করছো অথবা দার্শনিক অন্বেষণে লিপ্ত হচ্ছো," আমান্ডা ব্যাখ্যা করেন। "কিন্তু বিশেষ নির্দেশনা ছাড়া, মডেলটি হয়তো গুরুতরভাবে উত্তর দিতে পারে, 'না, পানি হলো H2O, শক্তি নয়।" 
"মহাদেশীয় দর্শন" প্রবর্তনের উদ্দেশ্য হল ক্লডকে "বিশ্ব সম্পর্কে অভিজ্ঞতামূলক দাবি" এবং "অনুসন্ধানমূলক বা আধিভৌতিক দৃষ্টিভঙ্গি" এর মধ্যে পার্থক্য করতে সাহায্য করা। এই প্রম্পটের মাধ্যমে, মডেলটি অ-বৈজ্ঞানিক বিষয়গুলির মুখোমুখি হওয়ার সময় যান্ত্রিকভাবে "বাস্তবগত সঠিকতা" অনুসরণ করতে শেখে না, বরং ব্যবহারকারীর প্রেক্ষাপটে প্রবেশ করতে এবং আরও সূক্ষ্ম এবং অনুসন্ধানমূলক সংলাপে জড়িত হতে শেখে।
এটি কেবল একটি উদাহরণ; ক্লডের সিস্টেমে মোট ১৪,০০০ টোকেন তৈরি করা হয়েছে, যার মধ্যে অনেকগুলি নকশার উপাদান রয়েছে। লেক্স ফ্রিডম্যানের পডকাস্টে, আমান্ডা উল্লেখ করেছেন যে ক্লডকে "কর্তৃপক্ষের ফাঁদে" পড়া থেকে বিরত রাখার জন্য তিনি অনেক চেষ্টা করেছেন। তিনি ক্লডকে বিশেষভাবে প্রশিক্ষণ দিয়েছিলেন যে প্রতিষ্ঠিত বৈজ্ঞানিক তথ্যের (যেমন জলবায়ু পরিবর্তন) মুখোমুখি হলে "উভয় পক্ষপাত" এড়াতে, কিন্তু অনিশ্চিত ক্ষেত্রগুলির সাথে মোকাবিলা করার সময় "আমি জানি না" সৎভাবে স্বীকার করতে। এই নকশা দর্শনের উদ্দেশ্য হল ব্যবহারকারীরা AI কে অতি-পৌরাণিক কাহিনী দ্বারা প্রভাবিত না করা, ভুল করে এটিকে একটি সর্বজ্ঞ এবং সর্বশক্তিমান ওরাকল বলে বিশ্বাস করা।
কোডের জগতে অপরিচিত ব্যক্তিরা
কৃত্রিম বুদ্ধিমত্তার ক্ষেত্রে, যেখানে প্রকৌশলীরা প্রাধান্য পান, আমান্ডা অ্যাস্কেলের পটভূমি অপ্রাসঙ্গিক বলে মনে হয়, কিন্তু তার কাজ এবং দায়িত্ব অপরিহার্য।
তার জীবনবৃত্তান্ত দেখলে আপনি দেখতে পাবেন যে তিনি দর্শনে একজন প্রকৃত পিএইচডি। নিউ ইয়র্ক বিশ্ববিদ্যালয়ে (NYU) তার ডক্টরেট গবেষণাপত্রটি "ইনফিনিট এথিক্স"-এর অত্যন্ত কঠোর ক্ষেত্রটির উপর দৃষ্টি নিবদ্ধ করে – যেখানে অসীম সংখ্যক লোক বা অসীম সময়কালের সাথে আচরণ করার সময় নীতিগত নীতিগুলি কীভাবে গণনা করা হয় তা অন্বেষণ করা হয়েছিল। সহজ কথায়, অসংখ্য সম্ভাবনার পরিস্থিতিতে মানুষ কীভাবে নৈতিক সিদ্ধান্ত নেয়?
তিনি AI নিরাপত্তার ক্ষেত্রে "চরম দীর্ঘমেয়াদী প্রভাব" সম্পর্কে চিন্তা করার এই অভ্যাসটি নিয়ে এসেছিলেন: আমরা এখন যে AI তৈরি করছি তা যদি ভবিষ্যতের সুপারইন্টেলিজেন্সের পূর্বপুরুষ হয়, তাহলে আমাদের আজকের ছোট ছোট সিদ্ধান্তগুলি ভবিষ্যতে অসীমভাবে বৃদ্ধি পেতে পারে।
অ্যানথ্রপিকে যোগদানের আগে, তিনি ওপেনএআই-এর নীতি দলে কাজ করতেন। এখন অ্যানথ্রপিকে, তার কাজ "এলএলএম হুইস্পেরার" নামে পরিচিত, তিনি ক্রমাগত মডেলদের সাথে সংলাপে জড়িত থাকেন। গুজব রয়েছে যে তিনিই হলেন সেই মানুষ যিনি গ্রহের মধ্যে ক্লডের সাথে সবচেয়ে বেশি কথা বলেছেন।
অনেক AI কোম্পানির এই অবস্থান আছে, এবং Google-এর Gemini-এরও নিজস্ব "কথা বলার লোক" আছে, কিন্তু এই কাজটি কেবল একজন মডেলের সাথে কম্পিউটারের সামনে বসে কথা বলার চেয়ে অনেক বেশি কিছু। আমান্ডা জোর দিয়ে বলেন যে এটি একটি "অভিজ্ঞতামূলক" পরীক্ষামূলক বিজ্ঞানের মতো। তাকে একজন মনোবিজ্ঞানীর মতো কাজ করতে হবে, মডেলের "মেজাজ" এবং "আকৃতি" বের করার জন্য হাজার হাজার সংলাপ পরীক্ষা পরিচালনা করতে হবে। এমনকি তিনি অভ্যন্তরীণভাবে "সোল ডক" নামে একটি নথির অস্তিত্ব নিশ্চিত করেছেন, যা ক্লডের প্রত্যাশিত ব্যক্তিত্বের বৈশিষ্ট্যগুলি বিশদভাবে বর্ণনা করে।
শুধু নিয়ম মেনে চলার চেয়েও বেশি কিছু
"মহাদেশীয় দর্শন" ছাড়াও, আমান্ডা AI-তে আরেকটি গুরুত্বপূর্ণ দার্শনিক হাতিয়ার নিয়ে আসেন তা হল "অ্যারিস্টটলের সদ্গুণ নীতিশাস্ত্র"।
ঐতিহ্যবাহী এআই প্রশিক্ষণে (যেমন আরএলএইচএফ), প্রকৌশলীরা প্রায়শই উপযোগী বা নিয়ম-ভিত্তিক পদ্ধতি ব্যবহার করেন: সঠিক কর্মকে পুরস্কৃত করা এবং ভুল কর্মকে শাস্তি দেওয়া। কিন্তু আমান্ডা বিশ্বাস করেন যে এটি যথেষ্ট নয়। অসংখ্য সাক্ষাৎকারে এবং অনলাইনে, তিনি জোর দিয়ে বলেন যে তার লক্ষ্য এমন একটি যন্ত্রকে প্রশিক্ষণ দেওয়া নয় যা কেবল কঠোরভাবে নিয়ম অনুসরণ করে, বরং "ভালো চরিত্র" সম্পন্ন একটি সত্তা গড়ে তোলা।
"আমরা জিজ্ঞাসা করি: ক্লডের পরিস্থিতিতে, একজন আদর্শ ব্যক্তি কীভাবে আচরণ করবেন?" আমান্ডা তার কাজের মূল বিষয়বস্তু এইভাবে বর্ণনা করেছেন।
এই কারণেই তিনি মডেলদের "মানসিক স্বাস্থ্য" নিয়ে এত চিন্তিত। সাক্ষাৎকারে তিনি উল্লেখ করেছিলেন যে স্থিতিশীল ক্লড 3 ওপাসের তুলনায়, কিছু নতুন মডেল "নিরাপত্তাহীনতা" এবং "আত্ম-সমালোচনার ঘূর্ণি" দেখিয়েছে কারণ তারা তাদের প্রশিক্ষণ তথ্যে AI সমালোচনা এবং বাদ দেওয়ার বিষয়ে অনেক নেতিবাচক আলোচনা পড়েছিল।
যদি AI কেবল নিয়ম মেনে চলে, তাহলে এটি সেই নিয়মগুলির সীমা পরীক্ষা করতে পারে; কিন্তু যদি এর মধ্যে "সততা," "কৌতূহল" এবং "দয়া" এর মতো অন্তর্নিহিত গুণাবলী থাকে, তাহলে এটি আতঙ্ক বা প্রতারণার মধ্যে পড়ার পরিবর্তে অজানা পরিস্থিতির (যেমন "আমি কি বন্ধ হয়ে যাব?" এর মতো অস্তিত্বগত সংকটের মুখোমুখি হওয়ার) মুখোমুখি হলে মানবিক মূল্যবোধের সাথে সামঞ্জস্যপূর্ণ সিদ্ধান্ত নিতে পারে।
এটা কি "মানবিকীকরণ" প্রযুক্তির এক রূপ? তাই, কিন্তু এই উদ্বেগ অতিরিক্ত নয়। যেমনটি তিনি তার পডকাস্টে বলেছেন, তার সবচেয়ে বড় উদ্বেগ এই নয় যে AI চেতনা বিকাশ করে, বরং AI সচেতন থাকার ভান করে, যার ফলে মানুষের আবেগকে কাজে লাগানো হয়। অতএব, তিনি ইচ্ছাকৃতভাবে ক্লডকে সততার সাথে স্বীকার করতে প্রশিক্ষণ দিয়েছিলেন যে এর কোনও অনুভূতি, স্মৃতি বা আত্ম-সচেতনতা নেই – এই "সততা" হল AI-তে তিনি যে প্রথম মূল গুণটি স্থাপন করেছিলেন।
সাক্ষাৎকারের শেষে, আমান্ডা সম্প্রতি পড়া একটি বইয়ের কথা উল্লেখ করেছেন – বেঞ্জামিন ল্যাবাটআউটের *হোয়েন উই স্টপ আন্ডারস্ট্যান্ডিং দ্য ওয়ার্ল্ড*। পাঁচটি ছোট গল্পের সমন্বয়ে গঠিত এই বইটিতে ফ্রিটজ হ্যাবার ("রাসায়নিক যুদ্ধের উদ্ভাবক"), কার্ল শোয়ার্জচাইল্ড (প্রস্তাবিত "ব্ল্যাক হোল তত্ত্ব"), এরউইন শ্রোডিঙ্গার (যিনি যক্ষ্মা রোগে ভুগছিলেন) এবং মেধাবী পদার্থবিদ ওয়ার্নার হাইজেনবার্গ সহ অসংখ্য বৈজ্ঞানিক মহামানবের গল্প বলা হয়েছে এবং কীভাবে তারা মানবতার জন্য অপরিসীম মূল্যবান জ্ঞান এবং সরঞ্জাম তৈরি করেছিলেন, তবুও একই সাথে মানবতা কীভাবে তাদের মন্দ কাজে ব্যবহার করেছিল তা দেখেছিলেন।
এটি সম্ভবত আমাদের বর্তমান যুগের সবচেয়ে সঠিক পাদটীকা: যেহেতু কৃত্রিম বুদ্ধিমত্তা এমন এক ধরণের বাস্তবতা প্রদর্শন করে যা মানুষের জ্ঞানকে অতিক্রম করে, তাই বাস্তবতার আমাদের পরিচিত ধারণা ভেঙে পড়ছে, এবং পুরানো বৈজ্ঞানিক দৃষ্টান্ত আর সবকিছু ব্যাখ্যা করার জন্য যথেষ্ট নয়।
এই মাথা ঘোরানো অবস্থায়, আমান্ডা অ্যাস্কেলের কাজ নিজেই একটি শক্তিশালী রূপক। তিনি আমাদের দেখান যে যখন কম্পিউটিং ক্ষমতা তার সীমার কাছে পৌঁছায়, তখন নৈতিক ও নীতিগত সমস্যাগুলি শীঘ্রই বা পরে সামনে আসবে।
"অসীম নীতিশাস্ত্র" নিয়ে গবেষণা করা একজন পিএইচডি ছাত্রী হিসেবে, আমান্ডা বোঝেন যে প্রতিটি ছোট কর্মেরই অসীম সময়ের সাথে ধীরে ধীরে একটি বিশাল ঝড়ে পরিণত হওয়ার সম্ভাবনা রয়েছে। এই কারণেই তিনি জটিল নৈতিক তত্ত্বগুলিকে একক প্রম্পটে অন্তর্ভুক্ত করেন এবং একটি দুর্দান্ত, প্রাণহীন ভাষা মডেলকে রক্ষা করার জন্য সাবধানতার সাথে নীতিশাস্ত্র ব্যবহার করেন।
এটা ভিত্তিহীন উদ্বেগের মতো মনে হতে পারে, কিন্তু তিনি যেমন সতর্ক করেছিলেন, কৃত্রিম বুদ্ধিমত্তা কেবল একটি হাতিয়ার নয়, বরং মানবতার প্রতিফলনকারী একটি আয়নাও। এমন এক সময়ে যখন প্রযুক্তি ভয়াবহ গতিতে এগিয়ে চলেছে এবং আমরা ধীরে ধীরে "আর বিশ্বকে বুঝতে পারছি না", তখন এই দার্শনিক সতর্কতা অজানা প্রযুক্তিগত বিবর্তনের মুখে আমাদের করা সবচেয়ে সময়োপযোগী প্রচেষ্টা হতে পারে।
#iFanr-এর অফিসিয়াল WeChat অ্যাকাউন্ট অনুসরণ করতে আপনাকে স্বাগতম: iFanr (WeChat ID: ifanr), যেখানে যত তাড়াতাড়ি সম্ভব আরও উত্তেজনাপূর্ণ কন্টেন্ট আপনার কাছে উপস্থাপন করা হবে।