এআই পিসির পথে, প্রতিটি চিপ এবং সরঞ্জাম কোম্পানি পিছিয়ে পড়ার ভয় পাচ্ছে।
এই প্রতিযোগিতায়, Apple ইকোসিস্টেম বর্তমানে একটি বড় ব্যবধানে এগিয়ে রয়েছে গত সপ্তাহের ম্যাক স্টুডিও মূল্যায়নে, Ai Faner সফলভাবে ডিপসিক Q4 পরিমাণগত সংস্করণ 671B এবং 70B স্থানীয়ভাবে স্থাপন করেছে এবং টোকেন থ্রুপুট পারফরম্যান্স ভাল ছিল, যা M3 আপ 2 জিবি পর্যন্ত মেমরির শক্তি প্রদর্শন করে।
x86 ক্যাম্পের পাশে, AMD, বর্তমানে সবচেয়ে প্রতিযোগিতামূলক "টিম", দ্রুত ওভারটেকিং করার চেষ্টা করছে।
18 মার্চ অনুষ্ঠিত এএমডি এআই পিসি ইনোভেশন সামিটে, কোম্পানির সিনিয়র ভাইস প্রেসিডেন্ট এবং কম্পিউটিং এবং গ্রাফিক্সের জেনারেল ম্যানেজার জ্যাক হুইন, এএমডি-ভিত্তিক ল্যাপটপে ডিপসিক বড় মডেল চালানোর ক্ষমতা প্রদর্শন করেন।
অন-সাইট প্রদর্শন অনুসারে, AMD Ryzen AI Max+ 395 প্রসেসরে সজ্জিত একটি ল্যাপটপ সফলভাবে DeepSeek-Tongyi Qianwen Fusion 7B বড় মডেলটি চালায়। প্রতি সেকেন্ডে টোকেন গতি সর্বজনীন করা হয়নি, তবে অন-সাইট খালি চোখে পর্যবেক্ষণের ফলাফল এবং বিভিন্ন মডেলের পরীক্ষায় আমাদের অতীত অভিজ্ঞতার ভিত্তিতে, সাইটের গতি কমপক্ষে 15 টোক/সেকেন্ড হওয়া উচিত।
এটি উল্লেখ করা উচিত যে, অন-সাইট ডেমো এলাকা অনুসারে, এই স্থাপনা এবং অপারেশন ফলাফলগুলি AMD StrixHalo LLM সফ্টওয়্যারের উপর নির্ভর করে, AMD দ্বারা তৈরি একটি বড় মডেল অপারেটিং পরিবেশ। আমাদের বোধগম্যতা অনুসারে, এর পিছনে যুক্তি হল যে AMD অভ্যন্তরীণভাবে সমর্থিত বড় মডেলগুলিকে অপ্টিমাইজ করবে ইউনিট টোকেন অ্যাক্টিভেশন প্যারামিটার খরচ উল্লেখযোগ্যভাবে কমাতে, এবং তারপর ব্যবহারকারীর স্থানীয় ডিভাইসে সমর্থন ক্ষমতা প্রয়োগ করবে।
Ryzen AI Max প্রসেসর পরিবার নিজেই উচ্চতর গ্রাফিক্স মেমরি বরাদ্দ ক্ষমতা সমর্থন করে। আমরা দৃশ্যে দেখেছি যে AI Max 96GB পর্যন্ত ভিডিও মেমরি বরাদ্দ সমর্থন করে, যা প্রসেসর ইন্টিগ্রেটেড গ্রাফিক্সকে পারফরম্যান্স পেতে দেয় যা শুধুমাত্র হাই-এন্ড ইন্ডিপেন্ডেন্ট গ্রাফিক্স কার্ডের মাধ্যমে অর্জন করা যায়, সেইসাথে গেমের জন্যও এই পারফরম্যান্স ব্যবহার করা যেতে পারে।
অপ্টিমাইজেশনের পরে, প্যারামিটারের সংখ্যা যতই বড় হোক না কেন, চিন্তা করার দরকার নেই। ডেমো এলাকার উদাহরণে, আমরা দেখতে পাচ্ছি যে উপরে উল্লিখিত একই চিপটি ASUS ROG ম্যাজিক X 2025 ল্যাপটপে মেটা দ্বারা তৈরি Llama 3.1 70B বৃহৎ ভাষার মডেল পর্যন্ত চলতে পারে।
যদিও প্যারামিটারের সংখ্যা বিশাল, হার্ডওয়্যারের প্রয়োজনীয়তা অতীতে অত্যন্ত বেশি ছিল, মোবাইল কম্পিউটিং ডিভাইসগুলির স্থানীয় যুক্তির ক্ষমতার জন্য পূর্ববর্তী শিল্পের জ্ঞানীয় ঊর্ধ্ব সীমা ছাড়িয়ে গেছে – ল্যাপটপগুলি এখন মসৃণভাবে এবং সহজে কয়েক বিলিয়ন প্যারামিটার সহ বড় মডেলগুলি চালাতে পারে৷
এটি করার জন্য AMD এর উদ্দেশ্য হল বড় মডেলের উপর ভিত্তি করে এন্টারপ্রাইজ-স্তরের অ্যাপ্লিকেশন এবং বৈজ্ঞানিক গবেষণা ক্ষমতাগুলিকে x86 নোটবুক এবং এমনকি আরও হালকা মোবাইল কম্পিউটিং ডিভাইসগুলিতে ছড়িয়ে দেওয়া যায় তা নিশ্চিত করা। বর্তমানে, AMD AI PC এনভায়রনমেন্ট ডিপসিক 1.5B এবং 7B-এর মতো মূলধারার মডেলগুলির বড় মডেলগুলিকে সমর্থন করে।
নোটবুক পর্যাপ্ত না হলে, AMD প্রকৃত ভারী-শুল্ক ব্যবহারকারীদের একটি সার্ভার সমাধান প্রদান করে যা ডিপসিক R1 ফুল-প্যারামিটার বড় মডেল চালাতে পারে, Nvidia থেকে এক ধাপ এগিয়ে (পরবর্তীটি আগামীকাল সকালে তার AI কম্পিউটিং ক্লাস্টার মডুলার পণ্য আপডেট করতে পারে)।
দুটি ভিন্ন সমাধান সাইটে প্রদর্শিত হয়েছে একটি হল AMD এর নিজস্ব সমাধান, যা vllm ফ্রেমওয়ার্কের উপর ভিত্তি করে এবং 8 x W7900/78000 গ্রাফিক্স কার্ড ব্যবহার করে কোম্পানির অভ্যন্তরীণ গবেষণা এবং উন্নয়ন এবং বুদ্ধিবৃত্তিক সম্পত্তির অধিকার রক্ষার জন্য সম্পূর্ণ অফলাইন এবং স্থানীয়ভাবে স্থাপন করা যেতে পারে।
দ্বিতীয়টি হল AMD এবং Phison Electronics দ্বারা যৌথভাবে বিকশিত AIDAPTIV+ সমাধানটি হল গ্রাফিক্স কার্ডকে NAND ফ্ল্যাশ মেমরির মাধ্যমে তার মেমরি প্রসারিত করার অনুমতি দেওয়া, যার ফলে একটি একক কার্ডের ভিডিও মেমরির বাধা ভেঙে যায়। বিদ্যমান AMD গ্রাফিক্স কার্ডগুলির সাথে, DeepSeek 671B-এর সম্পূর্ণ প্যারামিটার-স্তরের প্রশিক্ষণ ক্ষমতাগুলিও এককভাবে উপলব্ধি করা যেতে পারে।
অবশ্যই, বেশিরভাগ লোকেরা কেবল বিশুদ্ধ AI অ্যাপ্লিকেশন ব্যবহারকারী, বিকাশকারী নয়। তাই, এএমডি এই শীর্ষ সম্মেলনে OEM অংশীদারদের সাথেও কাজ করেছে যাতে ভোক্তা-গ্রেড এআই অ্যাপ্লিকেশনের বিভিন্ন মূলধারার ফর্মগুলি প্রদর্শন করা যায়।
যেটি খুবই আকর্ষণীয় তা হল সাইটের ডেমোগুলির মধ্যে একটি, যা লুসিড হেটেরোজিনাস দ্বারা তৈরি এবং AMD Ryzen AI প্ল্যাটফর্মের উপর ভিত্তি করে তৈরি একটি বড় মডেল ইমেজ জেনারেশন টুল "ড্রিম পেইন্টার"। এটি অঙ্কন, অঙ্কন এবং অঙ্কনের প্রজন্মের মোড সমর্থন করে এবং ইন্টারনেট সংযোগের প্রয়োজন ছাড়াই স্থানীয়ভাবে চালানো যেতে পারে।
আরেকটি উদাহরণ হল Lenovo দ্বারা প্রদর্শিত ব্যক্তিগত বুদ্ধিমত্তা "Xiaotian", যা পিসির জন্য AI পোর্টাল হিসাবে কাজ করে, এর পিছনের বড় মডেলটি ব্যক্তিগত ডেটার উপর ভিত্তি করে প্রশিক্ষিত এবং অপ্টিমাইজ করা যেতে পারে, এবং এতে রয়েছে টাস্ক পচন ও পরিকল্পনা, প্রাকৃতিক মিথস্ক্রিয়া, দীর্ঘমেয়াদী মেমরি এবং সামনের প্রান্তে টুল আহ্বানের ক্ষমতা।
বিগত বছরে, এআই প্রযুক্তি অত্যন্ত দ্রুত বিকশিত হয়েছে, ক্ষমতার ঊর্ধ্ব সীমা ক্রমাগত বৃদ্ধি পেয়েছে এবং বড় মডেলের বিকল্পগুলিও দিন দিন বৃদ্ধি পেয়েছে। যাইহোক, ডিভাইসটির স্থানীয় কম্পিউটিং ক্ষমতার কারণে পিসি শিল্পও বড় চ্যালেঞ্জের সম্মুখীন হচ্ছে।
এটি বিবেচনা করে যে এর বৃহত্তম প্রতিযোগী বর্তমানে অ-প্রযুক্তিগত অসুবিধার সম্মুখীন হচ্ছে, x86 ক্যাম্পে অন্তর্নিহিত কম্পিউটিং প্রযুক্তির আরেকটি শীর্ষস্থানীয় নির্মাতা হিসাবে AMD, বিশ্বাস করে যে এটি অবশ্যই তার দায়িত্ব কাঁধে নিতে হবে, চ্যালেঞ্জগুলি মোকাবেলা করতে হবে এবং পরিবর্তনগুলিকে নেতৃত্ব দিতে হবে যাতে AI পিসির মাধ্যমে হাজার হাজার পরিবার এবং শিল্পে সত্যিকার অর্থে প্রবেশ করতে পারে।
শীর্ষ সম্মেলনে, AMD OEM অংশীদারদের নিজেদেরকে প্রকাশ করার একটি দুর্দান্ত সুযোগ দিয়েছে। মাইক্রোসফ্ট, লেনোভো, আসুস, এসার, এইচপি এবং অন্যান্য সহ পরিবেশগত অংশীদাররা সর্বশেষ এএমডি রাইজেন এআই প্রসেসর পরিবারের উপর ভিত্তি করে নতুন পিসি পণ্য চালু করেছে।
এআই পিসি ব্র্যান্ড এবং মডেল পছন্দের বিস্তৃতি, এআই পিসি পণ্যের বড়-মডেল কম্পিউটিং ক্ষমতা এবং বিভিন্ন ভোক্তা-স্তরের পরিস্থিতিতে অ্যাপ্লিকেশনের সমৃদ্ধি পিসি ব্র্যান্ড এবং চিপ নির্মাতাদের জন্য এআই যুগে তাদের বাজারের অংশীদারিত্ব বজায় রাখার জন্য বিশেষভাবে গুরুত্বপূর্ণ।
# aifaner এর অফিসিয়াল WeChat পাবলিক অ্যাকাউন্ট অনুসরণ করতে স্বাগতম: aifaner (WeChat ID: ifanr) যত তাড়াতাড়ি সম্ভব আপনাকে আরও উত্তেজনাপূর্ণ সামগ্রী সরবরাহ করা হবে।