আজ, স্টারশিপের একাদশ ফ্লাইট সফলভাবে শেষ হয়েছে, এবং অপ্রত্যাশিতভাবে, জেনসেন হুয়াংও ঘটনাস্থলে উপস্থিত হয়েছিল।
দেখা যাচ্ছে যে হুয়াং রেনক্সুন ব্যক্তিগতভাবে টেক্সাসের স্টারবেসে উড়ে এসেছিলেন, উড্ডয়নকারী স্টারশিপের পাশে, শুধু মাস্কের কাছে একটি নতুন উত্পাদিত "পারমাণবিক বোমা" হস্তান্তর করার জন্য।
বছরের শুরু থেকে সবাই এটির জন্য অপেক্ষা করছে— NVIDIA DGX Spark ব্যক্তিগত AI সুপার কম্পিউটার ।
এই দৃশ্যটি অবিলম্বে সমস্ত টেক গীকদের জন্য স্মৃতি ফিরিয়ে এনেছে, তাদের 2016-এ ফিরিয়ে এনেছে। তখনও, মাস্ক এখনও OpenAI-এর সহ-প্রতিষ্ঠাতা ছিলেন, এবং তিনি এবং অল্টম্যান বাদ পড়ার আগে, Huang ব্যক্তিগতভাবে তাদের স্টার্টআপের অফিসে বিশ্বের প্রথম DGX-1 সুপার কম্পিউটার সরবরাহ করেছিলেন।
হুয়াং রেনক্সুন তখন রসিকতা করেছিলেন:
যদি এটিই একমাত্র পণ্য যা জাহাজে পাঠানো হয়, তাহলে প্রকল্পটির খরচ হবে $2 বিলিয়ন।
যে "$2 বিলিয়ন মেশিন" পরে বড় মডেলের যুগে সূচনা করে।
পরের বছর, গুগল একটি নতুন নিউরাল নেটওয়ার্ক প্রশিক্ষণ আর্কিটেকচার, ট্রান্সফরমার ঘোষণা করে।
এই নতুন অগ্রগতি আবার Sutskever দ্বারা জব্দ করা হয়, ওপেনএআইকে প্রথম GPT মডেল তৈরি করতে নেতৃত্ব দেয়, যা সবই Nvidia-এর সুপার কম্পিউটারে নির্মিত।
নয় বছর পেরিয়ে গেছে, মাস্ক বিশ্বের সবচেয়ে ধনী ব্যক্তির তালিকায় নিয়মিত হয়ে উঠেছেন, এবং জেনসেন হুয়াং একবার বিশ্বের সবচেয়ে বড় বাজার মূল্যের সাথে কোম্পানিটি পরিচালনা করেছিলেন।
এই সময়ে বিতরণ করা DGX NVIDIA আর একটি বেহেমথ নয়, কিন্তু একটি পারফরম্যান্স দানব যা আপনার ডেস্কে স্থাপন করা যেতে পারে। আবারও, এনভিআইডিএ ঘোষণা করেছে সবচেয়ে ভালো উপায়ে: সবার জন্য এআই সুপারকম্পিউটিং এর যুগ এখানে শুরু হয়।
স্পয়লার সতর্কতা: APPSO এর DGX স্পার্কও পথে রয়েছে৷ আমরা ভবিষ্যতে আরও অভিজ্ঞতার বিবরণ নিয়ে আসব, তাই সাথে থাকুন।
সত্যি কথা বলতে, এই ডিজিএক্স স্পার্ক সফলভাবে লাও মা-এর কাছে হস্তান্তর করা সহজ ছিল না।
"প্রজেক্ট ডিজিটস" নামে জানুয়ারিতে CES-তে তার অত্যাশ্চর্য আত্মপ্রকাশের পর থেকে Nvidia তার আসল মে এবং গ্রীষ্মের রিলিজ তারিখগুলি মিস করেছে এবং এখনও একটি ইউনিট পাঠায়নি। এই ছয় মাসের অপেক্ষা অনেককে অস্বস্তি বোধ করেছে, কিছু বিকাশকারী এমনকি অনুমান করছেন যে পণ্যটি সম্পূর্ণরূপে বিলম্বিত হতে পারে।
যদিও কর্মকর্তারা আঁটসাঁট ঠোঁট রাখেন, শিল্পের জল্পনা তার হৃদয়ে গ্রেস ব্ল্যাকওয়েল GB10 চিপের দিকে নির্দেশ করে। ব্ল্যাকওয়েল জিপিইউ (পরিচিত 5090 গ্রাফিক্স কার্ডের মতো একই আর্কিটেকচার) ইতিমধ্যেই প্রস্তুত সহ এই চিপটি "বাহিনীর সংমিশ্রণ"। যাইহোক, মিডিয়াটেকের সাথে সহ-উন্নত গ্রেস সিপিইউ উৎপাদনে ধীরগতি করেছে, পুরো প্রকল্পটিকে বাধাগ্রস্ত করেছে।
"সিপিইউ ছাড়া সবকিছু প্রস্তুত" গল্পটি অপ্রত্যাশিতভাবে এনভিআইডিএ-তে ঘটেছে।
সুতরাং, যখন M3 আল্ট্রা ম্যাক স্টুডিওর মতো প্রতিযোগীরা তাদের উচ্চ মেমরি ব্যান্ডউইথ দিয়ে মনোযোগ আকর্ষণ করছে, তখন কি এই DGX স্পার্ক, যা দেরিতে এবং $1,000 মূল গুজবের চেয়ে বেশি ব্যয়বহুল, এখনও অপেক্ষা করার মতো?
উত্তর হল: একেবারে মূল্যবান! কারণ এর পদ্ধতিটি অনন্য এবং সরাসরি ব্যথার পয়েন্টগুলিতে আঘাত করে।
অর্ধ বছরেরও বেশি সময় ধরে অপেক্ষা করার পর, ডিজিএক্স স্পার্ককে কী এত জনপ্রিয় করে তোলে? APPSO আপনাকে প্রক্রিয়াটির মধ্য দিয়ে নিয়ে যায়।
পুরো মেশিনের আত্মা হল Grace Blackwell GB10 সুপার চিপ।
এটি একটি 20-কোর এআরএম গ্রেস সিপিইউ এবং একটি শক্তিশালী ব্ল্যাকওয়েল জিপিইউকে একটি একক সুপারচিপে একত্রিত করে, 1 পেটাফ্লপ পর্যন্ত AI কম্পিউটিং পারফরম্যান্স প্রদান করে, যা আপনাকে আপনার ডেস্কটপে ডেটা সেন্টার-লেভেল পাওয়ার দেয়।
ডিজিএক্স স্পার্কের আরেকটি হত্যাকারী বৈশিষ্ট্য রয়েছে। এটি NVIDIA NVLink এর মাধ্যমে CPU এবং GPU 
– C2C প্রযুক্তি একটি বিশাল 128 GB ইউনিফাইড মেমরি পুল ভাগ করে নির্বিঘ্নে সংযোগ করে।
এই সংযোগ প্রযুক্তিটি প্রথাগত পঞ্চম-প্রজন্মের PCIe-এর ব্যান্ডউইথের পাঁচগুণ গর্ব করে, কার্যত কোন বিলম্ব ছাড়াই CPU এবং GPU-এর মধ্যে উচ্চ-গতির ডেটা স্থানান্তর নিশ্চিত করে। যদিও এর মেমরি ব্যান্ডউইথ (273 GB/s) কাগজে, ম্যাক স্টুডিও M3 আল্ট্রার (819 GB/s) থেকে উল্লেখযোগ্যভাবে কম, NVIDIA-এর দর্শন হল "শক্তির সর্বোচ্চ ব্যবহার করা।"
এআই কাজগুলিতে, বিশেষত যখন বড় মডেলগুলি চালানো হয়, তখন পুরো মডেলটিকে একবারে মেমরিতে ফিট করতে সক্ষম হওয়ার কৌশলগত মান নিছক ব্যান্ডউইথকে ছাড়িয়ে যায়। এর মানে হল আপনি জটিল মডেল পার্টিশনের প্রয়োজন ছাড়াই আপনার ডেস্কে 200 বিলিয়ন পর্যন্ত প্যারামিটার সহ একটি বিশাল ভাষা মডেল চালাতে পারেন। এই অভিজ্ঞতা অতুলনীয়।
ব্ল্যাকওয়েল GPU পঞ্চম-প্রজন্মের টেনসর কোর দিয়ে সজ্জিত এবং FP4/FP8-এর মতো অতি-নিম্ন নির্ভুল ফর্ম্যাটগুলিকে সমর্থন করে, যার কার্যক্ষমতা আগের প্রজন্মের FP8-এর তুলনায় 5 গুণ উন্নত হয়েছে৷
এটি AI কম্পিউটিং-এর জন্য একটি "টার্বোচার্জড" মোড চালু করার মতো, যা আশ্চর্যজনক শক্তি দক্ষতা অর্জনের সময় নাটকীয়ভাবে অনুমান গতি বাড়ায়।
একটি মেশিন যথেষ্ট নয়? DGX স্পার্ক-এ একটি অন্তর্নির্মিত NVIDIA ConnectX®-7 200 Gb/s নেটওয়ার্ক ইন্টারফেসও রয়েছে। 256 গিগাবাইট শেয়ার্ড মেমরি সহ একটি মাইক্রো ক্লাস্টার তৈরি করতে আপনি সহজেই দুটি মেশিন একসাথে সংযুক্ত করতে পারেন।
এনভিডিয়া বলেছে যে এই সংমিশ্রণটি 400 বিলিয়ন পর্যন্ত প্যারামিটার সহ দৈত্য মডেলগুলি পরিচালনা করার জন্য যথেষ্ট, যা পৃথক বিকাশকারীদের কল্পনার বাইরে।
হার্ডওয়্যারকে একপাশে রেখে, NVIDIA-এর সবচেয়ে শক্তিশালী পরিখা – সফ্টওয়্যার ইকোসিস্টেমকে ভুলে যাবেন না। CUDA লাইব্রেরি, TensorRT এবং বিভিন্ন NVIDIA NIM সহ সম্পূর্ণ NVIDIA AI সফ্টওয়্যার স্ট্যাকের সাথে DGX Spark আগে থেকে ইনস্টল করা আছে মাইক্রোসার্ভিসেস, সবকিছুই একটি কাস্টম ডিজিএক্সওএস (উবুন্টুর উপর ভিত্তি করে) একত্রিত করা হয়েছে এবং আপনার জন্য টিউন করা হয়েছে।
এর মানে হল যে আপনাকে আর সামঞ্জস্যের বিষয়ে উদ্বিগ্ন সময় ব্যয় করতে হবে না এবং আপনি বাক্সটি আনপ্যাক করার পরে সরাসরি যুদ্ধ মোডে যেতে পারেন। বিকাশকারীদের জন্য, সময় ব্যয় সাশ্রয় অপরিমেয়।
স্টারশিপ বেসে এই "শতাব্দীর পালা" হচ্ছে মাত্র শুরু।
15ই অক্টোবর থেকে, DGX স্পার্ক আনুষ্ঠানিকভাবে NVIDIA-এর অফিসিয়াল ওয়েবসাইট এবং বিশ্বব্যাপী অংশীদারদের মাধ্যমে প্রায় $4,000-এ উপলব্ধ হবে৷ Acer, Asus, Dell এবং Lenovo সহ প্রায় সমস্ত পিসি জায়ান্ট ইতিমধ্যেই ব্যান্ডওয়াগনের উপর ঝাঁপিয়ে পড়েছে।
সত্যি কথা বলতে, এই দামটি আসল প্রতিশ্রুত $3,000 এর থেকে $1,000 বেশি, এবং এটি মোটামুটি টপ-অফ-দ্য-লাইন ম্যাক স্টুডিও M3 আল্ট্রার সমান। যাইহোক, তাদের অবস্থান সম্পূর্ণ ভিন্ন: ডিজিএক্স স্পার্ক ডিজিএক্সওএস (উবুন্টুর উপর ভিত্তি করে) এর সাথে প্রি-ইনস্টল করা হয় এবং উইন্ডোজ বা ম্যাকোএসের সাথে ইনস্টল করা যায় না। এটি একটি বিশুদ্ধ "ব্যাটল মেশিন" যা এআই ডেভেলপার এবং হার্ডকোর উত্সাহীদের জন্য প্রস্তুত করা হয়েছে।
এর আবেদন এই সত্যে নিহিত যে $4,000-এর জন্য, আপনি স্থানীয়ভাবে একটি 200 বিলিয়ন প্যারামিটার মডেলকে নিয়ন্ত্রণ করার জন্য সুপার পাওয়ার পাবেন, সেইসাথে এটির পিছনে সমগ্র CUDA ইকোসিস্টেমের সম্পূর্ণ সমর্থন। পেশাদারদের জন্য যাদের স্থানীয়ভাবে সংবেদনশীল ডেটা প্রক্রিয়া করতে হবে, চরম পারফরম্যান্স অনুসরণ করতে হবে বা তাদের এআই ওয়ার্কফ্লো সম্পূর্ণরূপে নিয়ন্ত্রণ করতে চান, এই মূল্য আসলে বেশ প্রতিযোগিতামূলক।
স্বতন্ত্র শক্তি এবং দুর্বলতা সহ এই "পক্ষপাতদুষ্ট" ডিভাইসের বিষয়ে আপনার মতামত কী? আপনার যদি অন্য কোন বিবরণ থাকে যা আপনি এটি সম্পর্কে জানতে চান, অনুগ্রহ করে আমাদের মন্তব্য বিভাগে জানান।
#iFaner-এর অফিসিয়াল WeChat পাবলিক অ্যাকাউন্ট অনুসরণ করতে স্বাগতম: iFaner (WeChat ID: ifanr), যেখানে যত তাড়াতাড়ি সম্ভব আপনার কাছে আরও উত্তেজনাপূর্ণ সামগ্রী উপস্থাপন করা হবে।