২০০ বিলিয়ন প্যারামিটার, ৩০,০০০ আরএমবি এবং ১২৮ গিগাবাইট মেমোরি সহ, "বিশ্বের সবচেয়ে ছোট সুপার কম্পিউটার" নামে পরিচিত এই মেশিনটি কি সত্যিই আমাদের ডেস্কটপে বড় মডেল চালানোর অনুমতি দিতে পারে?
▲ ছবি x@nvidia থেকে
কয়েকদিন আগে, জেনসেন হুয়াং আনুষ্ঠানিকভাবে এই সুপার কম্পিউটারটি এলন মাস্কের কাছে হস্তান্তর করেছিলেন এবং তারপরে ব্যক্তিগতভাবে ওপেনএআই সদর দপ্তরে গিয়েছিলেন তাকে এটি উপহার দিতে। সিইএস-এ এর আত্মপ্রকাশ থেকে শুরু করে বর্তমান স্থাপনা পর্যন্ত, এই ব্যক্তিগত সুপার কম্পিউটারটি অবশেষে আমাদের হাতে আসছে।
▲অফিসিয়াল ওয়েবসাইট বিক্রয় তথ্য: $3999 USD মূল্যের, এটি ASUS, Lenovo এবং Dell সহ সাতটি কম্পিউটার ব্র্যান্ডের সংস্করণও অফার করে; লিঙ্ক: https://marketplace.nvidia.com/en-us/developer/dgx-spark/
NVIDIA DGX Spark হল একটি ব্যক্তিগত AI সুপারকম্পিউটার যা গবেষক, ডেটা বিজ্ঞানী এবং শিক্ষার্থীদের জন্য ডিজাইন করা হয়েছে, যা তাদের AI মডেলগুলি বিকাশ এবং উদ্ভাবনে সহায়তা করার জন্য উচ্চ-কার্যক্ষমতাসম্পন্ন ডেস্কটপ-স্তরের AI কম্পিউটিং ক্ষমতা প্রদান করে।
এটি শক্তিশালী শোনাচ্ছে, কিন্তু সাধারণ মানুষ এটি বাজানোর জন্য যে উপায়গুলি ভাবতে পারে তা হল:
- স্থানীয়ভাবে বৃহৎ মডেলগুলি চালান: এর সাথে আপনার কথোপকথনের বিষয়বস্তু শুধুমাত্র আপনার নিজের কম্পিউটারে থাকে, যা সম্পূর্ণ নিরাপত্তা নিশ্চিত করে।
- স্থানীয়ভাবে কন্টেন্ট তৈরি করুন: সীমাবদ্ধতা ছাড়াই ছবি এবং ভিডিও তৈরি করুন, সদস্যপদ এবং পয়েন্টগুলিকে বিদায় জানান।
- একজন ব্যক্তিগত সহকারী তৈরি করুন: আপনার সমস্ত তথ্য এতে যোগান দিন এবং এমন একজন "জার্ভিস" কে প্রশিক্ষণ দিন যে কেবল আপনাকে বোঝে।
▲ কিছু গ্রাফিক্স কার্ড ভাড়া প্ল্যাটফর্ম A100 এর দাম 7 ইউয়ান/ঘন্টা দেখায়।
বাস্তবে, DXG Spark GB10 Grace Blackwell সুপারচিপের ক্ষমতা এর প্রয়োগের পরিস্থিতিকে আরও প্রসারিত করতে পারে, কিন্তু এটি ঠিক কী করতে পারে? এবং এটি কতটা ভালোভাবে এটি করতে পারে? 30,000 ইউয়ানের দাম এবং 4,000 ঘন্টার জন্য ভাড়া করা যেতে পারে এমন একটি A100 সহ, আপনি কি সত্যিই এটিকে আপনার ডেস্কে বড় মডেল চালানোর জন্য রাখবেন?
আমরা অনলাইনে DGX Spark এর বেশ কিছু বিস্তারিত পর্যালোচনা সংকলন করেছি, এবং আমাদের বাস্তব অভিজ্ঞতার আগে, আমরা আপনাকে দেখাতে চাই যে এই ডিভাইসটির মূল্য 30,000 ইউয়ান কিনা।
TL;DR সংস্করণ:
- পারফরম্যান্স পজিশনিং: হালকা মডেলগুলি ব্যতিক্রমীভাবে ভালো পারফর্ম করে এবং ১২০ বিলিয়ন প্যারামিটার সহ বড় মডেলগুলিও মসৃণভাবে চলতে পারে। সামগ্রিকভাবে, এর পারফরম্যান্স ভবিষ্যতের RTX 5070 এবং RTX 5070 Ti-এর মধ্যে পড়ে।
- সবচেয়ে বড় দুর্বলতা: ২৭৩ গিগাবাইট/সেকেন্ড মেমোরি ব্যান্ডউইথ হল সীমাবদ্ধতা। কম্পিউটিং শক্তি যথেষ্ট, কিন্তু ডেটা ট্রান্সফার ধীর। অভিজ্ঞতাটি বিদ্যুৎ-দ্রুত মস্তিষ্কের মতো কিন্তু তোতলানো কথা বলার মতো।
- একটি অদ্ভুত পদ্ধতি: ম্যাক স্টুডিও এম৩ আল্ট্রা ব্যবহার করে এটিকে "সহায়তা" করা। ডিজিএক্স স্পার্ক দ্রুত চিন্তাভাবনা পরিচালনা করে, অন্যদিকে ম্যাক স্টুডিও সাবলীল অভিব্যক্তি পরিচালনা করে, জোর করে "তোতলানো" সমস্যা সমাধান করে।
- সমৃদ্ধ ইকোসিস্টেম: অফিসিয়াল ওয়েবসাইটটি ২০টিরও বেশি ব্যবহারের জন্য প্রস্তুত বৈশিষ্ট্য প্রদান করে, ভিডিও তৈরি করা থেকে শুরু করে মাল্টি-এজেন্ট সহকারী তৈরি করা পর্যন্ত, পুরো এআই ইকোসিস্টেমটি আপনার জন্য সরবরাহ করা হয়েছে।
ম্যাক মিনির চেয়ে সামান্যই ভালো?
আর দেরি না করে, আসুন তথ্যগুলো দেখি।
▲ প্যাডিং এবং ডিকোডিংয়ের জন্য প্রতি সেকেন্ডে প্রক্রিয়াজাত টোকেনের গড় সংখ্যা; RTX 5080 এর পরে DGX Spark স্থান পেয়েছে। ছবি ChatGPT দ্বারা তৈরি।
DGX Spark, Mac Mini M4 Pro এর তুলনায় উল্লেখযোগ্যভাবে শক্তিশালী, বিশেষ করে প্রিফিল পর্যায়ে। তবে, ডিকোডিং পর্যায়ে এর সুবিধা তেমন স্পষ্ট নয়। DeepSeek R1 ওপেন-সোর্স মডেলে Mac Mini M4 Pro ১৭.৮ TPS অর্জন করতে পারে, যেখানে DGX Spark মাত্র ৩৩.১ TPS অর্জন করতে পারে।
আসুন দ্রুত AI যুক্তির দুটি স্তর সংজ্ঞায়িত করি।
সহজ ভাষায়, যখন আমরা একটি AI চ্যাট বক্সে একটি প্রশ্ন প্রবেশ করি, তখন মডেলটির উত্তর তৈরির প্রক্রিয়াটিকে দুটি গুরুত্বপূর্ণ ধাপে ভাগ করা যেতে পারে:
১. প্রিফিল (পঠন বোধগম্যতার পর্যায়)
আমাদের প্রশ্ন পাওয়ার পর, AI আপনার টাইপ করা প্রতিটি শব্দ (অর্থাৎ, প্রম্পট শব্দ) দ্রুত পড়ে এবং বুঝতে পারে।
এই পর্যায়টি যত দ্রুত প্রক্রিয়া করা হবে, AI তার প্রথম শব্দটি উচ্চারণের জন্য অপেক্ষা করার সময় তত কম হবে। AI ক্ষমতা প্রচারের জন্য প্রায়শই ব্যবহৃত এই মেট্রিকটি হল: প্রথম-শব্দের প্রতিক্রিয়া সময়, বা TTFT (প্রথম টোকেনের সময়)।
২. ডিকোড (উত্তর জেনারেশন পর্যায়)
মনে হচ্ছে যেন AI ইতিমধ্যেই উত্তরটি বের করে ফেলেছে এবং আমাদের জন্য শব্দের পর শব্দ টাইপ করতে শুরু করেছে।
TPS (প্রতি সেকেন্ডে লেনদেন) দ্বারা AI প্রকারগুলি যে গতিতে নির্ধারিত হয়। এই মান যত বেশি হবে, তত দ্রুত আমরা সম্পূর্ণ উত্তর প্রদর্শিত দেখতে পাব।
টিপস: টিপিএস কী?
টিপিএস মানে টোকেন পার সেকেন্ড, যা এআই বা টাইপিং গতির দক্ষতা হিসাবে বোঝা যেতে পারে।
প্রিফিল পর্যায়ে TPS: AI যে গতিতে প্রশ্নটি বোঝে তা প্রতিনিধিত্ব করে।
ডিকোড পর্বে টিপিএস: এআই আমাদের জন্য যে গতিতে উত্তর তৈরি করে তা প্রতিনিধিত্ব করে।
টিপস: টিপিএস কী?
তাই যখন DGX Spark আমাদের প্রশ্নের উত্তর দিল, তখন তারা প্রথম শব্দটি দ্রুত টাইপ করল, কিন্তু পরে টাইপিং গতি খুব ধীর ছিল। মনে রাখবেন যে Mac Mini M4 Pro এর 24GB স্ট্যান্ডার্ড মেমোরি ভার্সনের দাম মাত্র 10,999 ইউয়ান।
কেন এমন হল? এই পরীক্ষাটি লার্জ মডেল এরিনার টিম LMSYS দ্বারা পরিচালিত হয়েছিল, যারা উপরের ছবিতে দেখানো ছয়টি ভিন্ন ডিভাইস নির্বাচন করেছিল এবং তাদের SGLang প্রকল্প এবং Ollam-এ একাধিক ওপেন-সোর্স বৃহৎ ভাষার মডেল পরিচালনা করেছিল।
▲ SGLang হল LMSYS টিম দ্বারা তৈরি একটি উচ্চ-কার্যক্ষমতাসম্পন্ন অনুমান কাঠামো। FP8, MXFP4, q4_K_M, এবং q8_0 বৃহৎ ভাষা মডেলের কোয়ান্টাইজেশন ফর্ম্যাটগুলিকে বোঝায়, অর্থাৎ, বৃহৎ মডেলগুলিকে সংকুচিত করা এবং বিভিন্ন বাইনারি স্টোরেজ পদ্ধতি ব্যবহার করা।
পরীক্ষাগুলিতে ১২০ বিলিয়ন প্যারামিটার সহ একটি বৃহৎ স্থানীয় মডেল এবং ৮ বিলিয়ন প্যারামিটার সহ একটি ছোট মডেল অন্তর্ভুক্ত ছিল। এছাড়াও, ব্যাচের আকার এবং SGLang এবং Ollam ফ্রেমওয়ার্কের মধ্যে পার্থক্য DGX Spark-এর কর্মক্ষমতার উপর বিভিন্ন প্রভাব ফেলবে।
উদাহরণস্বরূপ, পর্যালোচনা দল উল্লেখ করেছে যে ডিজিএক্স স্পার্ক যখন ব্যাচের আকার ১ ছিল তখন প্রতি সেকেন্ডে মাত্র ২০ ইউনিট ডিকোড করেছিল, কিন্তু যখন ব্যাচের আকার ৩২ এ সেট করা হয়েছিল, তখন প্রতি সেকেন্ডে ডিকোড করা ইউনিটের সংখ্যা বেড়ে ৩৭০ হয়ে যায়। সাধারণভাবে বলতে গেলে, ব্যাচের আকার যত বড় হবে, প্রতিবার তত বেশি কন্টেন্ট প্রক্রিয়া করতে হবে এবং জিপিইউর জন্য কর্মক্ষমতার প্রয়োজনীয়তা তত বেশি হবে।
এর GB10 গ্রেস ব্ল্যাকওয়েল চিপ আর্কিটেকচার এবং 1টি PFLOP স্পার্স FP4 টেনসরের পারফরম্যান্সের উপর ভিত্তি করে, DGX Spark এর AI ক্ষমতাগুলি RTX 5070 এবং RTX 5070 Ti এর মধ্যে অবস্থিত।
অতএব, শুরুতে ফলাফল দেখানো গ্রাফটি DGX Spark এর ক্ষমতা সম্পূর্ণরূপে প্রতিনিধিত্ব করে না, কারণ এটি সমস্ত মডেল পরীক্ষার ফলাফলের গড় করে। তবে, চূড়ান্ত কর্মক্ষমতা মডেল ইনফারেন্সের ব্যাচ আকার এবং মডেলের পরামিতিগুলির উপর নির্ভর করে পরিবর্তিত হবে।
সংক্ষেপে, DGX Spark এর সুবিধাগুলি হল:
- উচ্চ কম্পিউটিং শক্তি: RTX 5070 স্তরের মূল AI ক্ষমতা সহ, বৃহৎ ব্যাচের কাজ পরিচালনা করতে সক্ষম।
- বড় মেমোরি: ১২৮ গিগাবাইট বিশাল মেমোরির সাহায্যে, এটি সহজেই শত শত কোটি রেকর্ড সহ বড় মডেল চালাতে পারে।
কিন্তু এর দুর্বলতা মারাত্মক এবং স্পষ্ট – ব্যান্ডউইথ।
প্রিফিল পর্বটি মূলত কম্পিউটিং শক্তি (আপনি কত দ্রুত চিন্তা করতে পারেন) সম্পর্কে, অন্যদিকে ডিকোড পর্বটি মূলত ব্যান্ডউইথ (আপনি কত দ্রুত কথা বলতে পারেন) সম্পর্কে।
ডিজিএক্স স্পার্কের সমস্যা হল এর মস্তিষ্ক (কম্পিউটিং শক্তি) দ্রুত, কিন্তু এর মুখ (ব্যান্ডউইথ) তাল মিলিয়ে চলতে পারে না।
সহজভাবে বলতে গেলে, এর ডেটা চ্যানেলটি একটি পাতলা জলের পাইপের মতো:
- ডিজিএক্স স্পার্ক LPDDR5X মেমোরি ব্যবহার করে (সাধারণত মোবাইল ফোন এবং ল্যাপটপে ব্যবহৃত হয়), যার ব্যান্ডউইথ মাত্র 273 গিগাবাইট/সেকেন্ড।
- বিপরীতে, হাই-এন্ড গেমিং গ্রাফিক্স কার্ড RTX 5090 1800 GB/s পর্যন্ত ব্যান্ডউইথ সহ GDDR7 মেমরি ব্যবহার করে, যা একটি ফায়ার হোসের মতো।
ডিকোডিং পর্যায়ে ডিজিএক্স স্পার্ক খারাপ পারফর্ম করে তার মূল কারণ এটি।
LMSYS গুগল ডক্সে বিস্তারিত মূল্যায়ন ফলাফল প্রদান করেছে। আমরা কিমি এজেন্টকে ডেটা সরবরাহ করেছি এবং একটি বিস্তারিত ভিজ্যুয়ালাইজেশন রিপোর্ট, কাঁচা ডেটার একটি প্রিভিউ পেয়েছি, অথবা আপনি কিমি প্রিভিউ রিপোর্ট ডাউনলোড বিকল্পে ক্লিক করতে পারেন।
▲ https://www.kimi.com/chat/199e183a-7402-8641-8000-0909324fe3fb
ব্যান্ডউইথের সীমাবদ্ধতা? ম্যাক স্টুডিও ইনস্ট্যান্সের সাথে সংযোগ স্থাপন করে সেগুলি এড়িয়ে যান।
ব্যান্ডউইথ একটি বাধা, কিন্তু আরও বেশি গীকি দল DGX Spark থেকে সমস্ত কম্পিউটিং শক্তি সঙ্কুচিত করার একটি উপায় খুঁজে পেয়েছে: দ্রুত ব্যান্ডউইথ সহ একটি ডেস্কটপ ডিভাইস, Mac Studio M3 Ultra খুঁজে বের করুন এবং এর 819 GB/s গতি ব্যবহার করে বড় মডেলগুলির অনুমান গতি 2.8 গুণ উন্নত করুন।
দুটি DGX Spark মেশিনের প্রাথমিক অ্যাক্সেস পাওয়ার পর, EXO ল্যাব সরাসরি DGX Spark এবং Mac Studio-কে বৃহৎ মডেল ইনফারেন্সের প্রিফিল এবং ডিকোড পর্যায়গুলি অর্পণ করে, যা PD বিচ্ছেদ নামে পরিচিত।
আমরা আগে যে প্রি-ফিলিং এবং ডিকোডিং পর্যায়গুলি চালু করেছি, তার অনুরূপ, একটি কম্পিউটিং পাওয়ারের উপর নির্ভর করে এবং অন্যটি ব্যান্ডউইথের উপর। উপরের চিত্রে দেখানো হয়েছে, হলুদ রঙটি প্রি-ফিলিং পর্যায়কে প্রতিনিধিত্ব করে, যা TTFT (প্রথম মাত্রার সময়) নির্ধারণ করে এবং ডিকোডিং পর্যায়টি, যা TPS (প্রতি সেকেন্ডে লেনদেন) নির্ধারণ করে।
▲ EXO ল্যাবের পদ্ধতি হল ডিকোডিংটি ম্যাক স্টুডিওর কাছে হস্তান্তর করা।
তবে, PD বিচ্ছেদ বাস্তবায়ন করা সহজ নয়। EXO টিমকে আরেকটি সমস্যা সমাধান করতে হবে: DGX Spark ডিভাইসে প্রি-ফিলিং পর্যায়ে (KV ক্যাশে) উৎপন্ন কন্টেন্ট কীভাবে ডিকোডিং প্রক্রিয়াজাতকরণকারী ডিভাইসে স্থানান্তর করা যায়।
ডেটার এই অংশটি অনেক বড়। যদি দুটি ডিভাইসের মধ্যে ট্রান্সমিশন সময় খুব বেশি হয়, তাহলে এটি কর্মক্ষমতা উন্নতিকেও বাতিল করতে পারে।
EXO এর উত্তর হল: পাইপলাইনযুক্ত স্তরযুক্ত গণনা এবং সংক্রমণ। যখন DGX Spark প্রাক-জনসংখ্যার প্রথম স্তরটি প্রক্রিয়া করে, তখন কম্পিউটেড কী-মান ক্যাশে তাৎক্ষণিকভাবে Mac Studio-তে প্রেরণ করা হয়, যখন DGX Spark প্রাক-জনসংখ্যার দ্বিতীয় স্তরটি চালিয়ে যায়।
এই স্তরযুক্ত পাইপলাইন পদ্ধতির মাধ্যমে গণনা এবং ডেটা স্থানান্তরের সময় সম্পূর্ণরূপে ওভারল্যাপ হতে পারে। পরিশেষে, সমস্ত স্তর পূর্বে পূরণ হয়ে গেলে, ম্যাক স্টুডিওতে সম্পূর্ণ কী-মান ক্যাশে থাকে এবং তাৎক্ষণিকভাবে ডিকোডিং শুরু করতে পারে।
এই সমাধানটি যদিও DGX Spark-এর ব্যান্ডউইথ সীমাবদ্ধতা কিছুটা হলেও দূর করে, গতি ৩ গুণ বৃদ্ধি করে, একই সাথে খরচও তিনগুণ বৃদ্ধি করে। দুটি DGX Spark ইন্সট্যান্স এবং একটি Mac Studio M3 Ultra-এর সম্মিলিত খরচ প্রায় ১০০,০০০ RMB।
একটি বৃহৎ স্থানীয় মডেল চালানোর জন্য এটি ব্যবহার করা অতিরিক্ত কাজ হবে।
কর্মক্ষমতা পরীক্ষার বাইরে, আর কী করা যেতে পারে?
২৭৩ গিগাবাইট/সেকেন্ড ব্যান্ডউইথই ডিজিএক্স স্পার্কের সব কিছু নয়। ১২৮ গিগাবাইট ইউনিফাইড মেমোরি, ডেটা সেন্টার-গ্রেড GB10 আর্কিটেকচার গ্রাফিক্স কার্ড যা প্রতি সেকেন্ডে ১টি পেটাফ্লপ সাপোর্ট করে এবং ডেস্কটপ-গ্রেড ডিজাইনের কারণে, এটির অ্যাপ্লিকেশন পরিস্থিতি সম্প্রসারণের সম্ভাবনা রয়েছে।
এই ডিভাইসটি, এর সুস্পষ্ট শক্তি এবং দুর্বলতা সহ, কী করতে পারে তা দেখার জন্য আমরা ইউটিউবারদের কাছ থেকে কিছু আনবক্সিং এবং হ্যান্ডস-অন ভিডিও পেয়েছি।
স্থানীয় এআই ভিডিও জেনারেশন
বেশিরভাগ টেক্সট মডেল এখন বিনামূল্যে ব্যবহার করা যায়, তবে বেশিরভাগ ভিডিও মডেলের জন্য অর্থপ্রদানের সদস্যপদ বা পয়েন্ট সিস্টেমের প্রয়োজন হয়।
ব্লগার বিজিয়ানবোয়েন ComfyUI ফ্রেমওয়ার্ক এবং আলিবাবার Wan 2.2 14B টেক্সট-টু-ভিডিও মডেল ব্যবহার করেছেন, সরাসরি অফিসিয়াল DXG স্পার্ক প্লেবুকের উপর ভিত্তি করে একটি ভিডিও জেনারেশন প্রকল্প কনফিগার করেছেন।
▲ NVIDIA DGX Spark – স্পন্সরবিহীন পর্যালোচনা (স্ট্রিক্স হ্যালোর সাথে তুলনা, সুবিধা এবং অসুবিধা) ভিডিও সূত্র: https://youtu.be/Pww8rIzr1pg
ভিডিও তৈরির প্রক্রিয়া চলাকালীন, তিনি উল্লেখ করেছিলেন যে কমান্ড কার্যকর করার পরে জিপিইউ তাপমাত্রা 60-70 ডিগ্রি সেলসিয়াসে পৌঁছে গেলেও, কোনও শব্দ ছিল না, এমনকি ফ্যান ঘোরার শব্দও ছিল না।
▲বেশিরভাগ ব্লগার যেমন উল্লেখ করেছেন, DGX Spark আসলেই বেশ "শান্ত", এবং ডিভাইসটি বিচ্ছিন্ন করার পদ্ধতিটি অসাধারণভাবে সুন্দর ছিল। (সূত্র: storagereview.com)
ভিডিও এবং ছবি তৈরির জন্য ব্যবহৃত ComfyUI ছাড়াও, যা DGX Spark-এ পরিচালনার জন্য নির্দেশিকা প্রদান করে, স্থানীয়ভাবে বৃহৎ মডেল চালানোর জন্য একটি ডেস্কটপ টুল, LM Studio, DGX Spark-এর সমর্থন উল্লেখ করে একটি ব্লগ পোস্টও প্রকাশ করেছে।
মাল্টি-এজেন্ট চ্যাটবট তৈরিতে টুলের ব্যবহার
লেভেল১টেকস শেয়ার করেছে কিভাবে তারা DGX স্পার্ক ব্যবহার করে এজেন্টদের মধ্যে মিথস্ক্রিয়া সক্ষম করার জন্য সমান্তরালভাবে একাধিক LLM এবং VLM চালায়।
▲ NVIDIA এর DGX Spark সম্পর্কে বিস্তারিত জানুন, ভিডিও সূত্র: https://youtu.be/Lqd2EuJwOuw
১২৮ গিগাবাইট মেমোরির জন্য ধন্যবাদ, এটি বিভিন্ন কাজ পরিচালনা করার জন্য চারটি মডেল থেকে বেছে নিতে পারে: ১২০ বিলিয়ন প্যারামিটার সহ GPT-OSS, ৬.৭ বিলিয়ন প্যারামিটার সহ DeepSeek-Coder, এবং Qwen3-Embedding-4B এবং Qwen2.5-VL:7B-Instruct।
এই প্রকল্পটি এনভিডিয়া কর্তৃক প্রদত্ত একটি অফিসিয়াল নির্দেশিকাও। তাদের ওয়েবসাইটে, তারা এটি ব্যবহারের ২০টিরও বেশি উপায় অফার করে এবং প্রতিটি পদ্ধতির জন্য, তারা আনুমানিক সময় এবং বিস্তারিত পদক্ষেপ প্রদান করে।
▲ https://build.nvidia.com/spark
এটি অনেকটা টেক্সট-টু-নলেজ গ্রাফ সিস্টেম তৈরির মতো, যা অসংগঠিত টেক্সট ডকুমেন্টগুলিকে স্ট্রাকচার্ড নলেজ নোডে রূপান্তর করে।
ভিডিও অনুসন্ধান এবং সারাংশ।
আমরা Reddit-এ এমন কিছু ব্যবহারকারীকেও পেয়েছি যারা DGX Spark পেয়েছেন এবং একটি AMA (Ask Me Anything) সেশন শুরু করেছেন। একজন ব্যবহারকারী তাদের পরীক্ষার ফলাফল শেয়ার করেছেন, আরও উল্লেখ করেছেন যে এর AI ক্ষমতা RTX 5070 এর সাথে তুলনীয়। অন্য কেউ জিজ্ঞাসা করেছেন যে কার্প্যাথির নতুন চালু হওয়া ন্যানোচ্যাট প্রকল্প চালানো সম্ভব কিনা।
DGX Spark-এর জন্য আরও বেঞ্চমার্ক ফলাফল এবং আরও ব্যাপক ব্যবহারকারী নির্দেশিকা আপডেট আসবে বলে আশা করা হচ্ছে, এবং APPSO-এর DGX Spark শীঘ্রই আসছে।
ডিজিএক্স স্পার্কের অস্তিত্ব কৃত্রিম বুদ্ধিমত্তার দ্রুত বিকাশের যুগে একটি পরীক্ষার মতো মনে হচ্ছে, ডেটা সেন্টার-স্তরের কম্পিউটিং শক্তি সহ একটি ডেস্কটপ মেশিন, যা স্থানীয় কৃত্রিম বুদ্ধিমত্তা সম্পর্কে আমাদের কল্পনার সীমানা পরীক্ষা করে।
ডিজিএক্স স্পার্ক চলতে পারে কিনা তা ছাড়াও আসল প্রশ্ন হল, আমাদের প্রত্যেকের কাছে একটি সুপার কম্পিউটার থাকলে আমরা কী করতে পারি।
#iFanr-এর অফিসিয়াল WeChat অ্যাকাউন্ট অনুসরণ করতে আপনাকে স্বাগতম: iFanr (WeChat ID: ifanr), যেখানে যত তাড়াতাড়ি সম্ভব আরও উত্তেজনাপূর্ণ কন্টেন্ট আপনার কাছে উপস্থাপন করা হবে।