কয়েক সপ্তাহ আগে যখন মাইক্রোসফ্ট কপিলট + পিসি ঘোষণা করেছিল , তখন একটি প্রশ্ন সর্বোচ্চ রাজত্ব করেছিল : কেন আমি আমার জিপিইউতে এই এআই অ্যাপ্লিকেশনগুলি চালাতে পারি না? Computex 2024 এ, Nvidia অবশেষে একটি উত্তর প্রদান করেছে।
এনভিডিয়া এবং মাইক্রোসফ্ট একসাথে একটি অ্যাপ্লিকেশন প্রোগ্রামিং ইন্টারফেস (API) নিয়ে কাজ করছে যা ডেভেলপারদের RTX গ্রাফিক্স কার্ডে তাদের AI-এক্সিলারেটেড অ্যাপগুলি চালানোর অনুমতি দেবে৷ এর মধ্যে রয়েছে বিভিন্ন স্মল ল্যাঙ্গুয়েজ মডেল (SLMs) যা কপিলট রানটাইমের অংশ, যেগুলি রিকল এবং লাইভ ক্যাপশনের মতো বৈশিষ্ট্যগুলির ভিত্তি হিসাবে ব্যবহৃত হয়।
টুলকিটের সাহায্যে, বিকাশকারীরা অ্যাপগুলিকে NPU-এর পরিবর্তে আপনার GPU-তে স্থানীয়ভাবে চালানোর অনুমতি দিতে পারে। এটি শুধুমাত্র আরও শক্তিশালী AI অ্যাপ্লিকেশনের দরজা খুলে দেয়, কারণ GPU গুলির AI ক্ষমতাগুলি সাধারণত NPU গুলির থেকে বেশি, তবে সেই PCগুলিতে চালানোর ক্ষমতাও যা বর্তমানে Copilot+ ছাতার অধীনে পড়ে না৷
এটি একটি দুর্দান্ত পদক্ষেপ। Copilot+ PC-এর জন্য বর্তমানে একটি নিউরাল প্রসেসিং ইউনিট (NPU) প্রয়োজন যা প্রতি সেকেন্ডে কমপক্ষে 40 Tera Operations (TOPS) করতে সক্ষম। এই মুহুর্তে, শুধুমাত্র স্ন্যাপড্রাগন এক্স এলিট সেই মানদণ্ডকে সন্তুষ্ট করে। তা সত্ত্বেও, জিপিইউগুলির AI প্রক্রিয়াকরণের ক্ষমতা অনেক বেশি, এমনকি লো-এন্ড মডেলগুলি 100 TOPS-এ পৌঁছায় এবং উচ্চ-শেষের বিকল্পগুলি আরও বেশি স্কেলিং করে।
GPU-তে চলার পাশাপাশি, নতুন API কপিলট রানটাইমে পুনরুদ্ধার-অগমেন্টেড জেনারেশন (RAG) ক্ষমতা যুক্ত করে। RAG AI মডেলকে স্থানীয়ভাবে নির্দিষ্ট তথ্যে অ্যাক্সেস দেয়, এটি আরও সহায়ক সমাধান প্রদান করার অনুমতি দেয়। আমরা এই বছরের শুরুতে RTX-এর সাথে এনভিডিয়ার চ্যাট-এর সাথে সম্পূর্ণ ডিসপ্লেতে RAG দেখেছি।
API-এর বাইরে, Nvidia Computex-এ RTX AI টুলকিট ঘোষণা করেছে। এই ডেভেলপার স্যুট, জুনে আগত, বিভিন্ন টুলস এবং SDK গুলিকে একত্রিত করে যা ডেভেলপারদের নির্দিষ্ট অ্যাপ্লিকেশনের জন্য AI মডেলগুলি টিউন করতে দেয়৷ এনভিডিয়া বলে যে RTX AI টুলকিট ব্যবহার করে, বিকাশকারীরা ওপেন-সোর্স সমাধান ব্যবহারের তুলনায় মডেলগুলিকে চারগুণ দ্রুত এবং তিনগুণ ছোট করতে পারে।
আমরা এমন একটি টুলস দেখছি যা ডেভেলপারদের শেষ ব্যবহারকারীদের জন্য নির্দিষ্ট এআই অ্যাপ্লিকেশন তৈরি করতে সক্ষম করে। এর মধ্যে কিছু ইতিমধ্যেই Copilot+ PC-এ প্রদর্শিত হচ্ছে, কিন্তু আমি সন্দেহ করি যে আমরা পরের বছর এই সময়ে আরও অনেক AI অ্যাপ্লিকেশন দেখতে পাব। আমাদের কাছে এই অ্যাপগুলো চালানোর জন্য হার্ডওয়্যার আছে। এখন আমাদের শুধু সফটওয়্যারটি দরকার।