ডেটা সেন্টার আপনার মেশিনে স্থানান্তরিত হচ্ছে

একটি এআই সিস্টেমের জন্য সঠিক লক্ষ্য হলো প্রতিটি ব্যবহারকারীর জন্য প্রতি ওয়াটে সর্বোচ্চ টোকেন মান প্রদান করা। এটি শুনতে সহজ মনে হলেও আসলে তা নয়, কারণ এখানে তিনটি বিষয় একে অপরের বিপরীতমুখী।

সঠিকতার জন্য সবচেয়ে সক্ষম মডেলগুলোর প্রয়োজন হয়, যা চালানো বেশ ব্যয়বহুল। গোপনীয়তার স্বার্থে কিছু কাজ আপনার ডিভাইস থেকে কখনো বাইরে যাওয়া উচিত নয়। খরচ এবং শক্তির কথা বিবেচনা করলে, ছোট মডেল দিয়ে যে কাজ চালানো যায় তার জন্য ফ্রন্টিয়ার মডেলের কম্পিউট শক্তি ব্যয় করা ঠিক নয়। অন্যগুলোকে গুরুত্ব না দিয়ে যেকোনো একটির সর্বোচ্চ ব্যবহার নিশ্চিত করা সম্ভব নয়।

এই তিনটির মধ্যে ভারসাম্য বজায় রাখা একটি অর্কেস্ট্রেশন বা সমন্বয়করণ সমস্যা। আর এই অর্কেস্ট্রেশনের কাজটিই Perplexity বরাবর করে আসছে।

আজ আমরা Personal Computer-এর পরবর্তী পদক্ষেপ ঘোষণা করলাম: প্রথম হাইব্রিড লোকাল-সার্ভার ইনফারেন্স অর্কেস্ট্রেটর। এটি বিশ্লেষণ করে দেখে কোন কাজটি আপনার ডিভাইসে চালানো উচিত এবং কোন কাজটি ক্লাউডে এজেন্টদের কাছে পাঠানো উচিত, এবং এটি স্বয়ংক্রিয়ভাবে প্রতিটি কাজের অংশকে সঠিক স্থানে পৌঁছে দেয়।

মডেল থেকে কম্পিউট পর্যন্ত

সঠিক ও উদ্ধৃত উত্তর দেওয়ার জন্য টুলস এবং উৎসগুলো সমন্বয় করার মাধ্যমে Perplexity-এর যাত্রা শুরু হয়েছিল। Computer এটিকে শত শত এজেন্টের একটি কাঠামোতে রূপান্তর করেছে, যা বিশটিরও বেশি ফ্রন্টিয়ার মডেলে চালিত হয় এবং প্রতিটি কাজের জন্য সঠিক মডেলটি বেছে নেয়। এখন আমরা একই ধারণাটি কম্পিউটের ক্ষেত্রেও প্রসারিত করতে পারছি: কোন মডেল, কোথায় এটি চলছে এবং কেন চলছে।

হাইব্রিড এজেন্টিক ইনফারেন্স সেই সমস্ত কাজের জন্য যেখানে সংবেদনশীল ডেটা থাকে কিন্তু শক্তিশালী এআই প্রয়োজন হয়। যেমন আর্থিক রেকর্ড, স্বাস্থ্য সম্পর্কিত তথ্য এবং ব্যক্তিগত ফাইল। সংবেদনশীল ডেটা কখন স্থানীয়ভাবে সংরক্ষণ করা উচিত তা নির্ধারণ করতে কমপ্যাক্ট মডেলটি আপনার ডিভাইসে স্থানীয়ভাবে চলে।

এদিকে, যে কাজের জন্য ফ্রন্টিয়ার মডেলের পূর্ণ সক্ষমতা প্রয়োজন, তা সার্ভারে চলে। বেশিরভাগ বাস্তব কাজই এই দুটির মিশ্রণ, তাই Personal Computer সেগুলোকে বিভক্ত করে এবং বিভিন্ন অংশের সমন্বয় করে। যেসব টুল আগে থেকেই লোকাল বা ক্লাউড বেছে নেওয়ার কথা বলে, সেগুলোর বিপরীতে এটি নিজে থেকেই কাজ অনুযায়ী কাজটি সম্পন্ন করে।

ডিভাইসই হলো ডেটা সেন্টার

বহু বছর ধরে, আরও বেশি সক্ষম সিলিকন বলতে মূলত দ্রুতগতির অ্যাপ এবং দীর্ঘস্থায়ী ব্যাটারি লাইফ বোঝানো হতো। চিপ যখন বাস্তব ইনফারেন্স চালাতে সক্ষম হয়, তখন বিষয়টি পরিবর্তিত হয়। স্থানীয় হার্ডওয়্যার যত ভালো হবে, অর্কেস্ট্রেটর আপনার মেশিনে তত বেশি ডেটা রাখতে পারবে এবং সত্যিকার অর্থেই যে কাজের জন্য সার্ভার প্রয়োজন, সার্ভারকে কেবল সেই কাজের জন্য তত বেশি সংরক্ষিত রাখতে পারবে।

আমরা ইন্টেলের সাথে এটি উন্মোচন করেছি, এবং একই মডেল-অগ্নস্টিক কাঠামো এনভিডিয়ার RTX স্পার্কসহ অন্যান্য লোকাল সিলিকনেও কাজ করে। লোকাল কম্পিউটের দৌড় শুরু হয়ে গেছে। চিপগুলোর উন্নতির সাথে সাথে, কেবল Perplexity-এর কাছেই সত্যিকার অর্থে নির্বিঘ্ন অর্কেস্ট্রেশনের জন্য এজেন্টিক কাঠামো এবং অ্যাপ্লায়েড ইনফারেন্স ইঞ্জিনিয়ারিং রয়েছে।

এটি কম্পিউটের ঘাটতি নিয়ে উদ্বিগ্ন সবার হিসাব-নিকাশও পাল্টে দেয়। যখন সংবেদনশীল কাজ এবং রুটিন কাজগুলো মানুষের নিজেদের ডিভাইসেই সম্পন্ন হতে শুরু করে, তখন এর জন্য অত বেশি সেন্ট্রালাইজড অবকাঠামো তৈরি করার প্রয়োজন হয় না। এটি সার্বভৌমত্বের ধারণাকেও বদলে দেয়: কোনো দেশকে ডেটা ধরে রাখার জন্য আলাদাভাবে ডেটা সেন্টার তৈরি না করেই গুরুত্বপূর্ণ ডেটা নিজ এখতিয়ারের মধ্যে রাখতে পারে।

লোকেরা অন্য কারো নিয়ন্ত্রণে থাকা ডেটা সেন্টারে কাজ করার চেয়ে নিজেদের ল্যাপটপেই একটি ডেটা সেন্টার থাকা পছন্দ করবে।

দক্ষতার জন্য সঠিক আর্কিটেকচার

এই আর্কিটেকচারটি Perplexity-এর সাথে মানানসই হওয়ার একটি কারণ রয়েছে। আমাদের ব্যবসা সবসময় নিখুঁত এআই প্রদান করা নিয়ে, আমরা যে টোকেন বিক্রি করি তা সর্বাধিক করা আমাদের লক্ষ্য নয়। ওয়াট প্রতি কার্যকারিতা অনুকূল করার জন্য এটি সঠিক উদ্দীপনা: যখন সঠিক উত্তর পাওয়া যায় এবং কাজটি সম্পন্ন হয়, তখনই আমরা জয়ী হই, বেশি কম্পিউট খরচ করায় নয়।

হাইব্রিড এআই দীর্ঘদিন ধরে শিল্পের একটি লক্ষ্য ছিল। জুলাই মাসে আসছে লোকাল ইনফারেন্সযুক্ত Personal Computer, যা এটিকে বাস্তব রূপ দেওয়া প্রথম পণ্য এবং আপনার মেশিন ও ক্লাউড জুড়ে কম্পিউটকে বুদ্ধিদীপ্তভাবে অর্কেস্ট্রেট করার জন্য প্রথম পণ্য।