AI মডেলের মধ্যে সরাসরি কথা বলার পদ্ধতি, খরচ কমবে ৩ গুণ

বড় ভাষার মডেল বা Large Language Models (LLMs) এখন একে অপরের সাথে তথ্য বিনিময় করে। কিন্তু এই বিনিময় প্রক্রিয়ায় প্রচুর কম্পিউটিং শক্তি এবং সময় ব্যয় হয়। সম্প্রতি dev.to ML-এ প্রকাশিত এক গবেষণায় এই সমস্যার সমাধান দেখানো হয়েছে।

গবেষকরা একটি নতুন পদ্ধতি প্রস্তাব করেছেন যার নাম Cache-to-Cache Direct Semantic Communication। এই পদ্ধতিতে LLM-গুলো সরাসরি তাদের নিজস্ব ক্যাশে করা উপস্থাপনা বা representations ব্যবহার করে একে অপরের সাথে যোগাযোগ করে। এর ফলে মডেলগুলোর মধ্যে ডেটা পাঠানোর জন্য আলাদা করে নতুন করে প্রক্রিয়াকরণ করতে হয় না।

এই পদ্ধতির মূল লক্ষ্য হলো কম্পিউটেশনাল ওভারহেড এবং লেটেন্সি কমানো। বর্তমানে যখন দুটি ভিন্ন LLM-এর মধ্যে তথ্য আদান-প্রদান হয়, তখন প্রতিটি বার্তা প্রক্রিয়াকরণের জন্য প্রচুর GPU সময় এবং শক্তি লাগে। Cache-to-Cache পদ্ধতি এই খরচ অনেকটাই কমিয়ে দিতে পারে।

গবেষণাটি এখনো পরীক্ষামূলক পর্যায়ে রয়েছে। এটি এখনো ব্যাপকভাবে গ্রহণ করা হয়নি বা কোনো বেঞ্চমার্কের মাধ্যমে যাচাই করা হয়নি। তবে প্রাথমিক ফলাফল আশাব্যঞ্জক। বিশেষজ্ঞরা মনে করছেন, এই পদ্ধতি ভবিষ্যতে মাল্টি-মডেল আর্কিটেকচারে বড় পরিবর্তন আনতে পারে।

বাংলাদেশের ডেভেলপার এবং ফ্রিল্যান্সারদের জন্য এই খবর গুরুত্বপূর্ণ। যারা AI-ভিত্তিক অ্যাপ্লিকেশন তৈরি করেন, তারা জানেন যে মডেলগুলোর মধ্যে যোগাযোগ কতটা ব্যয়বহুল। Cache-to-Cache পদ্ধতি কার্যকর হলে, ছোট প্রতিষ্ঠান এবং ব্যক্তি ডেভেলপাররাও কম খরচে উন্নত AI সিস্টেম তৈরি করতে পারবেন। শিক্ষার্থীরাও এই পদ্ধতি শিখে গবেষণায় যুক্ত হতে পারবেন।

ভবিষ্যতে এই পদ্ধতি যদি আরও পরিণত হয়, তাহলে এটি AI সিস্টেমের দক্ষতা অনেক বাড়িয়ে দেবে। তবে এখনই এটি ব্যবহারের জন্য আরও গবেষণা এবং বাস্তবায়ন প্রয়োজন। গবেষকরা আশা করছেন, আগামী কয়েক বছরের মধ্যে Cache-to-Cache যোগাযোগ একটি মানসম্মত প্রক্রিয়া হয়ে উঠতে পারে।

আরও পড়ুন

• গসিপ প্রযুক্তিতে ডিপ লার্নিং প্রশিক্ষণ ৩ গুণ দ্রুত, জানুন কী লাভ
• Google-এর Cappy আনল ছোট মডেল, বড় AI-র নির্ভুলতা বাড়বে ৩ গুণ
• স্মার্টফোনে AI মডেল ৪২ গুণ দ্রুত, llada.cpp এনে দিল নতুন সুযোগ