Google-এর নতুন AI মডেল মোবাইলের মেমরি খরচ কমিয়ে দেবে
Google DeepMind Gemma 4 মডেলের জন্য QAT চেকপয়েন্ট প্রকাশ করেছে। নতুন Q4_0 ও মোবাইল ফরম্যাট ডিভাইসের মেমরি ব্যবহার অনেক কমিয়ে দিয়েছে। এটি মোবাইল ও এজ ডিভাইসে বড় AI মডেল চালানোর পথ সহজ করবে।
Google DeepMind Gemma 4 মডেলের জন্য QAT চেকপয়েন্ট প্রকাশ করেছে। নতুন Q4_0 ও মোবাইল ফরম্যাট ডিভাইসের মেমরি ব্যবহার অনেক কমিয়ে দিয়েছে। এটি মোবাইল ও এজ ডিভাইসে বড় AI মডেল চালানোর পথ সহজ করবে।
Google DeepMind তাদের Gemma 4 মডেলের জন্য কোয়ান্টাইজেশন অ্যাওয়ার ট্রেনিং (QAT) চেকপয়েন্ট প্রকাশ করেছে। এই নতুন চেকপয়েন্টে Q4_0 এবং একটি বিশেষ মোবাইল ফরম্যাট অন্তর্ভুক্ত রয়েছে। এই ফরম্যাট দুটি অন-ডিভাইস মেমরি ব্যবহার উল্লেখযোগ্যভাবে হ্রাস করে। MarkTechPost এই খবর প্রথম প্রকাশ করেছে।
Gemma 4 একটি ওপেন-ওয়েট মডেল যা ডেভেলপার ও গবেষকদের জন্য তৈরি। আগের BF16 ভার্সনের তুলনায় নতুন QAT চেকপয়েন্টগুলো মেমরি ব্যবহারে বড় পরিবর্তন এনেছে। BF16 ফরম্যাটে মডেল চালাতে অনেক বেশি মেমরি প্রয়োজন হতো। Q4_0 QAT ফরম্যাট সেই মেমরি প্রয়োজনীয়তা প্রায় ৪ গুণ কমিয়ে দিয়েছে। মোবাইল QAT ফরম্যাট আরও কম মেমরি ব্যবহার করে।
প্রযুক্তিগত দিক থেকে এই চেকপয়েন্টগুলো ডিজাইন ট্রেডঅফ নিয়ে এসেছে। BF16 ফরম্যাট সর্বোচ্চ নির্ভুলতা দেয় কিন্তু বেশি মেমরি খরচ করে। Q4_0 QAT ফরম্যাট কিছুটা নির্ভুলতা কমিয়ে মেমরি ব্যবহারে বড় সঞ্চয় করে। মোবাইল QAT ফরম্যাট আরও আগ্রাসী কোয়ান্টাইজেশন ব্যবহার করে। এটি মোবাইল ও এজ ডিভাইসের জন্য আদর্শ।
Google DeepMind প্রকাশিত মেমরি সংখ্যার তুলনা করলে দেখা যায়, BF16-তে Gemma 4 মডেল চালাতে ১৬ জিবি মেমরি প্রয়োজন। Q4_0 QAT ফরম্যাটে এই প্রয়োজন কমে ৪ জিবিতে দাঁড়ায়। মোবাইল QAT ফরম্যাটে মেমরি ব্যবহার আরও কমে ২ জিবিতে নেমে আসে। এই পরিবর্তন মোবাইল ফোন ও ছোট ডিভাইসে বড় ভাষার মডেল চালানোর সম্ভাবনা তৈরি করেছে।
বাংলাদেশের জন্য এই খবর খুবই গুরুত্বপূর্ণ। দেশের ডেভেলপার ও ফ্রিল্যান্সাররা এখন নিজেদের মোবাইল ডিভাইসে Gemma 4 মডেল চালাতে পারবেন। এর মাধ্যমে স্থানীয় ভাষায় AI অ্যাপ্লিকেশন তৈরি করা সহজ হবে। শিক্ষার্থীরাও সীমিত সম্পদে বড় মডেল নিয়ে পরীক্ষা-নিরীক্ষা করতে পারবে। ছোট ব্যবসাগুলো ক্লাউড ছাড়াই নিজস্ব ডিভাইসে AI ব্যবহার করতে পারবে।
ভবিষ্যতে Google DeepMind আরও উন্নত কোয়ান্টাইজেশন কৌশল নিয়ে আসতে পারে। এই চেকপয়েন্টগুলো AI মডেলকে আরও সবার কাছে পৌঁছে দেওয়ার পথ খুলে দিয়েছে। মোবাইল ও এজ ডিভাইসে AI-র ব্যবহার বাড়বে বলে আশা করা যায়।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: MarkTechPost
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...