Google-এর Gemma-4 12B মডেল AWS-এ পোর্টেড, বাংলাদেশি ডেভেলপারদের জন্য বড় সুযোগ

Google-এর সর্বশেষ ওপেন ওয়েট মাল্টিমোডাল মডেল Gemma-4 12B এখন AWS Inferentia2 হার্ডওয়্যারে চালানো সম্ভব হয়েছে। dev.to ML সোর্স জানিয়েছে, এই পোর্টিং প্রক্রিয়াটি তুলনামূলকভাবে সহজ ছিল এবং এতে মাত্র তিনটি নির্দিষ্ট ফিক্স প্রয়োজন হয়েছে।

Gemma-4 12B মডেলটি তার বড় ভাইবোনদের থেকে আলাদা। এটি একটি ডেন্স মডেল, যার মানে এটি MatFormer আর্কিটেকচারের 'ইফেক্টিভ' মডেল নয়। সবচেয়ে বড় চমক হলো এটি একটি মাল্টিমোডাল মডেল হিসেবে প্যাকেজ করা হয়েছে, কিন্তু এতে কোনো আলাদা এনকোডার নেই। টেক্সট, ইমেজ এবং অন্যান্য ডেটা প্রক্রিয়ার জন্য সাধারণত মডেলগুলোর একটি এনকোডার থাকে। কিন্তু Gemma-4 12B সেই এনকোডার ছাড়াই কাজ করে, যা একে অনন্য করে তুলেছে।

পোর্টিং প্রক্রিয়ায় প্রধান চ্যালেঞ্জ ছিল অ্যাটেনশন বাফার ওভারফ্লো সমস্যা। নিউরন হার্ডওয়্যার বাফারে মডেলটির অ্যাটেনশন মেকানিজম এমনভাবে কাজ করে যা ছোট মডেলগুলোর ক্ষেত্রে দেখা যায়নি। এই সমস্যা সমাধানের জন্যই তিনটি নির্দিষ্ট ফিক্স দরকার হয়েছিল। বাকি পুরো রেসিপি আগের E4B মডেল পোর্ট করার মতোই ছিল।

এই পোর্টিংয়ের খবর বাংলাদেশের ডেভেলপার এবং এআই গবেষকদের জন্য অত্যন্ত গুরুত্বপূর্ণ। AWS Inferentia2 চিপ ব্যবহার করে মডেল চালানোর খরচ GPU-র তুলনায় অনেক কম। ফলে বাংলাদেশের স্টার্টআপ এবং ফ্রিল্যান্সাররা কম খরচে উন্নত মাল্টিমোডাল এআই মডেল ব্যবহার করতে পারবেন। ছোট ব্যবসাগুলো ইমেজ রিকগনিশন, কন্টেন্ট জেনারেশন এবং অন্যান্য এআই কাজে এই মডেল ব্যবহার করে প্রতিযোগিতায় এগিয়ে থাকতে পারে।

ভবিষ্যতে আরও জটিল মডেল AWS Inferentia2-তে পোর্ট করা সম্ভব হবে। এই সাফল্য দেখায় যে ওপেন সোর্স এআই মডেলগুলোকে সাশ্রয়ী হার্ডওয়্যারে চালানোর পথ এখন আরও সহজ হয়েছে। বাংলাদেশের টেক কমিউনিটির জন্য এটি একটি বড় সুযোগ।

আরও পড়ুন

• Google-এর Gemma-4 এখন AWS-এ, বাংলাদেশি ডেভেলপারদের জন্য বড় সুবিধা
• ল্যাপটপেই চালান উন্নত AI, Gemma 4 12B এনে দিচ্ছে নতুন সুযোগ
• গুগলের নতুন Gemma 4 মডেলের কোড যোগ, বাংলাদেশি ডেভেলপারদের জন্য বড় সুযোগ