বাংলাদেশি ডেভেলপারের নিজস্ব ইঞ্জিন, ল্যাপটপেই AI চালানোর নতুন দিগন্ত
একজন ডেভেলপার তার নিজের তৈরি মেশিন-ফার্স্ট ল্যাঙ্গুয়েজ (MFL) ব্যবহার করে একটি জিরো-ডিপেন্ডেন্সি এলএলএম ইনফারেন্স ইঞ্জিন তৈরি করেছেন। ল্যাপটপের সিপিইউতে ১ বিলিয়ন প্যারামিটারের মডেল চালিয়ে তিনি প্রতি সেকেন্ডে ২০ টোকেন গতি অর্জন করেছেন। এই গবেষণা প্রমাণ করে যে সীমিত হার্ডওয়্যারেও উন্নত অপ্টিমাইজেশন কৌশল ব্যবহার করে বড় ভাষার মডেল চালানো সম্ভব।
একজন ডেভেলপার তার নিজের তৈরি মেশিন-ফার্স্ট ল্যাঙ্গুয়েজ (MFL) ব্যবহার করে একটি জিরো-ডিপেন্ডেন্সি এলএলএম ইনফারেন্স ইঞ্জিন তৈরি করেছেন। ল্যাপটপের সিপিইউতে ১ বিলিয়ন প্যারামিটারের মডেল চালিয়ে তিনি প্রতি সেকেন্ডে ২০ টোকেন গতি অর্জন করেছেন। এই গবেষণা প্রমাণ করে যে সীমিত হার্ডওয়্যারেও উন্নত অপ্টিমাইজেশন কৌশল ব্যবহার করে বড় ভাষার মডেল চালানো সম্ভব।
প্রযুক্তি জগতে একটি চমকপ্রদ গবেষণা সামনে এসেছে। একজন ডেভেলপার তার নিজের তৈরি একটি মেশিন-ফার্স্ট ল্যাঙ্গুয়েজ (MFL) ব্যবহার করে সম্পূর্ণ শূন্য নির্ভরতার একটি এলএলএম ইনফারেন্স ইঞ্জিন তৈরি করেছেন। এই ইঞ্জিনটি চালানোর জন্য পাইথন, পাইটর্চ বা লামা.সিপিপির মতো কোনো পরিচিত টুলের প্রয়োজন হয় না। শুধু একটি স্ট্যাটিক বাইনারি ফাইলই যথেষ্ট।
গবেষক তার তৈরি মেশিন (MFL) নামের ভাষাটি ব্যবহার করে একটি ডেন্স ১ বিলিয়ন প্যারামিটারের মডেল ল্যাপটপের সিপিইউতে চালিয়েছেন। সেখানে তিনি প্রতি সেকেন্ডে প্রায় ২০ টোকেন (tok/s) গতি পেয়েছেন। তিনি জানিয়েছেন, এই গতিই বর্তমান সীমা। কারণ ডিকোড স্পিড আসলে প্রতি টোকেনে কত বাইট ডাটা সরানো হচ্ছে তার ওপর নির্ভর করে। দুর্বল হার্ডওয়্যারে এই গতি মেমোরি বাসের গতির ওপর নির্ভরশীল।
এই গবেষণায় তিনি স্পেকুলেটিভ ডিকোডিং এবং ইন্টি৪ কোয়ান্টাইজেশনের মতো উন্নত অপ্টিমাইজেশন কৌশল ব্যবহার করেছেন। স্পেকুলেটিভ ডিকোডিং একটি পদ্ধতি যেখানে মডেল একসঙ্গে একাধিক টোকেন অনুমান করে এবং দ্রুত আউটপুট তৈরি করে। অন্যদিকে ইন্টি৪ কোয়ান্টাইজেশন মডেলের প্যারামিটারগুলোর আকার কমিয়ে মেমোরি ব্যবহারের দক্ষতা বাড়ায়। এই কৌশলগুলো ব্যবহার করেই তিনি সীমিত হার্ডওয়্যার থেকে সর্বোচ্চ পারফরম্যান্স বের করেছেন।
বাংলাদেশের জন্য এই গবেষণার গুরুত্ব অপরিসীম। দেশের অধিকাংশ ডেভেলপার এবং গবেষকের হাতে উচ্চক্ষমতার জিপিইউ বা সার্ভার নেই। তারা সাধারণ ল্যাপটপ বা ডেস্কটপ ব্যবহার করেন। এই গবেষণা তাদের জন্য একটি পথ দেখায় যে কীভাবে নিজস্ব টুল তৈরি করে এবং অপ্টিমাইজেশন কৌশল প্রয়োগ করে বড় ভাষার মডেল চালানো যায়। এটি ফ্রিল্যান্সার, শিক্ষার্থী এবং ছোট স্টার্টআপদের জন্য বিশেষভাবে কার্যকর হতে পারে।
ভবিষ্যতে এই ধরনের জিরো-ডিপেন্ডেন্সি ইঞ্জিন এআই প্রযুক্তিকে আরও সহজলভ্য করে তুলতে পারে। গবেষক নিজের তৈরি ভাষা এবং ইঞ্জিন নিয়ে আরও কাজ চালিয়ে যাচ্ছেন। তার লক্ষ্য হল আরও বড় মডেল এবং আরও দ্রুত গতি অর্জন করা। এই গবেষণা প্রমাণ করে যে সৃজনশীলতা এবং প্রযুক্তিগত দক্ষতা দিয়ে সীমিত সম্পদেও অসাধারণ কিছু করা সম্ভব।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...