৭০ বিলিয়ন প্যারামিটারের AI এখন ল্যাপটপে, জানুন কী লাভ হবে

AI ও প্রযুক্তিবিশ্বে এক যুগান্তকারী পরিবর্তন এসেছে। এখন 70 বিলিয়ন প্যারামিটার সমৃদ্ধ একটি বৃহৎ ভাষার মডেল (Large Language Model) আপনি আপনার ল্যাপটপেই চালাতে পারবেন, যদি ল্যাপটপটিতে 48 GB RAM থাকে। dev.to AI-এর এক প্রতিবেদনে এই তথ্য জানানো হয়েছে।

এই সম্ভব হয়েছে মডেল কোয়ান্টাইজেশন (Model Quantization) নামের একটি কৌশলের মাধ্যমে। সাধারণত এই ধরনের মডেল চালানোর জন্য একাধিক উচ্চক্ষমতাসম্পন্ন GPU সমৃদ্ধ সার্ভারের প্রয়োজন হতো। কিন্তু কোয়ান্টাইজেশন সেই বাধা দূর করেছে। এটি AI-কে গণতান্ত্রিক করে তুলেছে।

কোয়ান্টাইজেশন কীভাবে কাজ করে? এটি একটি গাণিতিক প্রক্রিয়া। মূলত মডেলের ভেতরের সংখ্যাগুলোকে উচ্চ নির্ভুলতা থেকে নিম্ন নির্ভুলতায় রূপান্তর করা হয়। উদাহরণস্বরূপ, 32-বিট ফ্লোটিং পয়েন্ট সংখ্যাকে 8-বিট বা 4-বিট পূর্ণসংখ্যায় পরিণত করা হয়। এতে মডেলের আকার ব্যাপকভাবে কমে যায়। ফলে এটি কম মেমোরিতেও চলতে পারে।

এই প্রক্রিয়ায় মডেলের নির্ভুলতা কিছুটা কমলেও তা ব্যবহারের উপযোগী থাকে। বিশেষ করে দৈনন্দিন কাজে এই সামান্য নির্ভুলতা হ্রাস তেমন বড় সমস্যা তৈরি করে না। বরং এর বিনিময়ে পাওয়া যায় দ্রুতগতি এবং কম খরচ।

বাংলাদেশের ডেভেলপার, ফ্রিল্যান্সার ও শিক্ষার্থীদের জন্য এই খবর অত্যন্ত গুরুত্বপূর্ণ। এখন তারা ব্যয়বহুল ক্লাউড সার্ভিস বা উচ্চক্ষমতাসম্পন্ন ডেস্কটপ ছাড়াই নিজেদের ল্যাপটপে বড় AI মডেল নিয়ে পরীক্ষা-নিরীক্ষা চালাতে পারবেন। গবেষণা ও প্রকল্প উন্নয়নে এটি এক নতুন দিগন্ত খুলে দেবে।

ভবিষ্যতে আরও উন্নত কোয়ান্টাইজেশন কৌশল আসবে বলে আশা করা যাচ্ছে। তখন হয়তো 100 বিলিয়ন প্যারামিটারের মডেলও একটি সাধারণ ল্যাপটপে চালানো সম্ভব হবে। AI-এর জগতে এটি এক বিপ্লবের সূচনা মাত্র।

আরও পড়ুন

• ১৬ জিবি র্যামের ল্যাপটপেই চলবে গুগলের শক্তিশালী ওপেন সোর্স এআই
• AI মডেল টিউনিংয়ে বড় পরিবর্তন: দ্রুত ও সস্তা সমাধান আসছে, জানুন কী লাভ
• Ollama দিয়ে নিজের কম্পিউটারে AI চালান, ইন্টারনেট ছাড়াই কাজ করবে