পুরনো ২০০৮ সালের সার্ভারেই চলে ৩২B AI মডেল, GPU লাগবে না
একজন গবেষক তার পুরনো 2008 সালের Xeon সার্ভারে 32B প্যারামিটার的大型 ভাষা মডেল সফলভাবে চালিয়েছেন। GPU ছাড়া শুধুমাত্র CPU এবং 64GB RAM ব্যবহার করে এই কৃতিত্ব অর্জন করেছেন তিনি। এই পরীক্ষা প্রমাণ করে যে ব্যয়বহুল GPU ছাড়াও পুরনো হার্ডওয়্যার দিয়ে বড় AI মডেল চালানো সম্ভব।
একজন গবেষক তার পুরনো 2008 সালের Xeon সার্ভারে 32B প্যারামিটার的大型 ভাষা মডেল সফলভাবে চালিয়েছেন। GPU ছাড়া শুধুমাত্র CPU এবং 64GB RAM ব্যবহার করে এই কৃতিত্ব অর্জন করেছেন তিনি। এই পরীক্ষা প্রমাণ করে যে ব্যয়বহুল GPU ছাড়াও পুরনো হার্ডওয়্যার দিয়ে বড় AI মডেল চালানো সম্ভব।
একটি পুরনো 2008 সালের সার্ভার দিয়েও বড় আকারের ভাষা মডেল চালানো সম্ভব। সম্প্রতি একজন গবেষক 2টি Intel Xeon E5440 প্রসেসর এবং 64GB RAM সমৃদ্ধ একটি পুরনো সার্ভারে 32B প্যারামিটার的大型 ভাষা মডেল সফলভাবে চালিয়েছেন। এই সার্ভারে কোনো GPU ছিল না।
গবেষকটি প্রথমে তার কাজের ল্যাপটপে 19 থেকে 20GB সাইজের কোয়ান্টাইজড মডেল চালানোর চেষ্টা করেছিলেন। ল্যাপটপটিতে RTX 4070 GPU ছিল। তিনি আশা করেছিলেন মডেলটি VRAM, RAM এবং NVMe স্টোরেজ জুড়ে ছড়িয়ে পড়বে। কিন্তু পরিবর্তে পুরো সিস্টেম জমে যায়।
এরপর তিনি তার পুরনো সার্ভারটি ব্যবহার করার কথা মনে করেন। সার্ভারটিতে 2টি Intel Xeon E5440 প্রসেসর রয়েছে যা 2008 সালে বাজারে এসেছিল। কোনো GPU না থাকলেও 64GB RAM থাকায় তিনি সেখানে 32B প্যারামিটার的大型 ভাষা মডেল চালাতে সক্ষম হন।
এই পরীক্ষা প্রমাণ করে যে ব্যয়বহুল GPU-র বিকল্প হিসেবে পর্যাপ্ত RAM ব্যবহার করা যেতে পারে। বিশেষ করে যখন মডেলটি কোয়ান্টাইজড আকারে থাকে। কোয়ান্টাইজেশন হলো মডেলের সংখ্যাসূচক মান কমিয়ে তার আকার ছোট করার একটি প্রক্রিয়া। এই প্রক্রিয়ায় মডেলের নির্ভুলতা কিছুটা কমলেও এটি পুরনো হার্ডওয়্যারে চালানো সম্ভব হয়।
বাংলাদেশের ডেভেলপার এবং ফ্রিল্যান্সারদের জন্য এই খবরটি বিশেষ গুরুত্বপূর্ণ। দেশে অনেক পুরনো সার্ভার এবং কম্পিউটার রয়েছে যা এখন অকেজো হয়ে পড়ে আছে। এই পরীক্ষা দেখায় যে সেগুলো দিয়েও AI মডেল চালানো সম্ভব। ফলে নতুন ব্যয়বহুল হার্ডওয়্যার কেনার প্রয়োজন নাও হতে পারে।
শিক্ষার্থীদের জন্যও এই পদ্ধতি সহায়ক হতে পারে। তারা তাদের পুরনো ল্যাপটপ বা ডেস্কটপ দিয়েই বড় ভাষা মডেল নিয়ে পরীক্ষা নিরীক্ষা চালাতে পারবেন। তবে মনে রাখতে হবে যে CPU-তে মডেল চালানো GPU-র তুলনায় ধীর হবে।
গবেষকটি জানিয়েছেন যে তিনি ফোর্থ প্রোগ্রামিং ভাষা এবং AI-এর সমন্বয় নিয়ে আরও পরীক্ষা চালাবেন। তার পরীক্ষার ভিডিও ইউটিউবে পাওয়া যাবে। এই আবিষ্কার ভবিষ্যতে আরও সাশ্রয়ী মূল্যের AI ইনফারেন্স সমাধানের পথ খুলে দিতে পারে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...