ওপেন সোর্সে স্যুইচ করে AI খরচ ৯৭% কমানো গেল, জানুন কীভাবে
একটি স্টার্টআপ OpenAI-এর API ব্যবহারের মাসিক বিল ২,০০০ ডলার থেকে কমিয়ে ওপেন সোর্স মডেলে স্যুইচ করে মাত্র ৬০ ডলারে এনেছে। এই পরিবর্তন ছোট ব্যবসা ও ফ্রিল্যান্সারদের জন্য AI ব্যবহারের খরচ নাটকীয়ভাবে কমিয়ে দেওয়ার সম্ভাবনা তৈরি করেছে।
একটি স্টার্টআপ OpenAI-এর API ব্যবহারের মাসিক বিল ২,০০০ ডলার থেকে কমিয়ে ওপেন সোর্স মডেলে স্যুইচ করে মাত্র ৬০ ডলারে এনেছে। এই পরিবর্তন ছোট ব্যবসা ও ফ্রিল্যান্সারদের জন্য AI ব্যবহারের খরচ নাটকীয়ভাবে কমিয়ে দেওয়ার সম্ভাবনা তৈরি করেছে।
একটি ছোট স্টার্টআপ তাদের AI চ্যাটবটের জন্য OpenAI-কে মাসে ২,০০০ ডলার দিচ্ছিল। কিন্তু ওপেন সোর্স মডেলে স্যুইচ করে তারা এই খরচ ৯৭ শতাংশ কমিয়ে ফেলেছে। dev.to ML-এ প্রকাশিত এক ব্লগপোস্টে এই অভিজ্ঞতা বিস্তারিত বর্ণনা করা হয়েছে।
ওই স্টার্টআপের প্রতিষ্ঠাতা জানিয়েছেন, গত মার্চ মাসে ক্লাউড বিল দেখে তিনি হতবাক হয়ে যান। একটি সাধারণ চ্যাটবটের জন্য ২,০০০ ডলার খরচ তার কাছে অযৌক্তিক মনে হয়েছিল। তার কাছে তিনটি পথ ছিল: ফিচারটি বন্ধ করে দেওয়া, দাম বাড়িয়ে গ্রাহকদের হারানোর ঝুঁকি নেওয়া, অথবা বিকল্প খোঁজা। তিনি তৃতীয় পথই বেছে নেন এবং পরের চার সপ্তাহ AI API ইকোসিস্টেম নিয়ে গবেষণা করেন।
তিনি আবিষ্কার করেন, ওপেন সোর্স মডেল যেমন Llama 2, Mistral, এবং Falcon ব্যবহার করে একই কাজ করা সম্ভব। শুধু তাই নয়, এগুলো নিজস্ব সার্ভারে বা সস্তা GPU-তে চালানো যায়। এর ফলে প্রতি মাসের খরচ দাঁড়ায় মাত্র ৬০ ডলারে। পারফরম্যান্সের দিক থেকেও কোনো বড় ধরনের আপস করতে হয়নি।
বাংলাদেশের প্রেক্ষাপটে এই খবরটি অত্যন্ত গুরুত্বপূর্ণ। এখানে অসংখ্য ফ্রিল্যান্সার, ছোট স্টার্টআপ এবং ডেভেলপার AI-ভিত্তিক প্রোডাক্ট তৈরি করছে। তাদের জন্য OpenAI-এর API ফি প্রায়ই নাগালের বাইরে। ওপেন সোর্স মডেল ব্যবহার করলে তারা দ্রুত ও কম খরচে প্রোটোটাইপ তৈরি করতে পারবে।
এছাড়া স্থানীয় উদ্যোক্তারাও এই পদ্ধতি অনুসরণ করে তাদের সার্ভিসের খরচ কমাতে পারেন। উদাহরণস্বরূপ, একটি ই-কমার্স সাইটে চ্যাটবট বসাতে যে খরচ হতো, তা এখন অনেক কমে আসবে। শিক্ষার্থীরাও গবেষণার জন্য বড় মডেল ব্যবহার করতে পারবে বাজেটের চিন্তা না করেই।
তবে ওপেন সোর্স মডেলের কিছু সীমাবদ্ধতাও আছে। এগুলো ট্রেনিং ডেটার পুরনো বা নির্দিষ্ট কিছু ভাষায় দুর্বল হতে পারে। কিন্তু দ্রুত উন্নতির কারণে দিন দিন এই ফাঁক কমছে। বিশেষ করে বাংলা ভাষার জন্য আলাদা করে ফাইন-টিউনিং করলে ভালো ফল পাওয়া সম্ভব।
সবমিলিয়ে, AI খরচ কমানোর এই পদ্ধতি ছোট ব্যবসা ও ডেভেলপারদের জন্য একটি বাস্তব সমাধান। যারা এখনো প্রোপাইটারি API-এর উপর নির্ভরশীল, তাদের জন্য ওপেন সোর্সে স্যুইচ করার সময় এসেছে। এটি শুধু খরচই বাঁচাবে না, বরং প্রযুক্তিগত স্বাধীনতাও দেবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...