OpenAI ছেড়ে ওপেন সোর্সে স্যুইচ করে খরচ কমল ১০ গুণ, জানুন কীভাবে
একজন ডেভেলপার OpenAI-এর API ব্যবহার করে $10 প্রতি মিলিয়ন আউটপুট টোকেন খরচ করার পর খুঁজে পেয়েছে ওপেন সোর্স বিকল্প। তার ব্যক্তিগত অভিজ্ঞতা দেখায় প্ল্যাটফর্ম লক-ইন থেকে মুক্ত হওয়ার পথ।
একজন ডেভেলপার OpenAI-এর API ব্যবহার করে $10 প্রতি মিলিয়ন আউটপুট টোকেন খরচ করার পর খুঁজে পেয়েছে ওপেন সোর্স বিকল্প। তার ব্যক্তিগত অভিজ্ঞতা দেখায় প্ল্যাটফর্ম লক-ইন থেকে মুক্ত হওয়ার পথ।
একজন ডেভেলপার তার ব্যক্তিগত অভিজ্ঞতা শেয়ার করে জানিয়েছেন যে তিনি OpenAI-এর API-এর পরিবর্তে ওপেন সোর্স বিকল্প ব্যবহার শুরু করেছেন। তিনি 2023 সালে GPT-4-এর API ব্যবহার শুরু করেছিলেন। তখন প্রতি মিলিয়ন আউটপুট টোকেনের জন্য $10 খরচ হতো। এই খরচ তার কাছে যুক্তিসঙ্গত মনে হয়েছিল। কিন্তু পরে তিনি বুঝতে পারেন যে একই অবকাঠামোতে চলমান ওপেন সোর্স মডেল ব্যবহার করলে খরচ 40 গুণ কম হতে পারে।
এই অভিজ্ঞতা তাকে প্ল্যাটফর্ম লক-ইন থেকে বেরিয়ে আসার গুরুত্ব বুঝতে সাহায্য করেছে। প্ল্যাটফর্ম লক-ইন মানে হলো একটি নির্দিষ্ট কোম্পানির সেবা বা API-এর উপর এত বেশি নির্ভরশীল হয়ে পড়া যে সহজে অন্য কোথাও যাওয়া যায় না। এই নির্ভরতা খরচ বাড়ায় এবং প্রযুক্তিগত স্বাধীনতা সীমিত করে।
ডেভেলপারটি জানিয়েছেন যে তিনি প্রথমে OpenAI-এর API-কে স্বর্গের মতো মনে করেছিলেন। GPT-4 তখন সবচেয়ে শক্তিশালী মডেল ছিল। কিন্তু তিনি যখন খরচের হিসাব করতে শুরু করেন, তখন বুঝতে পারেন যে তিনি প্রতি মিলিয়ন টোকেনের জন্য $10 দিচ্ছেন। অথচ ওপেন সোর্স মডেল যেমন Llama বা Mistral ব্যবহার করলে একই কাজ করতে খরচ পড়ে মাত্র $0.25। এই পার্থক্য তাকে চমকে দিয়েছে।
তিনি তার প্রজেক্টের জন্য ওপেন সোর্স মডেল ব্যবহার শুরু করেন। নিজের সার্ভারে মডেল চালানোর জন্য তিনি GPU ব্যবহার করেছেন। GPU হলো গ্রাফিক্স প্রসেসিং ইউনিট, যা AI মডেল চালানোর জন্য অত্যন্ত গুরুত্বপূর্ণ। তিনি দেখেছেন যে ওপেন সোর্স মডেলগুলোর কর্মক্ষমতা GPT-4-এর তুলনায় কিছু ক্ষেত্রে কম হলেও বেশিরভাগ কাজেই সেগুলো যথেষ্ট ভালো।
বাংলাদেশের ডেভেলপার ও ফ্রিল্যান্সারদের জন্য এই খবর খুবই গুরুত্বপূর্ণ। অনেকেই OpenAI-এর API ব্যবহার করে অ্যাপ্লিকেশন তৈরি করে। কিন্তু এই API-এর খরচ দ্রুত বেড়ে যায়। ওপেন সোর্স মডেল ব্যবহার করলে তারা খরচ অনেক কমাতে পারবে। এর ফলে ছোট স্টার্টআপ ও স্বতন্ত্র ডেভেলপাররা আরও প্রতিযোগিতামূলক হতে পারবে।
শিক্ষার্থী ও গবেষকদের জন্যও এই পরিবর্তন গুরুত্বপূর্ণ। তারা নিজের কম্পিউটারে ওপেন সোর্স মডেল চালিয়ে AI নিয়ে পরীক্ষা-নিরীক্ষা করতে পারবে। এর জন্য তাদের বড় কোম্পানির API-এর উপর নির্ভর করতে হবে না। এটি প্রযুক্তিগত শিক্ষার ক্ষেত্রে নতুন দিগন্ত খুলে দেবে।
ভবিষ্যতে আরও বেশি ডেভেলপার ওপেন সোর্স মডেলের দিকে ঝুঁকবে বলে আশা করা যায়। OpenAI-এর একচেটিয়া বাজার নিয়ন্ত্রণ ধীরে ধীরে কমে আসবে। তবে এখনই সিদ্ধান্ত নেওয়ার সময় এসেছে। প্রতিটি ডেভেলপারকে নিজের চাহিদা ও বাজেট বুঝে সঠিক প্ল্যাটফর্ম বেছে নিতে হবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...