ম্যাকবুকে AI চালান ১৪ গুণ দ্রুত, ইন্টারনেট লাগে না
একজন ডেভেলপার অ্যাপল সিলিকনের জন্য Squish নামের একটি লোকাল LLM ইনফারেন্স সার্ভার তৈরি করেছেন। এটি ওলামার তুলনায় 1.15 থেকে 14.7 গুণ পর্যন্ত দ্রুত কাজ করে এবং কোনো API কী বা ইন্টারনেট সংযোগ ছাড়াই কোড কমপ্লিশন সক্ষম করে।
একজন ডেভেলপার অ্যাপল সিলিকনের জন্য Squish নামের একটি লোকাল LLM ইনফারেন্স সার্ভার তৈরি করেছেন। এটি ওলামার তুলনায় 1.15 থেকে 14.7 গুণ পর্যন্ত দ্রুত কাজ করে এবং কোনো API কী বা ইন্টারনেট সংযোগ ছাড়াই কোড কমপ্লিশন সক্ষম করে।
অ্যাপল সিলিকন ব্যবহারকারীদের জন্য দারুণ এক খবর এসেছে। একজন ডেভেলপার Squish নামের একটি নতুন লোকাল LLM ইনফারেন্স সার্ভার তৈরি করেছেন। এই টুলটি ওলামার তুলনায় 1.15 থেকে 14.7 গুণ পর্যন্ত দ্রুত কাজ করতে পারে।
Squish তৈরি করেছেন একজন ফ্রাস্ট্রেটেড ডেভেলপার যিনি দ্রুত একটি লোকাল AI টুল খুঁজে পাননি। তিনি নিজের প্রয়োজনেই এই টুল তৈরি করেছেন। ফেব্রুয়ারি মাস থেকে তার অনেক কোড কমিট দুই সেকেন্ডেরও কম সময়ে সম্পন্ন হয়েছে একটি লোকাল AI-এর সাহায্যে। কোনো API কী, রেট লিমিট, ইন্টারনেট সংযোগ বা ডেটা লিকের ভয় নেই।
Squish শুধুমাত্র অ্যাপল সিলিকন M-সিরিজের চিপ এবং macOS 13 ভেনচুরা বা তার পরবর্তী ভার্সনে কাজ করে। আপনি যদি ইন্টেল, লিনাক্স বা উইন্ডোজ ব্যবহার করেন তাহলে এই টুলটি আপনার হার্ডওয়্যারে কাজ করবে না। অ্যাপল সিলিকনের জন্য এটি একটি বিশেষায়িত সমাধান।
Squish-এর সবচেয়ে বড় সুবিধা হলো এর গতি। এটি ওলামার চেয়ে দ্রুত কাজ করে এবং এই গতি নির্ভর করে আপনার প্রম্পট কতবার পুনরাবৃত্তি হয় তার ওপর। প্রম্পট যত বেশি রিপিট হবে তত বেশি গতি বাড়বে। সর্বোচ্চ 14.7 গুণ পর্যন্ত গতি বাড়ানো সম্ভব।
এই টুলটি বিশেষ করে ডেভেলপারদের জন্য খুবই কার্যকর। এটি স্থানীয়ভাবে AI কোড কমপ্লিশন সক্ষম করে। ফলে আপনি আপনার কোড লেখার সময় AI-এর সাহায্য নিতে পারেন কোনো সার্ভারে ডেটা পাঠানো ছাড়াই। আপনার প্রাইভেসি সম্পূর্ণ সুরক্ষিত থাকে।
বাংলাদেশের ডেভেলপার এবং ফ্রিল্যান্সারদের জন্য Squish একটি গুরুত্বপূর্ণ টুল হতে পারে। অনেকেই ম্যাকবুক ব্যবহার করেন এবং তাদের জন্য অ্যাপল সিলিকন ডিভাইস এখন সহজলভ্য। Squish ব্যবহার করে তারা দ্রুত কোড লিখতে পারবেন এবং API খরচ বাঁচাতে পারবেন। বিশেষ করে যারা প্রাইভেসি নিয়ে সচেতন তাদের জন্য এটি আদর্শ সমাধান।
Squish এখন ওপেন সোর্স হিসেবে উপলব্ধ। যেকোনো ডেভেলপার এটি ডাউনলোড করে নিজের মেশিনে ইন্সটল করতে পারেন। ভবিষ্যতে আরও ফিচার যোগ করার সম্ভাবনা আছে। এই টুলটি লোকাল AI টুলের জগতে নতুন দিগন্ত খুলে দিতে পারে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...