LLMKube

विस्तृत परिचय

प्लग करने योग्य रनटाइम (LLAMA.CPP, VLLM, TGI, ओलामा, VLLM-Swift), मल्टी-GPU शार्डिंग, NVIDIA CUDA + Apple सिलिकॉन का उपयोग करें धातु का स्व-होस्टेड LLM तर्क एक कुबेरनेट्स ऑपरेटर ओपनएआई संगत है एपीआई।

यह ओपन-सोर्स परियोजना की आधिकारिक जानकारी का प्रवेश बिंदु है। परियोजना इस साइट पर नहीं चलती और तुरंत उपयोग योग्य क्लाउड खाता मिलने की गारंटी नहीं है। कुछ उत्पादों को स्वयं होस्ट करना या इंस्टॉल करना पड़ता है। उपयोग से पहले संस्करण, सिस्टम आवश्यकताओं और रखरखाव की स्थिति की जाँच करें।

दृश्य के लिए उपयुक्त

यह प्रासंगिक ओपन सोर्स सॉफ्टवेयर का मूल्यांकन करने, प्रोजेक्ट दस्तावेजों से परामर्श करने और व्यक्तिगत उपयोग या टीम सेवाओं के निर्माण के लिए उपयुक्त है जब इसमें रखरखाव क्षमताएं और प्राधिकरण की स्थिति होती है। परियोजना लाइसेंस: अपाचे-2.0. परिनियोजन प्लेटफ़ॉर्म जानकारी: GO, Docker, K8s।

उपयोग के लिए सावधानियां

यह साइट इंस्टॉलेशन पैकेज की मेजबानी नहीं करती है, प्रोजेक्ट कोड निष्पादित नहीं करती है, और सुरक्षा प्रमाणन या उपलब्धता गारंटी प्रदान नहीं करती है। कृपया स्वयं द्वारा परिनियोजित करने से पहले लाइसेंस, आधिकारिक सुरक्षा घोषणा और स्थापना निर्देश पढ़ें; सेवा को सीधे सार्वजनिक नेटवर्क में न रखें या संवेदनशील जानकारी न भरें।

समावेशन और सिफारिश सुरक्षा प्रमाणन, व्यावसायिक प्राधिकरण या प्रभाव गारंटी का प्रतिनिधित्व नहीं करते हैं। तीसरे पक्ष की कीमत, लाइसेंस और संस्करण आधिकारिक वर्तमान विवरण के अधीन हैं।

ग्राहक सेवा और संपर्क जानकारी

यदि पुष्टि की गई ग्राहक सेवा जानकारी अभी तक प्रदान नहीं की गई है, तो कृपया आधिकारिक वेबसाइट पर संपर्क जानकारी देखें; यह साइट वीचैट खाते का अनुमान नहीं लगाएगी या अज्ञात क्यूआर कोड प्रदर्शित करेगी।