Personal AI

प्रमाण स्थिति (2026-09-24, v0.41.0): Personal AI available, not yet lifecycle-verified है। वर्तमान रिलीज़ इसके कॉम्पोनेंट (Ollama और Open WebUI) घोषित करती है, और किसी स्वचालित लाइफ़साइकल रन ने अभी install, apply, verify, backup या restore को कवर नहीं किया है। रनटाइम प्रमाण लंबित है।

Personal AI आपके Linux Docker होस्ट पर भाषा मॉडल के लिए चैट इंटरफ़ेस चलाता है। स्थानीय ओनर को शुरुआती एडमिनिस्ट्रेटर खाता मिलता है, सार्वजनिक साइनअप बंद है, और किसी kombify खाते की ज़रूरत नहीं। रिलीज़ कैटलॉग इस उपयोग केस को Private AI कहता है और इसे private-ai विकल्प के साथ वैकल्पिक ai वर्कलोड के रूप में डिलीवर करता है।

एप्लिकेशन

Ollama मॉडल सर्व करता है।
Open WebUI वह चैट इंटरफ़ेस देता है जिसमें आप साइन इन करते हैं।

यह पेज दोनों को कवर करता है, क्योंकि उन्हें साथ चुना और चलाया जाता है।

पहले होस्ट की क्षमता जाँचें

CPU प्रोफ़ाइल का घोषित होस्ट न्यूनतम 4 CPU कोर, 12 GiB RAM और 40 GiB डिस्क है; 8 CPU कोर, 16 GiB RAM और 80 GiB डिस्क अनुशंसित हैं। उस न्यूनतम के ऊपर मॉडल का आकार मायने रखता है:

Ollama की घोषित RAM सीमा 6 GiB है। डाउनलोड किए गए मॉडल वेट और आपके उपयोग किए संदर्भ (context) को उसके भीतर समाना चाहिए।
Open WebUI की घोषित RAM सीमा 2 GiB है।
कंटेनर इमेज और डाउनलोड किए मॉडल वेट, दोनों के लिए डिस्क जगह रखें।
GPU सर्विंग सक्षम नहीं है; ऊँचा कंप्यूट टियर वही CPU रनटाइम उपयोग करता है।

ये सीमाएँ क्षमता बताती हैं, जवाब की गति नहीं। इंस्टॉलेशन से पहले उपलब्ध होस्ट संसाधन और चुने मॉडल की आवश्यकताएँ जाँचें। कंप्यूट प्रोफ़ाइल के लिए StackKit चुनें देखें।

AI वर्कलोड चुनें

खाली ओनर वर्कस्पेस से:

stackkit init basement-kit --platform standalone-compose \
  --use-case ai --use-case-alternative ai=private-ai \
  --use-case-alternative basement-core=standalone \
  --module-compute-profile stackkits-basement-core-runtime=standard \
  --module-compute-profile stackkits-private-ai-runtime=standard \
  --owner-source=local --non-interactive

init कमांड AI कॉन्फ़िगरेशन और उसके निजी क्रेडेंशियल रेफ़रेंस बनाता है। मौजूदा वर्कस्पेस में AI जोड़ते समय StackSpec अपडेट करें और stackkit secrets materialize चलाएँ। कॉन्फ़िगरेशन की समीक्षा करें और लागू करें:

stackkit validate
stackkit generate
stackkit plan --json
stackkit apply
stackkit verify

Apply को समर्थित Linux होस्ट पर उसकी देखी गई इन्वेंटरी के साथ चलाएँ; देखें समीक्षा करें, लागू करें और सत्यापित करें।

ओनर के रूप में AI रूट खोलें

apply के बाद जनरेट किया गया AI रूट खोलें। Open WebUI अपना शुरुआती एडमिनिस्ट्रेटर स्थापित स्थानीय ओनर की पहचान और उस owner-password सीक्रेट से बनाता है जिसे init कमांड ने ओनर कस्टडी में रखा। अपने StackKits वर्कस्पेस से निजी टर्मिनल में शुरुआती पासवर्ड निकालें:

stackkit secrets reveal --workload ai --slot owner-password

दिखाया गया पासवर्ड निजी रखें और उसे चैट, स्क्रीनशॉट या Git में कॉपी न करें।
पहले लॉगिन के बाद Open WebUI के भीतर पासवर्ड बदलें। स्टार्टअप बूटस्ट्रैप मौजूदा खाते को रीसेट नहीं करता, इसलिए बदला हुआ एडमिनिस्ट्रेटर पासवर्ड अपनी कस्टडी में रखें।

मॉडल स्पष्ट रूप से चुनें और डाउनलोड करें

आपके लिए कोई मॉडल न चुना जाता है और न खींचा जाता है, न इंस्टॉल के दौरान, न रीस्टार्ट या अपग्रेड पर। Open WebUI में Admin Settings खोलें, Ollama मॉडल स्पष्ट रूप से चुनें और उसका डाउनलोड अनुरोध करें। चुनने से पहले अपस्ट्रीम मॉडल का लाइसेंस, डाउनलोड आकार, क्वांटाइज़ेशन, कॉन्टेक्स्ट लंबाई और RAM आवश्यकताएँ देखें। CPU प्रोफ़ाइल पर छोटे मॉडल से शुरू करें। बड़े मॉडल और लंबे कॉन्टेक्स्ट को अधिक मेमोरी चाहिए। जो मॉडल सफलतापूर्वक डाउनलोड होता है वह फिर भी उपलब्ध इन्फ़रेंस क्षमता से अधिक हो सकता है। Ollama के API का कोई होस्ट-प्रकाशित पोर्ट नहीं है। Open WebUI उस तक निजी वर्कलोड नेटवर्क पर पहुँचता है। अनुरोधित डाउनलोड के लिए Ollama के पास आउटबाउंड नेटवर्क एक्सेस है।

अपना पहला सवाल पूछें

Open WebUI में नई चैट बनाएँ, डाउनलोड किया मॉडल चुनें और सवाल भेजें। मॉडल आपके होस्ट पर चलता है। चैट दोबारा खोलकर जाँचें कि आपकी बातचीत सहेजी गई।

अपने kombify खाते से अपना मॉडल उपयोग करें (वैकल्पिक)

आप इसी Ollama को बिना कोई इनबाउंड पोर्ट खोले अपने kombify खाते की AI चैट से भी उपयोग कर सकते हैं। Ollama के बगल में एक वैकल्पिक कनेक्टर kombify की ओर आउटबाउंड टनल खोलता है। kombify कभी आपके नेटवर्क में कनेक्ट नहीं होता, और आपके अपने मॉडल पर अनुरोध आपके Cloud AI भत्ते में नहीं गिने जाते।

अपने kombify खाते में Settings → AI access → Your model endpoints खोलें और एक एंडपॉइंट जोड़ें। लोकेशन के रूप में kombify Local AI StackKit चुनें।
कनेक्टर टोकन कॉपी करें, जो एक ही बार दिखता है।
होस्ट पर, अपने StackKits वर्कस्पेस से कनेक्टर चालू करें और पूछे जाने पर टोकन पेस्ट करें, फिर लागू करें:

stackkit setup ai-connect --token-file -
stackkit generate
stackkit apply

वापस Settings → AI access में Check connection चुनें। एंडपॉइंट ऑनलाइन दिखता है और आपके डाउनलोड किए मॉडल सूचीबद्ध करता है।
चैट में AI स्रोत के रूप में My endpoint चुनें। यह आपके मॉडल के साथ सीधी चैट है; इसमें कोई एजेंट टूल नहीं हैं।

केवल मॉडल सूची, मॉडल विवरण और चैट कंप्लीशन अनुरोध कनेक्टर के ज़रिए Ollama तक पहुँचते हैं; मॉडल डाउनलोड और हटाना स्थानीय रहते हैं। इसका उपयोग बंद करने के लिए Settings → AI access में एंडपॉइंट हटाएँ, जिससे टोकन हर जगह बेकार हो जाता है, और होस्ट पर कनेक्टर बंद करें:

stackkit setup ai-connect --disable
stackkit generate
stackkit apply

क्या कहाँ बना रहता है

स्टोरेज जानबूझकर बाँटा गया है:

क्या	कहाँ	बैकअप व्यवहार
चैट और Open WebUI डेटा	`/app/backend/data` पर स्थायी `open-webui-data` वॉल्यूम	घोषित बैकअप स्रोत; पूर्ण AI रीस्टोरेशन असत्यापित है
डाउनलोड किए मॉडल वेट	`/root/.ollama` पर स्थायी `ollama-models` वॉल्यूम	बैकअप स्रोत नहीं; बैकअप से बाहर

चैट और मॉडल वेट कंटेनर बदलने पर भी बने रहते हैं। मॉडल का नाम और डाइजेस्ट रखें ताकि उसका स्टोरेज खो जाने पर आप उसे फिर पहचान सकें। मॉडल की उपलब्धता उसके अपस्ट्रीम स्रोत पर निर्भर है। पूर्ण AI बैकअप और रीस्टोरेशन असत्यापित हैं; केवल कंटेनर की स्थायिता रिकवरी सिद्ध नहीं करती। वर्कस्पेस लाइफ़साइकल के लिए बैकअप और रीस्टोर देखें।

समस्या निवारण

स्थिति	क्या करें
Apply क्षमता के कारण के साथ होस्ट को ब्लॉक करता है	ऊपर का होस्ट न्यूनतम जाँचें; क्या होस्ट 4 CPU / 12 GiB / 40 GiB न्यूनतम पूरा करता है और क्या आप जो मॉडल लोड करना चाहते हैं वह 6 GiB Ollama सीमा में समाता है?
शुरुआती एडमिनिस्ट्रेटर लॉगिन विफल होता है	पहले लॉगिन के लिए ओनर का ईमेल और शुरुआती पासवर्ड उपयोग करें। बदलने के बाद अपना नया पासवर्ड उपयोग करें; रीस्टार्ट मौजूदा खाते को रीसेट नहीं करता।
पहले डाउनलोड किया मॉडल गायब है	चुना हुआ मॉडल और स्थायी मॉडल वॉल्यूम जाँचें। सामान्य कंटेनर बदलाव उसे सुरक्षित रखता है। नए या खोए मॉडल स्टोर के लिए स्पष्ट डाउनलोड चाहिए।
जवाब अटक जाते हैं या कंटेनर रुक जाता है	वर्कलोड लॉग और उपलब्ध मेमोरी जाँचें। छोटा मॉडल या छोटा कॉन्टेक्स्ट मेमोरी उपयोग घटाता है; CPU इन्फ़रेंस में समय भी लग सकता है।
आपका kombify खाता एंडपॉइंट को ऑफ़लाइन दिखाता है	कनेक्टर नहीं चल रहा। जाँचें कि कनेक्टर टोकन सेट किया गया और वर्कलोड लागू किया गया; Node Hub कनेक्टर कंटेनर दिखाता है।
आपका kombify खाता कहता है कि मॉडल इंस्टॉल नहीं है	पहले Open WebUI में मॉडल डाउनलोड करें; केवल वही मॉडल सूचीबद्ध होते हैं जो Ollama के पास पहले से हैं।
मौजूदा वर्कस्पेस में AI ओनर सीक्रेट रेफ़रेंस गायब हैं	कैनोनिकल इरादा बदलने के बाद मौजूदा `stackkit secrets materialize` चलाएँ; केवल जनरेशन सीक्रेट नहीं बनाता।

यदि कोई प्रश्न ऊपर कवर नहीं है, तो जनरेट की गई रनटाइम डायरेक्टरी में कुछ बदलने से पहले वर्कलोड कंटेनर की स्थिति के लिए Node Hub देखें।

ऐप्स प्राप्त करें

Open WebUI ब्राउज़र-आधारित है: अपना जनरेट किया गया AI रूट किसी भी आधुनिक ब्राउज़र में खोलें और आपके सेट किए एडमिनिस्ट्रेटर खाते से साइन इन करें। क्लाइंट इंस्टॉल करने की ज़रूरत नहीं।

Ollama

Ollama खुद CLI/API मॉडल रनर है, अंतिम-उपयोगकर्ता ऐप नहीं। StackKits उसे आपके लिए पहले से चलाता है; यदि आप उसे सीधे होस्ट पर देखना चाहें, तो अपस्ट्रीम साइट मॉडल कैटलॉग और CLI का दस्तावेज़ देती है।

शुरुआत करें

गाइड

संदर्भ

एप्लिकेशन

पहले होस्ट की क्षमता जाँचें

AI वर्कलोड चुनें

ओनर के रूप में AI रूट खोलें

मॉडल स्पष्ट रूप से चुनें और डाउनलोड करें

अपना पहला सवाल पूछें

अपने kombify खाते से अपना मॉडल उपयोग करें (वैकल्पिक)

क्या कहाँ बना रहता है

समस्या निवारण

ऐप्स प्राप्त करें

Ollama

​एप्लिकेशन

​पहले होस्ट की क्षमता जाँचें

​AI वर्कलोड चुनें

​ओनर के रूप में AI रूट खोलें

​मॉडल स्पष्ट रूप से चुनें और डाउनलोड करें

​अपना पहला सवाल पूछें

​अपने kombify खाते से अपना मॉडल उपयोग करें (वैकल्पिक)

​क्या कहाँ बना रहता है

​समस्या निवारण

​ऐप्स प्राप्त करें

Ollama

एप्लिकेशन

पहले होस्ट की क्षमता जाँचें

AI वर्कलोड चुनें

ओनर के रूप में AI रूट खोलें

मॉडल स्पष्ट रूप से चुनें और डाउनलोड करें

अपना पहला सवाल पूछें

अपने kombify खाते से अपना मॉडल उपयोग करें (वैकल्पिक)

क्या कहाँ बना रहता है

समस्या निवारण

ऐप्स प्राप्त करें