AI और मॉडल
Powerduck में आप सहायक का मॉडल चुन और कॉन्फ़िगर कर सकते हैं। डेस्कटॉप पर अनुरोध मुख्य प्रोसेस से चुने हुए एंडपॉइंट तक जाते हैं; दस्तावेज़ बदलाव समीक्षा योग्य कार्ड से ही होते हैं।
अपना मॉडल इस्तेमाल करें
सेटिंग में सहायक को OpenAI-संगत Chat Completions एंडपॉइंट से जोड़े ं:
- पहले से उपलब्ध प्रदाता चुनें या कस्टम प्रदाता बनाएँ;
- दिखने वाला नाम, बेस URL, API कुंजी और मॉडल ID दें;
- कई प्रोफ़ाइल कॉन्फ़िगर करके उनमें से चुन सकते हैं।
ऐप किसी विशेष प्रदाता पर निर्भर नहीं है। स्वयं होस्ट किया गया या तीसरे पक्ष का OpenAI-संगत एंडपॉइंट उसी तरह काम करता है, जो अपनी मॉडल नीति रखने वाली टीमों के लिए उपयोगी है।
उन्नत क्षमताएँ और वैकल्पिक तरीका
हर प्रोफ़ाइल में उन्नत क्षमताएँ विकल्प होता है, जो डिफ़ॉल्ट रूप से चालू है:
- चालू होने पर ऐप मॉडल की नेटिव फ़ंक्शन कॉलिंग इस्तेमाल करता है और टूल कैटलॉग भेजता है, ताकि मॉडल सही टूल सीधे चुनकर कॉल कर सके;
- यदि एंडपॉइंट नेटिव टूल पैरामीटर अस्वीकार करे, जैसे छोटे मॉडल में टूल समर्थन न हो, तो ऐप इसे याद रखता है और सामग्री-आधारित वैकल्पिक प्रोटोकॉल से एक बार फिर कोशिश करता है।
यह विकल्प संगतता बेहतर करता है, लेकिन सफलता की गारंटी नहीं देता। नेटवर्क, प्रमाणीकरण और मॉडल की त्रुटियाँ फिर भी हो सकती हैं। जिस प्रोफ़ाइल में हमेशा मूल तरीका चाहिए, उसमें उन्नत क्षमताएँ बंद करें।
टूल-आधारित काम भी सीमित है: एजेंट सीमित टूल राउंड चलाता है, डिफ़ॉल्ट रूप से तीन, और उसी रन में दोहराए गए कॉल हटाता है।
अनुरोध मुख्य प्रोसेस से क्यों जाते हैं
डेस्कटॉप क्लाइंट पर पूर्णता अनुरोध वेब व्यू के बजाय Node मुख्य प्रोसेस से भेजे जाते हैं। इसके दो ठोस लाभ हैं:
- ब्राउज़र CORS की बाधा नहीं। वेब पेज पर लागू क्रॉस-ओरिजिन पाबंदियाँ मॉडल एंडपॉइंट की कॉल को नहीं रोकतीं;
- HTTP अनुरोध रेंडरर के बाहर चलता है। उसके नेटवर्क पैनल में मुख्य प्रोसेस का HTTP आदान-प्रदान नहीं दिखता। यह इस बात की गारंटी नहीं कि प्रॉम्प्ट या कुंजी रेंडरर मेमोरी, लॉग या अन्य डेवलपर टूल में नहीं होगी।
डेस्कटॉप गेटवे अनुरोध की संरचना जाँचता है और संसाधन सीमाएँ लागू करता है:
- केवल HTTP(S) URL स्वीकार होते हैं। हेडर नाम और मान, बॉडी आकार, टाइमआउट और एक साथ चल रहे अनुरोध जाँचे जाते हैं। स्थानीय और निजी एंडपॉइंट की अनुमति है। यह होस्ट की अनुमति-सूची या प्रदाता की गोपनीयता की गारंटी नहीं है;
- अनुरोध रद्द कि ए जा सकते हैं (
ai:cancel)।
डेस्कटॉप और वेब
एक ही सहायक दोनों रनटाइम में उपयुक्त चैनल से काम करता है:
- डेस्कटॉप (Electron): क्षमताएँ स्थानीय रूप से आयात और निष्पादित होती हैं; पूर्णता अनुरोध मुख्य प्रोसेस से भेजे जाते हैं;
- वेब: वही कार्यप्रवाह HTTP पर चलता है और स्थानीय मॉड्यूल के बजाय सेवा API कॉल करता है।
इसीलिए ऐप Electron के साथ वेब-संगत तरीका भी रखता है। उद्देश्य समझने और कार्ड का व्यवहार एक जैसा रहता है, जबकि ट्रांसपोर्ट रनटाइम के अनुसार बदलता है।