मुख्य कंटेंट तक स्किप करें

AI और मॉडल

Powerduck में आप सहायक का मॉडल चुन और कॉन्फ़िगर कर सकते हैं। डेस्कटॉप पर अनुरोध मुख्य प्रोसेस से चुने हुए एंडपॉइंट तक जाते हैं; दस्तावेज़ बदलाव समीक्षा योग्य कार्ड से ही होते हैं।

अपना मॉडल इस्तेमाल करें​

सेटिंग में सहायक को OpenAI-संगत Chat Completions एंडपॉइंट से जोड़ें:

  • पहले से उपलब्ध प्रदाता चुनें या कस्टम प्रदाता बनाएँ;
  • दिखने वाला नाम, बेस URL, API कुंजी और मॉडल ID दें;
  • कई प्रोफ़ाइल कॉन्फ़िगर करके उनमें से चुन सकते हैं।

ऐप किसी विशेष प्रदाता पर निर्भर नहीं है। स्वयं होस्ट किया गया या तीसरे पक्ष का OpenAI-संगत एंडपॉइंट उसी तरह काम करता है, जो अपनी मॉडल नीति रखने वाली टीमों के लिए उपयोगी है।

उन्नत क्षमताएँ और वैकल्पिक तरीका​

हर प्रोफ़ाइल में उन्नत क्षमताएँ विकल्प होता है, जो डिफ़ॉल्ट रूप से चालू है:

  • चालू होने पर ऐप मॉडल की नेटिव फ़ंक्शन कॉलिंग इस्तेमाल करता है और टूल कैटलॉग भेजता है, ताकि मॉडल सही टूल सीधे चुनकर कॉल कर सके;
  • यदि एंडपॉइंट नेटिव टूल पैरामीटर अस्वीकार करे, जैसे छोटे मॉडल में टूल समर्थन न हो, तो ऐप इसे याद रखता है और सामग्री-आधारित वैकल्पिक प्रोटोकॉल से एक बार फिर कोशिश करता है।

यह विकल्प संगतता बेहतर करता है, लेकिन सफलता की गारंटी नहीं देता। नेटवर्क, प्रमाणीकरण और मॉडल की त्रुटियाँ फिर भी हो सकती हैं। जिस प्रोफ़ाइल में हमेशा मूल तरीका चाहिए, उसमें उन्नत क्षमताएँ बंद करें।

टूल-आधारित काम भी सीमित है: एजेंट सीमित टूल राउंड चलाता है, डिफ़ॉल्ट रूप से तीन, और उसी रन में दोहराए गए कॉल हटाता है।

अनुरोध मुख्य प्रोसेस से क्यों जाते हैं​

डेस्कटॉप क्लाइंट पर पूर्णता अनुरोध वेब व्यू के बजाय Node मुख्य प्रोसेस से भेजे जाते हैं। इसके दो ठोस लाभ हैं:

  • ब्राउज़र CORS की बाधा नहीं। वेब पेज पर लागू क्रॉस-ओरिजिन पाबंदियाँ मॉडल एंडपॉइंट की कॉल को नहीं रोकतीं;
  • HTTP अनुरोध रेंडरर के बाहर चलता है। उसके नेटवर्क पैनल में मुख्य प्रोसेस का HTTP आदान-प्रदान नहीं दिखता। यह इस बात की गारंटी नहीं कि प्रॉम्प्ट या कुंजी रेंडरर मेमोरी, लॉग या अन्य डेवलपर टूल में नहीं होगी।

डेस्कटॉप गेटवे अनुरोध की संरचना जाँचता है और संसाधन सीमाएँ लागू करता है:

  • केवल HTTP(S) URL स्वीकार होते हैं। हेडर नाम और मान, बॉडी आकार, टाइमआउट और एक साथ चल रहे अनुरोध जाँचे जाते हैं। स्थानीय और निजी एंडपॉइंट की अनुमति है। यह होस्ट की अनुमति-सूची या प्रदाता की गोपनीयता की गारंटी नहीं है;
  • अनुरोध रद्द किए जा सकते हैं (ai:cancel)।

डेस्कटॉप और वेब​

एक ही सहायक दोनों रनटाइम में उपयुक्त चैनल से काम करता है:

  • डेस्कटॉप (Electron): क्षमताएँ स्थानीय रूप से आयात और निष्पादित होती हैं; पूर्णता अनुरोध मुख्य प्रोसेस से भेजे जाते हैं;
  • वेब: वही कार्यप्रवाह HTTP पर चलता है और स्थानीय मॉड्यूल के बजाय सेवा API कॉल करता है।

इसीलिए ऐप Electron के साथ वेब-संगत तरीका भी रखता है। उद्देश्य समझने और कार्ड का व्यवहार एक जैसा रहता है, जबकि ट्रांसपोर्ट रनटाइम के अनुसार बदलता है।

उद्देश्य कैसे पहचाना जाता है​

हर सुविधा के लिए कीवर्ड की सूची बनाकर उद्देश्य नहीं पहचाना जाता। ऐप मॉडल को स्पष्ट टूल कैटलॉग देता है, जिसमें हर टूल का ID, पैरामीटर और उपयोग की सही स्थिति होती है। मॉडल टूल चुनता है, निश्चित नियमों वाला ऐप उसे जाँचकर चलाता है और लिखने वाली कार्रवाइयाँ पुष्टि माँगती हैं।

नई क्षमता जोड़ने का अर्थ कैटलॉग में सही विवरण वाला टूल जोड़ना है, कीवर्ड की सूची बढ़ाना नहीं। यही कैटलॉग MCP सर्वर से बाहरी एजेंटों के साथ साझा हो सकता है, जिससे उत्पाद और अन्य टूल की क्षमताएँ एकरूप रहती हैं।

गोपनीयता​

  • प्रॉम्प्ट, चुना हुआ संदर्भ, टूल विवरण और क्रेडेंशियल आपके कॉन्फ़िगर किए गए मॉडल एंडपॉइंट को भेजे जाते हैं। होस्ट किया गया प्रदाता यह डेटा प्राप्त करता है। यदि आपकी नीति स्थानीय अनुमान की माँग करती है, तो विश्वसनीय स्थानीय एंडपॉइंट इस्तेमाल करें;
  • हर बदलाव मॉडल नहीं, निश्चित नियमों वाला ऐप सत्यापित और लागू करता है;
  • लिखने की हर कार्रवाई चलने से पहले आप स्वीकृति देते हैं।

संबंधित: सहायक के साथ डिज़ाइन, सेटिंग, क्लाउड एक्सेस नियंत्रण।