HI ▾
API कुंजी पाएँ

Flux प्रॉम्प्ट्स के लिए LLM API: एक व्यावहारिक वर्कफ़्लो

यदि आप Flux प्रॉम्प्ट्स के लिए LLM API चाहते हैं, तो काम सरल है: एक टेक्स्ट मॉडल को एक छोटा विचार भेजें और एक विस्तृत प्रॉम्प्ट प्राप्त करें जिसे आपकी इमेज सेवा उपयोग कर सकती है। यह पृष्ठ सिस्टम प्रॉम्प्ट, सेटिंग्स और कोड दिखाता है, और स्पष्ट रूप से बताता है कि एक केवल-टेक्स्ट मॉडल क्या नहीं कर सकता।

अपडेटेड

एक टर्मिनल टेक्स्ट की पट्टियाँ एक कन्वेयर पर भेज रहा है, एक खाली फ्रेम की ओर, जो छवियों से पहले लिखे गए प्रॉम्प्ट्स दिखा रहा है

मुख्य बिंदु

  • एक सिस्टम संदेश का उपयोग करके फॉर्मेट और शैली को एक बार स्थिर करें, फिर प्रत्येक अनुरोध में केवल छोटा विचार भेजें।
  • JSON मोड एक सूची लौटाता है जिसमें प्रॉम्प्ट विविधताएँ होती हैं, जिसे एक स्क्रिप्ट प्रॉम्प्ट पाठ को पार्स किए बिना लूप कर सकती है।
  • 100,000-टोकन विंडो आपको शैली गाइड या पिछले प्रॉम्प्ट्स अनुरोध में पेस्ट करने देती है।
  • एक पूर्ण विस्तार की लागत एक सेंट का अंश होती है, और मॉडल छवि को न तो देखता है और न ही बनाता है।

संक्षिप्त संस्करण

एक कुंजी बनाएँ, एक OpenAI क्लाइंट को https://api.fluxapikey.com/v1 की ओर निर्देशित करें, मॉडल को uncensored पर सेट करें, और अपने प्रॉम्प्ट नियमों को सिस्टम संदेश में डालें। प्रत्येक उपयोगकर्ता संदेश केवल विचार होता है: कुछ शब्द, एक दृश्य, एक पात्र। उत्तर तैयार प्रॉम्प्ट होता है। इसे उस किसी भी छवि उपकरण में कॉपी करें जिसका आप उपयोग करते हैं, जिसकी अपनी कुंजी और अपनी बिलिंग होती है।

यहाँ कुछ भी छवि जनरेट नहीं करता। API केवल टेक्स्ट पर काम करता है, यह इमेज वेंडर की सेवा नहीं है, और यह आपके रेंडर्स को नहीं देख सकता। यह लेखन में अच्छा है: संरचना, शब्दावली, बैच में स्थिरता। इस पेज का शेष भाग व्यावहारिक विवरण है।

प्रॉम्प्ट्स के लिए भाषा मॉडल का उपयोग क्यों करें

इमेज मॉडल विशिष्ट इनपुट को पुरस्कृत करते हैं और अस्पष्ट इनपुट को दंडित करते हैं। "एक किला" जैसी एक पंक्ति आपको औसत किला देती है। एक पैराग्राफ जो दीवारों की सामग्री, दिन के समय, लेंस और रंग पैलेट का नाम बताता है, आपके दिमाग की छवि के करीब कुछ देता है। प्रत्येक इमेज के लिए उस पैराग्राफ को हाथ से लिखना धीमा है, और आप हर बार वही विवरण भूल जाते हैं।

एक भाषा मॉडल इसी प्रकार के विस्तार में अच्छा होता है। यह गायब विवरण जोड़ता है, तत्वों के एक निश्चित क्रम को बनाए रखता है, और सैकड़ों अनुरोधों पर एक समान शैली बनाए रखता है। चूँकि यह मॉडल डिफ़ॉल्ट पर अस्वीकार नहीं करता है, यह फिक्शन, गहरे विषयों और वयस्कों के लिए पात्र कार्य से भी निपटता है जिन्हें अधिक सावधान होस्टेड मॉडल अक्सर अस्वीकार कर देते हैं। सामान्य सीमा लागू होती है: केवल कानूनी वयस्क उपयोग, और किसी भी रूप में नाबालिगों से जुड़ी यौन सामग्री नहीं।

एक सिस्टम प्रॉम्प्ट जो काम करता है

गुणवत्ता का अधिकांश हिस्सा सिस्टम संदेश से आता है। इसे छोटा, स्पष्ट और परीक्षण योग्य रखें। यहाँ एक शुरुआती बिंदु है जिसे आप संपादित कर सकते हैं:

SYSTEM = '''You write prompts for a text-to-image model.
Output exactly one prompt, one paragraph, no preamble, no quotes.
Order: subject, action, setting, lighting, camera or medium, palette, mood.
Use concrete nouns and visual adjectives. Avoid abstract words like beautiful.
Do not mention the words prompt, image or render.
Keep it under 90 words.'''

ध्यान दें कि संदेश क्या नहीं कहता है। यह रचनात्मकता पर कोई लंबा उपदेश नहीं देता है और न ही निषिद्ध विषयों की कोई सूची। निश्चित क्रम वाले छोटे नियमों का पालन मॉडल के लिए आसान होता है, और आपको डिबग करने में आसान होता है। यदि आउटपुट विचलित होता है, तो एक पंक्ति बदलें और उसी विचार को पुनः चलाएँ। यदि आप किसी अलग प्रोजेक्ट के लिए एक अलग शैली चाहते हैं, तो एक दूसरा सिस्टम संदेश रखें और प्रत्येक अनुरोध के लिए एक चुनें।

बताएं, वर्णन नहीं करें

जब नियम अकेले पर्याप्त नहीं हैं, तो बातचीत में पहले के संदेशों के रूप में एक या दो उदाहरण जोड़े जोड़ें: एक उपयोगकर्ता संदेश के रूप में एक छोटा विचार और एक सहायक संदेश के रूप में वह प्रॉम्प्ट जो आपको पसंद है। एक या दो जोड़े आमतौर पर नियमों के एक अन्य पैराग्राफ से बेहतर टोन ठीक करते हैं।

अनुरोध भेजना

कॉल एक मानक चैट कंप्लीशन है। रचनात्मक विस्तार के लिए सबसे महत्वपूर्ण सेटिंग्स temperature और seed हैं।

from openai import OpenAI

client = OpenAI(base_url="https://api.fluxapikey.com/v1", api_key="YOUR_KEY")

def expand(idea, seed=None):
    r = client.chat.completions.create(
        model="uncensored",
        messages=[
            {"role": "system", "content": SYSTEM},
            {"role": "user", "content": idea},
        ],
        temperature=0.9,
        top_p=0.95,
        max_tokens=200,
        seed=seed,
    )
    return r.choices[0].message.content.strip()

print(expand("an abandoned observatory on a cliff", seed=7))

0.8 से 1.0 के आसपास का तापमान विविध शब्दावली देता है, जो ब्रेनस्टॉर्मिंग के समय आपकी आवश्यकता है। जब आपको एक दोहराए जाने वाले टेम्पलेट के लिए लगभग समान आउटपुट की आवश्यकता होती है तो इसे 0.3 की ओर कम करें। seed, top_p, stop और दंड पैरामीटर मॉडल को पास किए जाते हैं, इसलिए आप उनका उपयोग वैसे ही कर सकते हैं जैसे आप कहीं और करते हैं। max_tokens सीमा वैकल्पिक है; इसे उस लंबाई के आसपास सेट करना जो आप उम्मीद करते हैं, एक लंबे उत्तर को छोटा रखता है। प्रत्येक समर्थित पैरामीटर के लिए दस्तावेज़ देखें।

JSON मोड के साथ विविधताओं के बैच

बैच के लिए, एक सूची मांगें और response_format के साथ JSON मोड चालू करें। सिस्टम संदेश को मॉडल को यह बताना जारी रखना चाहिए कि उसे किस आकार में लौटाना है, क्योंकि JSON मोड आउटपुट को वैध JSON बनाता है लेकिन आपकी कुंजियाँ आपके लिए नहीं चुनता।

# client as above: base_url https://api.fluxapikey.com/v1
import json

def variations(idea, n=8):
    r = client.chat.completions.create(
        model="uncensored",
        response_format={"type": "json_object"},
        messages=[
            {"role": "system", "content": SYSTEM + f"\nReturn JSON: {{\"prompts\": [{n} strings]}}."},
            {"role": "user", "content": idea},
        ],
        temperature=1.0,
    )
    return json.loads(r.choices[0].message.content)["prompts"]

for p in variations("a night market in the rain"):
    print(p)

फिर भी json.loads को एक try ब्लॉक में घेरें। यदि कोई प्रतिक्रिया एक बहुत ही कम max_tokens द्वारा काट दी जाती है, तो वह पार्स नहीं होगी, इसलिए सूची अनुरोधों के लिए उस पैरामीटर को उदार छोड़ दें। सूची में प्रत्येक प्रॉम्प्ट सीधे आपकी इमेज सेवा में एक लूप में जा सकता है।

100,000-टोकन विंडो का उपयोग

कॉन्टेक्स्ट विंडो 100,000 टोकन है, जिसमें प्रॉम्प्ट और पूर्णता दोनों गिने जाते हैं। प्रॉम्प्ट कार्य के लिए यह आपको प्रति अनुरोध जितनी ज़रूरत है उससे अधिक है, लेकिन यह दो तरीकों से उपयोगी है। आप एक लंबे शैली गाइड, एक पात्र शीट या उन पिछले प्रॉम्प्ट्स की सूची पेस्ट कर सकते हैं जिन्होंने काम किया है, और मॉडल उनका पालन करेगा। और आप एक कार्यशील बातचीत को जारी रख सकते हैं: एक प्रॉम्प्ट के लिए पूछें, "अंधेरा, कोहरा जोड़ें" कहें, और एक संशोधित प्रॉम्प्ट प्राप्त करें जो पहली बात को याद रखता है।

लंबे इनपुट में पैसा लगता है, इसलिए स्थायी शैली गाइड को केवल उन्हीं बातों तक सीमित रखें जो आउटपुट बदलती हैं। नियमों के पाँच सौ टोकन सस्ते हैं। पचास हज़ार टोकन के पुराने प्रॉम्प्ट्स जो प्रत्येक अनुरोध के साथ भेजे जाते हैं, जमा हो जाते हैं, जैसा कि लागत अनुभाग नीचे दिखाता है: 50,000 अतिरिक्त इनपुट टोकन प्रति अनुरोध $0.0075 है, या 500 अनुरोधों पर $3.75।

सामान्य कार्यों के लिए प्रॉम्प्ट पैटर्न

वही एंडपॉइंट कई अलग-अलग कार्यों को कवर करता है। जो बदलता है वह सिस्टम संदेश है।

  • पात्र शीट्स। एक दोहराए जाने वाले पात्र (बाल, कपड़े, आयु, कद-काठी) के एक निश्चित विवरण को सिस्टम संदेश में रखें, और मॉडल को निर्देशित करें कि प्रत्येक प्रॉम्प्ट में इसे शब्दशः दोहराए। यह एक श्रृंखला में एक पात्र को पहचानने योग्य रखने का सबसे सस्ता तरीका है।
  • शब्दों द्वारा शैली स्थानांतरण। उन शैली शब्दों की एक सूची दें जिन्हें आप पसंद करते हैं, जैसे "गोआश, म्यूटेड पैलेट, ग्रेन", और हर प्रॉम्प्ट के अंतिम वाक्य में उनका अनुरोध करें।
  • नकारात्मक शब्द चयन। यदि आपकी छवि सेवा एक अलग नकारात्मक प्रॉम्प्ट लेती है, तो JSON मोड में मॉडल से दो फ़ील्ड लौटने के लिए कहें: prompt और negative। नकारात्मक सूची को छोटा और विशिष्ट रखें।
  • संक्षिप्त करना। कुछ टूल लंबे इनपुट को काट देते हैं। नियमों में शब्द सीमा जोड़ें और इसका परीक्षण करें, क्योंकि मॉडल शब्दों की गणना ढीले ढंग से करते हैं।

वयस्कों के लिए परिपक्व कथा और रोलप्ले कला यहाँ एक वैध मामला है। यदि आप कहें तो मॉडल दृश्य विवरण सादे, गैर-ग्राफिक भाषा में लिखेगा। यदि आप किसी प्लेटफॉर्म पर काम करते हैं जिसके अपने सामग्री नियम हैं, तो उन नियमों को भी सिस्टम संदेश में डालें, ताकि प्रॉम्प्ट वहां मेल खाएं जहां छवियां पोस्ट की जाएंगी।

लूप का परीक्षण और ट्यूनिंग

सिस्टम मैसेज को कोड की तरह व्यवहार करें। अपने सामान्य रेंज को कवर करने वाले पांच परीक्षण विचार चुनें, उन्हें एक निश्चित seed और कम तापमान के साथ चलाएं, और आउटपुट को सहेजें। नियमों में प्रत्येक बदलाव के बाद, उसी पांच को फिर से चलाएं और तुलना करें। यह एक सामान्य विफलता को पकड़ता है जहाँ किसी एक मामले के लिए समाधान दूसरे को तोड़ देता है।

तीन लक्षणों की तलाश करें। प्रॉम्प्ट जो बैच में एक ही शुरुआती शब्द दोहराते हैं, इसका मतलब है कि तापमान बहुत कम है या उदाहरण बहुत समान हैं। प्रॉम्प्ट जो आपकी शब्द सीमा को नज़रअंदाज़ करते हैं, इसका मतलब है कि नियम दबा हुआ है; इसे मैसेज के अंत में ले जाएं। प्रॉम्प्ट जो चैटिंग लीड-इन्स जैसे "यहाँ आपका प्रॉम्प्ट है" शामिल करते हैं, इसका मतलब है कि फॉर्मेट नियम को कड़ा करना चाहिए, या आप कोड में पहली पंक्ति को हटा सकते हैं। यदि आप परिणाम UI में दिखा रहे हैं, तो stream: true के साथ स्ट्रीमिंग उपलब्ध है, और उपयोग स्ट्रीम के अंत में रिपोर्ट किया जाता है।

योजना के लिए लिमिट्स

तीन ईमानदार सीमाएँ। पहला, मॉडल केवल टेक्स्ट है: यह एक छवि नहीं देख सकता, इसलिए यह तय नहीं कर सकता कि प्रॉम्प्ट ने एक अच्छी तस्वीर बनाई है। आप ही न्यायाधीश हैं, और लूप है: लिखें, रेंडर करें, नियम समायोजित करें। दूसरा, यह आपके विशिष्ट इमेज मॉडल की विशेषताओं के बारे में कुछ नहीं जानता जब तक कि आप उसे न बताएं, इसलिए उन विशेषताओं को सिस्टम मैसेज में डालें। तीसरा, रेट लिमिट: एक पूर्ण कुंजी 8 समानांतर अनुरोध और प्रति मिनट 300 की अनुमति देती है, और एक ट्रायल कुंजी 2 और 60। यदि एक लूप उससे अधिक होता है, तो आपको HTTP 429 मिलता है जिसमें कोड concurrency या rate_limited होता है; कुछ समय प्रतीक्षा करें और पुनः प्रयास करें। एक 429 जिसमें Retry-After: 5 हेडर होता है, इसका मतलब अस्थायी ओवरलोड है और वही सलाह लागू होती है।

प्रति प्रॉम्प्ट लागत

मूल्य निर्धारण $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है। मान लीजिए कि प्रत्येक अनुरोध एक 800-टोकन सिस्टम मैसेज प्लस विचार भेजता है और एक 200-टोकन प्रॉम्प्ट लौटाता है। 500 अनुरोधों पर, यह 400,000 इनपुट टोकन और 100,000 आउटपुट टोकन है। इनपुट: 0.4 x $0.15 = $0.06। आउटपुट: 0.1 x $0.50 = $0.05। कुल: 500 प्रॉम्प्ट के लिए $0.11।

ऊपर दिया गया JSON बैच, प्रति कॉल लगभग 400 इनपुट और 700 आउटपुट टोकन के साथ, 0.0004 x $0.15 प्लस 0.0007 x $0.50 का खर्च आता है, जो कि $0.00006 + $0.00035 = $0.00041 आठ प्रॉम्प्ट के लिए है। ट्रायल क्रेडिट $0.50 है, साइन-अप के बाद एक क्लिक के साथ लिया जा सकता है। टॉप-अप $20 से शुरू होते हैं; बोनस स्तरों के लिए मूल्य निर्धारण पेज देखें, और शुरू करने के लिए कुंजी पेज पर जाएं।

प्रश्न और उत्तर

क्या मॉडल किसी भी इमेज जनरेटर के लिए प्रॉम्प्ट लिख सकता है?

हाँ, क्योंकि यह केवल पाठ उत्पन्न करता है। आप सिस्टम संदेश में अपने इमेज टूल को जो फ़ॉर्मेट पसंद है वह बताते हैं, फिर परिणाम कॉपी कर लेते हैं।

क्या यह परिपक्व या अंधेरे विषयों से इनकार करेगा?

यह कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून किया गया है। नाबालिगों से जुड़ी यौन सामग्री की कभी अनुमति नहीं है।

मैं प्रति मिनट कितने प्रॉम्प्ट बना सकता हूँ?

एक पूर्ण कुंजी प्रति मिनट 300 अनुरोध और एक साथ 8 की अनुमति देती है। JSON मोड के साथ, एक अनुरोध में कई प्रॉम्प्ट लौटा सकते हैं।

क्या यह चित्र भी उत्पन्न करता है?

नहीं। API केवल टेक्स्ट के लिए है, बिना छवि, ऑडियो या वीडियो जनरेशन के।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।

API कुंजी पाएँ