TR ▾
API anahtarı al

Flux istemleri için LLM API: Pratik iş akışı

Flux istemleri için bir LLM API'si istiyorsanız, iş basittir: bir metin modele kısa bir fikir gönderin ve görüntü hizmetinizin kullanabileceği ayrıntılı bir istem alın. Bu sayfa sistem istemini, ayarları ve kodu gösterir ve yalnızca metin içeren bir modelin ne yapamayacağını açıkça belirtir.

Güncellendi

Bir konveyör bant üzerinde metin şeritlerini boş bir resim çerçevesine besleyen terminal, resimler yazılmadan önce yazılan istemleri gösteriyor

Temel noktalar

  • Formatı ve stili bir kez sabitlemek için bir sistem mesajı kullanın, ardından her istek için yalnızca kısa fikri gönderin.
  • JSON modu, bir betiğin serbest metni ayrıştırmadan üzerinde döngü kurabileceği bir dizi istem varyasyonu döndürür.
  • 100.000 token'lık pencere, bir stil rehberini veya önceki istemleri isteğe yapıştırmanıza olanak tanır.
  • Tam bir genişletme bir kuruşun çok küçük bir kısmına mal olur ve model resmi ne görür ne de oluşturur.

Kısa özet

Bir anahtar oluşturun, bir OpenAI istemcisini https://api.fluxapikey.com/v1 adresine yönlendirin, modeli uncensored olarak ayarlayın ve istem kurallarınızı sistem mesajına ekleyin. Her kullanıcı mesajı sadece fikir olur: birkaç kelime, bir sahne, bir karakter. Yanıt tamamlanmış istemdir. Bunu, kendi anahtarı ve kendi faturalandırması olan, kullandığınız herhangi bir görüntü aracına kopyalayın.

Burada hiçbir şey resim oluşturmaz. API yalnızca metin içindir, bir görüntü sağlayıcısının hizmeti değildir ve renderlarınıza bakamaz. İyi olduğu şey yazmaktır: yapı, kelime dağarcığı, bir toplu iş içinde tutarlılık. Bu sayfanın geri kalanı pratik detayları içerir.

Neden istemler için bir dil modeli kullanılır

Görsel modeller spesifik girdiyi ödüllendirir ve belirsiz girdiyi cezalandırır. "Bir kale" gibi bir satır size ortalama bir kale verir. Duvarların malzemesini, günün saatini, lensi ve renk paletini belirten bir paragraf ise zihninizdeki resme daha yakın bir şey verir. Her resim için bu paragrafı elle yazmak yavaştır ve her seferinde aynı ayrıntıları unutma eğilimindesiniz.

Bir dil modeli tam olarak bu tür genişletme işinde iyidir. Eksik detayı ekler, öğelerin sabit sırasını korur ve yüzlerce istek boyunca tutarlı bir stile bağlı kalır. Bu model varsayılan olarak reddetmediği için daha temkinli barındırılan modellerin genellikle reddettiği yetişkinler için kurgu, karanlık temalar ve karakter çalışmalarıyla da başa çıkar. Her zamanki sınır geçerlidir: yalnızca yasal yetişkin kullanımı; hiçbir biçimde reşit olmayanları içeren cinsel içerik yoktur.

İşleyen bir sistem istemi

Kalitenin çoğu sistem mesajından gelir. Kısa, somut ve test edilebilir tutun. Düzenleyebileceğiniz bir başlangıç noktası:

SYSTEM = '''You write prompts for a text-to-image model.
Output exactly one prompt, one paragraph, no preamble, no quotes.
Order: subject, action, setting, lighting, camera or medium, palette, mood.
Use concrete nouns and visual adjectives. Avoid abstract words like beautiful.
Do not mention the words prompt, image or render.
Keep it under 90 words.'''

Mesajın ne söylemediğine dikkat edin. Yaratıcılık hakkında uzun bir ders veya yasaklanmış konular listesi vermez. Sabit sıralı kısa kuralları bir modelin takip etmesi daha kolaydır, sizin de hata ayıklamanız daha kolaydır. Çıktı kayarsa, bir satırı değiştirin ve aynı fikri yeniden çalıştırın. Farklı bir proje için farklı bir stil istiyorsanız, ikinci bir sistem mesajı tutun ve istek başına birini seçin.

Açıklama yapmayın, gösterin

Kurallar tek başına yeterli olmadığında, konuşma geçmişine bir veya iki örnek çifti ekleyin: kullanıcı mesajı olarak kısa bir fikir ve asistan mesajı olarak beğendiğiniz istem. Bir veya iki çift, genellikle kuralların başka bir paragrafından daha iyi bir ton sağlar.

İsteği gönderme

Çağrı standart bir sohbet tamamlama işlemidir. Yaratıcı genişletme için en önemli ayarlar sıcaklık ve tohum parametresidir.

from openai import OpenAI

client = OpenAI(base_url="https://api.fluxapikey.com/v1", api_key="YOUR_KEY")

def expand(idea, seed=None):
    r = client.chat.completions.create(
        model="uncensored",
        messages=[
            {"role": "system", "content": SYSTEM},
            {"role": "user", "content": idea},
        ],
        temperature=0.9,
        top_p=0.95,
        max_tokens=200,
        seed=seed,
    )
    return r.choices[0].message.content.strip()

print(expand("an abandoned observatory on a cliff", seed=7))

Yaklaşık 0,8 ila 1,0 sıcaklık, beyin fırtınası yaparken istediğiniz çeşitli ifadeler sağlar. Tekrarlanan bir şablon için neredeyse aynı çıktı gerektiğinde 0,3'e yakın bir değere düşürün. seed, top_p, stop ve ceza parametreleri modele aktarılır, bu nedenle başka yerlerde kullanacağınız gibi kullanabilirsiniz. max_tokens sınırı isteğe bağlıdır; beklediğiniz uzunluğa yakın bir değer ayarlamak, kontrolsüz bir yanıtı kısa tutar. Desteklenen her parametre için dokümantasyon sayfasına bakın.

JSON modu ile varyasyon toplu işleri

Bir toplu iş için bir liste isteyin ve response_format ile JSON modunu açın. Sistem mesajı hala modele hangi şekli döndüreceğini söylemelidir, çünkü JSON modu çıktıyı geçerli JSON yapar ancak anahtarları sizin için seçmez.

# client as above: base_url https://api.fluxapikey.com/v1
import json

def variations(idea, n=8):
    r = client.chat.completions.create(
        model="uncensored",
        response_format={"type": "json_object"},
        messages=[
            {"role": "system", "content": SYSTEM + f"\nReturn JSON: {{\"prompts\": [{n} strings]}}."},
            {"role": "user", "content": idea},
        ],
        temperature=1.0,
    )
    return json.loads(r.choices[0].message.content)["prompts"]

for p in variations("a night market in the rain"):
    print(p)

Yine de json.loads'i bir try bloğu içine alın. Çok düşük bir max_tokens nedeniyle bir yanıt kesilirse, ayrıştırılamaz, bu nedenle liste istekleri için bu parametreyi cömert bırakın. Listedeki her istem döngüde doğrudan görüntü hizmetinize girebilir.

100.000 tokenlık pencerenin kullanımı

Bağlam penceresi 100.000 token olup, istem ve tamamlama dahil edilir. İstem işi için bu, istek başına ihtiyacınız olandan fazladır, ancak iki şekilde faydalıdır. Uzun bir stil rehberi, bir karakter sayfası veya geçmiş istemler listesini yapıştırabilir ve model bunları takip eder. Ve çalışan bir konuşma sürdürebilirsiniz: bir istem isteyin, "daha karanlık, sis ekle" deyin ve ilki hatırlayan revize edilmiş bir istem alın.

Uzun girdi para tutar, bu nedenle sabit stil rehberini yalnızca çıktıyı değiştiren şeylerle sınırlı tutun. Beş yüz tokenlık kurallar ucuzdur. Her istekte gönderilen elli bin tokenlık eski istemler birikir, aşağıdaki maliyet bölümünde gösterildiği gibi: 50.000 ekstra girdi tokenı isteği başına 0,0075 $ eder veya 500 istek üzerinden 3,75 $ eder.

Yaygın işler için istem kalıpları

Aynı uç nokta çeşitli farklı görevleri kapsar. Değişen şey sistem mesajıdır.

  • Karakter sayfaları. Tekrarlayan bir karakter için sabit bir açıklama (saç, kıyafet, yaş, yapı) sistem mesajında tutun ve modele her istemde bunu kelimesi kelimesine tekrarlamasını söyleyin. Bu, bir dizi render arasında bir karakterin tanınabilirliğini korumanın en ucuz yoludur.
  • Kelimelerle stil transferi. Beğendiğiniz stil terimlerinin bir listesini verin, örneğin "guaş, sönük palet, gren" ve her istemin son cümlesinde onları isteyin.
  • Olumsuz ifade. Görüntü aracınız ayrı bir negatif istem alıyorsa, modelden JSON modunda iki alan döndürmesini isteyin: prompt ve negative. Negatif listeyi kısa ve spesifik tutun.
  • Kısaltma. Bazı araçlar uzun girdileri keser. Kurallara bir kelime limiti ekleyin ve test edin, çünkü modeller kelimeleri gevşek sayar.

Yetişkinler için olgun kurgu ve rol yapma sanatı burada geçerli bir kullanım senaryosudur. Model, siz isterseniz sahne açıklamasını düz, açık saçık olmayan bir dilde yazar. İçerik kurallarına sahip bir platformda çalışıyorsanız, o kuralları da sistem mesajına ekleyin, böylece istemler resimlerin yayınlanacağı yere uyar.

Döngüyü test etme ve ayarlama

Sistem mesajını kod gibi ele alın. Yaygın aralığınızı kapsayan beş test fikri seçin, bunları sabit bir seed ve düşük sıcaklıkla çalıştırın ve çıktıları kaydedin. Kurallarda her değişiklikten sonra aynı beşini yeniden çalıştırın ve karşılaştırın. Bu, bir durum için yapılan bir düzeltmenin başka bir durumu bozduğu yaygın hatayı yakalar.

Üç semptom arayın. Bir toplu iş boyunca aynı açılış kelimelerini tekrarlayan istemler, sıcaklığın çok düşük olduğunu veya örneklerin çok benzer olduğunu gösterir. Kelime limitinizi yok sayan istemler, kuralın gömülü olduğunu gösterir; kuralı mesajın sonuna taşıyın. "İşte isteminiz" gibi sohbetçi girişler içeren istemler, format kuralının daha sıkı olması gerektiğini gösterir veya ilk satırı kodda silebilirsiniz. Bir UI'da sonuçları gösteriyorsanız stream: true ile akış kullanılabilir ve kullanım akışın sonunda bildirilir.

Planlama yapmanız gereken limitler

Üç dürüst sınır. Birincisi, model yalnızca metin içindir: bir resmi göremez, bu nedenle bir istemin iyi bir resim üretip üretmediğini yargılayamaz. Yargıç sizsiniz ve döngü yaz, render yap, kuralları ayarla şeklindedir. İkincisi, size söylemediğiniz sürece özel görüntü modelinizin tuhaf durumları hakkında hiçbir şey bilmez, bu nedenle bu tuhaf durumları sistem mesajına ekleyin. Üçüncüsü, hız limitleri: tam anahtar 8 eşzamanlı istek ve dakikada 300 izin verir, deneme anahtarı ise 2 ve 60. Bir döngü bunu aşarsa, concurrency veya rate_limited koduyla HTTP 429 alırsınız; bir süre bekleyip yeniden deneyin. Retry-After: 5 başlığı olan bir 429 geçici aşırı yüklenme anlamına gelir ve aynı tavsiye geçerlidir.

İstem başına maliyet

Fiyatlandırma 1M girdi tokenı başına 0,15 $ ve 1M çıktı tokenı başına 0,50 $'dır. Her istek 800 tokenlık bir sistem mesajı ve fikir gönderir ve 200 tokenlık bir istem döndürür diyelim. 500 istek üzerinden bu 400.000 girdi tokenı ve 100.000 çıktı tokenı demektir. Girdi: 0,4 x 0,15 $ = 0,06 $. Çıktı: 0,1 x 0,50 $ = 0,05 $. Toplam: 500 istem için 0,11 $.

Yukarıdaki JSON toplu işlemi, çağrı başına yaklaşık 400 token giriş ve 700 token çıkış ile 0,0004 x $0,15 artı 0,0007 x $0,50 maliyetine sahiptir; bu da sekiz istem için $0,00006 + $0,00035 = $0,00041 eder. Deneme kredisi $0,50'dir, kayıt sonrası tek tıkla alınır. Bakiye yükleme $20'den başlar; bonus seviyeleri için fiyatlandırma sayfasına ve başlamak için anahtar sayfasına bakın.

Sorular ve cevaplar

Model herhangi bir görüntü oluşturucu için istemler yazabilir mi?

Evet, çünkü yalnızca metin üretir. Sistem mesajında görüntü aracınızın tercih ettiği formatı belirtin, ardından sonucu kopyalayın.

Olgun veya karanlık temaları reddeder mi?

Yasal yetişkin kullanımı için içerik reddetmeleri olmadan yanıt verecek şekilde ayarlanmıştır. Reşit olmayanları içeren cinsel içeriğe asla izin verilmez.

Dakikada kaç istem oluşturabilirim?

Tam bir anahtar dakikada 300 istek ve aynı anda 8 istek yapmanıza olanak tanır. JSON moduyla, bir istek birden fazla istem döndürebilir.

Resimleri de oluşturuyor mu?

Hayır. API yalnızca metin içindir; resim, ses veya video oluşturma özelliği yoktur.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı al