VI ▾
Lấy khóa API

API LLM cho prompt Flux: Quy trình thực tế

Nếu bạn muốn API LLM cho prompt Flux, công việc rất đơn giản: gửi một ý tưởng ngắn đến mô hình văn bản và nhận lại một prompt chi tiết mà dịch vụ hình ảnh của bạn có thể sử dụng. Trang này hiển thị prompt hệ thống, các cài đặt và mã, đồng thời nêu rõ những gì mô hình chỉ xử lý văn bản không thể làm.

Cập nhật

Một terminal truyền các dải văn bản dọc theo băng chuyền đến một khung hình trống, hiển thị các prompt được viết trước khi có hình ảnh

Điểm chính

  • Sử dụng tin nhắn hệ thống để cố định định dạng và phong cách một lần, sau đó chỉ gửi ý tưởng ngắn cho mỗi yêu cầu.
  • Chế độ JSON trả về một danh sách các biến thể prompt mà một script có thể lặp qua mà không cần phân tích cú pháp văn bản.
  • Cửa sổ ngữ cảnh 100.000 token cho phép bạn dán hướng dẫn phong cách hoặc các prompt cũ vào yêu cầu.
  • Mở rộng đầy đủ tốn một phần nhỏ của một cent, và mô hình không bao giờ thấy hoặc tạo ra hình ảnh.

Tóm tắt nhanh

Tạo một khóa, trỏ một client OpenAI đến https://api.fluxapikey.com/v1, đặt mô hình thành uncensored, và đặt các quy tắc prompt của bạn vào tin nhắn hệ thống. Mỗi tin nhắn của người dùng sau đó chỉ là ý tưởng: vài từ, một cảnh, một nhân vật. Câu trả lời là prompt hoàn chỉnh. Sao chép nó vào bất kỳ công cụ hình ảnh nào bạn dùng, công cụ đó có khóa và hóa đơn riêng.

Không có gì ở đây tạo ra hình ảnh. API chỉ xử lý văn bản, nó không phải là dịch vụ của nhà cung cấp hình ảnh, và nó không thể xem các bản render của bạn. Điểm mạnh của nó là viết: cấu trúc, từ vựng, tính nhất quán trong một lô. Phần còn lại của trang này là chi tiết thực tế.

Tại sao dùng mô hình ngôn ngữ cho prompt

Các mô hình hình ảnh thưởng cho đầu vào cụ thể và phạt đầu vào mơ hồ. Một dòng như "một lâu đài" cho bạn một lâu đài trung bình. Một đoạn văn nêu rõ vật liệu tường, thời gian trong ngày, ống kính và bảng màu cho bạn thứ gì đó gần hơn với hình ảnh trong đầu bạn. Viết đoạn văn đó bằng tay cho mỗi hình ảnh rất chậm, và bạn có xu hướng quên cùng một chi tiết mỗi lần.

Một mô hình ngôn ngữ rất giỏi loại mở rộng này. Nó sẽ thêm chi tiết còn thiếu, giữ thứ tự cố định của các yếu tố và giữ phong cách nhất quán qua hàng trăm yêu cầu. Vì mô hình này không từ chối theo mặc định, nó cũng xử lý tốt tiểu thuyết hư cấu, chủ đề tối và tác phẩm cho người lớn mà các mô hình lưu trữ thận trọng hơn thường từ chối. Giới hạn thông thường áp dụng: sử dụng hợp pháp cho người lớn, và không có nội dung tình dục liên quan đến người chưa thành niên dưới bất kỳ hình thức nào.

Một prompt hệ thống hiệu quả

Hầu hết chất lượng đến từ tin nhắn hệ thống. Hãy giữ nó ngắn gọn, cụ thể và có thể kiểm tra được. Đây là điểm bắt đầu bạn có thể chỉnh sửa:

SYSTEM = '''You write prompts for a text-to-image model.
Output exactly one prompt, one paragraph, no preamble, no quotes.
Order: subject, action, setting, lighting, camera or medium, palette, mood.
Use concrete nouns and visual adjectives. Avoid abstract words like beautiful.
Do not mention the words prompt, image or render.
Keep it under 90 words.'''

Lưu ý những gì tin nhắn không nói. Nó không đưa ra bài giảng dài về sự sáng tạo và không có danh sách các chủ đề bị cấm. Các quy tắc ngắn với thứ tự cố định dễ tuân theo hơn đối với mô hình và dễ gỡ lỗi hơn cho bạn. Nếu đầu ra bị lệch, hãy thay đổi một dòng và chạy lại cùng một ý tưởng. Nếu bạn muốn một phong cách khác cho một dự án khác, hãy giữ một tin nhắn hệ thống thứ hai và chọn một tin nhắn cho mỗi yêu cầu.

Thể hiện, không mô tả

Khi các quy tắc đơn thuần không đủ, hãy thêm một hoặc hai cặp ví dụ dưới dạng các tin nhắn trước đó trong cuộc trò chuyện: một ý tưởng ngắn dưới dạng tin nhắn của người dùng và prompt bạn thích dưới dạng tin nhắn của trợ lý. Một hoặc hai cặp thường cố định tông giọng tốt hơn một đoạn quy tắc khác.

Gửi yêu cầu

Lệnh gọi là một chat completion tiêu chuẩn. Các cài đặt quan trọng nhất cho việc mở rộng sáng tạo là nhiệt độ và seed.

from openai import OpenAI

client = OpenAI(base_url="https://api.fluxapikey.com/v1", api_key="YOUR_KEY")

def expand(idea, seed=None):
    r = client.chat.completions.create(
        model="uncensored",
        messages=[
            {"role": "system", "content": SYSTEM},
            {"role": "user", "content": idea},
        ],
        temperature=0.9,
        top_p=0.95,
        max_tokens=200,
        seed=seed,
    )
    return r.choices[0].message.content.strip()

print(expand("an abandoned observatory on a cliff", seed=7))

Nhiệt độ khoảng 0,8 đến 1,0 cho ra các cách diễn đạt đa dạng, đây là điều bạn muốn khi lên ý tưởng. Hãy hạ thấp nó xuống khoảng 0,3 khi bạn cần đầu ra gần như giống hệt nhau cho một mẫu lặp lại. seed, top_p, stop và các tham số hình phạt được chuyển tiếp đến mô hình, vì vậy bạn có thể sử dụng chúng như bạn vẫn làm ở nơi khác. Giới hạn max_tokens là tùy chọn; việc đặt nó gần với độ dài bạn mong đợi sẽ ngăn một câu trả lời mất kiểm soát dài lê thê. Xem tài liệu để biết mọi tham số được hỗ trợ.

Lô biến thể với chế độ JSON

Đối với một lô, hãy yêu cầu một danh sách và bật chế độ JSON với response_format. Tin nhắn hệ thống vẫn phải cho mô hình biết hình dạng cần trả về, vì chế độ JSON làm cho đầu ra là JSON hợp lệ nhưng không chọn các khóa cho bạn.

# client as above: base_url https://api.fluxapikey.com/v1
import json

def variations(idea, n=8):
    r = client.chat.completions.create(
        model="uncensored",
        response_format={"type": "json_object"},
        messages=[
            {"role": "system", "content": SYSTEM + f"\nReturn JSON: {{\"prompts\": [{n} strings]}}."},
            {"role": "user", "content": idea},
        ],
        temperature=1.0,
    )
    return json.loads(r.choices[0].message.content)["prompts"]

for p in variations("a night market in the rain"):
    print(p)

Dù vậy, hãy bọc json.loads trong một khối try. Nếu một câu trả lời bị cắt bởi một max_tokens rất thấp, nó sẽ không phân tích cú pháp, vì vậy hãy để tham số đó hào phóng cho các yêu cầu danh sách. Mỗi prompt trong danh sách có thể đi thẳng vào dịch vụ hình ảnh của bạn trong một vòng lặp.

Sử dụng cửa sổ 100.000 token

Cửa sổ ngữ cảnh là 100.000 token, tính cả prompt và phần hoàn thành. Đối với công việc prompt, điều này nhiều hơn bạn cần cho mỗi yêu cầu, nhưng nó hữu ích theo hai cách. Bạn có thể dán một hướng dẫn phong cách dài, một tờ đặc tả nhân vật hoặc một danh sách các prompt đã hoạt động trước đó, và mô hình sẽ tuân theo chúng. Và bạn có thể duy trì một cuộc trò chuyện làm việc: yêu cầu một prompt, nói "tối hơn, thêm sương mù", và nhận một bản sửa đổi nhớ prompt đầu tiên.

Đầu vào dài tốn tiền, vì vậy hãy chỉ giữ trong hướng dẫn phong cách thường trực những gì thay đổi đầu ra. Năm trăm token quy tắc rất rẻ. Năm mươi nghìn token của các prompt cũ được gửi với mỗi yêu cầu sẽ cộng lại, như phần chi phí bên dưới cho thấy: 50.000 token đầu vào bổ sung là $0,0075 cho mỗi yêu cầu, hoặc $3,75 qua 500 yêu cầu.

Mẫu prompt cho các tác vụ phổ biến

Cùng một endpoint bao gồm nhiều tác vụ khác nhau. Những gì thay đổi là tin nhắn hệ thống.

  • Hồ sơ nhân vật. Giữ một mô tả cố định về một nhân vật lặp lại (tóc, quần áo, tuổi, vóc dáng) trong tin nhắn hệ thống, và hướng dẫn mô hình lặp lại nó từng từ trong mọi prompt. Đó là cách rẻ nhất để giữ cho một nhân vật có thể nhận ra qua một loạt các bản render.
  • Chuyển giao phong cách bằng từ ngữ. Đưa ra một danh sách các thuật ngữ phong cách bạn thích, chẳng hạn như "gouache, bảng màu trầm, hạt", và yêu cầu chúng trong câu cuối cùng của mọi prompt.
  • Từ ngữ phủ định. Nếu công cụ hình ảnh của bạn chấp nhận một prompt phủ định riêng, hãy yêu cầu mô hình trả về hai trường trong chế độ JSON: prompt và negative. Giữ danh sách phủ định ngắn và cụ thể.
  • Rút ngắn. Một số công cụ cắt đầu vào dài. Thêm giới hạn từ vào các quy tắc và kiểm tra nó, vì các mô hình đếm từ một cách lỏng lẻo.

Truyện hư cấu dành cho người lớn và nghệ thuật nhập vai cho người lớn là một trường hợp hợp lệ ở đây. Mô hình sẽ viết mô tả cảnh bằng ngôn ngữ rõ ràng, không lộ liễu nếu bạn yêu cầu nó. Nếu bạn làm việc trên một nền tảng có quy tắc nội dung riêng, hãy đặt các quy tắc đó vào tin nhắn hệ thống, để các prompt phù hợp nơi hình ảnh sẽ được đăng.

Kiểm tra và tinh chỉnh vòng lặp

Hãy coi tin nhắn hệ thống như mã. Chọn năm ý tưởng thử nghiệm bao gồm phạm vi thông thường của bạn, chạy chúng với một seed cố định và nhiệt độ thấp, và lưu các đầu ra. Sau mỗi thay đổi đối với các quy tắc, hãy chạy lại năm cái đó và so sánh. Điều này bắt được lỗi phổ biến nơi một bản sửa lỗi cho một trường hợp làm hỏng trường hợp khác.

Tìm ba triệu chứng. Các prompt lặp lại cùng các từ mở đầu qua một lô có nghĩa là nhiệt độ quá thấp hoặc các ví dụ quá đồng nhất. Các prompt bỏ qua giới hạn từ của bạn có nghĩa là quy tắc bị chôn vùi; hãy di chuyển nó xuống cuối tin nhắn. Các prompt bao gồm các phần mở đầu trò chuyện như "Đây là prompt của bạn" có nghĩa là quy tắc định dạng cần nghiêm ngặt hơn, hoặc bạn có thể xóa dòng đầu tiên trong mã. Truyền phát với stream: true có sẵn nếu bạn hiển thị kết quả trong UI, và việc sử dụng được báo cáo ở cuối luồng.

Giới hạn để bạn lên kế hoạch

Ba giới hạn trung thực. Thứ nhất, mô hình chỉ xử lý văn bản: nó không thể nhìn thấy hình ảnh, vì vậy nó không thể đánh giá xem một prompt có tạo ra một bức tranh đẹp hay không. Bạn là người phán xét, và vòng lặp là viết, render, điều chỉnh các quy tắc. Thứ hai, nó không biết gì về những điểm kỳ quặc của mô hình hình ảnh cụ thể của bạn trừ khi bạn nói cho nó biết, vì vậy hãy đặt những điểm kỳ quặc đó vào tin nhắn hệ thống. Thứ ba, giới hạn tốc độ: một khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 mỗi phút, và một khóa dùng thử là 2 và 60. Nếu một vòng lặp vượt quá giới hạn đó, bạn sẽ nhận được HTTP 429 với mã concurrency hoặc rate_limited; hãy đợi một chút và thử lại. Mã 429 với tiêu đề Retry-After: 5 có nghĩa là quá tải tạm thời và lời khuyên tương tự cũng được áp dụng.

Chi phí cho mỗi prompt

Giá là $0,15 cho 1M token đầu vào và $0,50 cho 1M token đầu ra. Giả sử mỗi yêu cầu gửi một tin nhắn hệ thống 800 token cộng với ý tưởng và trả về một prompt 200 token. Qua 500 yêu cầu, đó là 400.000 token đầu vào và 100.000 token đầu ra. Đầu vào: 0,4 x $0,15 = $0,06. Đầu ra: 0,1 x $0,50 = $0,05. Tổng cộng: $0,11 cho 500 prompt.

Lô JSON ở trên, với khoảng 400 token đầu vào và 700 token đầu ra cho mỗi lệnh gọi, tốn 0,0004 x $0,15 cộng 0,0007 x $0,50, tức là $0,00006 + $0,00035 = $0,00041 cho tám prompt. Tín dụng dùng thử là $0,50, nhận bằng một cú nhấp chuột sau khi đăng ký. Nạp tiền bắt đầu từ $20; xem trang giá để biết các bậc thưởng, và trang khóa để bắt đầu.

Hỏi đáp

Mô hình có thể viết prompt cho bất kỳ trình tạo hình ảnh nào không?

Đúng vậy, vì nó chỉ tạo ra văn bản. Bạn cho nó biết định dạng mà công cụ hình ảnh của bạn ưa thích trong tin nhắn hệ thống, sau đó sao chép kết quả đó.

Nó có từ chối các chủ đề trưởng thành hay u tối không?

Nó được tinh chỉnh để trả lời mà không có từ chối nội dung cho mục đích người lớn hợp pháp. Nội dung tình dục liên quan đến người chưa thành niên không bao giờ được phép.

Tôi có thể tạo bao nhiêu prompt mỗi phút?

Một khóa đầy đủ cho phép 300 yêu cầu mỗi phút và 8 đồng thời. Với chế độ JSON, một yêu cầu có thể trả về nhiều prompt.

Nó có tạo ra hình ảnh không?

Không. API chỉ hỗ trợ văn bản, không có tạo hình ảnh, âm thanh hoặc video.

Khóa của bạn chỉ cách một biểu mẫu

Tạo tài khoản, sao chép khóa, thay đổi base URL. Đó là toàn bộ thiết lập.

Lấy khóa API