LlamaIndex

URL gốc phải dán

Dán đúng một trong hai kiểu — sai sẽ ra 404 (không phải 401).

https://api.stali.vn/v1

Chuẩn bị

1. pip install llama-index-llms-openai-like

Model khuyến nghị: claude-fable-5

Cách nhanh — lệnh / cấu hình

from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="claude-fable-5",
    api_base="https://api.stali.vn/v1",
    api_key="sk-stali-...",
    context_window=1000000,
    is_chat_model=True,
)
print(llm.complete("Xin chào!"))

Bỏ file / điền Settings ở đâu

OPENAI_API_KEY=sk-stali-…

Kiểm tra đã chạy đúng

1. complete() trả text

Lỗi thường gặp

Liên quan

LangChain