OpenAI SDK

> Sử dụng OpenAI SDK chính thức (Python và JavaScript) với ProxyLLM. Hỗ trợ GPT và ProxyLLM aliases qua endpoint /v1.

[INFO]Hoàn toàn tương thích OpenAI

ProxyLLM hoàn toàn tương thích với OpenAI SDK. Chỉ cần thay đổi base_url để trỏ đến ProxyLLM là xong. Trang này hướng dẫn dùng GPT và ProxyLLM aliases qua OpenAI SDK.

//Cài đặt

Pythonbash

pip install openai

Node.jsbash

npm install openai

//Cấu hình

Cấu hình SDK để sử dụng ProxyLLM bằng cách thiết lập base URL:

Pythonpython

from openai import OpenAI

client = OpenAI(
    base_url="https://proxyllm.eu/v1",
    api_key="your-proxyllm-api-key",
)

JavaScriptjavascript

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://proxyllm.eu/v1",
  apiKey: "your-proxyllm-api-key",
});

[WARN]Quan trọng

Base URL phải bao gồm hậu tố /v1 khi sử dụng OpenAI SDK.

//Sử dụng Cơ bản

Pythonpython

response = client.chat.completions.create(
    model="claude-opus-4.7",
    messages=[{"role": "user", "content": "Hello!"}],
    max_tokens=1024,
)
print(response.choices[0].message.content)

//Streaming Phản hồi

Pythonpython

stream = client.chat.completions.create(
    model="claude-opus-4.7",
    messages=[{"role": "user", "content": "Write a short poem about coding"}],
    max_tokens=256,
    stream=True,
)

for chunk in stream:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

//Liệt kê Mô hình

Pythonpython

models = client.models.list()
for model in models.data:
    print(model.id)

//Biến Môi trường

.envbash

OPENAI_API_KEY=your-proxyllm-api-key
OPENAI_BASE_URL=https://proxyllm.eu/v1