meta-llama/llama-3.1-8b-instruct
Ngày phát hành: 2024-07-23
16,384 context · $0.02/M input tokens · $0.05/M output tokens
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...
Giá cả
Trả theo mức dùng
Không tốn phí trả trước, chỉ trả cho những gì bạn dùng
Dùng thử mô hình
Sử dụng API
Dùng các ví dụ mã sau để tích hợp với API của chúng tôi:
import OpenAI from 'openai';
if (!process.env.WAVESPEED_API_KEY) throw new Error('Set WAVESPEED_API_KEY');
const client = new OpenAI({
apiKey: process.env.WAVESPEED_API_KEY,
baseURL: 'https://llm.wavespeed.ai/v1',
timeout: 120_000,
maxRetries: 2,
});
try {
const response = await client.chat.completions.create({
model: 'meta-llama/llama-3.1-8b-instruct',
messages: [{ role: 'user', content: 'Hello!' }],
});
console.log(response.choices[0]?.message?.content ?? '');
} catch (error) {
console.error('LLM request failed:', error);
process.exitCode = 1;
}import OpenAI from 'openai';
if (!process.env.WAVESPEED_API_KEY) throw new Error('Set WAVESPEED_API_KEY');
const client = new OpenAI({
apiKey: process.env.WAVESPEED_API_KEY,
baseURL: 'https://llm.wavespeed.ai/v1',
timeout: 120_000,
maxRetries: 2,
});
try {
const response = await client.chat.completions.create({
model: 'meta-llama/llama-3.1-8b-instruct',
messages: [{ role: 'user', content: 'Hello!' }],
});
console.log(response.choices[0]?.message?.content ?? '');
} catch (error) {
console.error('LLM request failed:', error);
process.exitCode = 1;
}Giới thiệu mô hình
Meta-Llama llama-3.1-8b-instruct
Meta's latest class of model (Llama 3
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient.
It has demonstrated strong performance compared to leading closed-source models in human evaluations.
To read more about the model release, click here. Usage of this model is subject to Meta's Acceptable Use Policy.
Why It Looks Great
- Large Language Model architecture for efficient processing
- 16384 context window for long document handling
- Competitive pricing at $0.0/$0.0 per million tokens
Key Features
- Context Window: 16384 tokens
- Max Output: 16384 tokens
- Vision: Supported
- Function Calling: Supported
Specifications
| Specification | Value |
|---|---|
| Provider | Meta-Llama |
| Model Type | Large Language Model (LLM) |
| Architecture | N/A |
| Context Window | 16384 tokens |
| Max Output | 16384 tokens |
| Input | Text |
| Output | Text |
| Vision | Supported |
| Function Calling | Supported |
Pricing
| Token Type | Cost per Million Tokens |
|---|---|
| Input | $0.0 |
| Output | $0.0 |
How to Use
- Write your prompt — describe the task, provide context, and specify desired output format.
- Submit — the model processes your request and returns the response.
API Integration
Base URL: https://llm.wavespeed.ai/v1 API Endpoint: chat/completions Model ID: meta-llama/llama-3.1-8b-instruct
API Usage
Python SDK
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://llm.wavespeed.ai/v1"
)
response = client.chat.completions.create(
model="meta-llama/llama-3.1-8b-instruct",
messages=[
{"role": "user", "content": "Hello!"}
]
)
print(response.choices[0].message.content)cURL
curl https://llm.wavespeed.ai/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{
"model": "meta-llama/llama-3.1-8b-instruct",
"messages": [{"role": "user", "content": "Hello!"}]
}'Notes
- Model: meta-llama/llama-3.1-8b-instruct
- Provider: Meta-Llama
Thông tin
Tính năng được hỗ trợ
Hướng dẫn truy cập API
Llama 3.1 8b Instruct API
meta-llama/llama-3.1-8b-instruct
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...
Đầu Vào
$0.02 /M
Đầu Ra
$0.05 /M
Ngữ Cảnh
16K
Đầu Ra Tối Đa
16K
Sử Dụng Công Cụ
Được Hỗ Trợ
Thử Llama 3.1 8b Instruct trên WaveSpeedAI
Truy cập Llama 3.1 8b Instruct qua API hợp nhất của chúng tôi — tương thích OpenAI, không khởi động nguội, giá minh bạch.
Câu Hỏi Thường Gặp về Llama 3.1 8b Instruct
Llama 3.1 8b Instruct có giá bao nhiêu qua API?+
Giá trên WaveSpeedAI: $0.02 mỗi triệu token đầu vào và $0.05 mỗi triệu token đầu ra. Prompt caching và xử lý theo lô được tính riêng và giảm chi phí thực tế cho các khối lượng công việc dài, lặp lại.
Cửa sổ ngữ cảnh của Llama 3.1 8b Instruct là gì?+
Llama 3.1 8b Instruct hỗ trợ tối đa 16K token ngữ cảnh với tối đa 16K token đầu ra mỗi yêu cầu.
Llama 3.1 8b Instruct có tương thích OpenAI không?+
WaveSpeedAI cung cấp Llama 3.1 8b Instruct tại https://llm.wavespeed.ai/v1 qua giao diện Chat Completions tương thích OpenAI. Hầu hết các client OpenAI SDK hoạt động bằng cách đổi base URL và API key; các trường tùy chọn phụ thuộc vào mô hình được chọn.
Làm thế nào để bắt đầu với Llama 3.1 8b Instruct?+
Đăng nhập vào WaveSpeedAI, tạo một API key trong Access Keys, rồi gửi một yêu cầu đến https://llm.wavespeed.ai/v1/chat/completions với model id hiển thị phía trên. Kiểm tra danh mục mô hình hiện tại để biết tính khả dụng, khả năng và giá cả.