Llama 3.2 3b Instruct | Meta LLM API

Name: Llama 3.2 3b Instruct API
Brand: meta-llama
Price: 0.051 USD
Availability: InStock

meta-llama/llama-3.2-3b-instruct

วันที่เผยแพร่: 2024-09-25

80,000 context · $0.05/M input tokens · $0.34/M output tokens

Llama 3.2 3B is a 3-billion-parameter multilingual large language model, optimized for advanced natural language processing tasks like dialogue generation, reasoning, and summarization. Designed with the latest transformer architecture, it...

ราคา

จ่ายตามการใช้งาน

ไม่มีค่าใช้จ่ายล่วงหน้า จ่ายเฉพาะสิ่งที่คุณใช้

อินพุต$0.05 / M Tokens

เอาต์พุต$0.34 / M Tokens

ลองใช้โมเดล

meta-llama/llama-3.2-3b-instruct

ออนไลน์

สวัสดี! ฉันคือผู้ช่วย AI พร้อมช่วยคุณ ต้องการให้ช่วยอะไรไหม?

พร้อมใช้โมเดลนี้ใน coding agent บนเครื่องหรือยัง?ตั้งค่า agent

การใช้งาน API

ใช้ตัวอย่างโค้ดต่อไปนี้เพื่อผสานรวมกับ API ของเรา:

import OpenAI from 'openai';

if (!process.env.WAVESPEED_API_KEY) throw new Error('Set WAVESPEED_API_KEY');
const client = new OpenAI({
  apiKey: process.env.WAVESPEED_API_KEY,
  baseURL: 'https://llm.wavespeed.ai/v1',
  timeout: 120_000,
  maxRetries: 2,
});

try {
  const response = await client.chat.completions.create({
    model: 'meta-llama/llama-3.2-3b-instruct',
    messages: [{ role: 'user', content: 'Hello!' }],
  });
  console.log(response.choices[0]?.message?.content ?? '');
} catch (error) {
  console.error('LLM request failed:', error);
  process.exitCode = 1;
}

import OpenAI from 'openai';

if (!process.env.WAVESPEED_API_KEY) throw new Error('Set WAVESPEED_API_KEY');
const client = new OpenAI({
  apiKey: process.env.WAVESPEED_API_KEY,
  baseURL: 'https://llm.wavespeed.ai/v1',
  timeout: 120_000,
  maxRetries: 2,
});

try {
  const response = await client.chat.completions.create({
    model: 'meta-llama/llama-3.2-3b-instruct',
    messages: [{ role: 'user', content: 'Hello!' }],
  });
  console.log(response.choices[0]?.message?.content ?? '');
} catch (error) {
  console.error('LLM request failed:', error);
  process.exitCode = 1;
}

แนะนำโมเดล

Meta-Llama llama-3.2-3b-instruct

meta-llama llama-3.2-3b-instruct

Why It Looks Great

Large Language Model architecture for efficient processing
131072 context window for long document handling
Competitive pricing at $0.0/$0.0 per million tokens

Key Features

Context Window: 131072 tokens
Max Output: 16384 tokens
Vision: Supported
Function Calling: Supported

Specifications

Specification	Value
Provider	Meta-Llama
Model Type	Large Language Model (LLM)
Architecture	N/A
Context Window	131072 tokens
Max Output	16384 tokens
Input	Text
Output	Text
Vision	Supported
Function Calling	Supported

Pricing

Token Type	Cost per Million Tokens
Input	$0.0
Output	$0.0

How to Use

Write your prompt — describe the task, provide context, and specify desired output format.
Submit — the model processes your request and returns the response.

API Integration

Base URL: https://llm.wavespeed.ai/v1 API Endpoint: chat/completions Model ID: meta-llama/llama-3.2-3b-instruct

API Usage

Python SDK

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.wavespeed.ai/v1"
)

response = client.chat.completions.create(
    model="meta-llama/llama-3.2-3b-instruct",
    messages=[
        {"role": "user", "content": "Hello!"}
    ]
)

print(response.choices[0].message.content)

cURL

curl https://llm.wavespeed.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "meta-llama/llama-3.2-3b-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Notes

Model: meta-llama/llama-3.2-3b-instruct
Provider: Meta-Llama

ข้อมูล

ผู้ให้บริการmeta

ประเภทllm

ฟังก์ชันที่รองรับ

อินพุต

ข้อความ

เอาต์พุต

ข้อความ

บริบท80,000

เอาต์พุตสูงสุด16,384

Vision-

Function Calling-

คู่มือการเข้าถึง API

Base URLhttps://llm.wavespeed.ai/v1

API Endpointchat/completions

Model IDmeta-llama/llama-3.2-3b-instruct

คำถามที่พบบ่อยเกี่ยวกับ Llama 3.2 3b Instruct

Llama 3.2 3b Instruct API ราคาเท่าไหร่?+

ราคาบน WaveSpeedAI: $0.05 ต่อล้านโทเคนอินพุต และ $0.34 ต่อล้านโทเคนเอาต์พุต Prompt caching และ batch processing คิดค่าบริการแยกและช่วยลดต้นทุนที่แท้จริงสำหรับภาระงานที่ยาวและทำซ้ำ

Llama 3.2 3b Instruct มี context window เท่าใด?+

Llama 3.2 3b Instruct รองรับสูงสุด 80K โทเคนคอนเท็กซ์ และสูงสุด 16K โทเคนเอาต์พุตต่อคำขอ

Llama 3.2 3b Instruct เข้ากันได้กับ OpenAI หรือไม่?+

WaveSpeedAI ให้บริการ Llama 3.2 3b Instruct ที่ https://llm.wavespeed.ai/v1 ผ่านอินเทอร์เฟซ Chat Completions ที่เข้ากันได้กับ OpenAI ไคลเอนต์ OpenAI SDK ส่วนใหญ่ใช้งานได้โดยเปลี่ยน base URL และ API key ส่วนฟิลด์เสริมขึ้นอยู่กับโมเดล

จะเริ่มใช้ Llama 3.2 3b Instruct ได้อย่างไร?+

ลงชื่อเข้าใช้ WaveSpeedAI สร้าง API key ใน Access Keys แล้วส่งคำขอไปยัง https://llm.wavespeed.ai/v1/chat/completions โดยใช้ model id ที่แสดงด้านบน ตรวจสอบความพร้อมใช้งาน ความสามารถ และราคาจากแคตตาล็อกโมเดลปัจจุบัน