Llama 3.2 3b Instruct | Meta LLM API

Name: Llama 3.2 3b Instruct API
Brand: meta-llama
Price: 0.051 USD
Availability: InStock

meta-llama/llama-3.2-3b-instruct

Data de lançamento: 2024-09-25

80,000 context · $0.05/M input tokens · $0.34/M output tokens

Llama 3.2 3B is a 3-billion-parameter multilingual large language model, optimized for advanced natural language processing tasks like dialogue generation, reasoning, and summarization. Designed with the latest transformer architecture, it...

Preços

Pagamento por uso

Sem custo inicial, pague apenas pelo que usar

Entrada$0.05 / M Tokens

Saída$0.34 / M Tokens

Experimentar o modelo

meta-llama/llama-3.2-3b-instruct

Online

Olá! Sou um assistente de IA útil. Em que posso ajudar?

Pronto para usar este modelo em um coding agent local?Setup do agente

Uso da API

Use os exemplos de código abaixo para integrar com nossa API:

import OpenAI from 'openai';

if (!process.env.WAVESPEED_API_KEY) throw new Error('Set WAVESPEED_API_KEY');
const client = new OpenAI({
  apiKey: process.env.WAVESPEED_API_KEY,
  baseURL: 'https://llm.wavespeed.ai/v1',
  timeout: 120_000,
  maxRetries: 2,
});

try {
  const response = await client.chat.completions.create({
    model: 'meta-llama/llama-3.2-3b-instruct',
    messages: [{ role: 'user', content: 'Hello!' }],
  });
  console.log(response.choices[0]?.message?.content ?? '');
} catch (error) {
  console.error('LLM request failed:', error);
  process.exitCode = 1;
}

import OpenAI from 'openai';

if (!process.env.WAVESPEED_API_KEY) throw new Error('Set WAVESPEED_API_KEY');
const client = new OpenAI({
  apiKey: process.env.WAVESPEED_API_KEY,
  baseURL: 'https://llm.wavespeed.ai/v1',
  timeout: 120_000,
  maxRetries: 2,
});

try {
  const response = await client.chat.completions.create({
    model: 'meta-llama/llama-3.2-3b-instruct',
    messages: [{ role: 'user', content: 'Hello!' }],
  });
  console.log(response.choices[0]?.message?.content ?? '');
} catch (error) {
  console.error('LLM request failed:', error);
  process.exitCode = 1;
}

Introdução do modelo

Meta-Llama llama-3.2-3b-instruct

meta-llama llama-3.2-3b-instruct

Why It Looks Great

Large Language Model architecture for efficient processing
131072 context window for long document handling
Competitive pricing at $0.0/$0.0 per million tokens

Key Features

Context Window: 131072 tokens
Max Output: 16384 tokens
Vision: Supported
Function Calling: Supported

Specifications

Specification	Value
Provider	Meta-Llama
Model Type	Large Language Model (LLM)
Architecture	N/A
Context Window	131072 tokens
Max Output	16384 tokens
Input	Text
Output	Text
Vision	Supported
Function Calling	Supported

Pricing

Token Type	Cost per Million Tokens
Input	$0.0
Output	$0.0

How to Use

Write your prompt — describe the task, provide context, and specify desired output format.
Submit — the model processes your request and returns the response.

API Integration

Base URL: https://llm.wavespeed.ai/v1 API Endpoint: chat/completions Model ID: meta-llama/llama-3.2-3b-instruct

API Usage

Python SDK

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.wavespeed.ai/v1"
)

response = client.chat.completions.create(
    model="meta-llama/llama-3.2-3b-instruct",
    messages=[
        {"role": "user", "content": "Hello!"}
    ]
)

print(response.choices[0].message.content)

cURL

curl https://llm.wavespeed.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "meta-llama/llama-3.2-3b-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Notes

Model: meta-llama/llama-3.2-3b-instruct
Provider: Meta-Llama

Info

Provedormeta

Tipollm

Funcionalidades suportadas

Entrada

Texto

Saída

Texto

Contexto80,000

Saída máx.16,384

Vision-

Function Calling-

Guia de acesso à API

Base URLhttps://llm.wavespeed.ai/v1

API Endpointchat/completions

ID do modelometa-llama/llama-3.2-3b-instruct

Perguntas frequentes sobre Llama 3.2 3b Instruct

Quanto custa Llama 3.2 3b Instruct via API?+

Preços no WaveSpeedAI: $0.05 por milhão de tokens de entrada e $0.34 por milhão de tokens de saída. Prompt caching e batch processing são cobrados separadamente e reduzem o custo efetivo em cargas longas e repetitivas.

Qual é a janela de contexto do Llama 3.2 3b Instruct?+

Llama 3.2 3b Instruct suporta até 80K tokens de contexto e até 16K tokens de saída por requisição.

Llama 3.2 3b Instruct é compatível com OpenAI?+

O WaveSpeedAI disponibiliza Llama 3.2 3b Instruct em https://llm.wavespeed.ai/v1 pela interface Chat Completions compatível com OpenAI. Na maioria dos clientes OpenAI SDK, basta alterar a base URL e a chave API; campos opcionais dependem do modelo.

Como começo a usar o Llama 3.2 3b Instruct?+

Entre no WaveSpeedAI, crie uma chave API em Access Keys e envie uma requisição para https://llm.wavespeed.ai/v1/chat/completions com o model id mostrado acima. Consulte o catálogo atual para disponibilidade, recursos e preços.