Combien coûte l'API Llama 3.2 3b Instruct ?

Tarification sur WaveSpeedAI : $0.05 par million de tokens d'entrée et $0.34 par million de tokens de sortie. Le prompt caching et le traitement par batch sont facturés séparément et réduisent le coût effectif sur les charges longues et répétitives.

Quelle est la fenêtre de contexte de Llama 3.2 3b Instruct ?

Llama 3.2 3b Instruct prend en charge jusqu'à 80K tokens de contexte et jusqu'à 16K tokens de sortie par requête.

Llama 3.2 3b Instruct est-il compatible avec OpenAI ?

WaveSpeedAI expose Llama 3.2 3b Instruct à https://llm.wavespeed.ai/v1 via l’interface Chat Completions compatible OpenAI. La plupart des clients du SDK OpenAI fonctionnent en changeant l’URL de base et la clé API ; les champs facultatifs dépendent du modèle.

Comment démarrer avec Llama 3.2 3b Instruct ?

Connectez-vous à WaveSpeedAI, créez une clé API dans Access Keys, puis envoyez une requête à https://llm.wavespeed.ai/v1/chat/completions avec l’id du modèle affiché ci-dessus. Consultez le catalogue actuel pour la disponibilité, les capacités et les tarifs.

Llama 3.2 3b Instruct | Meta LLM API

Name: Llama 3.2 3b Instruct API
Brand: meta-llama
Price: 0.051 USD
Availability: InStock

meta-llama/llama-3.2-3b-instruct

Date de publication: 2024-09-25

80,000 context · $0.05/M input tokens · $0.34/M output tokens

Llama 3.2 3B is a 3-billion-parameter multilingual large language model, optimized for advanced natural language processing tasks like dialogue generation, reasoning, and summarization. Designed with the latest transformer architecture, it...

Tarification

Paiement à l'usage

Aucun coût initial, payez uniquement ce que vous utilisez

Entrée$0.05 / M Tokens

Sortie$0.34 / M Tokens

Essayer le modèle

meta-llama/llama-3.2-3b-instruct

En ligne

Bonjour ! Je suis un assistant IA utile. Que puis-je faire pour vous ?

Prêt à utiliser ce modèle dans un coding agent local ?Setup agent

Utilisation de l'API

Utilisez les exemples de code suivants pour intégrer notre API :

import OpenAI from 'openai';

if (!process.env.WAVESPEED_API_KEY) throw new Error('Set WAVESPEED_API_KEY');
const client = new OpenAI({
  apiKey: process.env.WAVESPEED_API_KEY,
  baseURL: 'https://llm.wavespeed.ai/v1',
  timeout: 120_000,
  maxRetries: 2,
});

try {
  const response = await client.chat.completions.create({
    model: 'meta-llama/llama-3.2-3b-instruct',
    messages: [{ role: 'user', content: 'Hello!' }],
  });
  console.log(response.choices[0]?.message?.content ?? '');
} catch (error) {
  console.error('LLM request failed:', error);
  process.exitCode = 1;
}

import OpenAI from 'openai';

if (!process.env.WAVESPEED_API_KEY) throw new Error('Set WAVESPEED_API_KEY');
const client = new OpenAI({
  apiKey: process.env.WAVESPEED_API_KEY,
  baseURL: 'https://llm.wavespeed.ai/v1',
  timeout: 120_000,
  maxRetries: 2,
});

try {
  const response = await client.chat.completions.create({
    model: 'meta-llama/llama-3.2-3b-instruct',
    messages: [{ role: 'user', content: 'Hello!' }],
  });
  console.log(response.choices[0]?.message?.content ?? '');
} catch (error) {
  console.error('LLM request failed:', error);
  process.exitCode = 1;
}

Introduction au modèle

Meta-Llama llama-3.2-3b-instruct

meta-llama llama-3.2-3b-instruct

Why It Looks Great

Large Language Model architecture for efficient processing
131072 context window for long document handling
Competitive pricing at $0.0/$0.0 per million tokens

Key Features

Context Window: 131072 tokens
Max Output: 16384 tokens
Vision: Supported
Function Calling: Supported

Specifications

Specification	Value
Provider	Meta-Llama
Model Type	Large Language Model (LLM)
Architecture	N/A
Context Window	131072 tokens
Max Output	16384 tokens
Input	Text
Output	Text
Vision	Supported
Function Calling	Supported

Pricing

Token Type	Cost per Million Tokens
Input	$0.0
Output	$0.0

How to Use

Write your prompt — describe the task, provide context, and specify desired output format.
Submit — the model processes your request and returns the response.

API Integration

Base URL: https://llm.wavespeed.ai/v1 API Endpoint: chat/completions Model ID: meta-llama/llama-3.2-3b-instruct

API Usage

Python SDK

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.wavespeed.ai/v1"
)

response = client.chat.completions.create(
    model="meta-llama/llama-3.2-3b-instruct",
    messages=[
        {"role": "user", "content": "Hello!"}
    ]
)

print(response.choices[0].message.content)

cURL

curl https://llm.wavespeed.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "meta-llama/llama-3.2-3b-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Notes

Model: meta-llama/llama-3.2-3b-instruct
Provider: Meta-Llama

Infos

Fournisseurmeta

Typellm

Fonctionnalités prises en charge

Entrée

Texte

Sortie

Texte

Contexte80,000

Sortie max16,384

Vision-

Function Calling-

Guide d'accès API

Base URLhttps://llm.wavespeed.ai/v1

API Endpointchat/completions

ID du modèlemeta-llama/llama-3.2-3b-instruct