Llama 3.3 70B Instruct | Meta Open-Source LLM API

Name: Llama 3.3 70b Instruct API
Brand: meta-llama
Price: 0.1 USD
Availability: InStock

meta-llama/llama-3.3-70b-instruct

Fecha de lanzamiento: 2024-12-07

131,072 context · $0.10/M input tokens · $0.32/M output tokens

The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model...

Precios

Pago por uso

Sin costos iniciales, paga solo por lo que uses

Entrada$0.10 / M Tokens

Salida$0.32 / M Tokens

Probar el modelo

meta-llama/llama-3.3-70b-instruct

En línea

¡Hola! Soy un asistente de IA útil. ¿En qué puedo ayudarte?

¿Listo para usar este modelo en un coding agent local?Configurar agent

Uso de API

Usa los siguientes ejemplos de código para integrar con nuestra API:

import OpenAI from 'openai';

if (!process.env.WAVESPEED_API_KEY) throw new Error('Set WAVESPEED_API_KEY');
const client = new OpenAI({
  apiKey: process.env.WAVESPEED_API_KEY,
  baseURL: 'https://llm.wavespeed.ai/v1',
  timeout: 120_000,
  maxRetries: 2,
});

try {
  const response = await client.chat.completions.create({
    model: 'meta-llama/llama-3.3-70b-instruct',
    messages: [{ role: 'user', content: 'Hello!' }],
  });
  console.log(response.choices[0]?.message?.content ?? '');
} catch (error) {
  console.error('LLM request failed:', error);
  process.exitCode = 1;
}

import OpenAI from 'openai';

if (!process.env.WAVESPEED_API_KEY) throw new Error('Set WAVESPEED_API_KEY');
const client = new OpenAI({
  apiKey: process.env.WAVESPEED_API_KEY,
  baseURL: 'https://llm.wavespeed.ai/v1',
  timeout: 120_000,
  maxRetries: 2,
});

try {
  const response = await client.chat.completions.create({
    model: 'meta-llama/llama-3.3-70b-instruct',
    messages: [{ role: 'user', content: 'Hello!' }],
  });
  console.log(response.choices[0]?.message?.content ?? '');
} catch (error) {
  console.error('LLM request failed:', error);
  process.exitCode = 1;
}

Introducción del modelo

Meta-Llama llama-3.3-70b-instruct

meta-llama llama-3.3-70b-instruct

Why It Looks Great

Large Language Model architecture for efficient processing
131072 context window for long document handling
Competitive pricing at $0.1/$0.3 per million tokens

Key Features

Context Window: 131072 tokens
Max Output: 16384 tokens
Vision: Supported
Function Calling: Supported

Specifications

Specification	Value
Provider	Meta-Llama
Model Type	Large Language Model (LLM)
Architecture	N/A
Context Window	131072 tokens
Max Output	16384 tokens
Input	Text
Output	Text
Vision	Supported
Function Calling	Supported

Pricing

Token Type	Cost per Million Tokens
Input	$0.1
Output	$0.3

How to Use

Write your prompt — describe the task, provide context, and specify desired output format.
Submit — the model processes your request and returns the response.

API Integration

Base URL: https://llm.wavespeed.ai/v1 API Endpoint: chat/completions Model ID: meta-llama/llama-3.3-70b-instruct

API Usage

Python SDK

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.wavespeed.ai/v1"
)

response = client.chat.completions.create(
    model="meta-llama/llama-3.3-70b-instruct",
    messages=[
        {"role": "user", "content": "Hello!"}
    ]
)

print(response.choices[0].message.content)

cURL

curl https://llm.wavespeed.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "meta-llama/llama-3.3-70b-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Notes

Model: meta-llama/llama-3.3-70b-instruct
Provider: Meta-Llama

Información

Proveedormeta

Tipollm

Funcionalidades compatibles

Entrada

Texto

Salida

Texto

Contexto131,072

Salida máxima16,384

Visión-

Function Calling✓ Compatible

Guía de acceso a la API

Base URLhttps://llm.wavespeed.ai/v1

API Endpointchat/completions

ID del modelometa-llama/llama-3.3-70b-instruct

Preguntas frecuentes sobre Llama 3.3 70b Instruct

¿Cuánto cuesta Llama 3.3 70b Instruct a través de la API?+

Precios en WaveSpeedAI: $0.10 por millón de tokens de entrada y $0.32 por millón de tokens de salida. El prompt caching y el procesamiento por lotes se facturan por separado y reducen el coste efectivo en cargas largas y repetitivas.

¿Cuál es la ventana de contexto de Llama 3.3 70b Instruct?+

Llama 3.3 70b Instruct admite hasta 131K tokens de contexto y hasta 16K tokens de salida por solicitud.

¿Es Llama 3.3 70b Instruct compatible con OpenAI?+

WaveSpeedAI ofrece Llama 3.3 70b Instruct en https://llm.wavespeed.ai/v1 mediante la interfaz Chat Completions compatible con OpenAI. En la mayoría de clientes del SDK de OpenAI basta con cambiar la URL base y la clave API; los campos opcionales dependen del modelo.

¿Cómo empiezo con Llama 3.3 70b Instruct?+

Inicia sesión en WaveSpeedAI, crea una clave API en Access Keys y envía una solicitud a https://llm.wavespeed.ai/v1/chat/completions con el id de modelo mostrado arriba. Consulta el catálogo actual para conocer disponibilidad, capacidades y precios.