Llama 3.1 70B Instruct | Meta Open-Source LLM API

Name: Llama 3.1 70b Instruct API
Brand: meta-llama
Price: 0.4 USD
Availability: InStock

Utilisation de l'API

Utilisez les exemples de code suivants pour intégrer notre API :

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.wavespeed.ai/v1"
)

response = client.chat.completions.create(
    model="meta-llama/llama-3.1-70b-instruct",
    messages=[
        {"role": "user", "content": "Hello!"}
    ]
)

print(response.choices[0].message.content)

Introduction au modèle

Meta-Llama llama-3.1-70b-instruct

meta-llama llama-3.1-70b-instruct

Why It Looks Great

Large Language Model architecture for efficient processing
131072 context window for long document handling
Competitive pricing at $0.4/$0.4 per million tokens

Key Features

Context Window: 131072 tokens
Max Output: 4096 tokens
Vision: Supported
Function Calling: Supported

Specifications

Specification	Value
Provider	Meta-Llama
Model Type	Large Language Model (LLM)
Architecture	N/A
Context Window	131072 tokens
Max Output	4096 tokens
Input	Text
Output	Text
Vision	Supported
Function Calling	Supported

Pricing

Token Type	Cost per Million Tokens
Input	$0.4
Output	$0.4

How to Use

Write your prompt — describe the task, provide context, and specify desired output format.
Submit — the model processes your request and returns the response.

API Integration

Base URL: https://llm.wavespeed.ai/v1 API Endpoint: chat/completions Model ID: meta-llama/llama-3.1-70b-instruct

API Usage

Python SDK

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.wavespeed.ai/v1"
)

response = client.chat.completions.create(
    model="meta-llama/llama-3.1-70b-instruct",
    messages=[
        {"role": "user", "content": "Hello!"}
    ]
)

print(response.choices[0].message.content)

cURL

curl https://llm.wavespeed.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "meta-llama/llama-3.1-70b-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Notes

Model: meta-llama/llama-3.1-70b-instruct
Provider: Meta-Llama

Questions fréquentes sur Llama 3.1 70b Instruct

Combien coûte l'API Llama 3.1 70b Instruct ?+

Tarification sur WaveSpeedAI : $0.40 par million de tokens d'entrée et $0.40 par million de tokens de sortie. Le prompt caching et le traitement par batch sont facturés séparément et réduisent le coût effectif sur les charges longues et répétitives.

Quelle est la fenêtre de contexte de Llama 3.1 70b Instruct ?+

Llama 3.1 70b Instruct prend en charge jusqu'à 131K tokens de contexte et jusqu'à 4K tokens de sortie par requête.

Llama 3.1 70b Instruct est-il compatible avec OpenAI ?+

Oui. WaveSpeedAI expose Llama 3.1 70b Instruct via un endpoint compatible OpenAI à https://llm.wavespeed.ai/v1. Pointez le SDK officiel d'OpenAI vers cette base URL avec votre clé API WaveSpeedAI — aucune autre modification de code requise.

Comment démarrer avec Llama 3.1 70b Instruct ?+

Connectez-vous à WaveSpeedAI, créez une clé API dans Access Keys, puis envoyez une requête à https://llm.wavespeed.ai/v1/chat/completions avec l'id du modèle affiché ci-dessus. Les nouveaux comptes reçoivent des crédits gratuits pour évaluer Llama 3.1 70b Instruct.

Tarification