Llama 3.1 70B Instruct | Meta Open-Source LLM API

Name: Llama 3.1 70b Instruct API
Brand: meta-llama
Price: 0.4 USD
Availability: InStock

API Kullanımı

API'mizle entegre etmek için aşağıdaki kod örneklerini kullanın:

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.wavespeed.ai/v1"
)

response = client.chat.completions.create(
    model="meta-llama/llama-3.1-70b-instruct",
    messages=[
        {"role": "user", "content": "Hello!"}
    ]
)

print(response.choices[0].message.content)

Model Tanıtımı

Meta-Llama llama-3.1-70b-instruct

meta-llama llama-3.1-70b-instruct

Why It Looks Great

Large Language Model architecture for efficient processing
131072 context window for long document handling
Competitive pricing at $0.4/$0.4 per million tokens

Key Features

Context Window: 131072 tokens
Max Output: 4096 tokens
Vision: Supported
Function Calling: Supported

Specifications

Specification	Value
Provider	Meta-Llama
Model Type	Large Language Model (LLM)
Architecture	N/A
Context Window	131072 tokens
Max Output	4096 tokens
Input	Text
Output	Text
Vision	Supported
Function Calling	Supported

Pricing

Token Type	Cost per Million Tokens
Input	$0.4
Output	$0.4

How to Use

Write your prompt — describe the task, provide context, and specify desired output format.
Submit — the model processes your request and returns the response.

API Integration

Base URL: https://llm.wavespeed.ai/v1 API Endpoint: chat/completions Model ID: meta-llama/llama-3.1-70b-instruct

API Usage

Python SDK

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.wavespeed.ai/v1"
)

response = client.chat.completions.create(
    model="meta-llama/llama-3.1-70b-instruct",
    messages=[
        {"role": "user", "content": "Hello!"}
    ]
)

print(response.choices[0].message.content)

cURL

curl https://llm.wavespeed.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "meta-llama/llama-3.1-70b-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Notes

Model: meta-llama/llama-3.1-70b-instruct
Provider: Meta-Llama

Llama 3.1 70b Instruct hakkında sık sorulan sorular

Llama 3.1 70b Instruct API ücreti ne kadar?+

WaveSpeedAI fiyatlandırması: milyon giriş tokenı başına $0.40 ve milyon çıkış tokenı başına $0.40. Prompt caching ve toplu işleme ayrı faturalanır ve uzun, tekrar eden yüklerde etkin maliyeti düşürür.

Llama 3.1 70b Instruct'in bağlam penceresi nedir?+

Llama 3.1 70b Instruct istek başına 131K bağlam tokenını ve 4K çıkış tokenını destekler.

Llama 3.1 70b Instruct OpenAI uyumlu mu?+

Evet. WaveSpeedAI, Llama 3.1 70b Instruct modelini https://llm.wavespeed.ai/v1 adresindeki OpenAI uyumlu endpoint üzerinden sunar. Resmi OpenAI SDK'sını WaveSpeedAI API anahtarınızla bu base URL'ye yöneltin — başka kod değişikliği gerekmez.

Llama 3.1 70b Instruct'e nasıl başlarım?+

WaveSpeedAI'a giriş yapın, Access Keys'te bir API anahtarı oluşturun, ardından yukarıda gösterilen model id ile https://llm.wavespeed.ai/v1/chat/completions adresine bir istek gönderin. Yeni hesaplar Llama 3.1 70b Instruct'i değerlendirmek için ücretsiz krediler alır.

Fiyatlandırma