Llama 3 70b Instruct | Meta LLM API

Name: Llama 3 70b Instruct API
Brand: meta-llama
Price: 0.51 USD
Availability: InStock

API 利用

以下のコード例を使用して API と連携してください:

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.wavespeed.ai/v1"
)

response = client.chat.completions.create(
    model="meta-llama/llama-3-70b-instruct",
    messages=[
        {"role": "user", "content": "Hello!"}
    ]
)

print(response.choices[0].message.content)

モデル紹介

Meta-Llama llama-3-70b-instruct

Meta's latest class of model (Llama 3) launched with a variety of sizes & flavors

Meta's latest class of model (Llama 3) launched with a variety of sizes & flavors. This 70B instruct-tuned version was optimized for high quality dialogue usecases.

It has demonstrated strong performance compared to leading closed-source models in human evaluations.

To read more about the model release, click here. Usage of this model is subject to Meta's Acceptable Use Policy.

Why It Looks Great

Large Language Model architecture for efficient processing
8192 context window for long document handling
Competitive pricing at $0.6/$0.8 per million tokens

Key Features

Context Window: 8192 tokens
Max Output: 8000 tokens
Vision: Supported
Function Calling: Supported

Specifications

Specification	Value
Provider	Meta-Llama
Model Type	Large Language Model (LLM)
Architecture	N/A
Context Window	8192 tokens
Max Output	8000 tokens
Input	Text
Output	Text
Vision	Supported
Function Calling	Supported

Pricing

Token Type	Cost per Million Tokens
Input	$0.6
Output	$0.8

How to Use

Write your prompt — describe the task, provide context, and specify desired output format.
Submit — the model processes your request and returns the response.

API Integration

Base URL: https://llm.wavespeed.ai/v1 API Endpoint: chat/completions Model ID: meta-llama/llama-3-70b-instruct

API Usage

Python SDK

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.wavespeed.ai/v1"
)

response = client.chat.completions.create(
    model="meta-llama/llama-3-70b-instruct",
    messages=[
        {"role": "user", "content": "Hello!"}
    ]
)

print(response.choices[0].message.content)

cURL

curl https://llm.wavespeed.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "meta-llama/llama-3-70b-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Notes

Model: meta-llama/llama-3-70b-instruct
Provider: Meta-Llama

Llama 3 70b Instructに関するよくある質問

Llama 3 70b Instruct API の料金はいくらですか?+

WaveSpeedAI の料金: 入力 100 万トークンあたり $0.51、出力 100 万トークンあたり $0.74。プロンプトキャッシュとバッチ処理は別途料金で、長く反復的なワークロードでは実効コストを下げられます。

Llama 3 70b Instruct のコンテキストウィンドウはどのくらいですか?+

Llama 3 70b Instruct はリクエストあたり最大 8K のコンテキストトークンと最大 8K の出力トークンをサポートします。

Llama 3 70b Instruct は OpenAI 互換ですか?+

はい。WaveSpeedAI は OpenAI 互換エンドポイント https://llm.wavespeed.ai/v1 で Llama 3 70b Instruct を提供します。公式 OpenAI SDK のベース URL をこちらに変更し WaveSpeedAI の API キーを設定するだけで利用可能です。

Llama 3 70b Instruct を使い始めるには?+

WaveSpeedAI にサインインし、Access Keys で API キーを作成して、上に表示されているモデル ID を指定して https://llm.wavespeed.ai/v1/chat/completions にリクエストを送信してください。新規アカウントには Llama 3 70b Instruct を試用できる無料クレジットが付与されます。

料金