alpindale/goliath-120b
6,144 context · $3.75/M input tokens · $7.50/M output tokens
A large LLM created by combining two fine-tuned Llama 70B models into one 120B model. Combines Xwin and Euryale. Credits to - @chargoddard for developing the framework used to merge...
จ่ายตามการใช้งาน
ไม่มีค่าใช้จ่ายล่วงหน้า จ่ายเฉพาะสิ่งที่คุณใช้
ใช้ตัวอย่างโค้ดต่อไปนี้เพื่อผสานรวมกับ API ของเรา:
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://llm.wavespeed.ai/v1"
)
response = client.chat.completions.create(
model="alpindale/goliath-120b",
messages=[
{"role": "user", "content": "Hello!"}
]
)
print(response.choices[0].message.content)A large LLM created by combining two fine-tuned Llama 70B models into one 120B model
A large LLM created by combining two fine-tuned Llama 70B models into one 120B model. Combines Xwin and Euryale.
Credits to
#merge
| Specification | Value |
|---|---|
| Provider | Alpindale |
| Model Type | Large Language Model (LLM) |
| Architecture | N/A |
| Context Window | 6144 tokens |
| Max Output | 1024 tokens |
| Input | Text |
| Output | Text |
| Vision | Supported |
| Function Calling | Supported |
| Token Type | Cost per Million Tokens |
|---|---|
| Input | $4.1 |
| Output | $8.2 |
Base URL: https://llm.wavespeed.ai/v1 API Endpoint: chat/completions Model ID: alpindale/goliath-120b
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://llm.wavespeed.ai/v1"
)
response = client.chat.completions.create(
model="alpindale/goliath-120b",
messages=[
{"role": "user", "content": "Hello!"}
]
)
print(response.choices[0].message.content)
curl https://llm.wavespeed.ai/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{
"model": "alpindale/goliath-120b",
"messages": [{"role": "user", "content": "Hello!"}]
}'
alpindale/goliath-120b
A large LLM created by combining two fine-tuned Llama 70B models into one 120B model. Combines Xwin and Euryale. Credits to - [@chargoddard](https://huggingface.co/chargoddard) for developing the framework used to merge...
อินพุต
$3.75 /M
เอาต์พุต
$7.5 /M
คอนเท็กซ์
6K
เอาต์พุตสูงสุด
1K
เข้าถึง Goliath 120b ผ่าน API แบบรวมของเรา — เข้ากันได้กับ OpenAI ไม่มี cold start ราคาโปร่งใส
เปิด Playgroundราคาบน WaveSpeedAI: $3.75 ต่อล้านโทเคนอินพุต และ $7.50 ต่อล้านโทเคนเอาต์พุต Prompt caching และ batch processing คิดค่าบริการแยกและช่วยลดต้นทุนที่แท้จริงสำหรับภาระงานที่ยาวและทำซ้ำ
Goliath 120b รองรับสูงสุด 6K โทเคนคอนเท็กซ์ และสูงสุด 1K โทเคนเอาต์พุตต่อคำขอ
ใช่ WaveSpeedAI ให้บริการ Goliath 120b ผ่าน endpoint ที่เข้ากันได้กับ OpenAI ที่ https://llm.wavespeed.ai/v1 ชี้ OpenAI SDK ทางการมาที่ base URL นี้ด้วย API key ของ WaveSpeedAI — ไม่ต้องแก้ไขโค้ดอื่น
ลงชื่อเข้าใช้ WaveSpeedAI สร้าง API key ใน Access Keys จากนั้นส่งคำขอไปยัง https://llm.wavespeed.ai/v1/chat/completions พร้อม model id ที่แสดงด้านบน บัญชีใหม่จะได้รับเครดิตฟรีสำหรับทดลองใช้ Goliath 120b