מחשבון עלות LLM: self-host מול API
הזינו כמה tokens אתם צורכים בחודש, את ה-API שהייתם משלמים עליו ואת המודל הפתוח וה-GPU שהייתם שוכרים. תקבלו את שתי העלויות החודשיות, את הנפח שממנו self-host כבר לא יקר יותר, וכל מחיר עם המקור שלו והיום שבו נקרא.
הערכה הערכה ממחירים מתוארכים והנחות מוצהרות, לא הצעת מחיר: ה-throughput הוא טווח מנתוני datasheet, לא מדידת benchmark.
תוצאה
- API לחודש
- 272 $ לחודש
- Self-host לחודש
- 3,151.7 $ לחודש
- API פחות self-host
- -2,879.7 $ לחודש
- tokens בחודש
- 2,400 מיליון tokens בחודש
- GPU לשרת
- 1
- שרתים שפועלים תמיד
- 1
- שעות GPU בתשלום בחודש
- 730 שעות בחודש
- קצב פלט לשרת
- 625 tokens בשנייה עד 1,037 tokens בשנייה
- קצב קלט (prefill) לשרת
- 9,061 tokens בשנייה עד 15,101 tokens בשנייה
| שורה | ערך | הנחות בשימוש |
|---|---|---|
| API: tokens של קלט | 160 $ לחודש |
|
| API: tokens של פלט | 112 $ לחודש |
|
| זיכרון GPU לכל GPU (משקולות, KV cache, תקורה) | 51.67 GB עד 56.43 GB | |
| שעות עבודה: prefill + decode | 143.94 שעות בחודש עד 239.21 שעות בחודש |
|
| שעות שרת בתשלום, לפי הניצולת | 730 שעות בחודש |
|
| Self-host: מעבדי GPU | 3,131.7 $ לחודש |
|
| Self-host: אחסון ורשת | 20 $ לחודש |
|
| Self-host: זמן תחזוקה | 0 $ לחודש |
|
| Self-host לחודש | 3,151.7 $ לחודש |
|
| API לחודש | 272 $ לחודש |
|
אין נקודת איזון: במחירים האלה ה-API זול יותר בכל נפח, כי ה-tokens של שרת עולים יותר משל ה-API.
הנחות
כל מספר שהתוצאה משתמשת בו ולא הזנתם. אפשר לשנות כל אחד מהם כך שיתאים למקרה שלכם.
- הנחהשעות בחודש
8,760 שעות בשנה חלקי 12, החודש שלפיו עננים מחייבים שרת GPU שפועל כל הזמן; חלקי 24 נותן את הימים לחישוב בקשות ליום.
אין מקור: זו הנחה שלנו. שנו אותה אם אתם מכירים את המקרה שלכם. - הנחה%
התעבורה לא אחידה ושרת מתוכנן לשיא, ולכן בממוצע הוא עובד מתחת לקצב שהוא מסוגל לו; 50% היא ההנחה שלנו לעומס יציב.
אין מקור: זו הנחה שלנו. שנו אותה אם אתם מכירים את המקרה שלכם. - הנחהUSD לחודש
דיסק למשקולות וללוגים, ותעבורה יוצאת, מעבר למחיר ה-GPU; הנחה שלנו, אפשר לשנות לפי הספק שלכם.
אין מקור: זו הנחה שלנו. שנו אותה אם אתם מכירים את המקרה שלכם. - הנחהשעות בחודש
עדכון שכבת ההגשה והמודל, ניטור ותקלות; ב-API אין את אלה. הנחה שלנו; היא עולה כסף רק כשמזינים עלות לשעה.
אין מקור: זו הנחה שלנו. שנו אותה אם אתם מכירים את המקרה שלכם. - רוחב פס זיכרון מנוצל, זהירהנחה0.5 (הגדרה קבועה)
החלק מרוחב הפס של הזיכרון לפי ה-datasheet שקרנלי decode אמיתיים מגיעים אליו: הטווח של @anaroq/gpu, אותו טווח שה-GPU Planner מציג.
אין מקור: זו הנחה שלנו. שנו אותה אם אתם מכירים את המקרה שלכם. - רוחב פס זיכרון מנוצל, אופטימיהנחה0.8 (הגדרה קבועה)
החלק מרוחב הפס של הזיכרון לפי ה-datasheet שקרנלי decode אמיתיים מגיעים אליו: הטווח של @anaroq/gpu, אותו טווח שה-GPU Planner מציג.
אין מקור: זו הנחה שלנו. שנו אותה אם אתם מכירים את המקרה שלכם. - ניצול חישוב, זהירהנחה0.3 (הגדרה קבועה)
החלק מקצב ה-tensor המרבי של ה-GPU שמגיעים אליו כשהחישוב הוא צוואר הבקבוק (prefill, batch גדול): הטווח של @anaroq/gpu.
אין מקור: זו הנחה שלנו. שנו אותה אם אתם מכירים את המקרה שלכם. - ניצול חישוב, אופטימיהנחה0.5 (הגדרה קבועה)
החלק מקצב ה-tensor המרבי של ה-GPU שמגיעים אליו כשהחישוב הוא צוואר הבקבוק (prefill, batch גדול): הטווח של @anaroq/gpu.
אין מקור: זו הנחה שלנו. שנו אותה אם אתם מכירים את המקרה שלכם. - USD למיליון tokens
המחיר למיליון tokens של קלט כפי שהספק מפרסם. אפשר לשנות למחיר שאתם משלמים.
מקור · · נתונים 2026.10.4 - USD למיליון tokens
המחיר למיליון tokens של פלט כפי שהספק מפרסם. אפשר לשנות למחיר שאתם משלמים.
מקור · · נתונים 2026.10.4 - USD לשעת GPU
מחיר ה-on-demand לשעת GPU במכונה של 1 GPU, כפי שהספק מפרסם; גדלים אחרים עשויים להיות מתומחרים אחרת.
מקור · · נתונים 2026.10.4
מה שהזנתם וההנחות ששיניתם נשמרים בקישור של העמוד, אחרי ה-#.
המחירים בחישוב
כל מחיר עם העמוד שממנו נקרא והיום שבו נקרא; מחיר שנקרא לפני יותר מ-90 יום מסומן כלא עדכני.
- DeepInfra Qwen3-32B: קלט, למיליון tokens: 0.08 $ למיליון tokens
- DeepInfra Qwen3-32B: פלט, למיליון tokens: 0.28 $ למיליון tokens
- Lambda NVIDIA H100 SXM: לשעת GPU: 4.29 $ לשעת GPU
מה שהכסף לא מראה
- איכות: ה-API והמודל הפתוח שאתם מריצים לא בהכרח עונים באותה איכות; העמוד הזה לא משווה ביניהם.
- Latency ומגבלות: ל-API יש rate limits ותור משלו; לשרת שלכם יש שיאים משלו.
- מידע: איפה ה-prompts מעובדים ונשמרים, מה שחשוב לפרטיות ולרגולציה.
- הנחות: prompt caching, batch API, GPU שמור או spot משנים את שני הצדדים.
קחו את התוצאה איתכם
התוצאה כקובץ Markdown: מה שהזנתם, הפירוט, כל מחיר עם המקור והתאריך, כל הנחה, והקישור שמשחזר את החישוב.
# מחשבון עלות LLM: self-host מול API
הערכה לפי ההנחות שמפורטות למטה, לא מדידה ולא התחייבות.
אין מקור: זו הנחה שלנו. שנו אותה אם אתם מכירים את המקרה שלכם.
## מה שהזנתם
- לספור את העומס לפי: tokens בחודש
- tokens של קלט בחודש (מיליונים): 2,000
- tokens של פלט בחודש (מיליונים): 400
- מחיר API: DeepInfra: Qwen3-32B
- מודל פתוח: Qwen3 32B
- פורמט המשקלים: fp8
- מחיר GPU: Lambda: NVIDIA H100 SXM (מכונה של 1×)
- רצפים בו-זמנית: 16
- Context לרצף (tokens): 4,096
- אופן הפעלה: פועל תמיד (24/7)
- עלות שעת תחזוקה (USD): 0 USD
## תוצאה
- API לחודש: 272 $ לחודש
- Self-host לחודש: 3,151.7 $ לחודש
- API פחות self-host: -2,879.7 $ לחודש
- tokens בחודש: 2,400 מיליון tokens בחודש
- GPU לשרת: 1
- שרתים שפועלים תמיד: 1
- שעות GPU בתשלום בחודש: 730 שעות בחודש
- קצב פלט לשרת: 625 tokens בשנייה עד 1,037 tokens בשנייה
- קצב קלט (prefill) לשרת: 9,061 tokens בשנייה עד 15,101 tokens בשנייה
> הערכה: הערכה ממחירים מתוארכים והנחות מוצהרות, לא הצעת מחיר: ה-throughput הוא טווח מנתוני datasheet, לא מדידת benchmark.
> אין נקודת איזון: במחירים האלה ה-API זול יותר בכל נפח, כי ה-tokens של שרת עולים יותר משל ה-API.
## מה שהכסף לא מראה
- איכות: ה-API והמודל הפתוח שאתם מריצים לא בהכרח עונים באותה איכות; העמוד הזה לא משווה ביניהם.
- Latency ומגבלות: ל-API יש rate limits ותור משלו; לשרת שלכם יש שיאים משלו.
- מידע: איפה ה-prompts מעובדים ונשמרים, מה שחשוב לפרטיות ולרגולציה.
- הנחות: prompt caching, batch API, GPU שמור או spot משנים את שני הצדדים.
## פירוט
| שורה | ערך | הנחות בשימוש |
| --- | --- | --- |
| API: tokens של קלט | 160 $ לחודש | DeepInfra Qwen3-32B: מחיר קלט |
| API: tokens של פלט | 112 $ לחודש | DeepInfra Qwen3-32B: מחיר פלט |
| זיכרון GPU לכל GPU (משקולות, KV cache, תקורה) | 51.67 GB עד 56.43 GB | – |
| שעות עבודה: prefill + decode | 143.94 שעות בחודש עד 239.21 שעות בחודש | רוחב פס זיכרון מנוצל, זהיר, רוחב פס זיכרון מנוצל, אופטימי, ניצול חישוב, זהיר, ניצול חישוב, אופטימי |
| שעות שרת בתשלום, לפי הניצולת | 730 שעות בחודש | רוחב פס זיכרון מנוצל, זהיר, רוחב פס זיכרון מנוצל, אופטימי, ניצול חישוב, זהיר, ניצול חישוב, אופטימי, ניצולת GPU ממוצעת, שעות בחודש |
| Self-host: מעבדי GPU | 3,131.7 $ לחודש | רוחב פס זיכרון מנוצל, זהיר, רוחב פס זיכרון מנוצל, אופטימי, ניצול חישוב, זהיר, ניצול חישוב, אופטימי, ניצולת GPU ממוצעת, שעות בחודש, Lambda NVIDIA H100 SXM (מכונה של 1×): מחיר לשעת GPU |
| Self-host: אחסון ורשת | 20 $ לחודש | אחסון ורשת בחודש |
| Self-host: זמן תחזוקה | 0 $ לחודש | שעות תחזוקה בחודש |
| Self-host לחודש | 3,151.7 $ לחודש | רוחב פס זיכרון מנוצל, זהיר, רוחב פס זיכרון מנוצל, אופטימי, ניצול חישוב, זהיר, ניצול חישוב, אופטימי, ניצולת GPU ממוצעת, שעות בחודש, Lambda NVIDIA H100 SXM (מכונה של 1×): מחיר לשעת GPU, אחסון ורשת בחודש, שעות תחזוקה בחודש |
| API לחודש | 272 $ לחודש | DeepInfra Qwen3-32B: מחיר קלט, DeepInfra Qwen3-32B: מחיר פלט |
## הנחות
- שעות בחודש: 730 שעות בחודש. 8,760 שעות בשנה חלקי 12, החודש שלפיו עננים מחייבים שרת GPU שפועל כל הזמן; חלקי 24 נותן את הימים לחישוב בקשות ליום. **הנחה**
- ניצולת GPU ממוצעת: 50%. התעבורה לא אחידה ושרת מתוכנן לשיא, ולכן בממוצע הוא עובד מתחת לקצב שהוא מסוגל לו; 50% היא ההנחה שלנו לעומס יציב. **הנחה**
- אחסון ורשת בחודש: 20 $ לחודש. דיסק למשקולות וללוגים, ותעבורה יוצאת, מעבר למחיר ה-GPU; הנחה שלנו, אפשר לשנות לפי הספק שלכם. **הנחה**
- שעות תחזוקה בחודש: 4 שעות בחודש. עדכון שכבת ההגשה והמודל, ניטור ותקלות; ב-API אין את אלה. הנחה שלנו; היא עולה כסף רק כשמזינים עלות לשעה. **הנחה**
- רוחב פס זיכרון מנוצל, זהיר: 0.5. החלק מרוחב הפס של הזיכרון לפי ה-datasheet שקרנלי decode אמיתיים מגיעים אליו: הטווח של @anaroq/gpu, אותו טווח שה-GPU Planner מציג. **הנחה**
- רוחב פס זיכרון מנוצל, אופטימי: 0.8. החלק מרוחב הפס של הזיכרון לפי ה-datasheet שקרנלי decode אמיתיים מגיעים אליו: הטווח של @anaroq/gpu, אותו טווח שה-GPU Planner מציג. **הנחה**
- ניצול חישוב, זהיר: 0.3. החלק מקצב ה-tensor המרבי של ה-GPU שמגיעים אליו כשהחישוב הוא צוואר הבקבוק (prefill, batch גדול): הטווח של @anaroq/gpu. **הנחה**
- ניצול חישוב, אופטימי: 0.5. החלק מקצב ה-tensor המרבי של ה-GPU שמגיעים אליו כשהחישוב הוא צוואר הבקבוק (prefill, batch גדול): הטווח של @anaroq/gpu. **הנחה**
- DeepInfra Qwen3-32B: מחיר קלט: 0.08 $ למיליון tokens. המחיר למיליון tokens של קלט כפי שהספק מפרסם. אפשר לשנות למחיר שאתם משלמים. מקור: https://deepinfra.com/pricing (נקרא ב-16 באוק׳ 2026)
- DeepInfra Qwen3-32B: מחיר פלט: 0.28 $ למיליון tokens. המחיר למיליון tokens של פלט כפי שהספק מפרסם. אפשר לשנות למחיר שאתם משלמים. מקור: https://deepinfra.com/pricing (נקרא ב-16 באוק׳ 2026)
- Lambda NVIDIA H100 SXM (מכונה של 1×): מחיר לשעת GPU: 4.29 $ לשעת GPU. מחיר ה-on-demand לשעת GPU במכונה של 1 GPU, כפי שהספק מפרסם; גדלים אחרים עשויים להיות מתומחרים אחרת. מקור: https://lambda.ai/pricing (נקרא ב-13 באוק׳ 2026)
מחשבון llm-cost-self-host-vs-api 1.0.0 · מנוע @anaroq/calc 1.4.0 · תמונת נתונים 2026.10.4
פתיחת החישוב הזה: https://anaroq.com/he/tools/llm-cost-self-host-vs-api#k=eyJhc3N1bXB0aW9ucyI6e30sImNhbGMiOiJsbG0tY29zdC1zZWxmLWhvc3QtdnMtYXBpIiwiaW5wdXQiOnsiYXBpIjoiYXBpLWRlZXBpbmZyYS1xd2VuMy0zMmIiLCJiYXRjaCI6MTYsImNvbnRleHRUb2tlbnMiOjQwOTYsImdwdSI6ImdwdS1sYW1iZGEtaDEwMC1zeG0tMXgiLCJob3VybHlSYXRlIjowLCJpbnB1dE10b2siOjIwMDAsImlucHV0VG9rZW5zUGVyUmVxdWVzdCI6MjAwMCwibWFudWFsR3B1IjoicnR4LTQwOTAiLCJtYW51YWxHcHVIb3VybHkiOjAuNSwibWFudWFsSW5wdXRQcmljZSI6MSwibWFudWFsT3V0cHV0UHJpY2UiOjQsIm1vZGVsIjoicXdlbjMtMzJiIiwib3V0cHV0TXRvayI6NDAwLCJvdXRwdXRUb2tlbnNQZXJSZXF1ZXN0Ijo0MDAsInF1YW50aXphdGlvbiI6ImZwOCIsInJlcXVlc3RzUGVyRGF5IjoyMDAwMCwic2NoZWR1bGUiOiJhbHdheXMtb24iLCJ2b2x1bWUiOiJ0b2tlbnMifSwidiI6MX0
איך המחשבונים עובדים: https://anaroq.com/he/methodology#calculators
הקישור מחזיק את ההגדרות אחרי ה-#, ודפדפנים לא שולחים את החלק הזה לשרת.
מה הכלי עושה
המחשבון מציב את העלות החודשית של עומס tokens ב-API של מודל לצד הרצת מודל פתוח על GPU שאתם שוכרים לפי שעה. צד ה-API הוא ה-tokens × המחירים המפורסמים. צד ה-self-host הוא השעות שה-GPU צריכים בשביל אותם tokens, ממנוע ה-GPU של ANAROQ, × המחיר לשעת GPU, ועוד אחסון, רשת ותחזוקה, שמוצהרים כהנחות.
איך זה עובד
- tokens בחודש: מוזנים ישירות, או בקשות ביום × tokens לבקשה × 730 חלקי 24 ימים.
- API = מיליוני הקלט × מחיר הקלט + מיליוני הפלט × מחיר הפלט, כל מחיר מהעמוד של הספק עם היום שבו נקרא, או מחיר משלכם.
- GPU לשרת: המספר הקטן ביותר (1, 2, 4 או 8) שעליו נכנסים המשקלים של המודל, ה-KV cache של הרצפים בו-זמנית ותקורת זמן הריצה, לפי ההערכה של מנוע ה-GPU של ANAROQ (90% מהזיכרון של כל GPU שמיש).
- שעות עבודה = tokens של פלט חלקי קצב ה-decode + tokens של קלט חלקי קצב ה-prefill. ה-decode הוא ההערכה של מנוע ה-GPU (50 עד 80% מרוחב הפס של הזיכרון); ה-prefill מוגבל בחישוב (30 עד 50% מה-FLOPS המרבי של ה-tensor חלקי 2 FLOPs לפרמטר). שניהם טווחים, ולכן גם העלות היא טווח.
- לפי הניצולת הממוצעת (50% כברירת מחדל): פועל תמיד, שרתים שלמים של 730 שעות כל אחד; לפי דרישה, שעות העבודה חלקי הניצולת. × מספר ה-GPU × המחיר לשעת GPU, + אחסון ורשת (20 USD כברירת מחדל) + שעות תחזוקה × העלות לשעה שלכם.
- נקודת איזון: ה-tokens בחודש, באותו יחס קלט:פלט, שמהם self-host לא עולה יותר מה-API. אין כזו כשה-tokens של שרת בניצול מלא עולים יותר משל ה-API.
דוגמה
Qwen3-32B: 2,000 מיליון tokens של קלט ו-400 מיליון של פלט בחודש ב-API של DeepInfra, מול אותו מודל ב-fp8 על H100 של Lambda, פועל תמיד:
2,000 M קלט · 400 M פלט tokens בחודש · DeepInfra Qwen3-32B · Qwen3 32B fp8 · Lambda H100 SXM · 16 רצפים × 4,096 tokens · פועל תמיד
- API לחודש
- 272 $ לחודש
- Self-host לחודש
- 3,151.7 $ לחודש
- API פחות self-host
- -2,879.7 $ לחודש
- tokens בחודש
- 2,400 מיליון tokens בחודש
- GPU לשרת
- 1
- שרתים שפועלים תמיד
- 1
- שעות GPU בתשלום בחודש
- 730 שעות בחודש
- קצב פלט לשרת
- 625 tokens בשנייה עד 1,037 tokens בשנייה
- קצב קלט (prefill) לשרת
- 9,061 tokens בשנייה עד 15,101 tokens בשנייה
אין נקודת איזון: במחירים האלה ה-API זול יותר בכל נפח, כי ה-tokens של שרת עולים יותר משל ה-API.
מגבלות
- הערכה, לא הצעת מחיר ולא benchmark: ה-throughput בפועל תלוי בתוכנת ההגשה, באורכי ה-prompts ובדפוס התעבורה. מדדו את שלכם לפני שמתחייבים.
- המחירים ב-USD כפי שהספקים מפרסמים, לפני מס, והם משתנים; לכל אחד יש תאריך, והוא מסומן כלא עדכני אחרי 90 יום.
- מחיר לשעת GPU הוא זה שנקרא לגודל המכונה שבתווית שלו; ספק עשוי לתמחר או להשכיר גדלים אחרים אחרת.
- בלי השוואת איכות ובלי מחיר של ANAROQ: ANAROQ לא מוכרת GPU או tokens.
מתודולוגיה: איך מחושבים המספרים
מקורות
קשורים
הצעד הבא
כלי ציבורי חינמי של אנרוק, חברה שבונה תשתיות מחשוב. מה אנרוק בונה