מחשוב ועלויות
כמה שרת עומס עבודה צריך, לפני ששוכרים או קונים אותו.
רוב טעויות הקיבולת קורות עוד לפני שיש שרת: מכונה שנבחרה מתוך הרגל, קטנה מדי למסד הנתונים, או כזאת שמשלמים עליה פי שניים ממה שצריך. הכלים כאן עונים קודם על שאלת המשאבים, לפי דרישות שפורסמו ולא לפי הערכה.
כל מספר שהם מציגים מגיע מפרופיל אפליקציה ממוספר בגרסה, עם המקורות הרשמיים שלו, והחישוב מוצג שורה אחר שורה. כך אפשר לבדוק אותו ולשנות הנחות שלא מתאימות למקרה שלכם.
מסלול מומלץ בקטגוריה
- רושמים את האפליקציות
מה ירוץ על השרת: האפליקציות, מסד הנתונים והעומס שאתם מצפים לו.
- מחשבים את ה-stack
מחברים את הדרישות לפי רכיב, עם מרווח למערכת ול-Docker.
- שומרים את התוצאה
שומרים את התוצאה כקישור Deployment Spec וממשיכים איתו לכלי הפריסה.
הכלים בקטגוריה
- Stack Sizerתכנון משאבים ל-stack של אפליקציות self-hosted, ממקורות רשמיים.לפתיחת הכלי
- מחשבון גודל שרתהאפליקציה שלכם לא בקטלוג שלנו? תארו את סוג העומס, את העומס בשיא ואת הנתונים, וקבלו טווח של vCPU, RAM ודיסק עם פירוט. כל מספר שלא הזנתם מוצג, עם המקור שלו, ואפשר לשנות אותו.לפתיחת הכלי
- מחשבון רוחב פס ותעבורה חודשיתהזינו את הצפיות בעמודים, ההורדות וקריאות ה-API בחודש עם הגודל הממוצע שלהם. תקבלו את התעבורה החודשית, את מה שעדיין מגיע לשרת שלכם אחרי CDN, ואת הקצב הממוצע ובשיא שפורט הרשת שלו צריך.לפתיחת הכלי
- מחשבון egress ועלות יציאה מספקהזינו כמה אתם שולחים לאינטרנט בכל חודש וכמה הייתם מוציאים אם הייתם עוזבים. תקבלו את עלות ה-egress החודשית ואת עלות היציאה החד-פעמית לפי מחירון כל ספק, וכל מחיר עם המקור שלו והיום שבו נקרא.לפתיחת הכלי
- מחשבון עלות שרת ביתי מול VPSהזינו את החומרה, צריכת ההספק הממוצעת שלה וכמה זמן תשתמשו בה, מה היא מוסיפה לחשבון האינטרנט ואת הזמן שהיא דורשת, ובחרו VPS להשוואה. תקבלו את העלות לחודש ולאורך התקופה, את החודש שבו השרת הביתי מחזיר את עצמו, ומה שינוי במחיר החשמל עושה לתוצאה.לפתיחת הכלי
- מתכנן משאבים ל-Kubernetesהזינו את גודל ה-node ואת העומסים (replicas, requests ו-limits של CPU וזיכרון), או הדביקו את ה-manifests שלהם. תקבלו את מספר ה-nodes, כמה הם מלאים, מה ממוקם בכל אחד ואילו pods לא נכנסים, כשכל תקורה מוצגת עם המקור שלה.לפתיחת הכלי
- מחשבון גודל למסד וקטורים ב-RAG: זיכרון ודיסקהזינו כמה chunks אתם ממירים ל-embedding, את המודל, את האינדקס ואת ה-quantization. תקבלו את ה-RAM והדיסק שמסד הווקטורים צריך כטווח, כשכל מבנה נספר וכל מקדם מקושר לתיעוד שממנו הוא נלקח.לפתיחת הכלי
- מחשבון משאבים לסוכני AI: vCPU, RAM, דיסק ו-GPUהזינו כמה סוכנים רצים בו-זמנית בכל סוג סביבה, אם הם קוראים ל-API של מודל או למודל שאתם מריצים בעצמכם, וכמה שעות ביום הם עובדים. תקבלו vCPU, RAM, דיסק וזיכרון GPU כטווחים, עם שורה לכל רכיב וכל נתון שאפשר לבדוק ולשנות.לפתיחת הכלי
- GPU Planner: איזה GPU צריך ל-LLMבחרו מודל פתוח או הזינו את הנתונים שלו, את פורמט המשקלים, את אורך ההקשר וכמה בקשות רצות במקביל. תקבלו את זיכרון ה-GPU שהוא צריך, על אילו GPUs הוא נכנס וכמה מכל אחד, קצב משוער ופקודה להרצה. כל תוצאה היא הערכה לפי datasheets של היצרנים וקובצי ה-config של המודלים.לפתיחת הכלי
- מחשבון עלות LLM: self-host מול APIהזינו כמה tokens אתם צורכים בחודש, את ה-API שהייתם משלמים עליו ואת המודל הפתוח וה-GPU שהייתם שוכרים. תקבלו את שתי העלויות החודשיות, את הנפח שממנו self-host כבר לא יקר יותר, וכל מחיר עם המקור שלו והיום שבו נקרא.לפתיחת הכלי
רקע: מתודולוגיה