יסודות של שרתים וקונטיינרים
הסברים קצרים על יסודות השרתים והקונטיינרים שהכלים נשענים עליהם.
הכלים באתר מניחים כמה יסודות: מה הם קונטיינר ו-image, איך עובדים פורטים ו-volumes, מה עושה reverse proxy ואיך שרת מוכן בהפעלה הראשונה שלו.
הנושא הזה מרכז הסברים קצרים על היסודות האלה, וכלי עזר קטנים למפתחים שהולכים איתם, כתובים כך שאפשר לקרוא אותם לצד הכלי שמשתמש בהם.
מסלול מומלץ
- מתחילים מהשרת
מה זה שרת וירטואלי, איך מתחברים אליו ב-SSH ומה מוגדר בו בהפעלה הראשונה.
- ממשיכים לקונטיינרים
images, קונטיינרים, פורטים ו-volumes, ואיך Docker Compose מחבר ביניהם.
- ואז הרשת
DNS, TLS ו-reverse proxy שעומד לפני האפליקציות.
כלים ועמודים
| עמוד | סוג | על העמוד |
|---|---|---|
| פרסום פורטים ב-Docker: 127.0.0.1, 0.0.0.0 ו-ufw | קריאה | מי מגיע לפורט של container תלוי באופן שבו הוא מפורסם, ולא ב-ufw. עברו בין פורט שלא פורסם, פורט שפורסם על כל הכתובות ופורט שפורסם על 127.0.0.1, עם ufw פעיל או כבוי, וראו מי עובר. |
| מה תופס VRAM כשמריצים LLM | קריאה | זיכרון GPU של מודל שפה הוא שלושה דברים: המשקלים, ה-KV cache וה-overhead של סביבת ההרצה. שנו את המודל, את ה-quantization, את אורך ההקשר ואת מספר הבקשות במקביל, וראו איזה חלק גדל. |
| איך cloud-init רץ בעלייה הראשונה | קריאה | cloud-init מחיל את ה-user-data בחמישה שלבי אתחול, ואת רובו רק פעם אחת לכל instance. עברו בין השלבים, ראו איפה כל מפתח של #cloud-config רץ, ומה רץ שוב אחרי reboot. |
ראו גם: מתודולוגיה · כלים חינמיים