סקירה כללית

DGX Spark™ - מערכת שולחנית מהדור הבא שהוצגה על ידי NVIDIA כ"מיני-מחשב-על עבור AI" על השולחן שלך. הוא מיועד לאלה שעובדים עם משימות למידת מכונה, מודלים גדולים, מסקנות, כוונון עדין ופיתוח בינה מלאכותית - מספק את הכוח שהיה שמור פעם למרכזי נתונים, כעת בפורמט קומפקטי ונוח.
הודות לארכיטקטורת Grace Blackwell (שבב GB10) וזיכרון מאוחד של 128 GB, DGX Spark™ יכול "להריץ" מודלים של רשתות עצביות גדולות ישירות על תחנת עבודה או בסביבת משרד/מעבדה מקומית.

מפרטים ומאפיינים טכניים עיקריים

ארכיטקטורה וכוח חישובי

• המערכת מבוססת על מערכת GB10 עם שבב בודד (SoC) הבנויה על ארכיטקטורת Grace Blackwell, המשלבת מעבד ARM בעל 20 ליבות (10 × Cortex-X925 10 × Cortex-A725) ומאיץ Blackwell-GPU.

• ביצועי חישוב טנזור מגיעים עד 1 פטאפלופ (1 PFLOP) במצב FP4 (עם אופטימיזציה של דלילות). 

• זיכרון מאוחד: 128 GB LPDDR5x עם רוחב פס של עד 273 GB/s (ממשק 256 סיביות) - נגיש הן למעבד והן ל-GPU ללא חלוקה למחיצות.

• גורם צורה: רק 150 מ"מ × 150 מ"מ × 50.5 מ"מ - מערכת קומפקטית מאוד, במשקל של כ-1.2 ק"ג. 

אחסון, ממשקים וקישוריות

• NVMe M.2 SSD מובנה: 1 TB או 4 TB, עם תמיכה בהצפנה עצמית. 

• ממשקי רשת: 10 Gb/s Ethernet (RJ-45), חכם ConnectX-7 NIC, תמיכה באשכולות באמצעות 200 Gb/s RDMA (בעת חיבור שתי יחידות) להרחבה לדגמים עם מאות מיליארדי פרמטרים. 

• תמיכה אלחוטית: Wi-Fi 7, Bluetooth 5.x. 

• יציאות וידאו ו-USB: HDMI 2.1a (לניטור או פלט), 4× USB-C/USB4. 

תוכנה ואקוסיסטם

• המערכת פועלת DGXמערכת הפעלה - מערכת ההפעלה המותאמת ל-AI של NVIDIA, עם ערימת פיתוח מותקנת מראש (TensorFlow, PyTorch ואחרים). 

• תמיכה בפיתוח: הפעלה ובדיקה של דגמי שפה גדולים, יצירה, הדרכה, הסקה, כוונון עדין, גישה מרחוק באמצעות NVIDIA Sync ושילוב VS Code. 

הטבות למפתחים, חוקרים ועסקים

1. עבודה עם דגמים גדולים מאוד. עם 128 GB של זיכרון מאוחד וארכיטקטורת CPU/GPU משותפת, המערכת יכולה לטעון ולשרת דגמים עם מאות מיליארדי פרמטרים (במצב FP4) - עד ≈ 200B ליחידה, ועד ≈ 405B בשילוב שני DGX Sparks. 

2. קומפקטיות ונגישות. במקום שרת מתלים יקר עם צריכת חשמל גבוהה, אתה מקבל מכשיר שולחני שיכול להתאים למשרד או מעבדה - המאפשר פיתוח מודלים של AI מקומי ללא הסתמכות על משאבי ענן. 

3. מדרגיות בעת הצורך. אם מכשיר אחד לא מספיק, ניתן לאגד שתי יחידות DGX Spark לעבודה משותפת עם דגמים גדולים ועומסי עבודה מבוזרים. 

4. מקרי שימוש גמישים. מתאים לכוונון עדין של מודלים מותאמים אישית, מסקנות ומשימות מחקר - מיצירת טקסט ותמונה ועד עומסי עבודה מדעיים - הכל באופן מקומי, עם זמן אחזור נמוך יותר ושליטה גבוהה יותר.

5. אינטגרציה עם כלים מוכרים. הודות לתמיכה מסגרת פופולרית וגישה מרחוק, מפתחים יכולים להמשיך להשתמש בסביבות המוכרות שלהם תוך מינוף הכוח של DGX Spark ברקע, שיפור היעילות והפרודוקטיביות.

6. עלויות תשתית מופחתות. שימוש במערכת קומפקטית מבטל הוצאות עבור הגדרות שרת גדולות, חדרים וקירור מורכב - חשוב במיוחד עבור סטארט-אפים, מעבדות וצוותים קטנים.

מקרי שימוש

• פיתוח ובדיקה של מודלים של שפה (LLM). טען מודלים עם מאות מיליארדי פרמטרים, התנסה בארכיטקטורה וכוונון היפרפרמטרים, והפעל שירותי הסקה ישירות במשרד שלך.

• יצירת תמונה, וידאו ומדיה. הכוח של ליבות הטנזור והזיכרון המאוחד מאפשר מודלים מחוללים חלקים, עיבוד מקדים/אחרי ויצירת אב טיפוס.

• פריסת הסקה ו-AI בקצה או בסביבות מעבדה. DGX Spark יכול לפעול כ"שרת AI מקומי" להדגמות, פיילוטים והטמעות באתר הדורשות כוח ואוטונומיה כאחד.

• פתרונות מחשוב ואשכול ניתנים להרחבה. שלב מספר יחידות DGX Spark עבור מחשוב מבוזר, עיבוד נתונים גדולים ועומסי עבודה מקבילים מרובי דגמים.

• מחקר מדעי ומשימות חישוביות. קיבולת הזיכרון וכוח העיבוד הופכים אותו למושך עבור חוקרים הזקוקים למשאב מחשוב מקומי ומבוקר עבור ניסויים ופיתוח אלגוריתמים.

שיקולים חשובים

• למרות הצורה של שולחן העבודה, DGX Spark - היא מערכת AI מיוחדת, לא תחליף למחשב אישי או משחקי מחשב רגיל. עבור עיבוד או עומסי עבודה למשחקים בלבד, קיימים פתרונות אחרים.

• ביצועים - אם כי מרשימים, "אימון מאפס" בקנה מידה מלא עבור דגמים גדולים מאוד (מיליארדי פרמטרים) עדיין עשויים לדרוש חומרה ברמה גבוהה יותר או מבוזרת. DGX Spark הוא אופטימלי לפיתוח, כוונון עדין והסקת דגמים גדולים, אך לא תמיד ל"אימונים מקסימליים" כמו באשכולות מרכזי נתונים.

• תשתית ומערכת אקולוגית: להבטיח קירור, חשמל וגישה נאותים לרשת, במיוחד אם מתוכננת קיבוץ או פעולה אינטנסיבית.

• מחיר: למרות שהוא הרבה יותר קומפקטי מאלטרנטיבות של מרכז נתונים, הוא נותר מכשיר פרימיום המיועד לפיתוח בינה מלאכותית.

למה DGX ניצוץ - צעד קדימה

לפני שמערכות כאלה היו קיימות, מפתחי בינה מלאכותית התמודדו לעתים קרובות עם דילמה: להפעיל מודלים בענן (מה שמוביל לעלויות, חביון ותלות חיצונית) או להשתמש במחשבים מקומיים עם מגבלות זיכרון וביצועים. DGX Spark משנה את זה: כוח המחשוב שפעם היה מוגבל לאשכולות שרתים יכול כעת לשבת ישירות על השולחן שלך.

ארכיטקטורת הזיכרון המאוחדת בין מעבד ו-GPU מבטלת את תקורה של העברת נתונים בין מערכות משנה, ומאפשרת עבודה עם דגמים גדולים ללא הגדרה מורכבת. חיבור של מספר מכשירים לוקח את זה רחוק יותר: אתה יכול להתחיל עם יחידה אחת ולהרחיב מאוחר יותר לפי הצורך.

יתרה מכך, המערכת האקולוגית של NVIDIA - מנהלי התקנים, ספריות, כלי פיתוח ותמיכה במסגרות מותאמות - מפחיתה את זמן הפריסה. חוקרים, מפתחים ועסקים זוכים בכלי שמאיץ את הדרך מרעיון לאב טיפוס לייצור.

מסקנה

אם אתה מפתח, חוקר או מהנדס בינה מלאכותית שמחפש מכשיר שמספק יכולת מקומית מקסימלית מבלי לבנות מיד תשתית שרת, DGX Spark™ היא אחת האפשרויות הטובות ביותר שקיימות:

• זיכרון מאוחד גדול (128 GB) משותף בין מעבד ו-GPU.

• ביצועים חישוביים מרשימים (עד 1 PFLOP) המופעל על ידי ארכיטקטורת Grace Blackwell.

• גורם צורה קומפקטי המתאים לסביבות משרדים או מעבדה.

• גמישות: מפיתוח וכוונון ועד פריסות אשכולות.

• אינטגרציה מלאה עם מערכת האקולוגית של NVIDIA ותמיכה במסגרות פופולריות.