האם הCPU הפך להיות החסם האמיתי של מהפכת הבינה המלאכותית? 🔎
מחקר חדש של Georgia Tech בשיתוף עם חברת אינטל מראה לנו שצוואר הבקבוק שנוצר בגלל המעבד (CPU) עלול להיות אפילו גדול יותר מהבעיות של הפוטוניקה, 👀
הם מציגים נתון מטורף: 📊
-המצב הזה של חסר בCPU, רק הולך ומחמיר ככל ששבבי הבינה המלאכותית הופכים להיות חזקים וטובים יותר.... 📈
איך הם בדקו את זה? 🔍
החוקרים לקחו עומסי עבודה אמיתיים שקורים ביום-יום, כמו סוכני חיפוש באינטרנט, עוזרי מחקר וסוכני קידוד, והם עקבו אחרי כל שלב ושלב בביצוע המשימה כדי להבין איפה המערכת נעצרת.
התוצאות מראות הבדל משמעותי בין סוגי המערכות: 📊
🔣במערכת שמשתמשת בכרטיסי מסך (GPU) זולים יותר, המעבד היה אחראי ל-38% מזמן ההמתנה הכולל של המערכת, 🕗
- אבל כשהריצו את אותן המשימות בדיוק על שבבי ה-H200 העוצמתיים, החלק של המעבד בעיכובים זינק ל-65%. 📈
מה ההגיון❓
הנה ההסבר: 💡
זה קורה בגלל שכרטיס מסך מהיר יותר פשוט מסיים את החישובים שלו הרבה יותר מוקדם, לכן המעבד נשאר "החוליה החלשה" שצריכה לטפל בכל שאר הפעולות של ה-agent, ⚖️
זה בדיוק מה שגורם לזמן ההמתנה שלו להיראות אפילו גדול יותר בהשוואה לביצועים המהירים של ה-GPU. ⏳
החלק הכי מעניין שעולה מהמסקנות של המחקר הזה? 🔗
כל פעם שחברה משדרגת את הGPU שלה היא בעצם חייבת לחזור ולקנות עוד CPU חזקים כדי לאזן את המערכת, 🛒
ובדיוק בגלל זה הביקוש למעבדים צפוי רק להמשיך לגדול ככל שהטכנולוגיה מתקדמת. 📞
כנראה שזה מה שעומד מאחורי הדיווח של סמנכ"ל הכספים של אינטל, שציין כי הביקוש למעבדים שלא מקבל מענה כבר מגיע לסכומים שמתחילים ב-B (מיליארדים)... 👤
אנחנו במעקב 🔎