מאת יובל לוריא התרחיש הבא כנראה מוכר לכל מי שניסה להעלות לאוויר מודל שפה עצמאי בארגון: ה-PoC בסביבת הפיתוח היה הצלחה מסחררת – הרצתם שאילתות בלפטופ או על כרטיס GPU בודד, המודל ענה לעניין, כולם מחאו כפיים וההנהלה אישרה תקציב רכש נדיב של עשרות אלפי דולרים לכרטיסי GPU איכותיים. ואז הגעתם לפרודקשן. חיברתם את המודל […] The post המודל נחנק? כך תרוויחו בחזרה 76% מהזיכרון appeared first on גיקטיים .
המודל נחנק? כך תרוויחו בחזרה 76% מהזיכרון