Writer משיקה את Palmyra X6 ומכוונת לעלות האמיתית של סוכני AI

Writer השיקה את Palmyra X6, מודל הדגל החדש שלה, לצד שדרוג משמעותי ל-Writer Agent ולכלי הבקרה על צריכת טוקנים. המהלך ממוקד בשאלה שמעסיקה ארגונים אחרי שלב הפיילוט: כמה עולה להשאיר סוכן עובד לאורך משימה שלמה, ולא רק כמה עולה קריאה בודדת למודל.

מה בדיוק הושק

Palmyra X6 הוא מודל שעבר אימון המשך על בסיס GLM-5.2 של Z.ai. הוא נבנה לעבוד בתוך מעטפת הסוכנים של Writer, עם דגש על משימות שיווק, מכירות ומחקר שנמשכות כמה שלבים וכוללות חיפוש במידע ארגוני, שימוש בכלים, יצירת תוכן והאצלה לתת-סוכנים.

Writer מתמחרת את המודל ב-2 דולר למיליון טוקנים בקלט וב-8 דולר למיליון טוקנים בפלט. לפי הבדיקה הפנימית של החברה, המערכת המשולבת של X6 ו-Writer Agent קיבלה ציון ממוצע של 0.87 בתשעה סוגי יכולת. החברה מדווחת גם על זמן ממוצע של 26 שניות למשימה, קצב של 82 טוקנים בשנייה ויכולת לעבוד על יעד יחיד עד שמונה שעות ללא השגחה.

חשוב לקרוא את הנתונים האלה בהקשר הנכון. הציונים נמדדו על תרחישים שנבנו מתוך העבודה של לקוחות Writer, והם בוחנים את המודל בתוך המעטפת של החברה. זו בדיקה שימושית למוצר, אך היא אינה השוואה עצמאית של המודל לבדו. Writer גם לא פרסמה עדיין נתוני שגיאה מפורטים למשימות הארוכות ביותר.

החלק המעניין נמצא סביב המודל

במקביל להשקה, Writer פרסמה מחקר על ההשפעה של מעטפת הסוכן על העלות. הניסוי השווה שתי מעטפות על 22 משימות קבועות ושישה מודלים. לפי המאמר, מעטפת Writer הורידה את העלות הממוצעת למשימה ב-41%, קיצרה את זמן הריצה החציוני ב-44% וצמצמה את מספר הטוקנים ב-38%, תוך שמירה על איכות דומה.

המחקר מתאר כמה צעדים הנדסיים קונקרטיים: שמירה על תחילית פרומפט יציבה כדי להגדיל שימוש במטמון, דחיסה הדרגתית של היסטוריית העבודה, הוצאת חיפוש נרחב לתת-סוכנים, המתנה ללא סבבי בדיקה חוזרים ושמירת מצב שמאפשר להמשיך אחרי תקלה בלי לקנות שוב את כל ההקשר.

בארגון שמריץ אלפי משימות ביום, ההבדל הזה משנה גם את בחירת הארכיטקטורה. מודל זול בתוך מעטפת בזבזנית עלול לעלות יותר ממודל יקר שמקבל הקשר קצר, יציב וניתן לשחזור.

המדגם קטן, והמחברים עצמם מגדירים את מסקנות האיכות ככיוון שדורש בדיקה רחבה יותר. למרות זאת, התוצאה מצביעה על החלטה מעשית: צוותי פלטפורמה צריכים למדוד עלות למשימה שהושלמה, שיעור פגיעות במטמון והוצאות על ניסיונות כושלים, ולא להסתפק במחיר הרשמי למיליון טוקנים.

Writer הוסיפה גם תמיכה בבחירת מודלים של ספקים אחרים בתוך Writer Agent, וכן התראות, מגבלות ודוחות על הוצאות לפי צוות ותהליך. Palmyra X6 זמין כעת כברירת המחדל במוצר. מה שעוד חסר הוא אימות מחוץ לסביבת Writer: האם החיסכון נשמר בקוד, בניתוח נתונים ובתהליכים שאינם שיווקיים, ומה קורה לאמינות אחרי שעות של עבודה רצופה.