חברת TypeSafe שחררה את Jev, מודל לסיוע בבניית בוטים קוליים
3 בנובמבר 2026 · קריאה של 2 דק׳
התפרסם גם ב English, Português (Brasil), Français, Nederlands, Norsk, Deutsch, Svenska, Polski
חברת TypeSafe שחררה בגישה מוקדמת בספטמבר 2026 את Jev, מודל לקבלת החלטות המיועד לשיפור ביצועים של בוטים קוליים המבוססים על מודלי שפה גדולים. המודל פועל כסיווג שאינו כותב טקסט ואינו מייצר טוקנים של פלט, אלא מחזיר מבנה נתונים מוגדר הכולל בחירה מתוך אפשרויות נתונות, הערכה לפי סולם קצר או הסתברות לתשובת כן או לא לשאלה ישירה.
המודל מקבל כקלט את מצב השיחה, הכולל קטע מהתמלול, את דבריו האחרונים של הבוט ואת השלב בתסריט, יחד עם סדרה של שאלות. זמן התגובה של Jev נע לפי נתוני החברה בין 70 ל-500 מילישניות. מדידות חיצוניות הראו תוצאות שונות, כאשר חלקן נעו בין 170 מילישניות עבור קבוצה של שלושים וחמישה שאלות בחיבור מחומם, לבין 332 עד 892 מילישניות.
השימוש במודלים מסוג זה נועד לפתור בעיות של מודלי שפה גדולים בשיחות טלפון, כגון הזיות, איטיות בתגובה או חריגה מחלון ההקשר. במקום להסתמך על מודל אחד גדול ויקר, מהנדסים משתמשים במודל סיווג מהיר כדי לנתב את השיחה לסוכנים מומחים בעלי הנחיות קצרות יותר. גישה זו מאפשרת להפחית את עלויות הטוקנים ולשפר את איכות התגובות.
בנוסף ל-Jev, קיימים מודלים דומים נוספים בשוק. Laya הוא תחליף חינמי בקוד פתוח תחת רישיון Apache 2.0, ו-Clef של חברת Cloudflare הוא מודל לקבלת החלטות מהירה בתוך מערכות תוכנה. חברת Cortiq שחררה את CMF, מודל קל במשקל של 304.5 מגה-בייט הפועל במילישניות. חברת Bespoke Labs הציגה את Bespoke Nimble המבוסס על כוונון של מודל Qwen3.5-9B, בעוד ש-Kev הוא משפחת מודלים שהחלה עם Kev-0.5B המבוסס על Qwen2.5-0.5B עבור הרצה מקומית.
בנוסף, פותח מודל CLM-8B בשיתוף פעולה בין Nvidia לאוניברסיטת סטנפורד, אשר מבצע מטמון לפעולות חוזרות של סוכנים ומציג במהירות הגבוהה מזו של Jev. יישומים נוספים של מודלי סיווג כוללים הגבלות רקע הפועלות במקביל לתגובה הקולית והחלטה מתי להעביר את השיחה לסוכן אחר או לבן אדם.