TypeSafe udostępnia model Jev do optymalizacji botów głosowych
3 listopada 2026 · Czas czytania: 2 min
Dostępne również w English, Português (Brasil), Français, Nederlands, Norsk, עברית, Deutsch, Svenska
Firma TypeSafe udostępniła w ramach wczesnego dostępu w wrześniu 2026 roku model Jev. Jest to model decyzyjny typu System One, który służy jako klasyfikator w systemach botów głosowych opartych na dużych modelach językowych.
Model Jev nie generuje tekstu ani tokenów wyjściowych, lecz dostarcza ustrukturyzowane odpowiedzi. Przyjmuje on jako dane wejściowe stan rozmowy, taki jak fragment transkrypcji, ostatnią wypowiedź bota lub krok scenariusza, wraz z zestawem pytań. Wynikiem jest odpowiedź typowana, która może być wyborem z określonych opcji, oceną w krótkiej skali lub prawdopodobieństwem odpowiedzi tak lub nie na bezpośrednie pytanie.
Rozwiązanie to ma na celu wyeliminowanie problemów związanych z wykorzystaniem wyłącznie dużych modeli językowych w rozmowach telefonicznych. Modele te mogą halucynować po kilku zmianach tematu, przekraczać okno kontekstowe lub generować zbyt wysokie koszty. Ponadto duże modele często odpowiadają zbyt wolno, co jest nieakceptowalne w czasie rzeczywistym.
Opóźnienia w działaniu Jev są niskie i według materiałów TypeSafe mieszczą się w przedziale od 70 do 500 milisekund. Inne pomiary wskazują na wyniki od 170 milisekund dla grupy trzydziestu pięciu pytań na rozgrzanym połączeniu do maksymalnie 892 milisekund.
Na rynku pojawiło się wiele alternatyw dla Jev. Laya od Convai Innovations jest popularnym darmowym odpowiednikiem na licencji Apache 2.0. Cloudflare oferuje model Clef do szybkiego podejmowania decyzji, a Cortiq stworzyło lekki model CMF o wadze 304,5 megabajta. Bespoke Labs opracowało Bespoke Nimble w oparciu o model Qwen3.5-9B, natomiast Kev jest rodziną modeli bazujących na Qwen2.5-0.5B. Dodatkowo Stanford i Nvidia opracowały model CLM-8B, który w testach autorów wykazuje większą prędkość niż Jev.
Zastosowanie klasyfikatorów pozwala na budowę wieloetapowych botów. Szybki model na wejściu może wybierać wyspecjalizowanych agentów dla konkretnych tematów, takich jak status zamówienia czy reklamacje. Dzięki temu główny agent posiada krótszy prompt i ograniczony katalog narzędzi, co zapobiega błędom i redukuje zużycie tokenów. Klasyfikatory mogą być również wykorzystywane do obsługi ograniczeń w tle oraz decydowania o przekazaniu rozmowy innemu agentowi lub człowiekowi.