Tháng 9 vừa rồi, một cái tên xuất hiện ở khắp nơi: Jev.
TypeSafe AI giới thiệu nó như mô hình “System One” đầu tiên — không sinh văn bản, chỉ trả về quyết định có kiểu dữ liệu rõ ràng kèm xác suất đã hiệu chỉnh. Trong 24 giờ, gần 13% số team trả tiền trên Vercel đã cắm thử. Rồi Amazon có Strands Decider, Cloudflare có họ Clef. Một cái hộp mới vừa mở ra, ai cũng muốn một chỗ.
Và mới đây, Perplexity bước vào bằng Perplexity Decider V1.1 27B — 27B tham số, mở trọng số, rẻ bằng nửa, và vượt Jev ngay trên chính bộ chỉ số mà TypeSafe đặt ra.
Chuyện gì đang xảy ra với “mô hình quyết định”?
Nói cho gọn: LLM sinh văn bản, còn mô hình quyết định chỉ đưa ra lựa chọn.
Bạn đưa vào một tình huống và một câu hỏi đã bị chặn sẵn trong khuôn — chọn một trong vài phương án, chấm vào một thang bậc, hoặc trả lời có/không. Kết quả trả về là nhãn kèm xác suất đã hiệu chỉnh, thứ mà phần mềm có thể rẽ nhánh trực tiếp, không cần ai ngồi parse văn xuôi.
Nghe thì nhỏ. Nhưng đó lại là chỗ tốn kém nhất trong mọi hệ thống agent: mỗi bước rẽ nhánh hiện nay thường được giao cho một LLM lớn, trả tiền để nó viết một đoạn văn, rồi cố moi ra một nhãn. Jev chỉ ra rằng công việc đó xứng đáng có một loại mô hình riêng — nhanh, rẻ, và trả về con số thay vì lời nói.
Đó là lý do cơn sốt lan nhanh đến vậy.
So nhanh: Jev và Perplexity Decider V1.1 27B
| Tiêu chí | Jev (TypeSafe) | Perplexity Decider V1.1 27B |
|---|---|---|
| Ra mắt | 15/09/2026 | 07/10/2026 |
| Giá đầu vào | $0.042 / 1M token | $0.02 / 1M token |
| Giá đầu ra | Miễn phí | Miễn phí |
| Ngữ cảnh | 64K token | 262K token |
| Đầu vào | Chữ hoặc JSON | Chữ, JSON, hoặc ảnh |
| Trọng số | Đóng | Mở (Apache-2.0) |
| Decision Index | 57.9 | 61.56 |
Đọc bảng thì thấy ngay hai điều. Thứ nhất, Decider không chơi trò “rẻ hơn thì yếu hơn” — nó vừa rẻ hơn một nửa, vừa nhận được nhiều loại đầu vào hơn, vừa có ngữ cảnh dài gấp bốn. Thứ hai, nó mở trọng số. Với một category mà người dẫn đầu đang đóng, đây là điểm khác biệt lớn nhất.
Decision Index: thắng ngay trên sân của Jev
“Decision Index” là một bộ đề cố định gồm 120.340 lượt quyết định, ban đầu do TypeSafe dựng để chấm Jev, sau đó được cộng đồng chạy lại công khai cho các bản tái hiện mở.
Kết quả của Decider V1.1:
| Hạng mục | Jev | Decider V1 | Decider V1.1 |
|---|---|---|---|
| Knowledge | 51.4 | 40.9 | 48.18 |
| Language | 62.0 | 63.5 | 69.45 |
| Retrieval | 55.4 | 54.9 | 61.26 |
| Tools | 75.1 | 79.3 | 78.88 |
| Arts | 37.7 | 39.4 | 44.66 |
| Overall Decision Index | 57.9 | 56.4 | 61.56 |
So với bản V1 (56.4), V1.1 nhảy lên 61.56 — hơn Jev 57.9 khoảng 3,6 điểm. Phần lớn cú nhảy đến từ Retrieval, Language và Knowledge. Riêng Tools hơi lùi.
Perplexity nói hai thay đổi tạo ra khác biệt: bỏ ràng buộc nhân quả (causal mask) ở các lớp attention đầy đủ, và huấn luyện thêm dữ liệu, trong đó có bộ tasksource.
Và đây là chỗ cần tỉnh: đây là con số do Perplexity tự công bố, chưa có bên thứ ba chấm độc lập. Bộ đề thì cũng do chính đối thủ tạo ra. Thắng trên sân nhà vẫn là thắng, nhưng đừng đọc nó như một bảng xếp hạng trung lập.
Điều gì thực sự đáng chú ý?
Không phải việc Decider nhỉnh hơn vài điểm. Mà là nhịp.
Jev ra mắt giữa tháng 9. Đến đầu tháng 10, đã có một mô hình mở, nhỏ hơn, rẻ hơn, vượt mặt nó. Trong lúc đó Amazon và Cloudflare cũng đã có sản phẩm riêng. Một category hoàn toàn mới vừa được định hình chỉ trong vài tuần.
Với người làm agent, tin tốt nằm ở chỗ khác: giá. Ở mức $0.02 cho mỗi triệu token đầu vào và đầu ra miễn phí, một bước quyết định trở nên đủ rẻ để chạy ở mọi request, chứ không phải chỉ ở những chỗ thật khó. Đó là điều kiện để mấy thứ như định tuyến, chấm điểm leo thang, hay kiểm tra trước khi ghi trở thành mặc định — thay vì một tính năng phải cân đo.
Vài điều nên biết trước khi nhảy vào
- Đừng nhầm vai. Mô hình quyết định không viết. Nó trả về lựa chọn và xác suất; phần trả lời cho khách vẫn cần một LLM khác.
- Định nghĩa lựa chọn quan trọng hơn mô hình. Danh sách phương án mơ hồ thì kết quả cũng mơ hồ. Việc khó nằm ở chỗ bạn chia các nhánh cho rõ.
- Ngưỡng là do bạn đặt. Mô hình đưa con số; “bao nhiêu thì đủ chắc” thuộc về quy trình của bạn.
- Tự chạy không nhẹ. Checkpoint 27B mở trên Hugging Face, nhưng khoảng 49 GiB trọng số ở BF16 và cần GPU lớn. Jev thì không mở trọng số, chỉ có API. Với phần lớn đội, đi qua API trước là hợp lý.
- Category còn non. API, giá, và cả tên gọi sẽ còn đổi. Đừng gắn chặt kiến trúc vào một nhà cung cấp duy nhất.
Nhịp này sẽ còn nhanh
Một mô hình mở, rẻ bằng nửa, vượt mặt kẻ khơi màn — đó là nhịp của năm nay, và nó chỉ vừa bắt đầu.
Nếu bạn đang tự hỏi chỗ nào trong quy trình của mình thực sự là một quyết định — chứ không phải một câu trả lời cần viết — thì đó đã là câu hỏi đúng. Nhắn cho chúng tôi một câu cũng đủ để bắt đầu.
