• 请不要在回答技术问题时复制粘贴 AI 生成的内容
SilenceLL
V2EX  ›  程序员

推上吹的火热的 jev,是不是还不如小参数的开源模型,感觉钱都去做营销了

  •  
  •   SilenceLL · 7h 1m ago · 2836 views

    跟 AI 一起读了下,暂时得出来的结论如下:

    它可能本质上是把“高质量小模型 + 分类/排序 + constrained output + calibration”包装成了一个非常漂亮的 Decision Model 产品。

    27 replies    2026-09-18 15:46:37 +08:00
    maocat
        1
    maocat  
       6h 48m ago
    看了眼,或者可以叫意图识别小模型
    AdminNB
        2
    AdminNB  
       6h 42m ago
    大概看了下,只做选择和判断,看起来比较适合用来做一些审核类的场景,跟现有模型比,主要还是速度快吧
    SilenceLL
        3
    SilenceLL  
    OP
       6h 26m ago
    @AdminNB 智能判断节点?做审核类还是有点不够吧
    seakingii
        4
    seakingii  
       6h 20m ago
    小模型再快也没它这个快,目前这是 100 ms 级别的
    seakingii
        5
    seakingii  
       6h 18m ago
    现在有一个人,根据这个原理,特化 qwen 2 这个模型,达到 JEV 的效果. 你可以找一下.

    按我的了解是,一个革命性的思路,但没有什么技术门槛
    dassh
        6
    dassh  
       6h 15m ago
    看了下,相当于文字版本的 yolo world ,感觉确实营销过头了,你一个小模型,当然比 gpt 那些快

    有人用 qwen 0.6b 模拟了一个 https://github.com/TheoLeeCJ/openjev
    muyi
        7
    muyi  
       6h 3m ago
    早上看到了这个开源复刻 https://github.com/TianyuCodings/NanoJev
    sillydaddy
        8
    sillydaddy  
       5h 54m ago via Android
    快思考的直觉脑~这个思路没问题吧。
    mkt
        9
    mkt  
       5h 52m ago   ❤️ 1
    用户:这怎么算的?
    jev:你就说快不快吧
    zhmouV2
        10
    zhmouV2  
       5h 36m ago
    低成本的决策模型,但是结果对不对就不知道了
    cobiao
        11
    cobiao  
       5h 30m ago
    "System One""Typesafe""noul""RLCD"有点过度包装了,明明就是用于垂直领域的小模型. 但是,针对垂直领域的便宜又快速的小模型,这个方向的确挺看好的,国内估计很快就会有同类产品跟上.前阵子好像国内面壁和讯飞都出了很小的通用 agent,好像是 4b,没什么水花,还是国外会炒作呀.

    上个月国外出了个 45M 的 mini 模型 needle2,专门用于智能家居生成结构化输出的,直接可以在浏览器里运行,速度很快,可以实时交互,我还做了一个简单 demo: https://github.com/whitefoxx/line-room 可以玩下. 前几天,needle3 也出来了,更小了,只有 37M,官网可以玩下: https://cactuscompute.com/needle
    prosgtsr
        12
    prosgtsr  
       5h 23m ago
    反正我不信
    ZZITE
        13
    ZZITE  
       5h 4m ago
    适合在代码程序中结合使用,能解决某些只想要借助 AI 来根据复杂规则输出判断,并输出结构化结果,交给程序继续执行的场景。
    SilenceLL
        14
    SilenceLL  
    OP
       4h 59m ago
    @ZZITE 会不会还不如直接跑小参数模型
    zhanying
        15
    zhanying  
       4h 44m ago
    @dassh openjev 的 meme 图太难绷了
    luzemin
        16
    luzemin  
       4h 40m ago
    主要是:准确、快速、便宜

    三者任意一项不满足,就失去价值了
    seakingii
        17
    seakingii  
       4h 34m ago
    @SilenceLL 不可能.就算是当前的小参数模型也不会在这个领域比它快. 目前的 LLM 用来决策,它是有这个功能,但是太重了.慢很多
    andyskaura
        18
    andyskaura  
       4h 34m ago
    @mkt 想到了以前的 fastjson
    seakingii
        19
    seakingii  
       4h 30m ago
    用小模型来模拟 JEV,可以接近效果,但目前有 效率和准确度的 难题
    seakingii
        20
    seakingii  
       4h 25m ago
    不过这个新的架构的难度应该不高,至少比 DS 搞出 COT 的那个简单多. 开源代替应该很快可用
    SilencerL
        21
    SilencerL  
       4h 17m ago   ❤️ 1
    @SilenceLL #14

    我在本地测过了其他人提到的 OpenJev ,明显还是打不过 Jev 这种专用的 classification 模型
    theohateonion
        22
    theohateonion  
       3h 24m ago
    加了后训练的数据集,模型本身肯定比裸开源模型要好的。即使基座是一个很小参数的开源模型,只要业务上有价值,我感觉很多公司都会跟进然后训练自己的模型然后进一步提升效率。

    如果每一个结果真的到了毫秒级别的响应了,那就是另一个 level 的应用了。如果考虑准确度不敢接入业务系统的话,在内部工具里面用用肯定没问题的。
    godymho
        24
    godymho  
       1h 47m ago
    这个 jev 好像只支持英文
    winglight2016
        25
    winglight2016  
       1h 45m ago
    感觉是两边不靠:如果我要快速,ifelse 不好吗,如果要准确,AI agent 不是更准?

    需要基于业务知识快速决策,只需要大模型生成一套 ifelse 即可。因为这种决策明显不是给人类使用的,机器只需要知道上一步来源和下一步的可选项,这个无非是规则映射。
    zeredy
        26
    zeredy  
       54 mins ago
    完全不懂,让 deepseek v4.1 手搓了一个🫥
    https://github.com/zeredy879/minojev
    JZen
        27
    JZen  
       5 mins ago
    对于实时性强的场景,感觉还是不够快,而且还不支持多模态。如果能做到 20ms 以下的级别,并且支持图片/音频输入,前景非常大。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   5437 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 60ms · UTC 07:52 · PVG 15:52 · LAX 00:52 · JFK 03:52
    ♥ Do have faith in what you're doing.