爱意满满的作品展示区。
MaskerPRC

我把全网爆火的 Jev(TypeSafe AI 的"闭嘴模型")打包成了免注册一键包

  •  
  •   MaskerPRC · 2 days ago · 1108 views

    各位好,先说清楚我是谁:一个开源复刻爱好者,和 TypeSafe AI ( Jev 的官方公司)没有任何关系。这篇纯粹是"看到好东西 + 官方用起来有门槛 + 我顺手打包了一下"的分享帖。

    背景

    这两天的热点大家可能都看到了:Jev ,一个完全不生成文本的模型——你问它任何问题,它只输出选项和概率。创始人是前 OpenAI 研究员 Diogo Almeida ( RLHF / InstructGPT 那批人)。官方叫它 "System One Model",说白了就是把"快判断"从大模型里拆出来单独做:路由、过滤、打分、Yes/No ,这类活它比 LLM 快 20~200 倍、便宜 40~400 倍,一条判断约 380ms 。

    开源之后两天三千星,热度很大,但官方使用要走申请审批或 Vercel 接入、按量付费、还得自己写代码接 API 。

    我做了什么

    把 HuggingFace 上开源复刻的 Jev 模型( mobarmg/jev-schema-scorer-deberta-v3-large )打包成了一个 Windows x64 的一键包:

    • 免注册、免邀请码、免激活码
    • 解压即用(约 1.66GB ,内置 python-embed 3.10 ,不用配环境)
    • CPU 就能跑,不需要显卡
    • 完全免费

    下载: https://lazypack2.trial2.jieshi.space/store

    几句实在话

    • 这是社区复刻模型的打包,不是官方 Jev 本体,效果和官方有差距是正常的,我按实测感受使用,不吹不黑
    • Jev 这类模型适合路由 / 过滤 / 打分,不适合需要解释理由的判断,别指望它写文章
    • 有问题直接在帖子里问,我看到会回;打包有 bug 也欢迎喷

    就这些,祝玩得开心。

    MaskerPRC
        1
    MaskerPRC  
    OP
       1 day ago
    补充一下昨晚到现在的实测反馈:三台不同配置的机器都跑通了,其中一台是纯核显老笔记本,CPU 推理速度大概每秒 2~3 个 token ,能接受但不爽快;有独显的基本秒回。另外有朋友问为什么打包成免注册——主要是官方注册门槛最近变高了,图床抽风那阵子好几个人找我拿包,索性整理出来放这了。有跑不起来的说下环境(系统/内存),我看能不能修。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2572 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 15:53 · PVG 23:53 · LAX 08:53 · JFK 11:53
    ♥ Do have faith in what you're doing.