plasticee
V2EX  ›  问与答

如何训练医学大模型?

  •  
  •   plasticee · 15h 32m ago · 2273 views
    论文期刊的数据都可以喂给大模型么?

    期刊中的表格、图表那么复杂,机器知道这些表和和图表的意思么?
    20 replies  •  2026-10-10 21:55:01 +08:00
    pulutom40
        1
    pulutom40  
       15h 18m ago   ❤️ 2
    很明显,chatgpt 这些大模型,已经把各种期刊论文数据喂给大模型了。连各种实体书都扫描喂给大模型了。只要是公开的,他们能搜集到的数据,都已经喂过了。

    垂直领域的大模型,我一直觉得是一个伪命题,除非你有什么比公开论文期刊更优质的数据集、比 openai 、google 、claude 更牛逼的算法,不然你训练不出比 chatgpt 更牛逼的模型。既然你训练不出来,那为啥不直接用 chagpt 呢。

    你如果有比他们更牛逼的算法,那你搞鸡毛垂直领域啊
    maocat
        2
    maocat  
       15h 14m ago
    @pulutom40 与其说垂直领域,不如说是私有数据训练
    tianjiyao
        3
    tianjiyao  
       15h 13m ago
    我也觉得#1 说的对。。。通用大模型才是正道。。你能找到的资料,这些大厂早就翻了好几遍了
    xunuohan2008
        4
    xunuohan2008  
       15h 0m ago
    你可以搜一下“睿宾 Agent”。
    zhuanggu
        5
    zhuanggu  
       14h 35m ago
    这就是一个伪命题:1 、你每次训练都要把新的知识加进去,成本高不说效果可能回撤 2 、通用大模型的一次大的版本迭代就可能把垂类模型的优势给替代了。 更好的方式是通用大模型+垂类知识库,在这个基础上去做分词、召回的精准化建设,比上面那种务实多了。当然如果是一个政绩工程,当我没说。
    doudouisamomo
        6
    doudouisamomo  
       14h 34m ago
    我是生物医药的,按我最近使用的 gemini,dicksuck 的情况看,无论是联网搜索能力,论文解读能力,都基本合格。

    为什么说是合格?因为 gemini 它会有明显的胡编乱造,偏向你的观点,如果它说这个论文中含有 a 结论,我实际去看了整篇文章,一直溯源到头,都没找到 a 结论,然后再一点点贴回去反驳,最后它又说我说的对。

    而用 workbuddy 的 dicksuck 去搜索文章,一般可以搜到 Pubmed 里的免费文章或者摘要,搜的比我们读的快,要点提炼大家都懂的,大模型比人强,所以做一个综述是没问题的,非常详细的问题,则要我们自己去看文章。

    而对文章里的图,实验等,经过检验,大部分都可以完全看懂,我不懂的,它也懂,我懂的,它也懂。

    所以现在直接用搜索就行了。
    furlxy
        7
    furlxy  
       14h 30m ago
    你要解决什么问题?例如你要问这个病治好多少钱?他答不出来,即使有答案也不准,因为没有具体省市卫健委的价格表
    paopjian
        8
    paopjian  
       14h 3m ago
    为什么要喂期刊呢, 大模型只是不需要最前沿的技术吧, 反而是把各种医学书学会了更好吧, 还有各种口述问题能理解到位, 还是说你想做的是医学科研大模型
    GooogIe
        9
    GooogIe  
       13h 59m ago
    @doudouisamomo #6 好奇你说的 dicksuck 是什么,我没有搜索到相关的内容
    wzha2008
        10
    wzha2008  
       13h 57m ago
    百川当初也是和智普五五开,现在搞医疗大模型都搞得快倒闭了吧
    蚂蚁阿福也感觉只是 app/agent 做的好些
    doudouisamomo
        11
    doudouisamomo  
       13h 55m ago
    @GooogIe deepseek
    SiLenceControL
        12
    SiLenceControL  
       12h 57m ago
    @doudouisamomo #6 同意,真正发现有意思还是得要自己去读,AI 会出现很多学术不严谨甚至意思不对的东西
    la2la
        13
    la2la  
       11h 51m ago
    可以研究一下怎么把除了医学之外的知识给剔除出去
    zhangli2946
        14
    zhangli2946  
       11h 45m ago
    @la2la 不认中文没有常识可不行吧。 胶囊剂,切开吃粉 肠溶变粘膜吸收。
    wudanyang
        15
    wudanyang  
       10h 27m ago
    不应该是研究如何用 prompt 让大模型回答医疗知识更加专业吗?
    MaxJin
        16
    MaxJin  
       8h 43m ago
    @wzha2008 百川做定向了,我们公司都是用的百川,现在百川只做医疗模型,总体来说百川的医疗模型输出还是准确的,根据医生反馈还算不错。智谱不行医疗模型,阿里的医疗模型也做得不错。公司做的现在是医生可以选三个模型,百川,千问和 ds ,根据数据来看百川最多,其次千问,ds 没一个医生用。
    benjor
        17
    benjor  
       7h 46m ago
    分享一个相关观点,智谱 CEO 张鹏博士之前在雪球《方略》(方三文对话)聊过这个话题,B 站上能搜到视频,感兴趣的可以看看。

    他的看法和 1 楼 5 楼的方向比较接近,逻辑上推得更远一些:如果能拿到专业数据,其实可以直接加到通用模型里继续训练,通用模型加专业数据的效果,实践中往往好于单独训练的专业小模型。按这个思路,单独训一个垂直基座模型的必要性确实值得打个问号。

    不过他也提到,模型能力落到具体行业的“最后一公里”——私有数据、合规、系统集成、场景打磨——是有价值的,只是这更像应用层的工作,和训垂直基座模型是两回事。

    结合这个帖子的场景,感觉比较务实的路线可能还是:通用模型打底 + 医学语料继续预训练/微调 + 知识库与检索兜底,再在具体科室场景里打磨。供参考~
    kakakakaka8889
        18
    kakakakaka8889  
       7h 33m ago
    @pulutom40 不需要算法,喂资料就够了,现在有很多医疗模型都是喂真实医疗数据的,当然这种数据一般的公司拿不到,只有做 his 和做卫建侧项目的厂商可以拿到
    kakakakaka8889
        19
    kakakakaka8889  
       7h 32m ago
    普通公司没必要搞,你拿不到卫建侧的数据拿不到真实医疗数据没用
    mingtdlb
        20
    mingtdlb  
       3h 36m ago
    @maocat 有啥可训的?训练是个伪命题,根本不可能玩的过搞大模型的那些公司,你私有化部署把私域的数据喂给他们就能直接回答了

    从芯片产那边拿到的消息,可以说现在全是出推理的卡,前两年还有提训练
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1292 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 67ms · UTC 17:31 · PVG 01:31 · LAX 10:31 · JFK 13:31
    ♥ Do have faith in what you're doing.