ttgo
V2EX  ›  问与答

基于 LLM 的那些本地知识库,到了真可以提高效率的程度了么?

  •  
  •   ttgo · May 31, 2024 · 2121 views
    This topic created in 727 days ago, the information mentioned may be changed or developed.
    有可以真提高工作/学习效率的了么?

    或者仍然是搭起来跑一下就再也不用了?
    4 replies    2024-05-31 13:57:38 +08:00
    mumbler
        1
    mumbler  
       May 31, 2024
    大多数没有实用价值,但这是一个必经之路,主要目的是提升认知,无论对做的人还是用的人
    laminux29
        2
    laminux29  
       May 31, 2024
    我有道云笔记,4500 篇,各种 Word 、PDF 、Excel 也是一大堆。

    以前纯靠搜索,但很多时候搜索结果不理想,还要自己去整理搜索关键字。

    就算搜索出来,也只是原始资料,还要自己整理加工。

    现在有了本地知识库 + 联网功能,信息处理效率,直接提高一个数量级。

    我比较介意目前 AI 的推理能力太弱,只能稳定的达到初级程序员的层度,距离架构师甚至项目总监的级别还远着,导致很多高端问题,AI 基本上就乱答,这就需要自己把高端问题,按照解题思路,拆开为一堆中低端问题,来逐步引导 AI 去推理。

    不过本地 LLM 局限性还是太大,目前更好用的方案,是支持网络浏览的聚合式 AI 平台,也就是让各种 AI 一起开会。因为就算目前的 GPT 4 或 Gemini 以及很多开源的,各有各的优缺点,GPT 4 并不是在所有问题,都能答对。所以让 AI 开会才是更好的用法,因为总有一款 AI 能碰巧猜对思路或答案。
    cgcs
        3
    cgcs  
       May 31, 2024
    很好用啊,AnythingLLM ,Jan 之类的客户端,加本地跑个 7B 左右参数的模型
    ttgo
        4
    ttgo  
    OP
       May 31, 2024
    @laminux29 你具体用的是哪个?

    @cgcs @laminux29 能说一下你们的应用场景么?
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5391 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 550ms · UTC 07:00 · PVG 15:00 · LAX 00:00 · JFK 03:00
    ♥ Do have faith in what you're doing.