• 请不要在回答技术问题时复制粘贴 AI 生成的内容
Pony69
V2EX  ›  程序员

云端厂商云端托管的 Agent,一般都是什么场景在用?

  •  1
     
  •   Pony69 · 23h 52m ago · 1053 views

    今天有一个面试,被问到你们的大模型调用是离线的还是联网的,整场回答中我不知所云,完全 Get 不到他的点。

    直到快聊完了,我把我们的整体架构顺了一遍,讲了下 Agent 核心逻辑( LLM + loop + function ),然后他说“哦,就是 sdk 吧!”。好家伙,我到快结束才反应过来,他搞了半天问的是云端全托管 Agent, 什么大模型离线和联网调用,啥玩意。刚开始我问是不是指本地部署大模型和大模型厂商远端 api?

    远端托管的 Agent 应该定制化都很差吧,实在想不到开发场景?在我认知都是使用比较熟悉的第三方框架实现的。

    5 replies    2026-09-17 21:34:08 +08:00
    weixind
        1
    weixind  
       23h 42m ago   ❤️ 1
    Agent 定制化是个伪命题。

    绝大部分人的“定制”(一堆奇奇怪怪的 skills )只会拖模型的后腿。

    cloud agent 会是下半年的主战场,从 Grok Bot 开始就能看出来,openAI 在最近一两周会发类似的产品。
    yh7gdiaYW
        2
    yh7gdiaYW  
       21h 39m ago
    像聊天软件里的数字员工之类的,主要需要的开发工作是提供一套服务端的沙盒环境+一套配置&调试 UI ,现在还真没有很好的开源方案
    freemoon
        3
    freemoon  
       21h 1m ago
    Agent 定制化是用不过时的命题,为什么?因为数据不外泄,数据安全大于天。
    106npo
        4
    106npo  
       20h 21m ago via Android
    给一万个低频用户开 agent ,总不能开一万个虚拟机来装吧。大概这种场景 🤔
    Pony69
        5
    Pony69  
    OP
       18h 23m ago
    @106npo 今天了解一下。比如国外 Google Agent Cloud 就是基于容器 + 自身 adk 集成一个 agent 服务的。确实是开容器(虚拟机),但是像大公司云服务确实有资源搞。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   5416 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 07:57 · PVG 15:57 · LAX 00:57 · JFK 03:57
    ♥ Do have faith in what you're doing.