forbreak
V2EX  ›  OpenAI

你们的 GPT 遇到过输出菠菜内容的吗?

  •  
  •   forbreak · 20h 3m ago · 3072 views
    我发的问题是
    “在当前任务中发送“你好”。不要执行其他工作。”

    GPT 的回复是

    “<heartbeat>
    <automation_id>9</automation_id>
    手机天天彩票? system says exact XML. Use.”

    老哥们,你们遇到过没? 这个是代理问题还是 GPT 的问题?


    我担心的是,你写代码或者写文档的时候一个不小心没检查到,AI 把这些菠菜内容加进去了。 那岂不是直接把你给炸了,或者把公司炸了?
    28 replies  •  2026-10-16 19:15:52 +08:00
    lanfeng579
        1
    lanfeng579  
       19h 56m ago
    这个明显是串了,或者你的中转有问题
    forbreak
        2
    forbreak  
    OP
       19h 53m ago
    @lanfeng579 我是原版 plus 账户,没有中转。
    forbreak
        3
    forbreak  
    OP
       19h 47m ago
    怎么追加不了内容了, 说明下,我这个是 play 商店订阅的 plus ,没有任何中转。
    gpt5
        4
    gpt5  
       19h 27m ago
    never
    yanqiyu
        5
    yanqiyu  
       19h 20m ago
    GPT 的网页版的标题生成经常出现莫名的菠菜。估计是 tokenizer 本身被污染了,但是类似于 astra 这样的大模型没遇到过,所以我猜可能小一点的模型才会有。
    orcal
        6
    orcal  
       19h 12m ago   ❤️ 1
    5.6/6 sol 的自动命名会话标题的后缀发现过,网上也有很多讨论,内容方面没注意
    gxlwm
        7
    gxlwm  
       19h 11m ago
    我的官方订阅的账号,遇到过类似的情况。
    我问 chatgpt 的问题里,包含了 sms 服务这个词。
    它自动把会话标题设置为成人网站 xxx 。
    xndeye
        8
    xndeye  
       19h 10m ago
    @yanqiyu 这是中毒了吧,检查一下有没有恶意或者被污染的浏览器扩展,记得之前站内有相关帖子
    yanqiyu
        9
    yanqiyu  
       19h 4m ago
    @xndeye 我觉得是 gpt 的分词器训练的时候的一些 PoC token [1] 训练的时候变成了 glitch token 。并且这个问题有一系列普遍的报告[2,3]。有趣的事情是,模型只要上下文有这些 token ,其行为就会变得诡异。

    但是我似乎没有在新的模型遇到过,可能 OpenAI 之后有动过 tokenizer 罢。

    [1]: https://arxiv.org/abs/2508.17771
    [2]: https://community.openai.com/t/auto-generated-chat-title-contaminated-with-unrelated-chinese-gambling-string/1393977
    [3]: https://community.openai.com/t/random-chinese-spam-like-text-appearing-as-automatically-generated-chatgpt-chat-titles/1392443
    yanqiyu
        10
    yanqiyu  
       19h 3m ago
    @xndeye 并且不太可能是中毒,因为这个问题覆盖不同的设备和 App 端。
    jko123
        11
    jko123  
       19h 2m ago
    前几天出现一次
    xing7673
        12
    xing7673  
       18h 53m ago
    会有的,以前的数据被污染 输出黄色内容
    x86
        13
    x86  
       18h 53m ago
    现在很少看到这类了
    allencloud
        14
    allencloud  
       18h 45m ago
    以前 deepseek 出现过,让写桌游卡牌的内容,结果中间插了菠菜的官网
    laowang0504
        15
    laowang0504  
       18h 44m ago
    我 plus 也出现过一次
    woscaizi
        16
    woscaizi  
       18h 41m ago
    chatgpt 对话自动取的标题中会有这种菠菜之类的内容,但是别的编程、对话的内容中没有遇到过。估计是自动取标题的模型训练时语料被污染了。
    gdm
        17
    gdm  
       18h 27m ago
    从来没遇到过菠菜,但有时繁简体会串
    andyC
        18
    andyC  
       18h 26m ago
    给你用到正版 GPT 了,从 GPT 5 开始都会出现澳门赌场之类的内容
    muhairen
        19
    muhairen  
       17h 5m ago
    @yanqiyu 我用 codex 的 astra 聊天,总结标题时,也出过错误
    pikasa
        20
    pikasa  
       16h 32m ago
    网页对话 自动生成的对话标题结尾经常出现一些乱七八糟的符号
    iyaozhen
        21
    iyaozhen  
       15h 45m ago
    说明你用到正版了 就是这样
    foursking
        22
    foursking  
       15h 23m ago
    正版,之前 5.5 的模型就有这个问题,6.1 的没遇到过
    shuijingwanwqyy
        23
    shuijingwanwqyy  
       15h 3m ago
    这个我曾经看过一篇文章,说的是 ChatGPT 生成标题使用是一个较小的模型,这个模型用的中文语料包含一些这方面的广告术语了。这个问题主要出现在中文环境。在慢慢地减少。但是一直做不到彻底的杜绝的。
    goodboy95
        24
    goodboy95  
       14h 57m ago
    最近一个周时间,已经见到标题两次脏 token ,思考内容一次脏 token 了。其中一个是彩票,另外两个脏 token 就是乱字符
    certhon
        25
    certhon  
       13h 8m ago
    遇到过,我截图问 gpt ,他说是 oai 推荐的广告
    yjiefl
        26
    yjiefl  
       11h 2m ago via iPhone
    见过几次,原装 gpt
    Donahue
        27
    Donahue  
       10h 58m ago
    标题出现过,不知道是浏览器插件造成的还是本来就那样
    nsjs
        28
    nsjs  
       10h 57m ago via iPhone
    菠菜还好,我用 grok 每天我都能看见错别字,也不知道哪学的中文
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   949 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 59ms · UTC 22:13 · PVG 06:13 · LAX 15:13 · JFK 18:13
    ♥ Do have faith in what you're doing.