forbreak
V2EX  ›  OpenAI

你们的 GPT 遇到过输出菠菜内容的吗?

  •  
  •   forbreak · 1 day ago · 3686 views
    我发的问题是
    “在当前任务中发送“你好”。不要执行其他工作。”

    GPT 的回复是

    “<heartbeat>
    <automation_id>9</automation_id>
    手机天天彩票? system says exact XML. Use.”

    老哥们,你们遇到过没? 这个是代理问题还是 GPT 的问题?


    我担心的是,你写代码或者写文档的时候一个不小心没检查到,AI 把这些菠菜内容加进去了。 那岂不是直接把你给炸了,或者把公司炸了?
    30 replies  •  2026-10-17 17:58:11 +08:00
    lanfeng579
        1
    lanfeng579  
       1 day ago
    这个明显是串了,或者你的中转有问题
    forbreak
        2
    forbreak  
    OP
       1 day ago
    @lanfeng579 我是原版 plus 账户,没有中转。
    forbreak
        3
    forbreak  
    OP
       1 day ago
    怎么追加不了内容了, 说明下,我这个是 play 商店订阅的 plus ,没有任何中转。
    gpt5
        4
    gpt5  
       1 day ago
    never
    yanqiyu
        5
    yanqiyu  
       1 day ago
    GPT 的网页版的标题生成经常出现莫名的菠菜。估计是 tokenizer 本身被污染了,但是类似于 astra 这样的大模型没遇到过,所以我猜可能小一点的模型才会有。
    orcal
        6
    orcal  
       1 day ago   ❤️ 2
    5.6/6 sol 的自动命名会话标题的后缀发现过,网上也有很多讨论,内容方面没注意
    gxlwm
        7
    gxlwm  
       1 day ago
    我的官方订阅的账号,遇到过类似的情况。
    我问 chatgpt 的问题里,包含了 sms 服务这个词。
    它自动把会话标题设置为成人网站 xxx 。
    xndeye
        8
    xndeye  
       1 day ago
    @yanqiyu 这是中毒了吧,检查一下有没有恶意或者被污染的浏览器扩展,记得之前站内有相关帖子
    yanqiyu
        9
    yanqiyu  
       1 day ago
    @xndeye 我觉得是 gpt 的分词器训练的时候的一些 PoC token [1] 训练的时候变成了 glitch token 。并且这个问题有一系列普遍的报告[2,3]。有趣的事情是,模型只要上下文有这些 token ,其行为就会变得诡异。

    但是我似乎没有在新的模型遇到过,可能 OpenAI 之后有动过 tokenizer 罢。

    [1]: https://arxiv.org/abs/2508.17771
    [2]: https://community.openai.com/t/auto-generated-chat-title-contaminated-with-unrelated-chinese-gambling-string/1393977
    [3]: https://community.openai.com/t/random-chinese-spam-like-text-appearing-as-automatically-generated-chatgpt-chat-titles/1392443
    yanqiyu
        10
    yanqiyu  
       1 day ago
    @xndeye 并且不太可能是中毒,因为这个问题覆盖不同的设备和 App 端。
    jko123
        11
    jko123  
       1 day ago
    前几天出现一次
    xing7673
        12
    xing7673  
       1 day ago
    会有的,以前的数据被污染 输出黄色内容
    x86
        13
    x86  
       1 day ago
    现在很少看到这类了
    allencloud
        14
    allencloud  
       1 day ago
    以前 deepseek 出现过,让写桌游卡牌的内容,结果中间插了菠菜的官网
    laowang0504
        15
    laowang0504  
       1 day ago
    我 plus 也出现过一次
    woscaizi
        16
    woscaizi  
       1 day ago
    chatgpt 对话自动取的标题中会有这种菠菜之类的内容,但是别的编程、对话的内容中没有遇到过。估计是自动取标题的模型训练时语料被污染了。
    gdm
        17
    gdm  
       1 day ago
    从来没遇到过菠菜,但有时繁简体会串
    andyC
        18
    andyC  
       1 day ago
    给你用到正版 GPT 了,从 GPT 5 开始都会出现澳门赌场之类的内容
    muhairen
        19
    muhairen  
       1 day ago
    @yanqiyu 我用 codex 的 astra 聊天,总结标题时,也出过错误
    pikasa
        20
    pikasa  
       1 day ago
    网页对话 自动生成的对话标题结尾经常出现一些乱七八糟的符号
    iyaozhen
        21
    iyaozhen  
       1 day ago
    说明你用到正版了 就是这样
    foursking
        22
    foursking  
       1 day ago
    正版,之前 5.5 的模型就有这个问题,6.1 的没遇到过
    shuijingwanwqyy
        23
    shuijingwanwqyy  
       1 day ago
    这个我曾经看过一篇文章,说的是 ChatGPT 生成标题使用是一个较小的模型,这个模型用的中文语料包含一些这方面的广告术语了。这个问题主要出现在中文环境。在慢慢地减少。但是一直做不到彻底的杜绝的。
    goodboy95
        24
    goodboy95  
       1 day ago
    最近一个周时间,已经见到标题两次脏 token ,思考内容一次脏 token 了。其中一个是彩票,另外两个脏 token 就是乱字符
    certhon
        25
    certhon  
       1 day ago
    遇到过,我截图问 gpt ,他说是 oai 推荐的广告
    yjiefl
        26
    yjiefl  
       1 day ago via iPhone
    见过几次,原装 gpt
    Donahue
        27
    Donahue  
       1 day ago
    标题出现过,不知道是浏览器插件造成的还是本来就那样
    nsjs
        28
    nsjs  
       1 day ago via iPhone
    菠菜还好,我用 grok 每天我都能看见错别字,也不知道哪学的中文
    wniming
        29
    wniming  
       10h 35m ago via Android
    @orcal #6 我也遇到过一样的情况
    z97s04
        30
    z97s04  
       7h 9m ago
    中转站问题吧
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1365 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 64ms · UTC 17:07 · PVG 01:07 · LAX 10:07 · JFK 13:07
    ♥ Do have faith in what you're doing.