V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
wyttt
V2EX  ›  OpenAI

chatgpt 炸了,代码跑着跑着出现了成人内容

  •  
  •   wyttt · 10 小时 21 分钟前 · 3489 次点击

    chatgpt 炸了,正跑着代码文档,突然出现了这些

    18 条回复    2026-01-13 19:06:23 +08:00
    crackself
        1
    crackself  
       10 小时 20 分钟前 via Android
    这不是成人内容吧
    shunia
        2
    shunia  
       10 小时 18 分钟前
    检查一下你的各种配置文件、skills 、mcp 等等,看看是不是什么工具被污染了。看 log 极小概率是 chatgpt 的问题,那个 spec 是某个 mcp 或者 skills 管理/维护的吗?
    zcf2009
        3
    zcf2009  
       10 小时 15 分钟前
    最近刚看到,相对于 seo ,又出现了新的 geo ,专门给 ai 可能会采集的数据提前喂屎喂虚假信息喂广告。你这个估计就是被污染了
    WarlockMan
        4
    WarlockMan  
       10 小时 12 分钟前
    这怎么那么像 seo 污染,就是那种 在各种搜索结果里无孔不入的安插污染词条一样的农场污染
    google 是的,推特也是,现在已经进化到 ai 污染了么,天呐
    wyttt
        5
    wyttt  
    OP
       10 小时 12 分钟前
    @shunia spec 是自己维护的,AGENTS 里写规则,每次增加新功能前,ai 必须先写文档
    wyttt
        6
    wyttt  
    OP
       10 小时 8 分钟前
    可能就是语料污染吧,还以为 chatgpt 在测试成人内容
    Aboceder
        7
    Aboceder  
       10 小时 7 分钟前
    被污染了
    aiputinglm
        8
    aiputinglm  
       10 小时 5 分钟前
    幻觉了
    heyheyhey
        9
    heyheyhey  
       10 小时 0 分钟前
    突然感觉这是广告投放新方式啊。
    性感荷官,在线发牌。
    点击链接,即刻开聊。
    Lyet813
        10
    Lyet813  
       8 小时 56 分钟前 via Android
    中文语料污染严重
    shakaraka
        11
    shakaraka  
    PRO
       8 小时 55 分钟前
    是的。今天碰到了
    codehz
        12
    codehz  
       8 小时 52 分钟前   ❤️ 2
    就是意外出现一个训练较少的 token ,它的 embedding 方差很大,直接影响了 LayerNorm 层的计算,导致后续 token 归一化后数值集体偏向同一个方向,attention score 分布严重退化(趋向于 uniform 或 single token attention )梯度也跟着爆炸/消失
    WinnieKing
        13
    WinnieKing  
       8 小时 34 分钟前
    上次我用 Gemini 的时候它直接引用黄网内容来分析,最后写起了小说,越写越黄....
    craftsmanship
        14
    craftsmanship  
       8 小时 33 分钟前 via Android   ❤️ 1
    这是好事 加速到领导开会放 ppt 时乱入黄色内容后禁用 AI
    BlueSpace4512
        15
    BlueSpace4512  
       8 小时 12 分钟前
    这能稳定复现吗?
    yarawen
        16
    yarawen  
       8 小时 8 分钟前
    类比于 SEO ,术语都有了,叫 GEO , 生成引擎优化( Generative Engine Optimization, GEO )
    ChaimeLonic
        17
    ChaimeLonic  
       7 小时 26 分钟前
    一代人有一代人的“性感荷官,在线发牌”
    jnyanmeng
        18
    jnyanmeng  
       2 小时 36 分钟前
    好了 我已经被成功吸引过去了
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   3143 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 13:43 · PVG 21:43 · LAX 05:43 · JFK 08:43
    ♥ Do have faith in what you're doing.