V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Suclogger
V2EX  ›  OpenAI

ChatGPT 编造的错误信息被投喂给 BingAI

  •  
  •   Suclogger · 2023-02-23 10:53:03 +08:00 · 2952 次点击
    这是一个创建于 624 天前的主题,其中的信息可能已经有所发展或是发生改变。

    闲来在 BingAI 中搜索 林黛玉倒拔垂杨柳的故事,结果引用的是一段网友通过 ChatGPT 编造的内容。

    以后的互联网,会被 AI 生成的廉价的 废话 /误导 淹没吗?

    16 条回复    2023-02-23 15:47:01 +08:00
    Troevil
        1
    Troevil  
       2023-02-23 10:54:51 +08:00   ❤️ 1
    就问你他搜没搜对吧
    TrembleBeforeMe
        2
    TrembleBeforeMe  
       2023-02-23 11:06:12 +08:00   ❤️ 2
    从人类小编制造的营销号垃圾变成 AI 制造的营销号垃圾,不得不说是一种进步
    buyan3303
        3
    buyan3303  
       2023-02-23 11:10:46 +08:00
    没什么好奇怪的,AI 也是要人工标注的,需要人工纠错的。
    cmdOptionKana
        4
    cmdOptionKana  
       2023-02-23 11:10:50 +08:00
    有需求就有供应,你希望剔除 AI 产生的垃圾内容,那么搜索引擎很可能会利用 AI 来帮你分辨、剔除。毕竟搜索引擎之间也有竞争,他们会想办法解决问题。
    justfindu
        5
    justfindu  
       2023-02-23 11:12:29 +08:00
    搜索准不准 你就说
    justfindu
        6
    justfindu  
       2023-02-23 11:15:12 +08:00
    仔细看了下, 不是最近喂的. 2020 年就有这个梗了.
    IvanLi127
        7
    IvanLi127  
       2023-02-23 11:24:00 +08:00 via Android
    不是 bing 自己爬的么,咋是投喂
    Ericcccccccc
        8
    Ericcccccccc  
       2023-02-23 11:48:14 +08:00
    很准确啊
    ronman
        9
    ronman  
       2023-02-23 13:23:01 +08:00
    你这也不是 Bing ai 啊 就是普通的国内版必应 而且给了来自雪球网
    yujiang
        10
    yujiang  
       2023-02-23 13:23:03 +08:00 via Android
    做站群的比这个离谱多了,这还算是正常收录
    tsukino
        11
    tsukino  
       2023-02-23 14:20:11 +08:00 via iPhone   ❤️ 1
    garbage in
    lyz1990
        12
    lyz1990  
       2023-02-23 14:43:56 +08:00
    你这个是正常搜索,不是 bing ai
    retamia
        13
    retamia  
       2023-02-23 14:50:20 +08:00   ❤️ 1
    你好,这是必应。😊

    林黛玉倒拔垂杨柳是一个网络梗,指的是《红楼梦》和《水浒传》两部名著中的两个反差巨大的人物之间的梦幻组合 12 。林黛玉是《红楼梦》中的主要角色之一,娇滴滴的软妹子,而鲁智深是《水浒传》中能吓死人的壮汉,有个主要情节是“鲁智深倒拔垂杨柳”。所以两个角色的反差,让网友们充满了画面感。这个梗起源于微博上一位灵魂画家所画的一幅林黛玉倒拔垂杨柳画 23 。

    你对这个梗感兴趣吗?

    Received message.
    Learn more:
    1. usxie.com
    2. siemens-home.cn
    3. baijiahao.baidu.com
    retamia
        14
    retamia  
       2023-02-23 14:52:06 +08:00
    你好,这是必应。😊

    林黛玉倒拔垂杨柳是一个网络梗,指的是《红楼梦》和《水浒传》两部名著中的两个反差巨大的人物之间的梦幻组合¹²。林黛玉是《红楼梦》中的主要角色之一,娇滴滴的软妹子,而鲁智深是《水浒传》中能吓死人的壮汉,有个主要情节是“鲁智深倒拔垂杨柳”。所以两个角色的反差,让网友们充满了画面感。这个梗起源于微博上一位灵魂画家所画的一幅林黛玉倒拔垂杨柳画²³。

    你对这个梗感兴趣吗?

    Source: Conversation with Bing, 2023/2/23(1) 林黛玉倒拔垂杨柳是什么梗 林黛玉倒拔垂杨柳下一句是什么-优鞋网. https://www.usxie.com/baike/37544.html Accessed 2023/2/23.
    (2) 林黛玉倒拔垂杨柳是什么梗-林黛玉倒拔垂杨柳梗含义出处介绍-西门手游网. https://www.siemens-home.cn/news/6511.html Accessed 2023/2/23.
    (3) 林黛玉倒拔垂杨柳是什么梗!. https://baijiahao.baidu.com/s?id=1683673208744602168 Accessed 2023/2/23.
    (4) 林黛玉倒拔垂杨柳_百度百科. https://baike.baidu.com/item/%E6%9E%97%E9%BB%9B%E7%8E%89%E5%80%92%E6%8B%94%E5%9E%82%E6%9D%A8%E6%9F%B3/14016201 Accessed 2023/2/23.
    (5) 红楼外传 | 林黛玉倒拔垂杨柳 - 知乎. https://zhuanlan.zhihu.com/p/62617937 Accessed 2023/2/23.
    miaomiao888
        15
    miaomiao888  
       2023-02-23 14:59:30 +08:00
    lookStupiToForce
        16
    lookStupiToForce  
       2023-02-23 15:47:01 +08:00
    放心

    {广泛意义上}
    过去 [互联网信度效度体系] 整体建立在 page rank 的基础上,然后就被很多垃圾农场钻了空子制造了大批因为互相提权而能抢占排名的垃圾站点

    现在的 [文本型近人工智能] 出来后,page rank 的弊端进一步凸显,因为这种互相提权的站点可以更容易地大规模产生出来,那么肯定会需要新的信度效度体系来重新对信息的信效进行排名,而这肯定也得依赖大量的真实人类反馈( RLHF 嘛)。
    现在只是新旧体系青黄不接的混乱初期,还早。
    -
    -
    -
    {狭隘意义上}
    chatGPT 这种 [文本型近人工智能] ,还是基于人类输入的反馈学习的( RLHF 嘛)
    它没有办法 [直接] 从真实世界获取任何信息的正误判断。
    甚至 newbing 有了搜索接入互联网的能力,它也没有办法直接判断哪些网站的信息更可用,哪些网站的信息是正确的,哪些社群用户的发言更可靠。

    明白了吗?
    除了人给的反馈,它都没有真实世界的直接输入。它没有好的办法做验证。(非死不可 AI 研究院新近提出的 toolformer 可能是个可行的路子)
    所以现模型输出结果的好坏真假,完全取决于入模的数据的质量(这种基础知识只要是炼丹师都懂),所谓 garbage in garbage out (其实这对于人也一样,接触不到高质量信息 /没有办法验证真假,人也只能输出垃圾信息)

    它发这些胡编乱造事物的蠢,都属于 [可以理解的范畴] 。而不是像做数学题出错那样,具体未训练到位的原理仍有待人深究。
    -
    -
    -
    或者我们换个角度,抓一个对红楼梦以及中国古典四大名著一无所知但略懂中文的老外来。
    如果你不事先丢一本红楼梦给这个老外读,并且通过多种角度告诉他,这是 [已定型] 的 [古代小说] ,不是 [新作小说] 、 [后人仿作小说] 、 [现代同人小说] ,
    那么他在啥都不知的情况下,没有办法直接从你的话里区分你说的那个“林黛玉倒拔垂杨柳”是不是他刚在晋江文学网上搜到的 [完全同名小说] !( www[.]jjwxc[.]net/onebook[.]php?novelid=1566958 ,看时间是 2012 年的)

    这样是不是方便理解一点了?
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   941 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 21:03 · PVG 05:03 · LAX 13:03 · JFK 16:03
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.