V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
yumenawei
V2EX  ›  OpenAI

关于 ChatGPT 的恶意揣度

  •  
  •   yumenawei · 2023-02-15 11:07:31 +08:00 · 2893 次点击
    这是一个创建于 632 天前的主题,其中的信息可能已经有所发展或是发生改变。
    假设 ChatGPT 的认可度越来越高,越来越智能,以后大家遇到问题会首先去问 ChatGPT 。
    那如果将某些问题的答案修改为管理者喜欢的答案。
    更甚者,直接输出某些极端的观点,是否有控制人的思考 /想法 /三观的可能性?
    mxT52CRuqR6o5
        1
    mxT52CRuqR6o5  
       2023-02-15 11:09:22 +08:00   ❤️ 3
    别说 chatgpt 了,就算没有互联网,也可以去通过报纸做到你所说的事情
    zhlxsh
        2
    zhlxsh  
       2023-02-15 11:10:58 +08:00 via iPhone
    会,前提是把其他回去信息的渠道都关掉,比如说先焚书
    要不然效果就是发个假新闻,时间长了大家就不会找你问了
    mxT52CRuqR6o5
        3
    mxT52CRuqR6o5  
       2023-02-15 11:11:54 +08:00
    真要说的话,在互联网时代,对于聪明人来说,如果对一个信息源的可信度有所怀疑,可以很低成本的去找其他其他信息源的信息
    在报纸时代,去找其他信息源的成本可就高了
    eason1874
        4
    eason1874  
       2023-02-15 11:17:31 +08:00
    有这个可能,OpenAI 创立之初就说目标是促进和开发 Friendly AI ,并且向公众开放专利和研究成果

    OpenAI 母公司是盈利组织,后来又搞了个盈利子公司,利润封顶 100 倍
    yumenawei
        5
    yumenawei  
    OP
       2023-02-15 11:18:55 +08:00
    @zhlxsh #2
    @mxT52CRuqR6o5 #3

    那有没有可能出现这种情况:由于大部分人转为使用 ChatGPT ,其他渠道没有人用,进而关停,只剩 ChatGPT 。信息无从考察。
    eason1874
        6
    eason1874  
       2023-02-15 11:22:24 +08:00
    #4 才发现打错了,更正:OpenAI 母公司是非盈利组织
    zfjdif
        7
    zfjdif  
       2023-02-15 11:22:46 +08:00
    @yumenawei

    这样的话,ChatGPT 的内容从哪里来呢
    yaphets666
        8
    yaphets666  
       2023-02-15 11:29:10 +08:00
    当然有这种可能,但是影响不大。现在的出版物,新闻媒体等等已经在这样做了。没有分辨能力的话,很容易被洗脑
    yvescheung
        9
    yvescheung  
       2023-02-15 11:30:37 +08:00
    这种情况不需要恶意揣测,因为早就付诸实践了,信息茧房了解一下
    otakustay
        10
    otakustay  
       2023-02-15 11:31:32 +08:00
    难道我从出生开始不就一直在被家庭、教育、媒体控制着思考 /想法 /三观吗?
    Ericcccccccc
        11
    Ericcccccccc  
       2023-02-15 11:31:58 +08:00   ❤️ 1
    你要找的是不是 新闻联播.
    deorth
        12
    deorth  
       2023-02-15 11:32:45 +08:00 via Android
    你居然以为你现在的思考 /想法 /三观没被控制
    yumenawei
        13
    yumenawei  
    OP
       2023-02-15 11:34:57 +08:00
    @zfjdif #7 内容可以由管理员手动输入?那样可控性更高。

    @yaphets666 #8 想到了媒体的力量,感觉这么说有异曲同工之妙。
    liveoppo
        14
    liveoppo  
       2023-02-15 11:48:40 +08:00
    @yumenawei
    那有没有可能出现这种情况:由于大部分人转为使用 ChatGPT ,其他渠道没有人用,进而关停,只剩 ChatGPT 。信息无从考察。

    --------------------------
    担心信息闭塞的不止你一个,而是一部分人,所以其他渠道总有人用,最终会达到一个平衡状态。
    liveoppo
        15
    liveoppo  
       2023-02-15 11:49:58 +08:00
    担心信息闭塞的不止你一个,而是一部分人,所以其他渠道总有人用,最终会达到一个平衡状态。-----------这里仅指信息自由的环境。
    timeance
        16
    timeance  
       2023-02-15 11:55:06 +08:00
    互联网使信息茧房成为可能,OP 是担心 ai 能更加有效率的影响个人三观吗?
    yyf1234
        17
    yyf1234  
       2023-02-15 11:59:04 +08:00 via iPhone
    你们不会用 chatgpt 来看新闻看政治看时事吧?不会吧?
    Qiss
        18
    Qiss  
       2023-02-15 12:01:20 +08:00
    看啥东西都要加上一些自己的思考,不能只是一味的停别人的
    rocksolid
        19
    rocksolid  
       2023-02-15 12:02:58 +08:00
    这不就是搜索引擎在做的么
    zooo
        20
    zooo  
       2023-02-15 12:07:26 +08:00
    别担心了
    普通人担心没有用

    实际是情况是,会出现各种不同的 AI ,它们在一些主观立场上态度完全不一样

    至于为什么会出现,因为人类天生会产生分歧,因此不同势力集团会训练不同态度立场的 AI ,通过这些 AI 来诱导群众
    daliusu
        21
    daliusu  
       2023-02-15 12:10:09 +08:00
    你说的这个,现在没有吗?尤其是墙内社交平台,我很费解
    cherryas
        22
    cherryas  
       2023-02-15 13:15:59 +08:00
    你说的已经发生了,chatgpt 刚开放那几天我问了俄乌的问题 chatgpt 那回答真是绝对中立,现在再问明显是偏向美国的. (此回复拒绝对谁对谁错展开讨论)
    SunsetShimmer
        23
    SunsetShimmer  
       2023-02-15 13:43:16 +08:00 via Android
    如果一个人只相信 ChatGPT 的输出,那么这个人本来就不具备判断是非的能力。
    如果它反人类了,正常人看不出来吗?网友对“政治”的敏感度不够高吗?
    Hihanying
        24
    Hihanying  
       2023-02-15 14:09:59 +08:00
    建议了解下传播学,可能对信息媒介如何影响群体心智会有更深的理解
    mxT52CRuqR6o5
        25
    mxT52CRuqR6o5  
       2023-02-15 14:18:35 +08:00
    @yumenawei
    就像#14#15 说的那样,我还是比较认同的
    有没有互联网真的是差别很大
    在没有互联网的时代,比如我是个美国人,我信不过美国媒体,我想去看中国媒体的信息,可能相当的难。
    但如果是现在,这种事情想做的话都是相当轻松的
    chitanda
        26
    chitanda  
       2023-02-15 14:37:19 +08:00
    @zhlxsh 不用这样,只需要潜移默化的影响你的思维,观点,成型后你即使看到真实的信息也不会去相信的。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   977 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 22:12 · PVG 06:12 · LAX 14:12 · JFK 17:12
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.