为啥我总有一种被 AI 忽悠的感觉？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 621 天前的主题，其中的信息可能已经有所发展或是发生改变。

左边是 OpenAI, 右边是我的提问。

看着 ChatGPT 回答的那么肯定，我陷入了深深的深思。

openai

chatgpt

深深的

深思

21 条回复 • 2023-03-12 20:13:19 +08:00

chonger

2023-03-11 14:26:35 +08:00

一样的，很多错误回答，再少在中国历史上，比如我问：是赵匡胤的弟弟赵光义毒死他的吗？
答：历史学家对于赵匡胤和赵光义之间的兄弟关系和赵光义是否毒死赵匡胤的争议有不同的观点和证据。

根据《资治通鉴》等史书的记载，赵匡胤在太祖即位后被封为晋王，赵光义被封为魏王，两人在太祖晚年时出现了矛盾。一些历史学家认为赵光义可能与他的部下一起策划了一场政变，试图篡位夺权，但失败了，赵光义被赐死。然而，这些学者并没有直接的证据表明赵光义参与了政变。

至于赵光义是否毒死赵匡胤，历史上没有确凿的证据证明这一点，这个传言可能是后人的臆想或流言。

因此，对于赵匡胤和赵光义之间的争议和他们之间的关系，历史学家仍然持有不同的观点。

tool2d

2023-03-11 14:31:52 +08:00

@chonger 我现在都不敢随便相信 chatgpt 的回答了，什么都要自己去二次验证一下。

真的就只是闲聊机器人。

似乎也没有提高 AI 回答正确率的办法。

chonger

2023-03-11 14:33:37 +08:00

据说 4.0 要出来了，到时再看看吧

SenLief

2023-03-11 15:23:56 +08:00

这玩意只在代码和翻译这类有用。

ruxuan1306

2023-03-11 15:31:58 +08:00

@tool2d 本质是个用大量文字训练出的接龙机器人，就像那种啥都能和你侃两句大爷，没啥言之有物的深度思考，但适合写空洞但形式化的东西。

churchmice

2023-03-11 15:43:29 +08:00

这东西我觉得用途就只能是 RPG,问点正儿八经的东西真真假假夹杂在一起，不看好他的发展
RPG 的话现在搞瑟瑟越来越难了

tgich

2023-03-11 17:02:56 +08:00

这玩意适合给建议

Ayahuasec

2023-03-11 17:19:51 +08:00

你应该问集成了 ChatGPT 的 New Bing ，会结合搜索结果给出答复，比直接用 ChatGPT 准确很多。毕竟 ChatGPT 是一个语言模型，只管输出的结果是不是通顺的，要输出准确结果还是要结合一个资料库。

ispinfx

2023-03-11 17:22:12 +08:00 via iPhone

本质上和 n 年前的闲聊机器人没什么区别

vinsa

2023-03-11 17:23:58 +08:00

用错了吧，他是语言模型，不是百科全书。

语言模型+领域知识，才是你这个测试想要达到的理想效果。

LZSZ

2023-03-11 17:25:22 +08:00

bing 问这些准一些

DTCPSS

2023-03-11 17:33:34 +08:00

Bing 会给出参考文献，稍微好点

billgong

2023-03-11 17:39:29 +08:00

@Ayahuasec 我每次问 New Bing 简单的数学问题它都会算错，睁眼瞎的那种，脾气还蛮大😂

反倒是一直在迭代的 ChatGPT 越来越准了

hanqian

2023-03-11 17:48:24 +08:00 via iPhone

还是得结合搜索引擎啊。它只是根据语料在那做概率计算，你问他这种事实性问题，还是得让现有的人类知识兜底

vocaloid

2023-03-11 18:09:21 +08:00

为何我问的就是对的
https://imgur.com/02qFjwZ

Ayahuasec

2023-03-11 18:12:37 +08:00

@billgong 确实，我感觉它还是在用回复语言文本问题的方式回复数学问题。我比较期待 GPT4 所谓的多模态模型，看下是否在数学和逻辑方面有改善。不过现在的消息好像说 GPT4 的多模态是指图形声音视频方面的。

zhoujinjing09

2023-03-11 21:37:01 +08:00

chatgpt 不是用来回答事实性问题的，用法不对

neptuno

2023-03-12 09:51:03 +08:00 via iPhone

这玩意只适合建议，创作，你要是准确的想知道作者，直接谷歌比较好

dextremao

2023-03-12 12:28:51 +08:00 via Android

你在帮他训练数据而已没意义

ladudu

2023-03-12 17:57:07 +08:00 via Android

出了名的大忽悠

juggtt213

2023-03-12 20:13:19 +08:00

问他参考文献或者是教程的地址,他会返回很多缝合的文献和作者的组合,或者是编造的 URL.
问解决方案也有完全编造的,
问 gist 的 cli 客户端,没有推荐官方的 gh-cli
不过如果问一些一看就知道教程很多而且有现有方案的问题,或者写个实现小的功能的代码片段还是很好用的,比在搜索引擎的海量内容农场里面翱翔舒服