跟进最新的 gpt-3.5-turbo 模型，写了一个套壳 ChatGPT
ddiu8081 · ddiu8081 · 2023-03-02 14:11:11 +08:00 · 17269 次点击这是一个创建于 618 天前的主题，其中的信息可能已经有所发展或是发生改变。
今天 OpenAI 公布了最新的模型 gpt-3.5-turbo，已经可以进行顺畅的对话了。
就做了这么一个应用，可以进行正常的上下文连贯对话。
技术栈使用了 Astro + SolidJS
 |
1
justin2018 2023-03-02 14:29:03 +08:00
速度好快😁
|
 |
2
anonydmer 2023-03-02 14:30:15 +08:00  2
挺好的，有个小建议，响应结果中如果是代码的话是符合 markdown 的标准的，用```包围的，楼主可以在样式上处理一下
|
 |
3
svaeric 2023-03-02 14:32:53 +08:00 via iPhone
不错 好快 比我白嫖的快多了😭
|
 |
4
LXchienne 2023-03-02 14:36:51 +08:00
打字回车确认和对话输入确认重复了。。打两个字就发过去了
|
 |
5
ersic 2023-03-02 14:39:24 +08:00
速度很快，能在页面上自定义 key 就更好了
|
 |
6
ao99 2023-03-02 14:40:37 +08:00 via iPhone
代码显示不太友好
|
 |
7
jatsz 2023-03-02 14:41:30 +08:00
一个字：快
|
 |
8
WeiPong 2023-03-02 14:42:06 +08:00
回答的挺快，就是答案样式缺少处理
|
 |
9
ddiu8081 OP |
 |
10
lambdaq 2023-03-02 14:45:39 +08:00
就感觉到快
|
 |
11
rimutuyuan 2023-03-02 14:46:19 +08:00
搜狗输入法输入英文直接回车时，会把分隔符一起传过去
h'e'l'l'o |
|
12
rimutuyuan 2023-03-02 14:46:46 +08:00
顺便问下 lz 怎么付费的
|
|
13
ddiu8081 OP @rimutuyuan #11 #12 他家的收费标准是 $0.002/1K tokens ，大概 750 词
|
|
14
rimutuyuan 2023-03-02 14:53:56 +08:00
@ddiu8081 是的，想咨询的是通过什么方式付费，国外银行卡？
|
|
15
ddiu8081 OP @rimutuyuan 对，用的国外虚拟信用卡
|
 |
16
swulling 2023-03-02 14:56:00 +08:00 via iPhone
新的 API 确实快得很
|
|
17
rimutuyuan 2023-03-02 15:01:00 +08:00
@ddiu8081 门槛高吗，能否透露下
|
 |
18
wmc1125 2023-03-02 15:01:02 +08:00
api 反应好快
|
 |
19
dev436 2023-03-02 15:01:49 +08:00
连续对话能力是 api 自带的吗？
|
 |
20
910035487 2023-03-02 15:13:09 +08:00
国外虚拟卡是哪家，可以介绍吗
|
|
22
ddiu8081 OP @rimutuyuan #17 @910035487 #20 depay
@dev436 #19 是 api 自带的，在接口入参传入历史对话内容就可以了 @quzard #21 没细致统计过。。我就当作一个字 1token 算了 |
 |
25
rjagge 2023-03-02 15:43:20 +08:00
这个 api 也有 country 的限制吗。。。
|
 |
26
bigfei 2023-03-02 15:51:14 +08:00 via Android
飞快啊。。
|
 |
27
helloet 2023-03-02 16:01:50 +08:00
回答速度也太快了吧。。
|
 |
28
littlecowherd 2023-03-02 16:06:28 +08:00 1
|
 |
30
shuxhan 2023-03-02 16:21:15 +08:00
比较好奇，是 chatGPT 质量高还是 api 质量好，对比一下。
|
 |
31
zooo 2023-03-02 16:32:42 +08:00
速度太快了...
|
|
32
zooo 2023-03-02 16:33:14 +08:00
突然不适应了....还是我那个慢吞吞的 gpt 么
|
 |
34
telami 2023-03-02 16:58:51 +08:00
太快了，不适应呢
|
 |
35
twor2 2023-03-02 17:01:05 +08:00
如果回答质量一样
是不是自己搭建一个，会比自己开会员便宜？ |
 |
37
NeroKamin 2023-03-02 17:10:26 +08:00
连续对话是要把之前所有的对话历史都传进去？包括你的发言和 AI 的回复？
|
 |
38
qping 2023-03-02 17:11:35 +08:00
每次用都感觉自己会被淘汰
|
 |
39
yawn852 2023-03-02 17:16:56 +08:00
我看文档是没有连续对话的哎，你是通过把之前的聊天记录传输过去实现的吗？
|
|
40
qping 2023-03-02 17:18:29 +08:00
想问下 op ，api 的话有地区限制么
|
 |
41
zhangsansama 2023-03-02 17:20:57 +08:00
很快！
|
|
42
ddiu8081 OP |
 |
43
ZoeeoZ 2023-03-02 17:26:15 +08:00
有钱就是好,速度真快
|
|
44
qping 2023-03-02 17:28:02 +08:00
可以把最近的十个问题传过去，不用维持这么多连续对话
|
 |
45
malagebidi 2023-03-02 17:30:40 +08:00
把速度调到人类每分钟 60 字就差不多了
|
 |
46
Mason2021 2023-03-02 17:34:45 +08:00
速度真的好快，谢谢楼主。
|
 |
47
xrzxrzxrz 2023-03-02 17:40:08 +08:00
这个不收费的吗？试了下，直接可以用
|
 |
48
AS4694lAS4808 2023-03-02 17:42:36 +08:00 1
OP 的代码是自己写的还是 GPT 生成的？[狗头]
话说速度是真快，我还没写完。。估计得周末了 |
|
49
ddiu8081 OP |
 |
50
billytom 2023-03-02 17:45:04 +08:00
其实我不太懂，为了个问题，它说它是对话机器人不能回答问题？ 是 chatgpt 有分问答（完整型）和 对话 bot （类似 telegram ）那种入门型的吗？
|
|
51
ddiu8081 OP @AS4694lAS4808 #48 是写的 🐶 因为前两周正好写过一个 GPT-3 的应用，今天正好 UI 复用上了，就改了些逻辑
@billytom #50 chatgpt 听描述应该和 api 一样，可以换一种问法试试。。当然也可能确实有差异 |
 |
52
hailiang88 2023-03-02 17:48:53 +08:00
op 还是不要自定义 key 了，免得被别人说 key 被别人盗用
|
 |
53
timeance 2023-03-02 17:58:19 +08:00
问了一些硬件相关的问题，比如如何连接两个 Jetson 模组
chatgpt 说用 nvlink ，InfiniBand 或者分布计算。gpt3.5 和我说用 usb ，串口，并口，网络... 写报告，周报，邮件。两个水平旗鼓相当 |
|
55
billytom 2023-03-02 18:04:01 +08:00
奇怪，我问了好几个问题，一问都说自己只是对话模型，不知道，然后就说了些似是而非的对话，感觉楼主这就是个 bot 不是人工智能啊
|
 |
56
cat9life 2023-03-02 18:14:25 +08:00
快的飞起
|
 |
57
GeekJason 2023-03-02 18:15:03 +08:00
页面很好看，已 star
|
 |
58
jjrow 2023-03-02 18:57:05 +08:00
洁面挺干净清爽的，请问这样的页面，是不是自己设计的，当时说有模版可用
|
 |
59
DjvuLee 2023-03-02 18:58:28 +08:00
响应速度真的快，出乎意料。
openAI 封了好多 vps 的地址，lz 是怎么搞定这个的？ |
 |
61
quzard 2023-03-02 19:10:21 +08:00 3
用 op 的代码稍微编译了一个 docker ，用自己的 token 搭了一个，api 确实比 web 的快很多，只不过免费的 18 美金只能用 3 个月。。。
```text version: "3" services: chatgpt: image: quzard/chatgpt-demo:latest container_name: chatgpt restart: always ports: - "3000:3000" volumes: - .env:/app/.env ``` |
|
63
cat9life 2023-03-02 19:22:20 +08:00
 |
 |
65
u2gign 2023-03-02 19:55:34 +08:00
他这是 GPT-3 目前时间段可以调通
GPT-3.5 现在调不通了 |
 |
66
turtlekey 2023-03-02 20:45:40 +08:00
效果不是很好哦，如图：[https://imgse.com/i/ppFX57R]( https://imgse.com/i/ppFX57R)
|
|
67
justin2018 2023-03-02 21:33:48 +08:00
生成的 table 是 Markdown 格式 没有做转换~~~
|
 |
68
cutchop 2023-03-02 22:09:07 +08:00
不怕破产😂？
|
 |
69
PINSONGCAKE 2023-03-02 23:09:34 +08:00
OP 网址运行在 Google Cloud 上？
|
 |
70
dxppp 2023-03-02 23:16:11 +08:00 via Android
@PINSONGCAKE Vercel ，Vercel 用了 AWS Global Accelerator
|
 |
71
dcsite 2023-03-02 23:16:40 +08:00
你和 ChatGPT 有什么区别
我和 ChatGPT 都是基于 OpenAI 的语言模型技术，但我们有一些区别： 1. 训练数据不同：我使用的训练数据是来自于多个领域的新闻、博客、维基百科等文本，而 ChatGPT 主要使用的是社交媒体上的对话文本。 2. 模型大小不同：我相比 ChatGPT 来说是比较小的模型，可以更快地响应用户的请求。 3. 功能不同：我被设计为一个通用型的语言模型，可以回答各种类型的问题，而 ChatGPT 则更专注于自然语言生成任务，例如生成文章、摘要等。 总的来说，我和 ChatGPT 都是基于相同技术的语言模型，但我们的应用场景和功能略有不同。 |
|
72
dxppp 2023-03-02 23:19:08 +08:00 via Android
|
|
73
dxppp 2023-03-02 23:19:25 +08:00 via Android
|
 |
74
LKim 2023-03-02 23:23:00 +08:00
有个疑问，该怎么选择：
用 web 版的 chatgpt plus 版，月费 20 刀； 还是用 chagpt 的 API 版，按照使用量付费 我已经订阅了 plus ，想着如果可以用 API 版，是不是可以少一点花销。 还有一个是，二者的回复有什么不同 |
 |
75
SteveRogers 2023-03-02 23:43:34 +08:00
原来又是 v2 这边网友弄出来的
|
 |
76
ninvfeng2020 2023-03-02 23:48:43 +08:00
好快, 用起来好流畅
|
 |
78
lovestudykid 2023-03-03 00:04:32 +08:00
|
 |
79
laila 2023-03-03 00:08:08 +08:00
快的很
|
|
80
ddiu8081 OP @jjrow #58 是自己做的
@justin2018 #67 已支持表格 /数学公式 /代码块高亮 @cutchop #68 还在观望中，目前还没有超限... @LKim #74 根据楼上的回复来看 API 应该是要稍弱一些的，不过都能接受的话还是 API 更划算 @gr3yman #77 回头我加一个，issue 里也有人贡献了 docker 的 |
 |
81
MisakiYui 2023-03-03 03:38:11 +08:00
请问可不可以加个重新生成回复的按钮？
|
 |
82
shadoworld 2023-03-03 08:30:23 +08:00
可以加个 api 轮询吗？.env 填写多个 api key
|
 |
83
logiclab 2023-03-03 08:45:33 +08:00 via Android
还不错啊
|
 |
84
kanhongj 2023-03-03 09:01:41 +08:00
感觉拿来做高等数学还是有些难，就比如 “怎么解 lim x->0 1/x(1/sinx - 1/tanx) ” ，”怎么解 lim x->0 1/x(1/sinx - 1/tanx) 答案是 1“， 其实答案是 1/2 都能给你做出来
|
 |
86
encro 2023-03-03 09:48:54 +08:00
模仿白居易做一首关于高考的诗
高考时节到，应试者心慌慌。 卷面前，笔如飞，不知成败在此一擂。 题海茫茫，思路乱，不禁感慨人生多长。 背诵千篇，默写万句，唯有一场考试决定命运。 但愿此生不虚度，高考后，前程似锦路。 |
 |
87
clannadmk 2023-03-03 09:53:35 +08:00
乖乖，快的我都反应不过来，666
|
 |
88
lividsu 2023-03-03 10:16:27 +08:00
cool!
|
 |
89
ly529 2023-03-03 10:19:53 +08:00
谢谢楼主，不知道能坚持多久
|
 |
92
artshooter 2023-03-03 11:09:17 +08:00
赞楼主
|
 |
93
zuoyi333888 2023-03-03 12:16:01 +08:00
建议加上一些 API 的参数配置，例如 temperature, stop 等，方便使用者可以根据自己的要求来设置，如果 ta 想要一个非常准确的答案，可以降低 temperature 。
|
 |
94
fqns 2023-03-03 13:00:10 +08:00
体验挺好,就是图片没法显示.哈哈. 能自定义 key 的话, 也能给你节省点开支.
|
 |
95
zhaohua 2023-03-03 13:03:40 +08:00
楼主好快， 我刚准备写
|
 |
96
ViolaH 2023-03-03 13:04:49 +08:00
@zuoyi333888 gpt-3.5-turbo 好像不支持，摘自官网：
"Is fine-tuning available for gpt-3.5-turbo? No. As of Mar 1, 2023, you can only fine-tune base GPT-3 models. See the fine-tuning guide for more details on how to use fine-tuned models." |
|
97
zuoyi333888 2023-03-03 14:33:19 +08:00
@ViolaH 不是 fine-tuning ，是发送 API 请求时候的配置设定（ https://platform.openai.com/docs/api-reference/completions/create#completions/create-temperature ）
|
 |
98
myselflove8090 2023-03-03 15:12:08 +08:00
数据不是最新的
|
 |
99
LeeeSe 2023-03-03 15:45:42 +08:00
直接部署在 vercel 速度跟 OP 的差不多
|
 |
100
OkabeRintaro 2023-03-03 15:57:46 +08:00
太傻了
问他天地有正气下一句是什么,回我一句:雄心向前人无敌 又问他这是谁写的,回我 [王勃的《滕王阁序》] 再问他正气歌谁写的，回我 [唐代的韩愈，这首诗是韩愈在他的文章《马蹄铁》中所附的一首赋] ，我问他确定吗？他立马改口说是 [宋朝理学家朱熹] 写的，再问他确定吗？又改回说是 [韩愈] 写的。 最后让他把正气歌和滕王阁序的内容说出来，我在问他 [滕王阁序有"天地有正气,杂然赋流形"这一句吗] ，直接就不会答了。 |
Select Language