V2EX › dnfQzjPBXtWmML 的所有回复 › 第 12 页 / 共 12 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 ... 3 4 5 6 7 8 9 10 11 12

❮

❯

2023-10-13 16:09:09 +08:00

回复了 MajestySolor 创建的主题 › 机器学习 › chatgpt/bingchat 这些大语言模型在进行文字回应的时候都是几个字几个字的往外蹦，这背后的原因是啥？

@geelaw “但或许这个问题并不重要，token 生成、网络传输的延迟、客户端异步读取收到的数据，这些结合在一起自动导致了客户端动画。”：每次对话几十秒，token 生成占多少时间，网络延迟占多少时间？我不认为这个场景下所谓“通信复杂度上升到 Theta(n^2)”是什么值得真正工作过的程序员震惊甚至关注到的东西。

2023-10-13 11:55:50 +08:00

回复了 MajestySolor 创建的主题 › 机器学习 › chatgpt/bingchat 这些大语言模型在进行文字回应的时候都是几个字几个字的往外蹦，这背后的原因是啥？

@Takizawa 很明显 bard 用的人不多，每个人分到了更多的算力

2023-10-13 11:54:33 +08:00

回复了 MajestySolor 创建的主题 › 机器学习 › chatgpt/bingchat 这些大语言模型在进行文字回应的时候都是几个字几个字的往外蹦，这背后的原因是啥？

@geelaw 还网络延迟呢😅

2023-10-13 04:27:18 +08:00

回复了 MajestySolor 创建的主题 › 机器学习 › chatgpt/bingchat 这些大语言模型在进行文字回应的时候都是几个字几个字的往外蹦，这背后的原因是啥？

@geelaw 要么你 f12 看看
https://chat.openai.com/backend-api/conversation 这个 SSP 请求？下面这个请求，在我这耗时 16 秒，推了 407 个消息体，703,001 字节 headers:3,017; body:699,984 。而且可以看到，['message']['content']['parts'][0]每次推消息都在追加文本

https://imgur.com/a/wxJ24Ix

2023-10-12 20:11:38 +08:00

回复了 mmdbn 创建的主题 › OpenAI › 求 ai 视频摘要工具(或者总结工具)

油管可以直接下字幕文件，省去音频->文本的过程

2023-10-11 01:02:29 +08:00

回复了 NoraProgrmming 创建的主题 › RSS › 2023 年，我又用回了 rss

rsshub

2023-10-07 16:13:07 +08:00

回复了 suqiuluck 创建的主题 › 程序员 › 谁家好人可以告诉我 64G 内存条，可以用来玩些好玩的东西？

跑 llama.cpp

2023-10-07 15:55:08 +08:00

回复了 mycang 创建的主题 › Apple › 灵动岛 MacBook 啊？！

挺好看，有设计感，但不想要