V2EX › BQsummer 的所有回复 › 第 3 页 / 共 17 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4 5 6 7 8 9 10 ... 17

❮

❯

2024-06-14 17:19:44 +08:00

回复了 uIPC 创建的主题 › 分享创造 › 撸猫神器 uIPCat！让闲置手机作为边缘视觉计算终端

手机长时间插电源会不会鼓包完全看人品

2024-06-12 19:44:05 +08:00

回复了 Alicewish 创建的主题 › 分享创造 › 用 GPT4 翻译电子书的体验

题外话，推荐个今天刷到的吴恩达的翻译 agent ，https://github.com/andrewyng/translation-agent

2024-05-30 19:57:46 +08:00

回复了 BenjaminNL 创建的主题 › Python › anaconda 商业收费，有什么替代品吗？

mamba? 我看 yi llm 用的这个，个人没用过

2024-05-20 14:03:34 +08:00

回复了 basncy 创建的主题 › 微软 › 劝大家不要用微软的邮箱, 会丢信且无提示.

@miyuki 这是发信, smtp 请求直接失败了, 并不是 po 说的发件人显示成功, 但是收件人收不到这种场景

2024-05-17 13:54:01 +08:00

回复了 joye 创建的主题 › 程序员 › 唉，一年了无人问津，开源算了

一直用 squoosh.app 竞品太多了

2024-05-14 16:12:57 +08:00

回复了 bouts0309 创建的主题 › 程序员 › 有什么轻量级的微服务网关可以替换掉 springcloudgateway？

@bthulu 没网关跨 vpc 怎么调用? 金丝雀发布怎么精确控制流量到 pod? 失败逻辑怎么精确到接口?

2024-05-11 10:26:06 +08:00

回复了 gongxuanzhang 创建的主题 › 程序员 › 在一个群里被恶心坏了

"普通 Select 无论加不加锁,无论怎么查询都不会有幻读问题,如果 for update 或者 delete update 这种操作就会用临建锁或者间隙锁来保证一致" 原 op 的这句话错的一塌糊涂, 为啥大家关注点不在技术本身

2024-04-30 15:22:12 +08:00

回复了 leeum 创建的主题 › Local LLM › 使用 llama3:70b 本地化部署， 100 人左右的并发，大概需要多少块 4090 才能满足？

1. llama3 70b 需要 142G 显存，4090 是 24G 显存，不量化得 6 张卡，https://llm.extractum.io/list/?query=llama3 ，可以在这个网站查下大概的显存占用，8bit 量化也要 75G ，4bit 量化 40G ，4090 不合适。31L 的 llama3:70b 是“quantization
4-bit”的： https://ollama.com/library/llama3:70b
2. 显存不是重点，重点是推理速度，取决于模型、显卡、还有部署模型的服务，比如 vllm ，都会做推理优化，而且推理速度和并发不是成线性反比的，所以实际的推理速度真的只有在跑下来才知道
3. 主流生产环境部署还是 vllm 多一点，我有在 reddit 看到吐槽 ollama 并发下卡死的，虽然我也用 ollama 测试一些模型，用起来是真方便

2024-04-10 10:19:43 +08:00

回复了 aincvy 创建的主题 › 宽带症候群 › 家里服务器访问不到了，考虑加点应急方案，怎么做比较好？

上海电信，有遇到过 ipv6 不分配的问题，现在全走 frp 了

2024-04-08 17:44:37 +08:00

回复了 wwd179 创建的主题 › 程序员 › 运维平台的选型

可以看看 JumpServer

2024-04-02 20:20:50 +08:00

回复了 yylxbiubiu 创建的主题 › 职场话题 › 软考报名，留个坑，考试完来填

@wangwei216 杭州认上海的吗？户口政策方面，上海好像只认上海考的

2024-03-12 17:37:10 +08:00

回复了 buf1024 创建的主题 › 职场话题 › 公务员的工资可以高到多离谱？为什么不去卷？！

上海 40w 以上到手 70%多点, 如果算公司实际支出, 这个比例能降到 50%~60%, 公务员福利占比更高, 50%妥妥的, 这样算一线城市公务员的"平均"工资实际到手 20w 多点还是比较合理的吧