V2EX › kennylam777 的所有回复 › 第 1 页 / 共 47 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4 5 6 7 8 9 10 ... 47

❮

❯

22 小时 22 分钟前

回复了 drymonfidelia 创建的主题 › NVIDIA › 以前 NVIDIA 两代间的显卡有像 4080->5080 提升幅度这么小（综合看只有 10%）的吗？ 5080 性价比真的非常低吗？最近制作游戏想升级下显卡， 4080 还是 5080 更值

以前 4080 能在公平條件下超越 3090, 這一代 5080 還真的沒有超越 4090 。5080 相比 4080 的確只有 10%增長。

製作遊戲應該用不了 DLSS 的, 就看看你能拿到的 5080 能否只比 4080 貴 10%吧

24 天前

回复了 yhtbiy 创建的主题 › NVIDIA › RTX 5090,1999 美元，各位老哥准备入手嘛

@gxt92 散熱倒是簡單, 我的 3090 及 4090 都配上了 Bykski 水冷頭 , 4090 是首發買的, 兩個月後就有 Bykski 水冷頭在賣了。

24 天前

回复了 yhtbiy 创建的主题 › NVIDIA › RTX 5090,1999 美元，各位老哥准备入手嘛

當然買啊。

先前 RTX3090 缺貨, 推出一年後才購入, 結果用了一年多就推出了 4090 。

幸好 4090 在首發期間買入, 用了兩年多才推出 5090, 反正 90 不會大幅降價, 趁早購入才划算。

59 天前

回复了 fid 创建的主题 › Local LLM › 8x4090 离线部署 Qwen2.5 求助

順帶一提, 我用單張 4090 已經能跑 Qwen2.5 72B 的 ExLlamav2 量化轉換程式(convert), 4/5/6bits 等等模型檔在本地隨便生成, Huggingface 上也有很多已經量化好的 exl2 模型

59 天前

回复了 fid 创建的主题 › Local LLM › 8x4090 离线部署 Qwen2.5 求助

單機的話直接用 ExLlama2 呀, 量化有 2/3/4/5/6/8 bit, 簡單支援多卡, 自動或手動調整 VRAM 分配, 測試時用 text-generation-webui, 生產環境用 TabbyAPI 即可有 OpenAI compatible API, Concurrent inference with asyncio 能同時處理多個請求增加吞吐量。

我就在用單機配兩張 3090 跑 Qwen2.5 32B 8bit 量化, 32K context window 全開也足夠了, 8 張 4090 應該能直接跑 72B 不量化吧, 但 PCIe 頻寬會有問題。

71 天前

回复了 Legman 创建的主题 › Kubernetes › k8s 集群节点使用什么 Linux 发行版

我是在用 kubernetes-sigs 的 kubespray, 但因為有 GPU 節點, 所以都在用 Ubuntu, nVidia 的支援是第一考量

71 天前

回复了 eephee 创建的主题 › Kubernetes › 请教一个在 k8s 里面使用 nginx 代理 headless service 的问题

@ser3w 3 個 service 的方法就是我說過的 1, 但問題還是 2 的 load balancing 。

其實我自己有這種 hash 指定 backend 場景, 解決方法也很簡單, 沒有用多個 service 這麼麻煩, Istio 會參考 service 的配置但不觸及 ClusterIP, 這個我研究過。

直接上 Istio, EnvoyFilter 用 lua 加一個"x-hash-key"的 HTTP header, 然後在 DestinationRule.spec.trafficPolicy.loadBalancer.consistentHash.httpHeaderName 設成"x-hash-key"就好

ChatGPT 就能給出代碼細節。

71 天前

回复了 eephee 创建的主题 › Kubernetes › 请教一个在 k8s 里面使用 nginx 代理 headless service 的问题

反正都 hardcode 的 nginx config, 即是 3 個副本是固定數量的。

1 的 504 問題很簡單, 三個副本獨立各自有 ClusterIP 的 service 即可解決問題, ClusterIP 是固定 IP 不會跟隨 Pod IP 變動。

2 的 hash 問題, 我是用 Istio 解決的, Istio 有自己的 resolving 機制不跟隨 k8s services 做法, 它會自行更新 Pod IP 比較有彈性。

77 天前

回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了

@yanyuechuixue 不同量化方案各有千秋, 主要分別是硬件支援, 表現也各有不同。

例如 exl2 是我用過最快的方案, 而且量化選擇比較多. 4bit 以外還有 5/5.5/6bit 等等, 對我來說比較容易選一個剛好塞進 4090 的配搭。問題是, 快是很快, 但只限 CUDA only 及 RTX30x0 以上的 GPU, 而且支援軟件不足, 也不能配 PEFT, 所以只能用來跑推理。

GPTQ 是只有 4bit 和 8bit 兩個選擇, VRAM 利用率不及 exl2, 速度也慢, 但 GPTQ 的好處是支援軟件比較多, 而且能直接用 PEFT 做 LoRA 微調。

GGUF 沒用過, 但我知道 Apple Silicon 的用家都是靠它的量化。

其實還有 bitsandbytes 的量化, 直接載入原 model 時的 4bit/8bit 量化, 推理效果不及 exl2/GPTQ/GGUF 好, 但要跑 qLoRA 微調的話, bitsandbytes 還是最通用的方案。

79 天前

回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了

@yanyuechuixue 你是問 exl2 的量化吧? 我用這個, bartowski 家的 exl2 量化很多。
https://huggingface.co/bartowski/Qwen2.5-Coder-32B-Instruct-exl2

這種 model 應該大家都用的 Instruct 版, Base model 沒 SFT 過應該不好用。

@glcolof 我在 Windows 跑 4.25b 量化, 20K 是沒問題的, 節省其他開銷的話可能 30K 也行, 但我也沒調過 YARN 就是了。

79 天前

回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了

@sampeng 有道理, 即使工作上要 deploy LLM 也應該優先選擇 ChatGPT/Claude API 按量付費。

但對於本來就有 4090 和 3090 用來玩遊戲的我, Local AI 就是用來榨出現有硬件價值的玩法。

我相信 Apple Silicon 的玩法也是一樣的, 本來就會買一台機來用, 看到免費的 LLM 拿來用起碼不必多訂閱一個服務。

79 天前

回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了

@SoulSleep 你這種 use case 是 Ops 選錯方案啦, 租用雲 GPU 不是都為了 fine-tuning 嗎? 用完趕快關掉的那種, 6K 月費夠你買私有硬件了吧。當初沒調研過用量嗎?

79 天前

回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了

@m1nm13 nat1 這種沒標準化過的 jargon 也太欺負 LLM 了吧? Local AI 應該用在 code review 一類 RAG 的用途會比較好。

80 天前

回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了

@spike0100 Apple Silicon + 24GB 應該能跑 GGUF q3 吧, q4 可能也可以但有點勉強

80 天前

回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了

剛測了一下, 4090 跑 Qwen2.5 32B coder exl2 4.25b 量化, 速度約 32tokens/s, 配 VSCode Continue 能做不錯的"explain this code to me", Custom OpenAI API

之後用真實的任務試試看, 至少現在知道 4bit 配 Continue 直接能用, 希望有時間能比較一下 8bit 量化的分別

80 天前

回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了

@yanyuechuixue Windows 的 shared VRAM 是能跑 LLM, 但超過了 dedicated VRAM 後性能會大幅下降, 得不償失

80 天前

回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了

@spkingr 淘寶上的 P40 很便宜, 組兩張應該能跑 32B 8bit 量化, 舊 N 卡的量化選擇應該比 Apple Silicon 多, 也可以跑 fine-tuning 雖然比 3090 慢就是了

80 天前

回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了

@ShadowPower 哈哈剛發帖就看到配置了, 雙 3090 跑 8bit 量化感覺 VRAM 很充裕, 多出的 VRAM 就用來撐起 context length,

我記得之前用 Qwen 2.5 32B 8bit 量化, 在雙 3090 設成 20K 也沒問題, 如今 Coder 版應該能盡用更大的 context window

80 天前

回复了 ShadowPower 创建的主题 › Local LLM › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了

樓主在本地用量化跑吧? 有試過用 Continue 一類 VSCode 插件來用嗎?

178 天前

回复了 Inzufu 创建的主题 › 程序员 › 内网 IP 是否有必要上 HTTPS，如果有必要，应该怎么做

PVE 自帶 ACME 本來就十分簡單, 自動維護的, 我實在看不到不設定的理由, 而且好處多多, VNC 連線也比較順利。

況且局域網不是用 DHCPC 分發 DNS 的嗎?都這種規模難道沒有本地 DNS? 為甚麼要手動設定 Host?

而且 PVE 主機的 IP 是固定的, 為甚麼會每個局域網也需要設定一次?

不過近期和一些中國開發者合作, 對方連公網都不用 HTTPS, 甚麼 Nacos 等亂七八糟的東西都直接用公網 HTTP 無加密連線, 就只有一個限制 IP 地址的防火牆, 甚麼 MySQL 密碼的都在國際雲上用 HTTP 直接通過 GFW 連回去中國辦公室的固定 IP 就是了, 這個國家的人似乎特別討厭 HTTPS 似的。

1 2 3 4 5 6 7 8 9 10 ... 47

❮

❯