V2EX › Carson089 的所有回复 › 第 1 页 / 共 1 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

2 天前

回复了 faoisdjioga 创建的主题 › Linux › Linux 如何保持 Nvidia 驱动稳定

1. 宿主机的 nvidia 驱动支持最新的 cuda 版本就好，不要随意更新 nvidia 驱动
2. 不同的项目可能需要不同的 cuda 版本，在 docker 中安装 cuda 与 cudnn
3. 还有个选择是，anaconda/conda 等使用虚拟环境。安装需要的 gpu 的项目时候会自动下载 cuda/cudnn 相关到环境中

57 天前

回复了 Carson089 创建的主题 › 程序员 › LLM 大模型产品的前端架构选择 - React vs Vue?

@mightybruce 你说的也对。gradio 可以快速搭建出活，去做 demo 的话很合适。但是如果开发产品级应用，增加插件、功能等，感觉不好拓展。

57 天前

回复了 Carson089 创建的主题 › 程序员 › LLM 大模型产品的前端架构选择 - React vs Vue?

@horizon cursor 对吧，我上次使用要我付费，我再看看能不能用。。。

57 天前

回复了 Carson089 创建的主题 › 程序员 › LLM 大模型产品的前端架构选择 - React vs Vue?

@hackyuan 我也有自己部署开源项目，类似于大模型应用的 demo ，RAG 、Agent 这种。但是大部分都很重，整个框架很大，看不懂前端部分的内容。还有最近部署了一个简单一点的项目，里面是直接是 flask 读取 assert.py （里面包含 html 、js 等字符串内容），直接看懵了

57 天前

回复了 Carson089 创建的主题 › 程序员 › LLM 大模型产品的前端架构选择 - React vs Vue?

@woodytang 流式这个，大模型部署框架一般都支持流式，对于前端请求我想处理应该不难吧？（不懂）。其实我的想法是考虑，前后端分离这样的架构，大模型 API 封装好，写一个后端的程序，收到前端的问题后，结合各种 prompt 选择与拼接，RAG 向量数据召回，对轮对话等。问题是前端布局感觉很难懂，一个小按钮、对话框，我看到需要比较多 html 代码，以及 js 请求 api 后需要相应的处理，这部分感觉复杂。

57 天前

回复了 Carson089 创建的主题 › 程序员 › LLM 大模型产品的前端架构选择 - React vs Vue?

图片看不到，chatgpt 使用的也是 react?

143 天前

回复了 tsohgdivil 创建的主题 › Apple › Zed Editor：最完美的快速启动编辑器

vscode 可以 python 、c++，所有系统，做算法就很爽

169 天前

回复了 dododada 创建的主题 › 程序员 › 算法工程师的工程能力问题

算法每一项要做精就很难，你确定你公司需要找 1 个人全部做完，然后薪水比你们 cto 还高的人？

330 天前

回复了 forrestchang 创建的主题 › 分享发现 › Devv AI 是如何构建高效的 RAG 系统的

牛逼。感觉产品的优势在于，用户是在联网的环境下使用是，而联网的话就可以使用 gpt4 墙大模型