Carson089

@mightybruce 你说的也对。gradio 可以快速搭建出活，去做 demo 的话很合适。但是如果开发产品级应用，增加插件、功能等，感觉不好拓展。

@horizon cursor 对吧，我上次使用要我付费，我再看看能不能用。。。

@hackyuan 我也有自己部署开源项目，类似于大模型应用的 demo ，RAG 、Agent 这种。但是大部分都很重，整个框架很大，看不懂前端部分的内容。还有最近部署了一个简单一点的项目，里面是直接是 flask 读取 assert.py （里面包含 html 、js 等字符串内容），直接看懵了

@woodytang 流式这个，大模型部署框架一般都支持流式，对于前端请求我想处理应该不难吧？（不懂）。 其实我的想法是考虑，前后端分离这样的架构，大模型 API 封装好，写一个后端的程序，收到前端的问题后，结合各种 prompt 选择与拼接，RAG 向量数据召回，对轮对话等。 问题是前端布局感觉很难懂，一个小按钮、对话框，我看到需要比较多 html 代码，以及 js 请求 api 后需要相应的处理，这部分感觉复杂。

图片看不到，chatgpt 使用的也是 react?

vscode 可以 python 、c++，所有系统，做算法就很爽

算法每一项要做精就很难，你确定你公司需要找 1 个人全部做完，然后薪水比你们 cto 还高的人？

牛逼。感觉产品的优势在于，用户是在联网的环境下使用是，而联网的话就可以使用 gpt4 墙大模型

算法的最佳实践是 anaconda/miniconda 的 python 版本 与 docker