t41372

@flyingcrp 你不输入密码吗？还是你的密码和信用卡号不是机密信息捏

用 Python 的直接用 open ai 的 SDK 就行，绝大多数的大模型后端都支持 openai 的 sdk ，支持同一套标准，模型名字 base url 和 API key 一改就能无缝衔接。这包括什么 OpenAI, Gemini, deepseek, 智谱, 硅基流动，还有本地的推理引擎，比如 vllm ，ollama ，llamacpp 之类的。

单纯的与 llm 对话一个几十行一百行的 Python 单文件就能实现，一般不会单独写成项目，你上网搜 openai 的相关教程可能能找的到，或是直接让 ai 给你写个案例代码。如果你不熟悉 Python 记得顺便看一下包管理器，依赖管理，虚拟环境之类的东西。2025 年这套东西可以用 uv 解决，不过 ai 可能还不熟悉最新版本的 uv 。

纯对话的最小代码我没有，不过之前写过一个 gist ，向 LLM 提问 1000 次，让他生成随机数，但生成 0 的概率是 90%，运行结果是跑 1000 次之后所有的结果都是 0 (?)。62 行，配置一改就能换到其他大模型去。

https://gist.github.com/t41372/84f250d2ae3567332fc2b97ed4f868a8

关于 langchain ，我不推荐新手用 langchain ，他会让你的生活很痛苦。

很多奇怪的心理现象或想法其实在学术界都有研究，不一定是你自己的问题。如果不想或不能找医生的话，先试试问问 AI 。上面那个视频在我焦虑的时候给了我不少力量，可以看看

看医生。看医生之前可以先跟 AI 聊聊。如果想自癒就先跟 AI 聊。你必须要先知道问题的根源才能解决问题。很多奇怪


[别再躲你比你想象的强壮的多——Jordan Peterson [中英双字] -哔哩哔哩] https://b23.tv/Ucnqo5p

如何给予足够的上下文是目前的一个难题。过长且不相关的上下文对 AI 性能的影响很大，但上下文太少 AI 跟本不知道自己能做什么，什么才是最优解。

有时候我其实感觉，就算是你把真的人塞到 AI 对话框里，就用户和程序给的那点信息，其实根本没法做出好的决定。
但上下文长度基本等于成本，而且性能也会下降。只能寄望于大模型上下文能力的增强了

这种反带工具最佳实践毫无疑问是限内网访问，很多佬也不会用这种奇奇怪怪的 GUI 玩意儿，我自己也是 caddy + tailscale 纯内网访问。

但现在自部署相关的文章/视频有一大把都是用 nginx proxy manager 的 (国内外都是)，搞自部属的，刚入门的 用这个一堆... 这也很合理，nginx caddy 都没有 GUI ，而 nginx proxy manager 有。很多人会倾向有个 web ui 来管这个的...

最近我才遇到一个用这个的，还把源服务器 ip 漏出来了，随便扫一下就扫出了好多服务，甚至 ssh 用的还是密码登入... 这样的人很多... 起码得提醒他们一下吧...

@fuzzsh 笑死，当然没区别，我就是应届生🤡 也不是搞网络安全的

Mac 的话可以试试 OrbStack 。vm 基本就是 wsl 的体验，档案系统可以部分互通，可以直接 cd 到 mac 的目录下跑 linux 的命令。可以用 Rosetta 模拟 x64 。运行速度也很快，跑 docker 也比原版的 docker desktop 要快很多。