V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

• 请不要在回答技术问题时复制粘贴 AI 生成的内容

背景

内网离线开发
开发的一般是大数据组件相关的内容
有部分源码
由于是华为全套大数据组件，外网没有环境，无法在外网开发

期望

把源码或者其他相关代码扔到 ai 里，
写代码的时候给我提醒补全
用 idea 和 vscode

有没有相关的工具可以推荐一下。

离线

代码补全

工具

29 条回复 • 2025-01-15 15:01:30 +08:00

xausky

4 天前

昨天刚看到一个站内人的项目： https://github.com/TabbyML/tabby 模型下载好后应该可以离线使用

securityCoding

4 天前

ollama 跑一个？

yunyuyuan

4 天前

ollama+continue+openwebui

chairuosen

4 天前

本机最大也就跑个 32b 的模型，跟在线 api 效果差得多

miniliuke

4 天前

idea2024 不是自带吗？就是能力一般就是了

clemente

4 天前

@chairuosen 今年不好说嘿嘿

jaylee4869

4 天前

Ollama + continue.
话说 deepseek v3 已经支持 Ollama 了。

ganbuliao

4 天前

vscode server
配置 copilot 走本地网络
{
"remote.extensionKind": {
"GitHub.copilot": [
"ui"
],
"GitHub.copilot-chat": ["ui"],

"pub.name": [
"ui"
]
}
}

lyonll

3 天前

@yunyuyuan 有模型推荐么，现在用 starcoder2+qwen2.5

tomyark123

3 天前

lsp 不是离线的吗

mioktiar56

3 天前

离线了还怎么赚你钱

spike0100

3 天前

@jaylee4869 话说 671b 模型跑起来需要什么配置的机器啊😧

xing7673

3 天前

@spike0100 6 个 64g mac mini 或 3 个 m1u 128g mac studio 或 2 个 m2u 192 mac studio 或 4*80g a800+显卡或者 8 * 48g 4090

至少要 7 万+的预算

isSamle

3 天前

8 * 48g 4090 何止 7W+ 😂 @xing7673

xing7673

3 天前

@isSamle 嘛，最低我是按照 6*64g macmini 算的

windgreen

3 天前

ollama + codegeex + visual code

yangth

3 天前

本机跑不动的，能跑动的不是智能是智障

yangth

3 天前

如果有实力，可以自建机房

yuedashi

3 天前 via Android

lmstudio

PolarisY

3 天前

或许你可以研究研究内网穿透😂

Genshin2020

3 天前

ollama

oncethink

3 天前

推荐 tabby ，可以本地代码问答和，如果内存在 16GB 或以下，建议用 1.5b 的模型，再大速度就很慢了。

如果使用 macOS ，直接用 brew install tabbyml/tabby/tabby ，然后访问后台注册账户，在设置界面拿到 token ，然后在 vscode 中装上 tabby 扩展，填入本地 tabby 服务地址和 token

如果使用 ollama 做后端，可以参考下面配置：

下面是一个使用 qwen2.5-coder:7b 的参考配置，你需要先用 ollama pull qwen2.5-coder:7b-base 和 qwen2.5-coder:7b ，前者适合做补全，后者适合做问答。

~/.tabby/config.toml
```
# Completion model
[model.completion.http]
kind = "ollama/completion"
model_name = "qwen2.5-coder:7b-base"
api_endpoint = "http://localhost:11434"
# prompt_template 不同的模型配置可能不一样，需要自己注意一下
prompt_template = "<|fim_prefix|>{prefix}<|fim_suffix|>{suffix}<|fim_middle|>"

# Embedding model
[model.embedding.http]
kind = "ollama/embedding"
model_name = "bge-m3:latest"
api_endpoint = "http://localhost:11434"

# Chat model
[model.chat.http]
kind = "openai/chat"
model_name = "qwen2.5-coder:7b"
api_endpoint = "http://localhost:11434/v1"
```