V2EX › xuliang12187 的所有回复 › 第 1 页 / 共 1 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

2025 年 12 月 12 日

回复了 xuliang12187 创建的主题 › 程序员 › Google 云平台 Vertex AI 服务流式输出非常慢， gemini-3-pro-preview 模型，首个流式输出超过 17s，有没有好的解决方案

@fov6363 vertex 先阶段没有 endpoint 独立实例概念，现在只有 global 全球的。说是有不同付费级别。那个是针对业务并发量高。并不能解决接口延迟问题

2025 年 12 月 12 日

@chenluo0429 调过一样，很慢都超过 17s

2025 年 12 月 12 日

回复了 devloperchen 创建的主题 › 程序员 › Android Studio AI 工具要怎么才能正常使用啊！

gemini-3-pro-preview 用这个模型速度咋样。Google 云平台 Vertex AI 服务流式输出非常慢超过 17s ，你那边有啥解决方案嘛

2025 年 12 月 12 日

用了 gemini-2.0-flash 模型首个 token 输出 300ms 200 字的故事，3-4s 就返回了全部内容了 gemini-2.5-flash 首 token 超过 3s 很慢，总时间长度超过 5s ，gemini-3-pro-preview 首个 token 超过 12s ，我们用的 google cloud 企业服务 vertex AI apI 接口。