V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  LemonLeon  ›  全部回复第 3 页 / 共 4 页
回复总数  76
1  2  3  4  
2024 年 3 月 7 日
回复了 LemonLeon 创建的主题 OpenAI 做了一个 Poe AI 的竞品 Poe.Monster,今天上线公测
@gdfsjunjun 可以来 Poe.Monster ,3.5 模型也是免费的
2024 年 3 月 7 日
回复了 LemonLeon 创建的主题 OpenAI 做了一个 Poe AI 的竞品 Poe.Monster,今天上线公测
@locoz Poe 做的很好,单独拿出任何一个功能,在用户体验上我们很难比得过。

所以我们的重心会放在两个点上,
1 )普通用户,通过 prompt to earn 概念,让所有用户创建的机器人可以快速便捷地为作者带来收益,平台推广上形成裂变;
2 )团队用户,提供多种套餐,可定制的服务。

关于使用限制,每个用户,每个模型,每天都有一定的免费使用容量。这种方式对于用户是最简单理解的,类似 openai 官方 plus 账号 40 次/3 小时 4.0 模型对话,我们是 3.5 模型这个速率,4.0 每天 2 次。后续订阅功能完成后,用户可以通过订阅获取更多 4.0 模型的容量。
2024 年 3 月 7 日
回复了 LemonLeon 创建的主题 OpenAI 做了一个 Poe AI 的竞品 Poe.Monster,今天上线公测
@DonkeyBenjamin OpenAI 提供的方案很全面了。后面我们计划支持其他厂商的 AI 模型,主要对标的还是 Poe 。
2023 年 12 月 30 日
回复了 hytirrb 创建的主题 程序员 信息同步
同问,有没有好用的手机远程控制应用
@kuanat 感谢回复,我调整了测试方法。以下是最新的情况:

1.1 )部署环境:Centos7 Mysql8 nodev16.16.0 go1.20.2
1.2 )测试方法:
Windows Python3.8.10 locust 1000 用户并发,测试结果稳定在 300qps 附近(单个 locust 终端)

https://i.imgur.com/80mq5LU.png
https://i.imgur.com/1CRZujq.png

2 ) 2c4g 4c8g 6c16g ,测出来的并发量都是 300 附近。内存,磁盘读写,带宽压力并不大

3 )我推测的原因有两个,要么在 cpu ,要么在数据库。通过提高数据库的最大连接数,并发线程有一点提高。

4 )当用户端发起超多请求时候,数据库提前打开连接等待,然后系统就超出 mysql 最大连接数,并发降低下来。这是我的推测。

如果是这样,那一定有一种方案,是把这些任务都放在内存中处理完了,最后再批量插入数据库中。

5 )我看到有一些中转系统就是基于内存处理的,欢迎大家指正和指路
这里统一感谢大家的回复!还没有找到优化方案,目前正在尝试增加机器性能。

如果你有时间远程协助我,可以添加我的联系方式 v:bitdark
@monsterxx03 你好,方便远程帮我排查一下吗
@RockChinQ 不在上游,但是分布式后面是要考虑的
@tonywangcn 空的,麻烦重新发一下
@Immortal 不会是 GPT 限制,后台官方接口的数量成倍增加,并发量没有变化。

目前可以确定是服务器资源的问题,更准确说是 oneapi 程序没有很好的利用系统资源
@ETiV 不行,gpt 做不了这个任务
@xabcstack 这个报错是存在的,没有具体统计过。OK 总体的报错率可以控制在 2%以下
@justin2018 OpenKey 价格并不算低,文档有详细的说明
@potatowish 监控程序连接着 Google Sheet 做监控面板,可以看到分钟级别的更新情况
@superares 是的。只是入门级的方案,主要解决了单点故障问题
@OceanBreeze 没有记录对话数据,只记录了计费信息
2023 年 10 月 13 日
回复了 LemonLeon 创建的主题 OpenAI 免费开源的 ChatGPT API 成本计算器(中文版)
@yinmin 多谢提醒
2023 年 9 月 23 日
回复了 LemonLeon 创建的主题 OpenAI 什么是 ChatGPT API 水龙头?
@me1onsoda 让我来会会他们
2023 年 9 月 23 日
回复了 LemonLeon 创建的主题 OpenAI 什么是 ChatGPT API 水龙头?
1  2  3  4  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   4861 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 25ms · UTC 03:37 · PVG 11:37 · LAX 19:37 · JFK 22:37
♥ Do have faith in what you're doing.