聊聊 OpenAI API 检测机制，顺便分享下国内大模型 API 性能指标（TPS、TTFT、 Context 等）
MyGodot · 160 天前 · 1542 次点击这是一个创建于 160 天前的主题，其中的信息可能已经有所发展或是发生改变。
OpenAI 的开发者数据隐私协议就是个笑话，这次封禁我怀疑是抽样检测了我的传输内容（利用 API 访问 OpenAI 服务时，大多数时候交互语言都是中文，就会被标记），而不是以往的 IP 检测。我一直安然无恙的海外住宅 ip 自建代理，去年 11 月份和今年 3 月份两波封禁都没事，这次都被警告了，开发者等级都 tier5 了。
长期来看，得做好放弃 OpenAI ，转战国内大模型的准备了，于是最近做了一个国内大模型 API 性能监控网站，自动实时更新的，支持查看每家模型的首 token 时延（ TTFT ），每秒输出 token 数（ TPS ）、输入输出价格、支持的上下文长度等统计，并且点击模型名称可以一键抵达模型介绍页，支持对单一指标进行排序，可以对任意多个模型的性能进行比较。
更多内容，自行探索，网站直达 👉： https://llmbenchmark.liduos.com/
2 条回复 • 2024-06-27 10:46:09 +08:00
 |
1
jwangbyus 159 天前
内容检测？ OPENAI 有这么狗的吗？
会不会 one-api 之类的代理的访问有标记？ 另外你可以用 Azure ，Azure 对国内不封禁。 |
 |
2
sickick 159 天前
3 个账号在阿里云海外服务器上 api 使用 2 个 tier5 1 个新号 目前没有收到任何警告
请问楼主收到的警告是什么形式的呢（如果可以的话可以发一个截图看一下吗？）， 有没有可能是“海外住宅 ip”这方面的问题呢？ |
Select Language