总感觉好像阿里的ai平台上的dsv4flash比ds官方的API要聪明一点的有时候官方的API总是会莫名其妙的降智不过阿里的限制也很大,不知道是不是为了推广自家的千问,阿里把第三方开源模型的调用的token速率限制限的很死,千问模型的tpm限制是5m,第三方模型都是1m,tpm的英文全称应该是token per minute 。直译过来大概也能知道什么意思我给agent设置的tpm上限是0.95m,是低于官方的限流阀的,但是还是总是有时候莫名其妙的出现429限流的返回错误
总感觉好像阿里的ai平台上的dsv4flash比ds官方的API要聪明一点的 有时候官方的API总是会莫名其妙的降智 不过阿里的限制也很大,不知道是不是为了推广自家的千问,阿里把第三方开源模型的调用的token速率限制限的很死,千问模型的tpm限制是5m,第三方模型都是1m,tpm的英文全称应该是token per minute
阅读:0
点赞:0