如何提升多个公益站渠道聚合后的可用性？

问题描述：

感谢站内佬们提供的公益站，让我体验到token自由的感觉。我搭的是newapi，聚合了多个佬们的公益站接口。俗话说饱暖思淫，温饱解决了，就想吃的更好。

目前发现的痛点:

• 有些站点快，有些站点慢，各家情况不同。同一站点在不同时间也可能有有很大变化。极端情况可能首字到达要一分钟，agent就搁在那转圈圈，看着干着急。
• 一下蹬猛了，有的站点余额欠费，接口直接报错，但newapi不会自动切换，可能又因为会话有粘连性，开发进程就卡住了。

每次出问题都需要去后台翻看会话记录。如果是波动问题就需要手动禁用渠道。如果是接口报错，得分析是欠费还是单纯参数错误。这里还有个问题，可能同一渠道的其他模型也在用，那就得把渠道对应的模型手动删除。处置完后又感觉可惜，还得标注一下什么时间重新开启渠道或还原模型。

总的来说，维护这套“基建”，心智负担对我这种懒鬼还是有点大了。所以想问佬们有什么操作，可以提高优质接口的命中率，提升开发效率。

可能是一个我没发现的开关，可能是新的代理转发程序，也可能是newapi相关的边车服务，又或者有什么骚操作？希望佬们不吝赐教，畅所欲言。

当然，我本身也有全栈能力。如果真的没有办法，我就用ai开发一个newapi的边车回馈社区吧，我想象的功能大致是:

• 定时拨测，指定模型并发测试多渠道接口。
• 优选渠道，为每个请求打分，低分临时移除，高分保留。之前临时移除的接口也可以重新加入池子。
• 错误处理，通过字符匹配或者一个小的模型判断，如果是欠费就临时移除。
• 兜底保障，尽可能维持模型可用，让低分数的接口回归池子。

一个人的想象是有限的，希望能收割佬友们的智慧。

26.4.1更新：axonhub、ccload和metapi都试过了，目前只有ccload有超时自动故障转移的，虽然这个项目本身还不是很完善，但已经能解决问题了。