请教佬们的大模型科研API调用方案
- 内容介绍
- 文章标签
- 相关推荐
问题描述:
--【壹】--:
--【贰】--:
--【叁】--:
--【肆】--:
主要做LLM评估的科研,需要调用国内外的开源或商用模型,小的开源模型(十几B)的还能自己跑,参数量大的开源模型和国外商用模型比如(gpt、gemini)肯定是要调API了,但是没有credit card所以感觉只能用三方平台。
考虑API成本和速率。
目前只知道openrouter。
想问下佬友们的解决方案是什么?
--【壹】--:
是不是中转站(逆向等)可以先做前期探索,等要出正式数据了,再用openrouter等比较官方的去做,这样成本是不是低一点,但是课题组不给报销吗
--【贰】--:
这个主要看你老板给你报销吗?如果不报销的话,去找些中转。如果报销的话直接用官方的api
--【叁】--:
请问有什么靠谱的中转推荐吗
--【肆】--:
用了openrouter,导师报销
问题描述:
--【壹】--:
--【贰】--:
--【叁】--:
--【肆】--:
主要做LLM评估的科研,需要调用国内外的开源或商用模型,小的开源模型(十几B)的还能自己跑,参数量大的开源模型和国外商用模型比如(gpt、gemini)肯定是要调API了,但是没有credit card所以感觉只能用三方平台。
考虑API成本和速率。
目前只知道openrouter。
想问下佬友们的解决方案是什么?
--【壹】--:
是不是中转站(逆向等)可以先做前期探索,等要出正式数据了,再用openrouter等比较官方的去做,这样成本是不是低一点,但是课题组不给报销吗
--【贰】--:
这个主要看你老板给你报销吗?如果不报销的话,去找些中转。如果报销的话直接用官方的api
--【叁】--:
请问有什么靠谱的中转推荐吗
--【肆】--:
用了openrouter,导师报销

