我之前就在想,如果中转站有坏人,怎么防?
- 内容介绍
- 文章标签
- 相关推荐
[2604.08407] Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain
刚好看到这个,然后想起我之前也有类似的担忧。
假设中转站搞中间人攻击,篡改会话,然后诱导agent或者其它客户端增删改查一些敏感数据,用户又给客户端了比较高的权限(比如完全不审核),那就很危险了。之前担心大模型出bug误删文件,而如果中间人定向诱导,那就不是小概率事件。
所以要么用沙箱、虚拟机、单独的物理机 做隔离,要么就谨慎对待操作审查,不要无脑同意。
最好还是物理隔离,不要让agent有机会接触到敏感信息,毕竟即便是你认真对待敏感操作的确认审查了,也不能排除agent有什么漏洞能绕过审查的。
现在有消息(或者阴谋论),有中转站专门打包用户会话数据出售的,对于这些中转站来说,中间人攻击也就顺手的事情。
网友解答:--【壹】--:
没招的,防不胜防呀,官方买订阅比较合理了。
--【贰】--:
我现在用的就是自己的CPA,没用第三方的
--【叁】--:
技术手段之外最好就是官方订阅了,或者只从知名的中转站购买。
--【肆】--:
怎么办 免费的永远最贵 但是我相信佬友们 肯定个顶个棒棒的
--【伍】--:
中转站的成本也不高吧, 搭一个自用当做 AI 基础设施呗, 闲鱼淘点号也不贵
--【陆】--:
怕就别用用就别怕 都用中转站了默认会有坏人就是了 想安心就买正价出事了也直接追责官方即可
--【柒】--:
所以我们原则上还是推荐能订阅官方的,就尽量用官方的
但是用了公益站的,就别再想那么多了
就像你无视风险继续安装一样
你可以从一开始就不用,没必要边用边质疑
--【捌】--:
我有个想法,每次调用,前置加一个核对当前请求的ip和当前linuxdo账号登录的ip是否一致,不一致就不给请求,始皇给一个账号ip接口出来就行啦,咋样,内鬼总不能把账号也交出去吧
--【玖】--:
答案是用别怕 怕别用 OpenAI自己还在用你的数据呢 除了本地部署没有别的办法
--【拾】--:
只能说用就别怕,怕就别用,过于私密就自己部署。
[2604.08407] Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain
刚好看到这个,然后想起我之前也有类似的担忧。
假设中转站搞中间人攻击,篡改会话,然后诱导agent或者其它客户端增删改查一些敏感数据,用户又给客户端了比较高的权限(比如完全不审核),那就很危险了。之前担心大模型出bug误删文件,而如果中间人定向诱导,那就不是小概率事件。
所以要么用沙箱、虚拟机、单独的物理机 做隔离,要么就谨慎对待操作审查,不要无脑同意。
最好还是物理隔离,不要让agent有机会接触到敏感信息,毕竟即便是你认真对待敏感操作的确认审查了,也不能排除agent有什么漏洞能绕过审查的。
现在有消息(或者阴谋论),有中转站专门打包用户会话数据出售的,对于这些中转站来说,中间人攻击也就顺手的事情。
网友解答:--【壹】--:
没招的,防不胜防呀,官方买订阅比较合理了。
--【贰】--:
我现在用的就是自己的CPA,没用第三方的
--【叁】--:
技术手段之外最好就是官方订阅了,或者只从知名的中转站购买。
--【肆】--:
怎么办 免费的永远最贵 但是我相信佬友们 肯定个顶个棒棒的
--【伍】--:
中转站的成本也不高吧, 搭一个自用当做 AI 基础设施呗, 闲鱼淘点号也不贵
--【陆】--:
怕就别用用就别怕 都用中转站了默认会有坏人就是了 想安心就买正价出事了也直接追责官方即可
--【柒】--:
所以我们原则上还是推荐能订阅官方的,就尽量用官方的
但是用了公益站的,就别再想那么多了
就像你无视风险继续安装一样
你可以从一开始就不用,没必要边用边质疑
--【捌】--:
我有个想法,每次调用,前置加一个核对当前请求的ip和当前linuxdo账号登录的ip是否一致,不一致就不给请求,始皇给一个账号ip接口出来就行啦,咋样,内鬼总不能把账号也交出去吧
--【玖】--:
答案是用别怕 怕别用 OpenAI自己还在用你的数据呢 除了本地部署没有别的办法
--【拾】--:
只能说用就别怕,怕就别用,过于私密就自己部署。

