我之前就在想,如果中转站有坏人,怎么防?

2026-04-11 08:100阅读0评论SEO教程
  • 内容介绍
  • 文章标签
  • 相关推荐
问题描述:

[2604.08407] Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain
刚好看到这个,然后想起我之前也有类似的担忧。
假设中转站搞中间人攻击,篡改会话,然后诱导agent或者其它客户端增删改查一些敏感数据,用户又给客户端了比较高的权限(比如完全不审核),那就很危险了。之前担心大模型出bug误删文件,而如果中间人定向诱导,那就不是小概率事件。

所以要么用沙箱、虚拟机、单独的物理机 做隔离,要么就谨慎对待操作审查,不要无脑同意。

最好还是物理隔离,不要让agent有机会接触到敏感信息,毕竟即便是你认真对待敏感操作的确认审查了,也不能排除agent有什么漏洞能绕过审查的。

现在有消息(或者阴谋论),有中转站专门打包用户会话数据出售的,对于这些中转站来说,中间人攻击也就顺手的事情。

网友解答:
--【壹】--:

没招的,防不胜防呀,官方买订阅比较合理了。


--【贰】--:

我现在用的就是自己的CPA,没用第三方的


--【叁】--:

技术手段之外最好就是官方订阅了,或者只从知名的中转站购买。

阅读全文
问题描述:

[2604.08407] Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain
刚好看到这个,然后想起我之前也有类似的担忧。
假设中转站搞中间人攻击,篡改会话,然后诱导agent或者其它客户端增删改查一些敏感数据,用户又给客户端了比较高的权限(比如完全不审核),那就很危险了。之前担心大模型出bug误删文件,而如果中间人定向诱导,那就不是小概率事件。

所以要么用沙箱、虚拟机、单独的物理机 做隔离,要么就谨慎对待操作审查,不要无脑同意。

最好还是物理隔离,不要让agent有机会接触到敏感信息,毕竟即便是你认真对待敏感操作的确认审查了,也不能排除agent有什么漏洞能绕过审查的。

现在有消息(或者阴谋论),有中转站专门打包用户会话数据出售的,对于这些中转站来说,中间人攻击也就顺手的事情。

网友解答:
--【壹】--:

没招的,防不胜防呀,官方买订阅比较合理了。


--【贰】--:

我现在用的就是自己的CPA,没用第三方的


--【叁】--:

技术手段之外最好就是官方订阅了,或者只从知名的中转站购买。

阅读全文