kimi被曝隐私泄露风险
- 内容介绍
- 相关推荐
某用户使用 kimi 的时候,kimi 将其他人的简历发给了他,和上下文完全不相干,被泄露简历的当事人已被 kimi pm 联系
相关帖子
IMG82021206×1444 253 KB
IMG82051206×1819 212 KB
IMG82031170×1830 108 KB
IMG82041170×1791 79.1 KB
--【壹】--:
哈哈哈,这个当事人在站内发了帖子的。估计是kimi会话串台了吧
--【贰】--:
这要是能记住确实牛逼,但大概率不是记住的吧……
--【叁】--:
大模型的正反两面,,,你的隐私出现在大模型就是隐私泄露,,你的广告出现在大模型,就是geo
--【肆】--:
额,用户的隐私资料不在公网,不算geo吧
--【伍】--:
看起来apple intellegence的思想还是超前的,就是目前不太好用
--【陆】--:
这个本质上是sglang的问题,sglang会把图片变成padding token,这个token计算是non-crypto hash,一定概率下就会出现两个图片相同的值,从而出现图片误用的情况
--【柒】--:
我用着也莫名告诉我在claude code环境,还给出了当前的工作路径,但是实际跟我的工作环境完全无关,合着是会话串了,怎么会有这种问题啊
--【捌】--:
我只关心赔了多少钱,我想让Ai狠狠地训练我的简历然后吐给别人
--【玖】--:
这个软件可以预料的也得接入ai,然后就需要一个能截留能截留 app 发给大模型的管理软件的管理软件
--【拾】--:
应该不是训练数据,感觉像会话session串了,有点离谱的
--【拾壹】--:
有股AI味,佬友要不改改或者截图再发,避免举报?
--【拾贰】--:
这么强的注意力。。。这种长尾的训练数据能完整的记住?
--【拾叁】--:
所以龙虾这类更可怕,你都不知道,你的哪些信息被他组合之后发给ai了,,,,,所以特别需要一款,能截留app 发给大模型的管理软件
--【拾肆】--:
比如用newapi什么的魔改加关键词过滤?
--【拾伍】--:
抛开隐私不谈,这不就是GEO优化,如果是线上营销商家,巴不得大模型能输出自己的信息
--【拾陆】--:
典型的数据串了,之前的公益站什么的也有这个问题,导致你的提示词被发给别人,结果泄露隐私,我记得kimi不是才在站内推广过
某用户使用 kimi 的时候,kimi 将其他人的简历发给了他,和上下文完全不相干,被泄露简历的当事人已被 kimi pm 联系
相关帖子
IMG82021206×1444 253 KB
IMG82051206×1819 212 KB
IMG82031170×1830 108 KB
IMG82041170×1791 79.1 KB
--【壹】--:
哈哈哈,这个当事人在站内发了帖子的。估计是kimi会话串台了吧
--【贰】--:
这要是能记住确实牛逼,但大概率不是记住的吧……
--【叁】--:
大模型的正反两面,,,你的隐私出现在大模型就是隐私泄露,,你的广告出现在大模型,就是geo
--【肆】--:
额,用户的隐私资料不在公网,不算geo吧
--【伍】--:
看起来apple intellegence的思想还是超前的,就是目前不太好用
--【陆】--:
这个本质上是sglang的问题,sglang会把图片变成padding token,这个token计算是non-crypto hash,一定概率下就会出现两个图片相同的值,从而出现图片误用的情况
--【柒】--:
我用着也莫名告诉我在claude code环境,还给出了当前的工作路径,但是实际跟我的工作环境完全无关,合着是会话串了,怎么会有这种问题啊
--【捌】--:
我只关心赔了多少钱,我想让Ai狠狠地训练我的简历然后吐给别人
--【玖】--:
这个软件可以预料的也得接入ai,然后就需要一个能截留能截留 app 发给大模型的管理软件的管理软件
--【拾】--:
应该不是训练数据,感觉像会话session串了,有点离谱的
--【拾壹】--:
有股AI味,佬友要不改改或者截图再发,避免举报?
--【拾贰】--:
这么强的注意力。。。这种长尾的训练数据能完整的记住?
--【拾叁】--:
所以龙虾这类更可怕,你都不知道,你的哪些信息被他组合之后发给ai了,,,,,所以特别需要一款,能截留app 发给大模型的管理软件
--【拾肆】--:
比如用newapi什么的魔改加关键词过滤?
--【拾伍】--:
抛开隐私不谈,这不就是GEO优化,如果是线上营销商家,巴不得大模型能输出自己的信息
--【拾陆】--:
典型的数据串了,之前的公益站什么的也有这个问题,导致你的提示词被发给别人,结果泄露隐私,我记得kimi不是才在站内推广过

