凌晨收到愚人节玩笑,龙虾输出被语料污染
- 内容介绍
- 文章标签
- 相关推荐
佬友们
刚刚让龙虾做个任务的时候,看到TG聊天框在一堆代码里,突然冒出一些奇怪的中文字符
吓得我立马 /stop停住
马上到管理界面看了下聊天记录
图片1222×811 37.8 KB
图片已经把隐涉及平台的文字给码了
直接一波害怕
我还以为是什么时候被黑了,这些东西被写在memory里面了,
赶紧问龙虾为什么会出现这些字符,他回复是
图片963×334 25.7 KB
图片982×747 58.2 KB
难道是前两天的 Github issue 的那些黑产注入这么快就起效了吗
补充下龙虾的环境:
在一台小 RN 的服务器跑的, 没啥重要文件,
除了config里的key
没有暴露在公网监听也是本地环回的 127.0.0.1
服务器SSH也是key认证的,且没有异常登录日志
另外感谢一波各个公益站的佬友,用了这么久的公益站养虾
这虾还能要吗
网友解答:--【壹】--:
污染了而已
--【贰】--:
重装把,佬
--【叁】--:
佬友用的是gpt吧
--【肆】--:
这么恐怖吗
--【伍】--:
想彻底避免只能换模型,语料污染GPT最严重,我记得好像有这方面的传言说GPT训练的时候 中文语料没进行太多清洗
--【陆】--:
这个看起来像是gpt的语料污染
--【柒】--:
是的,公益站的
佬友们
刚刚让龙虾做个任务的时候,看到TG聊天框在一堆代码里,突然冒出一些奇怪的中文字符
吓得我立马 /stop停住
马上到管理界面看了下聊天记录
图片1222×811 37.8 KB
图片已经把隐涉及平台的文字给码了
直接一波害怕
我还以为是什么时候被黑了,这些东西被写在memory里面了,
赶紧问龙虾为什么会出现这些字符,他回复是
图片963×334 25.7 KB
图片982×747 58.2 KB
难道是前两天的 Github issue 的那些黑产注入这么快就起效了吗
补充下龙虾的环境:
在一台小 RN 的服务器跑的, 没啥重要文件,
除了config里的key
没有暴露在公网监听也是本地环回的 127.0.0.1
服务器SSH也是key认证的,且没有异常登录日志
另外感谢一波各个公益站的佬友,用了这么久的公益站养虾
这虾还能要吗
网友解答:--【壹】--:
污染了而已
--【贰】--:
重装把,佬
--【叁】--:
佬友用的是gpt吧
--【肆】--:
这么恐怖吗
--【伍】--:
想彻底避免只能换模型,语料污染GPT最严重,我记得好像有这方面的传言说GPT训练的时候 中文语料没进行太多清洗
--【陆】--:
这个看起来像是gpt的语料污染
--【柒】--:
是的,公益站的

