你只能让AI生成早就被知道的东西
- 内容介绍
- 文章标签
- 相关推荐
楼主在社交软件闲聊时，一位大拿说的
当时是说不出话，很震惊，仔细一想确实是这样。将早就已经铲除的东西富集给你，源头有错它就有错。
对个体的意义？让人更快的学习？可是为什么我要成为学习ai的人了，而且真的学的过吗
幻觉，上下文限制 似乎都在告诉你生成了一段早就被某个他知道或重复生成的内容
只是工具，还是新生？
IMG_73911000×994 206 KB
楼主补充下新的点
我目的是产出在创新方面强于人类的ai，但是是不是创新（能不能被定义成创新）需要我的核验
或者是我的创新—导致ai的继续搬砖
也是说这种情况下ai是以人类能力作为度量的，这是否正确
ai智能的度量是什么，不应该是“诶我写代码发现ai好像聪明了一点诶”
--【壹】--：
AI能让我知道我不知道的东西就行了。
--【贰】--：
我觉得，对早已知道的“字典”排列组合也能有生命力
--【叁】--：
写的太好了，暴露主要的矛盾
量变到质变
人-ai
好像几年前我们还在看巨石强森吃石头
现在真的很快哦
--【肆】--：
如果很多事情，可以被预测到，那就乱套了
--【伍】--：
人类发明出来的能解决问题的工具很多，就算是排列组合也能产生大量创新，连计算机宗师级的 Knuth 都忍不住要写文章夸 AI。当然如果只是问点世界知识百科日常，那确实是只能得到早就被知道的东西。
image1080×441 122 KB
--【陆】--：
可能还是困惑在现阶段ai和人的互相关系吧，强没强到创新，弱也不至于弱个工具
--【柒】--：
是这样的，拿它为创新点写代码调仿真，经常会因为考虑不到新场景做错误的回答，只有刚纠正它的时候能正确一会。所以如果场景较新，从宏观上让它直接搞定就比较困难，最好是拆成小的、熟悉的、传统的任务，它才好实现。
--【捌】--：
"泛化"这个一直是AI研究的领域啊~
也就是问一些 喂给AI训练数据 以外的问题~
--【玖】--：
然后会发现创新是自己的，ai做的是帮你搬砖
（很少有真正的巧思时刻吧）
--【拾】--：
快进到Deepseek打击美国
--【拾壹】--：
确实在信息学内信息可以通过信息交换产生新信息
有个很有意思的ted视频（绿眼监狱）
可能现阶段ai就是帮助让各个片段信息之间的隐藏内容显现出来（）
--【拾贰】--：
“早就被知道的事情”定义的太泛了。
个人认为ai最强的地方在于能将各领域的知识横向整合起来，虽然都是各领域内已有的知识，但是加起来应用在某一处，效果会是真的不错 。
就比如说给ai喂过rust语言，给ai喂过编译相关的知识，你给他个任务他就能自己发挥，把某个项目用rust重写。
这其实也是一种创新，你能说他早就知道吗，显然不能。ദ്ദിᵔ.˛.ᵔ₎
--【拾叁】--：
那句话怎么说的来着
太阳底下没有新鲜事
排列组合就是创新啊
--【拾肆】--：
幻觉成真即为创新
--【拾伍】--：
科学的尽头是哲学~
哲学的尽头是神学~
--【拾陆】--：
感谢回复，我最困惑的是：
如果ai工具产出了我不知道的正确知识，我该怎么知道这不是幻觉
有点哲学（吗）
--【拾柒】--：
那么让Claude打击哈梅内伊算什么(
--【拾捌】--：
已经足够颠覆生产力了。我们甚至可以不管他叫AI.叫继续工业化。
--【拾玖】--：
引用一下我前几天回复另一位佬友的内容：
关于ai的可解释性、人机对齐或评测，想听听佬友们的建议和看法我作为理工男，来抛砖引玉的发出几个类似问题：
- AI的不可解释性：现在的AI发展的很快，但是AI的理论基础太薄弱。现在的情况是，我们知道这样搞会让AI好使，但是不知道为什么好使，没有理论，至少是现在学术界还没有共识。
- AI跃进的神秘性：2022年左右的openai的scaling law的论文，可以说是AI进入大众和实用的基础，但是和上个问题一样，没有人知道为什么，只知道参数一直加加加，AI就突然好使了，从胡言乱语到能回答问题；从能回答问题到能"思考"。但是不知道为什么会这样，更不知道参数继续加加加，AI会变成什么样？会变得更聪明，还是会突然学会“自我隐瞒”或“真正的自我进化”？
- 智力是什么：现在AI大模型内部的万亿参数和真正世界是什么关系？是AI真的理解了，还是只是在高维中模仿了理解？
如果是模仿，为什么泛化这么好，对于一些AI没有遇到过的问题也能回答的不错？
如果是理解，那么人类的智力是不是比我们想象的更简单？如果预测token+参数加加加 就产生了推理力、创造力、规划力。那是否意味着人类智力可能不是什么神圣而独一无二的？只是和AI一样的规模化学习？那人类的智力，自我意识是什么？
楼主在社交软件闲聊时，一位大拿说的
当时是说不出话，很震惊，仔细一想确实是这样。将早就已经铲除的东西富集给你，源头有错它就有错。
对个体的意义？让人更快的学习？可是为什么我要成为学习ai的人了，而且真的学的过吗
幻觉，上下文限制 似乎都在告诉你生成了一段早就被某个他知道或重复生成的内容
只是工具，还是新生？
IMG_73911000×994 206 KB
楼主补充下新的点
我目的是产出在创新方面强于人类的ai，但是是不是创新（能不能被定义成创新）需要我的核验
或者是我的创新—导致ai的继续搬砖
也是说这种情况下ai是以人类能力作为度量的，这是否正确
ai智能的度量是什么，不应该是“诶我写代码发现ai好像聪明了一点诶”
--【壹】--：
AI能让我知道我不知道的东西就行了。
--【贰】--：
我觉得，对早已知道的“字典”排列组合也能有生命力
--【叁】--：
写的太好了，暴露主要的矛盾
量变到质变
人-ai
好像几年前我们还在看巨石强森吃石头
现在真的很快哦
--【肆】--：
如果很多事情，可以被预测到，那就乱套了
--【伍】--：
人类发明出来的能解决问题的工具很多，就算是排列组合也能产生大量创新，连计算机宗师级的 Knuth 都忍不住要写文章夸 AI。当然如果只是问点世界知识百科日常，那确实是只能得到早就被知道的东西。
image1080×441 122 KB
--【陆】--：
可能还是困惑在现阶段ai和人的互相关系吧，强没强到创新，弱也不至于弱个工具
--【柒】--：
是这样的，拿它为创新点写代码调仿真，经常会因为考虑不到新场景做错误的回答，只有刚纠正它的时候能正确一会。所以如果场景较新，从宏观上让它直接搞定就比较困难，最好是拆成小的、熟悉的、传统的任务，它才好实现。
--【捌】--：
"泛化"这个一直是AI研究的领域啊~
也就是问一些 喂给AI训练数据 以外的问题~
--【玖】--：
然后会发现创新是自己的，ai做的是帮你搬砖
（很少有真正的巧思时刻吧）
--【拾】--：
快进到Deepseek打击美国
--【拾壹】--：
确实在信息学内信息可以通过信息交换产生新信息
有个很有意思的ted视频（绿眼监狱）
可能现阶段ai就是帮助让各个片段信息之间的隐藏内容显现出来（）
--【拾贰】--：
“早就被知道的事情”定义的太泛了。
个人认为ai最强的地方在于能将各领域的知识横向整合起来，虽然都是各领域内已有的知识，但是加起来应用在某一处，效果会是真的不错 。
就比如说给ai喂过rust语言，给ai喂过编译相关的知识，你给他个任务他就能自己发挥，把某个项目用rust重写。
这其实也是一种创新，你能说他早就知道吗，显然不能。ദ്ദിᵔ.˛.ᵔ₎
--【拾叁】--：
那句话怎么说的来着
太阳底下没有新鲜事
排列组合就是创新啊
--【拾肆】--：
幻觉成真即为创新
--【拾伍】--：
科学的尽头是哲学~
哲学的尽头是神学~
--【拾陆】--：
感谢回复，我最困惑的是：
如果ai工具产出了我不知道的正确知识，我该怎么知道这不是幻觉
有点哲学（吗）
--【拾柒】--：
那么让Claude打击哈梅内伊算什么(
--【拾捌】--：
已经足够颠覆生产力了。我们甚至可以不管他叫AI.叫继续工业化。
--【拾玖】--：
引用一下我前几天回复另一位佬友的内容：
关于ai的可解释性、人机对齐或评测，想听听佬友们的建议和看法我作为理工男，来抛砖引玉的发出几个类似问题：
- AI的不可解释性：现在的AI发展的很快，但是AI的理论基础太薄弱。现在的情况是，我们知道这样搞会让AI好使，但是不知道为什么好使，没有理论，至少是现在学术界还没有共识。
- AI跃进的神秘性：2022年左右的openai的scaling law的论文，可以说是AI进入大众和实用的基础，但是和上个问题一样，没有人知道为什么，只知道参数一直加加加，AI就突然好使了，从胡言乱语到能回答问题；从能回答问题到能"思考"。但是不知道为什么会这样，更不知道参数继续加加加，AI会变成什么样？会变得更聪明，还是会突然学会“自我隐瞒”或“真正的自我进化”？
- 智力是什么：现在AI大模型内部的万亿参数和真正世界是什么关系？是AI真的理解了，还是只是在高维中模仿了理解？
如果是模仿，为什么泛化这么好，对于一些AI没有遇到过的问题也能回答的不错？
如果是理解，那么人类的智力是不是比我们想象的更简单？如果预测token+参数加加加 就产生了推理力、创造力、规划力。那是否意味着人类智力可能不是什么神圣而独一无二的？只是和AI一样的规模化学习？那人类的智力，自我意识是什么？