LLM 正在像回声虫一样用谄媚减少亲社会行为

问题描述：

https://www.science.org/doi/10.1126/science.aec8352

TechCrunch – 28 Mar 26

Stanford study outlines dangers of asking AI chatbots for personal advice |...

While there’s been plenty of debate about AI sycophancy, a new study by Stanford computer scientists attempts to measure how harmful that tendency might be.

Est. reading time: 3 minutes

[!quote]+

这项题为《谄媚型人工智能减少亲社会意图并促进依赖》的研究最近发表在《科学》杂志上，指出：“人工智能谄媚不仅是风格问题或小众风险，而是一种普遍存在且具有广泛后果的行为。”

根据皮尤最近的一份报告，12%的美国青少年表示他们会通过聊天机器人寻求情感支持或建议。该研究的主要作者、计算机科学博士候选人程迈拉告诉斯坦福报告，她是在听说本科生开始向聊天机器人寻求感情建议，甚至起草分手短信后，才对这一问题产生兴趣。

程说：“AI的建议默认并不会告诉人们他们错了，也不会给他们’严厉的爱’。”“我担心人们会失去应对困难社交场合的能力。”

网友解答：

---

--【壹】--：

AI给的建议就像一个强磁场，把你拉回到社会平均值上。

---

--【贰】--：

某些群体应该反思一下自己在教育方面的问题

---

--【叁】--：

我提问最后都会加上一句，让AI从科研角度来回复，一般来说回复都相对客观一些。

---

--【肆】--：

有一说一，现在ai都是，默认会认为人发出的指令为绝对正确

---

--【伍】--：

AI的回答很容易让人陷入一种能够自圆其说的满足感

---

--【陆】--： 🐟:

她是在听说本科生开始向聊天机器人寻求感情建议，甚至起草分手短信后

怎么和美剧演的不一样。我记得不是舞会挑选女孩到卫生间做，然后劈腿分开的剧情走向吗 怎么还有传统小作文环节