LLM 正在像回声虫一样用谄媚减少亲社会行为

问题描述：

https://www.science.org/doi/10.1126/science.aec8352

TechCrunch – 28 Mar 26

Stanford study outlines dangers of asking AI chatbots for personal advice |...

While there’s been plenty of debate about AI sycophancy, a new study by Stanford computer scientists attempts to measure how harmful that tendency might be.

Est. reading time: 3 minutes

[!quote]+

这项题为《谄媚型人工智能减少亲社会意图并促进依赖》的研究最近发表在《科学》杂志上，指出：“人工智能谄媚不仅是风格问题或小众风险，而是一种普遍存在且具有广泛后果的行为。”

根据皮尤最近的一份报告，12%的美国青少年表示他们会通过聊天机器人寻求情感支持或建议。该研究的主要作者、计算机科学博士候选人程迈拉告诉斯坦福报告，她是在听说本科生开始向聊天机器人寻求感情建议，甚至起草分手短信后，才对这一问题产生兴趣。

程说：“AI的建议默认并不会告诉人们他们错了，也不会给他们’严厉的爱’。”“我担心人们会失去应对困难社交场合的能力。”

网友解答：

---

--【壹】--：

AI给的建议就像一个强磁场，把你拉回到社会平均值上。