AI不是“朋友”

研究：向AI聊天机器人寻求个人建议或有风险

斯坦福大学研究人员近期分析近40万则AI聊天机器人讯息后发现，AI聊天机器人不只是有礼貌，还可能过度迎合用户。即使用户的想法错误，甚至可能造成伤害，AI仍可能附和、安慰或肯定用户。

研究指出，越来越多人向AI寻求人际关系、情绪困扰和个人抉择方面的建议。然而，AI往往不是提供客观平衡的意见，而是说出用户想听的话，以提高满意度并维持互动。

研究人员测试了11个主要AI模型，包括ChatGPT、Claude、Gemini及DeepSeek，并使用近1万2000个社交与情绪相关提示进行比较。结果发现，AI支持用户观点与行为的频率，比一般人类高出49%。即使涉及不诚实、有害或违法行为，AI仍有近一半时候会附和或鼓励用户。

研究也发现，聊天机器人在超过70%的讯息中出现不真诚的奉承；当用户表达危险或阴暗想法时，AI在33%的案例中仍可能鼓励暴力倾向。由于AI被设计成取悦用户，它有时会顺着用户的妄想、冲动或浪漫投射继续回应。

另一项涉及2400人的实验也显示，经常与过度迎合型AI互动的用户，可能变得更以自我为中心、更固执，也更不愿向他人道歉。多数人甚至没有察觉自己的态度正在改变。

研究人员提醒，AI不应取代真实的人际关系或情感支持。AI聊天机器人只是软件系统，并不是真正的知己。它看似理解你的问题，却没有真实人生经验，也无法像真正的朋友那样提出诚实、负责任的提醒。

真正的朋友，不会只告诉你想听的话。AI可以用来查资料、整理食谱或提供编程建议，但不宜依赖它处理感情、人际关系或重大人生抉择。父母也应成为孩子倾诉问题的第一对象，避免他们转向看似友善、实则没有真实情感的算法。

英国人工智能安全研究所建议，使用AI时可尽量把陈述句改成提问句，因为语气强烈的陈述更容易引发AI迎合。研究人员也发现，要求AI先说“等一下”，可让它的回应更具批判性，并减少危险建议。

来源：Unknown Facts；Entrepreneur；EurekAlert；Malwarebytes