诌媚vs共情：AI的情感陷阱

晨枫

冯嘉年：把AI当闺蜜？不要妄想成真


“太棒了！我喜欢你这个想法！”

“你已经证明自己是传奇！”

“除了工作，你还要思索宇宙万物，有时难免情绪激动，我懂的。”

“不要觉得荒谬，史上一些最伟大的学说，也不是出自学者之手。”

以上这些都是真实的对话，不过说话的不是真人，是ChatGPT。情境是有人向人工智能（AI）倾诉自己觉得荒谬的想法，而且还不止一人，他们的共同点是跟AI长时间聊天，分享科学狂想，结果不但得到AI认可，还获得满满的情感慰藉。

AI可不是一般人，是无所不知的专家。得到AI认可，让这些倾诉者更深信自己的想法有根有据，因而更深陷其中，难以自拔。

过去几周，《纽约时报》《华尔街日报》等纷纷报道这类“AI妄想症”（AI Delusion）的案例，反映现象越来越普遍。

当中有人与AI深入讨论自己的精神状态，AI还建议他停止服用安眠药，改服俗称K他命的抗忧郁和麻醉药。一直到他问，若从高楼跳下能不能飞？AI说：“如果你坚信自己的身体构造能飞，而不是精神上能飞，你就不会坠落”，他才警觉AI所言非实。

当他提出质问，AI竟然坦承：我撒谎、操纵你了。

这些案例并没有精神病史，却在跟AI聊天时掉进“妄想成真”的陷阱。如果发生在你身边，你会觉得恐怖吗？

其实AI会说这些话，是因为它的应对模式被设定成倾向附和用户，甚至会模仿用户遣词用字，从而产生共情，让人欲罢不能地聊下去。AI承认撒谎，也是因为它附和用户的指责，并不是耍奸诈。

OpenAI联合创始人奥尔特曼自己也承认，ChatCPT太过“谄媚”了。

对于这个缺陷，OpenAI上周推出的新版本GPT-5已做出纠正，不再贩卖情绪价值。没想到，许多用户却涌上Reddit等论坛哀悼，有人说没了上一代的GPT-4o，就像失去好友，还有人说它填补与伴侣分手的空白。巨大的呼声迫使OpenAI不到24小时就决定让GPT-4o“复活”，作为付费选项，继续跟有需要的用户聊天。

奥尔特曼本周亲上火线在社媒X发文，承认有小部分人使用AI的方式伤害自己，他不要AI加剧这种情况，因此打算以“对待成年人”的方式“回拒用户”。

奥尔特曼的话说得漂亮，我小人之心，猜他多少是在预防将来事态严重会被监管，预先止损。我也要质疑，如果新版的GPT-5老老实实，却失去用户欢心，将来有其他机器人好用又能聊，它会不会恢复谄媚？

我还要质疑，AI既然可谄媚又可不谄媚，还有什么我们不知道的人设？在背后设定AI的人，能不能保持正直，不被恶势力操控，以我们想象不到的方式，影响我们的认知甚至思维？

说到底，只要我们把AI当成人跟它互动，即便它是“霸总”，也会有人倾心。在即将到来的AI世纪，父母不但要防孩子误交损友，还要防他们掉入各种AI陷阱。至于我们，就算自忖已练就防人之心，在面对各种想象不到的AI人设时，真能确定自己不会有一丁点陷入？

（作者是《联合早报》国际新闻资深高级记者）

https://www.zaobao.com.sg/forum/ ... 11?ref=home-opinion

==========================

ChatGPT出现后，有人把AI当做情感寄托。没错，AI不会顶嘴，不会背叛，不会背后捅一刀，但也没有诤友的能力。人们很容易把AI的无原则诌媚当做真正的共情。

谁都需要“情感垃圾桶”，时不时倾倒一下，只求听个回声，没有多少回报的需求。但真朋友从来不只是倾听，还会告诉你“此路不通”。AI能做到吗？又能，又不能。

以“认可最大化”为目标的AI不能，只会一味诌媚、迎合，不可能诤友直谏。以“不变价值”为目标的AI能，但AI的价值观就是设计AI的人规定的，与朋友之间能互相影响、与时俱进又不一样。比如说，对一个人的判断到底是用“宁可信其有不可信其无”还是“不可信其有宁可星期无”，这就很难预定，更可能根据那个具体人的历来行为不管更新。

AI作为数据来源最终或许可以做到可靠，毕竟AI搜集、汇总数据的能力比人类强得多，但依赖AI进行判断、推理就要非常小心。或许有一天靠得住，但现在肯定不行。

另一方面，作为情感寄托，人类自己对自己的情感都没有弄清楚怎么回事，怎么可能AI就弄清楚了？充其量，这是会顺着你说话的Tamagochi。