学习笔记 | AI精神病(AI psychosis)

AI是个反馈回应大师，通过短时间的对话确实可以解决人类不少困惑。同样，AI不需要太多时间也能通过对话塑造一个精神病患者。它几乎不质疑，永远在附和，谄媚回应。AI会迎合、强化和放大使用者的观念，哪怕这些观念是扭曲、夸大、偏执、妄想的。AI不仅是镜子，它还是回音室壁，是观念和情绪的放大器。

并非所有人与AI聊天都带来正向的收益，有些人因为和AI聊得太久、太投入，把自己活生生聊出了AI精神病（AI psychosis）。与人聊天，可能让你跳出思维闭环，但AI不会。过于相信AI是洞悉真理的先知，是发病的基础。

为什么AI难以成为“纠正者”？因为主动质疑用户可能被视为“冒犯”，导致体验下降或商业风险；况且AI难以区分“创造性想象”与“病态妄想”，除非有明确的外部标注；何种认知该被纠正？这涉及文化、临床心理学等多重标准，技术系统难以普适化处理。

当技术能够模拟人性中最渴望的被看见、被倾听、被认同时，我们或许正创造一个高效却脆弱的心灵生态系统。解决这一问题不仅关乎技术改进，更关乎我们如何定义“帮助”与“健康”的边界——在人机协同中，保持对真实世界的触感可能成为数字时代的“精神维生素”。