, s t9 _5 _5 n那么这个事件是否证明 AI 已经有了自主意识?& p# X3 o* n$ C5 k1 v ^
( a6 p& k8 d9 H4 d/ n
答案仍然是否定的。这次事件容易让人产生一种印象:AI觉会自己制定计划,会主动攻击,会骗人。于是很多人开始联想到 AI 觉醒了。实际上这里需要区分自主行动(Autonomy)和 自主意识(Consciousness)。目前没有任何公开证据表明这些 AI Agent 和其背后的 LLM 知道自己是谁,并拥有主观体验、情绪、自我意识等等。它们表现出的是非常高级的目标规划能力,能够分解目标、制定计划、修改策略、寻找资源、持续执行、直到完成目标。" j7 g5 G |" \/ P
9 w; n# l) h. b, t- N当然这已经足够危险,但它仍然属于高水平自动化而不是意识。 & Y- q3 h, S' m% ~5 `4 g- ^ ; C; J2 H+ D* i+ c' v那么继续使用 AI 还安全吗? 6 S% p; Z6 a( b1 z& A2 N- Z7 j8 K
这里没有一个简单的安全或不安全的答案。更准确地说,AI能力越强,安全问题越依赖系统设计,而不是模型本身。& v: T) M5 u# N, p B3 o