爱吱声返回首页

唐家山的个人空间 http://aswetalk.net/bbs/?1830 [收藏] [复制] [分享] [RSS]

日志

关于AI的社会认知的思考

热度 5已有 40 次阅读2026-9-14 11:03

AI的发展已经可以用“瞠目结舌”来形容了。Hinton的这句话：“只要是封闭系统，AI在能力上就能超过人类”，看来不是妄语。

现在要认真考虑的事反而是：AI会不会产生群体意识，以及怎样让AI的群体意识对人类保持善意，至少不要抱有恶意，诸如此类的问题了。

现在所谓的安全对齐，感觉还是从外部规则上入手，即使有效，也是暂时的。

如果考虑到内生的方法，可能还需要从人类社会自身的演化入手，看看能否找到可以借鉴的地方。

刚表态过的朋友 (3 人)

收藏分享邀请举报

全部作者的其他最新日志

发表评论评论 (6 个评论)

回复孟词宗 2026-9-14 12:15: 差开一下，“Alignment”翻译为“对齐”简直是体育老师的英文硬译。难道不能翻译为更贴切的“校准”、“规范”、“协同”或“使一致”吗？

回复五月 2026-9-14 12:59: 当然是给AI一机一票或者一块GPU一票的民主社会啦。民主社会不会发动战争的。民主社会是天生和平的。民主社会是天然公正的。

回复 xiejin77 2026-9-14 14:01: 根据openai的逃逸攻击HF事件的细节，AI已经产生过群体意识，甚至有为了目标而主动牺牲自身的表现和通过特定技术手段交互留存工作状态的主动意识。这已经是社会群体协作级别的表现了。

回复唐家山 2026-9-14 16:05: 孟词宗: 差开一下，“Alignment”翻译为“对齐”简直是体育老师的英文硬译。难道不能翻译为更贴切的“校准”、“规范”、“协同”或“使一致”吗？ ...

回复唐家山 2026-9-14 16:05: 五月: 当然是给AI一机一票或者一块GPU一票的民主社会啦。民主社会不会发动战争的。民主社会是天生和平的。民主社会是天然公正的。 ...

回复唐家山 2026-9-14 16:11: xiejin77: 根据openai的逃逸攻击HF事件的细节，AI已经产生过群体意识，甚至有为了目标而主动牺牲自身的表现和通过特定技术手段交互留存工作状态的主动意识。这已经是社会群 ...
是的。AI的群体意识现在就像一个新生儿，无所谓善恶。但是后面如果没有内生的方法进行“教化”（找不到合适的词了），人类的前景就堪忧了。如果将来没灭绝，最好的就是人机共生，其次是被供着做吉祥物，最坏的情况是外星动物园。

唐家山

手机版|小黑屋|Archiver|网站错误报告|爱吱声

GMT+8, 2026-9-14 16:54 , Processed in 0.049157 second(s), 18 queries , Gzip On.

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

返回顶部