|
|
本帖最后由 晨枫 于 2026-7-25 07:09 编辑
! K6 D) d" x5 ^, Y# J
: \: d! ~2 L; L: }AI正在迅速进入军事领域。AI可以辅助很多参谋业务，可以辅助武器系统和预警，但AI能担任指挥吗？马斯克说5年内AI有望超过人类智能总和，“AI什么都能比人做得更好”，估计那也意味着AI担任战斗指挥官也能干得更好？
: h- a. o, M! I; x
& L8 {9 o* F' s对付愚蠢、只会按部就班的敌人，AI指挥官确实可能战胜，但那也是不需要AI帮助的战斗，训练有素的人类指挥官照样搞定。需要AI帮助的，都是训练有素的人类指挥官也搞不定的狡猾敌人。AI能行吗？不行。: B" h/ x# {4 Z! p3 q
& [2 x* M! i1 h, [
人类智能最大的特点就是适应性，会针对环境的变化，不断推出新的应对。而AI只能从训练数据集里寻找答案，或者在自适应中被动跟随。在已知框架下构建的AI无法真正战胜人类的斗智斗勇。比如说，把所有的恋爱宝典、恋爱实例输入、训练AI，能帮助情窦初开的少男少女搞定心仪的对象吗？不能，就是因为满怀小心思的人们的斗智斗勇简直变幻无穷。% i+ O# D+ o. R: @# X
$ C* E0 e, n1 b( b: B敢于断言AI战胜人类的，还是没有搞清楚人工智能和人类智能的本质差别。
3 o+ W9 M# Z/ ?# P+ e
! D( |- w- s' q8 ?人工智能在本质上是向后看的。用于训练大模型的数据都来自历史到至今的积累，这决定了AI的上限。这个上限很高，但还是低于人们斗智斗勇所达到的极限。
! C( k% G7 g& c4 c/ }' @ s; p- w# E, n4 h8 J+ J
AI在本质上是用调整模型权重的办法，使得模型响应与训练数据达到最大拟合。这里面没有智能，没有创意，没有理解，只是数据拟合而已，复杂度和数据量极大，但依然只是数据拟合。拟合和建模是一体两面，前者强调对历史数据的拟合，后者强调用拟合出来的模型进行预估，或者说，在同样的输入激励下，用模型输出而不是“查表格”来估算应有的结果。* x! }# y& W* z2 t
% p5 u& A& z6 @1 X在此基础上，可以有所外推和内插。前者将模型用于训练数据集之外，后者还是在训练数据集之内。外推有风险，这是数据拟合的常识，不必多说。用参数化和连续化的模型取代离散的数据集，本身就是内插的一种近似，可靠性也由数据集的密集度和均匀度决定，这也是常识。
. i4 F4 V# t8 t6 B" b. o, _, B6 Y) Q. e! `1 S8 R% p
但AI还会在使用中根据用户反馈事实“再训练”和调整权重，新数据最终成为训练数据集的一部分，所以是一种自适应数据建模。但自适应也不是新概念，只是过去的算力没法把概念落地，现在算力问题解决了，自适应也就从概念变现实了。 \/ B9 m; m$ _- K0 F9 W
} z! Q- k: b% \. p% k- q2 c3 \" F# ~但自适应有自适应的问题，一方面与时俱进，另一方面也因为实时数据没法像预选数据那样挑肥拣瘦，只能荤素不忌，所以也容易出现AI在使用中逐渐被“带偏”的问题。另一方面，新息的权重肯定高于训练数据集，否则什么新息都被海量的训练数据淹没而不起作用了。但常年相似的场景作为新息输入，会作为重复数据而扭曲数据集和模型训练与更新，必须采取一点措施来避免“新息沉寂”的问题，这是在自控中的自适应控制里就发现的问题。8 V1 F @; a3 G y4 b$ f+ ^
8 k3 G( d4 }1 {) Q/ r
日前透露的“AI越狱”时间其实不应该意外。AI只是在根据已有数据寻找最优解。人类也是，但人类的最优解是约束最优解，也就是说，在约束条件内寻找最优解，而不越界。AI也可以做到，但在不知道还存在道德、法律这样的“界”的时候，AI并不有意越狱，只是那条路径恰好是无约束最优化找出来的。/ g" L' l$ B$ R1 X# W* H
) @; O" u8 g& j w* d/ c5 _
可以对AI增加道德和法律约束吗？应该是可以的。但道德和法律不是非黑即白的。法律上有无数灰色区域，而且灰度等级不同，否则也没有律师行业了。道德方面更是充满了大量主观判断性的地方，连成文都没有。比如说，近来有人因为对母亲不孝被公司老板开除了，这样的行为在社会上还能争论，但要是AI作出这样的决定，估计就要闹翻天了，“你怎敢！”
0 d/ o, z* a3 q+ @0 w+ F4 l3 @' c, v# i1 I9 S* A7 N
即使在战争里，也依然有道德和法律的约束。比如说，不能滥杀无辜，缴枪不杀，还有很多日内瓦公约规定的战争法，更有纽伦堡审判奠定的反人道罪的约束。0 n; p) o0 \; s9 A
+ L T9 d8 |1 s$ |$ F" N8 }
所以在重大问题上，永远只能由人类把关，而不能听凭AI决策。这本身就包含一个相当于“图灵测试”的悖论。在“图灵测试”里，如果AI与人类对同样的输入提供无法区分的输出的时候，就认为AI具有相当于人类的智慧。但这个“判官”还是人类，暗含人类具有中级只会和判断力的假设。换句话说，AI的极限是人类智慧，而不能超越，否则人类就没有资格判断AI的答案了。! Q& w, j2 q! c" N+ H
$ K$ J7 t3 c6 ]最大的问题还是在于人类思维中，既有“遗传”，又有“突变”，而AI只能“遗传”，没法“突变”。
4 s# z! t6 M8 ], c! e/ e# C0 B
4 ?& T P) q. Y" q2 A人类的思维突变每天都在发生，但人类至今没有弄明白思维突变是怎么回事，依靠人类智慧设计出来的AI无法突破这个极限。不知道是否有一个“AI热力学第二定律”。或许这是值得证明的猜想。! x$ S: Q7 z N6 y6 N
% F$ P- p6 K8 M( ]/ K6 C
然而，AI肯定可以帮助人们避免已知的错误，这就是非常大的帮忙。这也是AI辅助指挥的最大作用。“外行打战术，内行打后勤”，说得就是这回事，大量精细、周密的参谋作业是AI的用武之地，AI甚至可以提供最优化的作战方案选项，但拍板的指挥还是必须有人类作出，既发挥人类的主观能动性，也避免“AI幻觉”。
- R1 }- F* f5 k( ] E9 S& q* C
9 @; i! P- V, V$ q t/ c. F这对人类指挥官的要求比没有AI辅助还要高。人类指挥官不仅要和敌人斗智斗勇，还要和AI斗智斗勇，好比特别挑剔的女主人雇佣来特别能干但信不过的佣人打扫大宅子一样。 |
评分
-
查看全部评分
|
雷达卡
楼主
收藏
分享
淘帖
支持
反对
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
抢沙发
千斤顶
显身卡
发表于 
发表于 
