波音的教训

老兵帅客

波音事件对我来说就是一条，机器、包括软件在内，在任何时候都只能是人类的助手而非替代者。因此这个MCAS的设计定位就是错误的，它应该做的是发出警告，而非接管。任何接管应该是在人类授权前提下的行为，而且是随时可以被人类所取消才行，而不能是机器自己决定。
& R" S0 N, G8 z" z0 G4 v


, h( r6 U. N" n

老兵帅客

晨枫 发表于 2019-3-16 15:35
; M$ \  R3 v) W1 Z" l- }0 G: w但这个“人类助手”是什么呢？比如说，汽车防滑控制在路面打滑的时候自动切入，实际上接管了驾车人的控制 ...

- A7 z. S- i' V5 X/ {* t 你说的有道理，问题是自动接管的边界没法控制。也许这个MCAS应该存在，只是自身存在不足，而且波音公司对飞行员的相关信息传送不足导致了灾难。