爱吱声

标题: 人工智能来了，自动化是不是该瑟瑟发抖了？ [打印本页]
作者: 晨枫    时间: 2021-4-26 12:05
标题: 人工智能来了，自动化是不是该瑟瑟发抖了？
本帖最后由 晨枫 于 2021-4-28 07:28 编辑 ( [" g5 a) C# B6 i6 k

0 z1 s6 H* z7 \! L! J$ P机械工业出版社要重印《大话自动化》，抓住我写一段。那就写一段吧。
* m1 Y! d" D2 f( P% Y( {7 a+ W, C9 p0 c8 ^9 b+ Q" {  C! _5 T% D7 u" C
======================================
3 w6 j* Y$ U: p3 L9 `0 x9 l- k9 k
8 ?/ Q9 o* c' ^5 s+ S" w7 ~9 w在机器时代，有“机器吃人”的愤怒控诉；在自动化的时代，轮到机械化慨叹过去的好时光了。在人工智能的时代，是不是该轮到自动化瑟瑟发抖了？
/ K' {+ J  F+ ~) C6 A: t
8 T) A& D1 G$ p, E: q" P2 v6 S6 W历史就像一个老顽皮，在人们不经意中，一次又一次开着同样的玩笑。历史但只是开玩笑而已，因为玩笑过后，人们发现，机器不吃人，机械化依然是灿烂的小红花，而自动化也不用瑟瑟发抖。科技的进步只是加长了食物链，原来的顶端不再是顶端了，必须重新找正自己的位置，但自己的位置还是在的，而且绝对重要性不减，甚至可能增加，只是相对重要性降低了。这是馅饼做大的缘故。, T" V2 o* [/ \2 X

% ?9 O2 }5 t! U8 {, _4 V机械化是用机器代替人的体力，但机器的运作还是要靠人的。比如说，用水泵抽水，就不再需要手提肩挑了，但开泵关泵还是要靠人看管，否则水池满了、溢出来了，或者池塘见底了，泵在空抽、造成损坏，就不好了。在自动化时代，水池里加个水位计，池塘里也加一个水位计，水池满了，或者池塘干了，就自动停泵；水池的水位下去了，而且池塘的水位也足够，那就重新开干。6 }/ s3 a! q  a

6 ^5 T7 r! L3 n, ~) I+ B" Y4 X在人工智能的时代，可能有一个高级应用在监管着。水池可能不满，池塘也有足够水位，但现在其实用水的地方并不需要，白白抽那么多水上来，影响节水，增加挥发，也是高峰用电的电价，浪费了，可以等等再决定是不是要抽水。或者说，现在有好多地方都需要用水，需要综合权衡一下，哪里有优先权可以多用水，哪里需要牺牲一下顾全大局，或者在水价低的时候多用，水价高的时候少用。这样在更高层次上规划用水要求，决定自动抽水是不是进入工作状态，还是继续待命，这可以看作最低初级的人工智能。
- x! }8 v' e* X& e6 L1 A7 O& p* m4 N0 z9 I* _3 z4 U
也就是说，人工智能可以看作更高层次的自动化。如果说自动化可以比作查表办事，表上说看到“1”就做“A”，看到“2”就做“B”，看到的在“1”和“2”之间，那要做的也在“A”和“B”之间；那人工智能就像炒股，需要对比好多曲线，查对好多条件，说不定还要根据自家秘制的公式计算一下成本、收益和风险，才能决定到底怎么办了。说到底，还是有一定之规的，只是这“规”要复杂得多。
) f! T% L( I5 |: \. B
( u8 {+ @! B! D人工智能有很多分支，当前主流基本上围绕着神经元网络。
5 `0 O: S' U9 F$ u( `
* @4 X- h( F9 ]神经元网络模仿人类大脑的思维，其基本单元是神经元。神经元的数学表述不复杂，就是一条S形曲线。也就是说，在输入值从小变到大的时候，输出值从也从小变到大，但不是均匀地变，而是先慢、后快、再慢地变。
' o# {+ @' a- g; }+ H) c1 p) m' l6 Z4 K! S. L
神经元这条S曲线有几个参数可调，一是可调“小”到底多小，“大”到底多大，二是可调S形的弯度，还有参数可以整体升高或者降低基线。“拉直”了，S曲线就和笔直的斜线差不多了，这时神经元的表现和传统的连续变量接近。“拧巴”到极点了，S曲线就和开关曲线差不多了，也就是说，输入值从小变到中的时候，输出值基本不变，保持在低位；但在中点前后急剧上升，一过中点，输出值就基本保持在高位了。这时，S曲线的表现和传统的断续变量接近。; p4 x' y) u% q: I! e+ j. r
4 k% x- H0 @7 r: \( w. }
S曲线可以在连续变量（像温度、水位）和离散变量（像“好/坏”、“开/关”）之间无缝过渡的特点，使得神经元既可以模拟连续变量，也可以模拟离散事件，这是人工智能更加“聪明”的关键。
2 a/ }$ K# T- o2 n% g- u2 L6 Y4 K9 d3 Q* c8 m# p8 w) S; U* t
单个的神经元还只是好玩的玩具，多个神经元组网起来，就可以模拟高度复杂的现象。一层一层的神经元网络组成高度复杂的网，这就是深度学习了，已经展现出令人类害怕的智能了。
- e& w6 Q* B: Z  \1 r8 ~/ _) n5 ~8 ^% K
什么是智能、人工智能vs人类智能可能会成为永恒的哲学问题，但对眼下来说人工智能已经远远超过简单重复人类智能的地步了。“阿尔法狗”大胜人类顶级围棋手成为里程碑式的转折，“阿尔法狗1.0”还是用人类最优秀的棋局首先训练一遍然后再“自我琢磨”的，“阿尔法狗2.0”就是脱离人类棋局完全用自学习训练出来的。在更加“接地气”的层面上，人脸识别已经做到惊人的准确度和速度。6 D0 O0 e  ?7 p. \

" x# c% Q. h# Z; B但就这些还是抢不了自动化的饭碗的。人脸识别对标的是传感器，自动化的核心还是在于控制器。
! U7 D6 Y; g% r' z* s1 R& v0 g* P. V. V1 N  O- Z' ~& k- O7 ?( ]
自控有两大路：一路是参数化控制（parametric control），另一路是非参数化控制（non-parametric control）。非参数化控制不需要被控过程的数学模型，只要了解大概的定性行为就可以了，比如“加水导致水位升高，撤火导致降温”，这个不能搞反了，剩下的靠一定形式的控制算法和参数整定来最终调试出一个稳定、满意的系统，传统的PID就是这样的。参数化控制则是以数学模型为基础的，数学模型的作用是精确预测被控过程在给定输入时的响应，然后可以根据需要的响应，反推需要给出的控制输入。当然，模型不可能完全精确，剩下的就靠反馈和参数微调来“磨”了。
  d/ j% E* W- x4 Y/ Y0 m1 W6 X$ Z  X$ O+ r
人工智能用于非参数化控制的话，参数整定太恐怖。一个简单的单回路神经元网络控制器可能有一个决策层，不超过10个神经元，加上输入层和输出层，随随便便就有30-50个可调参数，这是不可能像PID那样整定的。PID一共只有3个参数，大部分人都嫌麻烦，不碰微分，只动比例和积分。要动那么多参数，这是不可能的。但把大量参数都锁定，神经元网络的高度可塑性就没有了，也就不需要费那个事了。
: d3 g; @% N( X- {2 `5 k' t% x. ]% C# x# s( U$ q  V. C
像“阿尔法狗1.0”那样，用现有数据训练神经元网络控制器，这在理论上是可能的，问题是实用中不可能有那样海量的输入-输出的静态数据和动态数据。要真有这些数据，非神经元网络的控制器也已经在手了，而且行为可预测，还费那个事干什么？直接观察人类操作的常年数据也不行，那是闭环的，输入-输出的因果关系已经打乱了，直接拿来训练肯定是不行的，这就和闭环辨识一样。
) {+ c- Q# D) d% u" S8 P( [' G! }2 \7 H5 {4 @. a! {) Y" Q
那像“阿尔法狗2.0”那样自学习呢？更不行了。“阿尔法狗2.0”自我训练的前提是有清晰的规则和游戏空间。更重要的是，自学习需要大量的试错。不可能在实际工业过程上这样试错，人家还要不要生产啦？更何况无限制的试错可能造成各种安全问题。用高度精确的仿真系统大量试错倒是不会造成危险或者生产损失，“阿尔法狗2.0”实际上就是这样做的，但围棋和实际工业工程的差别太大了，“阿尔法狗2.0”可以左右手互博，也可以与“阿尔法狗1.0”互博，每一步在棋盘上清清楚楚，结果判定也一目了然，实际工业过程就需要高精度动态仿真系统了，还要考虑各种不定性情况，这样的高精度动态仿真在工业上是特例，可遇而不可求的。事实上，有了高度精确的动态仿真模型，本身就可以成为模型预估控制或者其他现代控制方法的基础，不需要舍近求远搞神经元网络控制器。9 W( Y+ o* d! ?6 ]' z1 m6 a& ?
8 i0 ^' Q9 g5 c  ?# Z
这和人工智能用于医学一样，人工智能辅助诊断喜闻乐见，但自学习人工智能疗法？您先请。
& p/ l2 N# R" i2 i7 j' l; g7 G$ ]/ [
: v, _9 f9 y. w. I& P5 s影响神经元网络用于控制算法大发展的关键可能在于缺乏一个统一、有效的数学分析架构。PID控制的概念很早就有了，但提高到理论高度是在微分方程稳定性理论发展起来之后。微分方程是数学里很重要的一个分支，稳定性又是微分方程里的一个分支。从这里用拉普拉斯变换发展出频域分析，建立了经典控制理论。在60年代，卡尔曼引入线性代数，建立状态空间方法，控制理论进入了单变量和多变量统一架构甚至可以包容非线性系统的现代控制理论阶段。随着计算机的发展，曾经只能纸上谈兵的控制理论可以工程实现了，各种严格、不严格但管用的控制方法（如模型预估控制）如雨后春笋般地涌现，但基本上都是在微分方程的架构下，计算机实现中使用的差分方程也可看作微分方程离散化的结果，很多结论和方法可以通过映射搬过来用。
& _, {& u) R) c4 x. c" d( ]; \( ^2 `
但神经元的S曲线尽管威力无穷，很难用已知的数学方法进行分析和综合。换句话说，即使建立了神经元网络的被控对象和控制器的模型结构，除了用数字仿真一遍一遍试错，没法确保回路性能，连给出有意义的指导性设计原则（如经典控制理论里的“闭环极点必须在左半平面才能保证稳定，离虚轴的距离代表收敛速率，离实轴的距离代表振荡频率“）都做不到。! l+ S$ w" M! I; l( T) F

: ], j: d. E2 t+ O( [5 h0 F: I* F+ U数字仿真能试错的场景永远是有限的，以此为系统稳定性的依据是不够的，因为在已经测试的有限场景之间（内插）或者之外（外推），谁也不知道系统会如何反应，所以仿真几百几千次也不一定能说明问题。这与按照传统控制理论（包括经典和现代）截然不同，那里在完成设计计算后，数字仿真只是验证用的，验算几个点就足够了。" b5 L3 n! v* P# ~$ w
7 l8 w. t: ~% L, f! O, n/ x: f
人工智能在实用中已经出现了这个问题。“阿尔法狗”（不管是1.0还是2.0）都在棋局中走出令人类匪夷所思的步子，事后看来是走对的，但对于如何走出这样的步子依然百思不得其解。这样的人工智能正在成为应用中的最大阻碍：人类不能接受无法理解因而不能信赖的人工智能决策，对于实时性要求很高的控制领域，人类又不可能查验人工智能的每一步决策。在做到对人工智能的行为能严格数学分析和预测之前，这个坎很难迈过去，因次在可预见的将来，人工智能决策的直接应用必定是有限的。
8 x2 o; m' }, w* m. S
7 E# u9 n! Z1 F6 @但人工智能用于自控层之上的“指挥层”则几乎是必然的，就像前面提到的智能用水调度系统指挥自动控制的水泵一样。在这个场景下，自控的要求其实是高了，不是低了。7 }) X- `  ~8 x! G
& c& a6 X( |2 F6 }
在模型预估控制时代，很有一些人为PID的未来担忧，但很快发现，要使得模型预估控制有效工作，PID层需要更加精细地整定到最优状态。这和串级控制是一个道理。主回路好比小领导，副回路好比干活的。要是干活的手脚麻利，办事精准，小领导则有条不紊、指挥若定，那这配合就如鱼得水了，指哪打哪。要是反过来，小领导是个事儿妈，干活的懒懒散散，这就肯定要砸。9 R, S) ~9 [, M9 Z' F4 ?; d& n

4 i3 o; R; v  r( h+ j' d在人工智能时代，这还是一个道理。指挥层的人工智能要从长计议，不能事儿妈；自控层则要更加敏捷、精准。指挥层与自控层最好还要有深度沟通，指挥层不仅发布下一步的指令，还把预期的未来指令一起发下去，自控层好预做安排。6 s0 T# l; W0 x6 Q  a/ M6 |& y
3 _( U) G0 Z. j) t
这就好像开汽车过弯一样。看着车头前3米的地方，一点一点过，是可以安全过弯的，就是慢一点。但要是早早看到前面完整的弯道，可以预先计划好，在入弯的时候晚一点刹车，在中间的时候甩一点尾，然后加速出弯，这就快多了。但这要求预先就看到整个弯道，预作准备。
9 I  c! c) j' `0 [9 F9 }% d* E) u" s% _+ Q$ @' Z) h; U
这样的预估控制是典型PID做不到的，模型预估控制就可以做到，但各种PID依然是模型预估控制的腿脚，不仅不能弱化，还要极大强化。
# Y& f# f9 k9 H2 g- ^8 S
9 m/ v4 i" \6 ~" d8 l  c3 o在人工智能时代，自动化不仅不需要瑟瑟发抖，还要打起精神，锻炼新本事。本来端坐的金字塔尖的位置被人工智能坐掉了，但自动化其实还是坐在原来的位置，只是金字塔长高了。* G. ~2 O5 \( u- i# S" [
作者: jerf71    时间: 2021-4-26 18:44
晨司机。老司机，晨大佬，晨大拿，谢谢分享。
作者: 天山防风林    时间: 2021-4-26 21:32
前一阵子趁着京东到大湖北运费优惠赶紧定了一本晨大的大话自动化，写得非常好。能用那么平白的语言把那么深奥的自控原理讲那么明白，厉害！
作者: 晨枫    时间: 2021-4-26 21:42
天山防风林 发表于 2021-4-26 07:32
, W& i4 V; i/ q  ~2 \# O' Z前一阵子趁着京东到大湖北运费优惠赶紧定了一本晨大的大话自动化，写得非常好。能用那么平白的语言把那么深 ...

+ z  g! Q! C. S$ t0 Q+ B" f谢谢夸奖。今天要加一个鸡腿了。
作者: 机器猫    时间: 2021-4-26 23:41
强烈要求在爱坛签名售书！
作者: 晨枫    时间: 2021-4-27 01:52
机器猫 发表于 2021-4-26 09:41$ `7 E+ K% r3 E! z9 m: T
强烈要求在爱坛签名售书！

" ~& p2 S* _; H1 Z% W这可没法弄啊，我手里也没书。出版社问我要多少，我嫌麻烦，反正我也背不回来，只要了10本，亲戚朋友一分就没了。
作者: 马鹿    时间: 2021-4-27 02:17
我认为人工智能是升级版的自动化
作者: 晨枫    时间: 2021-4-27 02:23
马鹿 发表于 2021-4-26 12:17) q! y! R- m7 s8 J  X7 z$ D
我认为人工智能是升级版的自动化
1 Q/ e! c* c# i
同感。就看人工智能那边的人是否同样这么认为了。
作者: 马鹿    时间: 2021-4-27 02:27
晨枫 发表于 2021-4-26 13:236 k4 x8 X. t' a  B7 o# }
同感。就看人工智能那边的人是否同样这么认为了。

2 w9 }; t" K0 P3 ?我读书时候, 人工智能在自动化专业, 现在貌似也是, 毕竟计算机专业搞不定设备这块.
作者: 晨枫    时间: 2021-4-27 02:38
马鹿 发表于 2021-4-26 12:27
; ~' U' }# G" n- w我读书时候, 人工智能在自动化专业, 现在貌似也是, 毕竟计算机专业搞不定设备这块. ...

" X+ M/ F- r( S1 s- o+ H我不知道你的自动化专业是挂在哪个系的，我看到的自动化都是挂在电工系、化工系、机械系的，人工智能倒通常在CS那边。
作者: moletronic    时间: 2021-4-27 04:23
晨枫 发表于 2021-4-26 10:38& b& C, T; w8 s; U, O/ x
我不知道你的自动化专业是挂在哪个系的，我看到的自动化都是挂在电工系、化工系、机械系的，人工智能倒通 ...

( `7 d/ Z3 g$ R- E4 {清华有专门的自动化系。当年第一次听说神经网络的时候还在所里，同寝室的兄弟跟王守觉搞这个，他就是自动化系的。
作者: 晨枫    时间: 2021-4-27 05:26
moletronic 发表于 2021-4-26 14:23
2 u" b5 b/ Y9 c1 V$ x清华有专门的自动化系。当年第一次听说神经网络的时候还在所里，同寝室的兄弟跟王守觉搞这个，他就是自动 ...

( @) `2 z3 p" e: Z4 U' `嗯，国内大学大多有专门的自动化系，我以为马鹿说的是在美国的。
作者: xiejin77    时间: 2021-4-28 14:02
晨大这书啥时候出电子版，我肯定购买，家里的实体书放不下了，电子书方便。
8 K5 P! \, P& o- m4 a- y0 S, q
% K- @+ ?* B  A& K1 W( p# P6 Q说到专业，二十多年前我大学的时候，电子信息学院，大一大二一起上专业课。大三分成工业自动化和CS两个专业。
% ~) ?4 A- d- u- \1 @2 ~& P9 L" w9 \) D# U
说到AI与自动化，自动化当年和我们最大的差异专业课是控制论。这一点其实也是人工智能目前的领域与自动化最大的差别。目前的AI强调的是模式识别、分析聚类；但是对于控制反馈的连续模型建立还没有看到很好的paper。说得更直接一些，AI目前的形态对于因果的表征识别还没有很好的与数据分析技术结合起来。导致如果试图用现有的AI做自动控制，更接近于依赖既有已经识别模式套路化的人工智障。  I# g1 o3 T  `
# I2 K7 M: d9 o4 b
AI如果做自动控制，得像飞行包线一样做一下全覆盖的表征图涵盖。确保在表征组合的所有点都有对应的优化策略。目前还不具备推理因果产生新的控制策略的能力。可惜的是，俺当年分专业的时候进了CS，所以对于自动化是门外汉，经常被自动化系的同学鄙视为擅长做二分法反馈控制的教条主义典型……1 J7 K: g( d+ b5 Q
作者: 老财迷    时间: 2021-4-28 15:05
下次来北京，一定抓住你聚一下，顺便在书上签个名4 c* b) u( C% s9 H3 q/ T
9 X% ?! Z8 z* N! K2 J
“阿尔法狗1.0”还是还是用人类最优秀的棋局首先训练一遍然后在“自我琢磨”的
: |3 t/ T3 }) r/ I这是要印在纸上的，忍不住挑个小错误
作者: 晨枫    时间: 2021-4-28 21:27
老财迷 发表于 2021-4-28 01:05, w3 R; `* T( w% F1 f2 W
下次来北京，一定抓住你聚一下，顺便在书上签个名8 ^& f4 J) {7 ~9 s

8 L+ ?9 S/ D$ p“阿尔法狗1.0”还是还是用人类最优秀的棋局首先 ...

- r) ~" W  W' P( f1 W' c好嘞，北京蹭饭的地方有着落了。7 l, A  i& T+ i0 n3 F8 F" a
( [3 w7 \+ i0 R( i
这篇是官微网文，错别字……天经地义嘛
作者: 晨枫    时间: 2021-4-28 21:38
xiejin77 发表于 2021-4-28 00:02) D) ^: s2 u) H6 g# I
晨大这书啥时候出电子版，我肯定购买，家里的实体书放不下了，电子书方便。# L) D0 |$ A. t  o& Y" e1 z7 j

# M( R* ^. ?& z0 p说到专业，二十多年前我大学的 ...
) v5 ]: q" G0 Q. ?3 q* B9 T
信息与控制最大的差别就是反馈。没有反馈就没有控制，但反馈也把信息的因果关系打乱了，因中有果，果中有因，所以很多信息方面好用的办法都不能用了。人工智能的好多问题也纠结在这里。
4 ]0 }$ l% W- N4 P3 y" ~& b# ]6 Z5 t. n! Z$ G$ p
还有就是信息量。MPC要做一个模型，工厂可能要做几天开环试验，已经动静大得不得了了。人工智能需要的数据量大好几个数量级，这开环试验是断然不可能了，但如何确保输入与输出的独立性呢？做不到这一点，模型在本质上就是误导的。这是数学不可能性问题，不是算力问题。2 y9 B' f* a7 r1 C' m0 q
) a8 l$ t; M8 n) n# R; d
我这里不敢太啰嗦了，但现代控制理论的祖师爷卡尔曼建立了三件事情：9 l% V& x, d" Y$ ]
1、状态空间! \3 j& O$ `+ u) S2 k$ E
2、卡尔曼滤波器
4 C. U% X$ z0 x1 c0 v3、可控性和可观性* W( o$ n# ]2 G: I8 `
1 j5 b: O2 ?3 ?# g
每一条都可以展开成一大篇，但扯太远了。前两条学控制的人都很重视，但第三条常常忽略了。其实这才是把控制上升到哲学高度的东西，在数学上证明了：在一定条件下，某些系统根本就不可控，或者不可观察。
7 }4 A9 r+ m% N& c' A$ r
" D4 S# O4 d+ z% o; H) n$ e建模中输入-输出数据的独立性也是这样的哲学级条件。
# S1 a) X% n% f' M
6 P+ X1 \" I! P7 n; D3 t+ Y人脸识别没有这个问题，认出谁就是谁，没有反馈。但要是把人工智能用于股票市场，就不行了，问题正在与反馈：炒股的人是根据股市做出反应的，反应反过来影响股市，所以数据里的因果是揉在一起的，这就没法直接拿来建模了。这也是大数据分析的一大陷阱，不是海量数据拿来就能分析得出名堂的。
作者: 旺旺的考拉熊    时间: 2021-4-28 22:01
晨枫 发表于 2021-4-28 21:38( F" z+ g+ d7 |1 Y5 q  I' v
信息与控制最大的差别就是反馈。没有反馈就没有控制，但反馈也把信息的因果关系打乱了，因中有果，果中有 ...
4 w. X% n' Y, F
完全没错，个人股海扑腾了5年得到的结论，就是任何复杂系统，一旦被大规模使用，立刻原来生效的也失效了，反而是一些简单的系统，可能使用的人太多，形成了均衡，尽管正确率没有很高，但是还是一直生效的。做quant的算法，往往也是一时之效，市场发生重大变动，条件产生变化，就失败了。人工智能永远无法替代智能，只能起到辅助作用
作者: testjhy    时间: 2021-4-29 00:07
给司机补充一个素材，人工智能应用：感知--决策--执行--(执行结果改变环境再感知...进入下个循环)。这样自动化和人工智能就完美结合了。
作者: 晨枫    时间: 2021-4-29 01:22
testjhy 发表于 2021-4-28 10:07* w% L' z, P' X, U% E7 i0 ~
给司机补充一个素材，人工智能应用：感知--决策--执行--(执行结果改变环境再感知...进入下个循环)。这样自 ...

- U1 o' Z4 u" ?8 G( T/ q这就是军事上常说的OODA嘛
作者: testjhy    时间: 2021-4-29 21:54
晨枫 发表于 2021-4-29 01:22
8 Y3 k7 P% Y9 T% A这就是军事上常说的OODA嘛
9 i3 C5 q# x' ~7 D( [
OODA是美国空军提出的，是人类对抗的思维逻辑，当然很容易人工智能化，但到人工智能应用端，一是环境比空中对抗更复杂，二是“反馈”概念引入。目前深度学习更多体现在感知层，AlphaGO也好，AlphaZero也好，其它游戏类对抗也行，虽然有决策机制，但因为“环境”太干净，真正到应用端问题还是不小的。
作者: 晨枫    时间: 2021-4-29 22:48
testjhy 发表于 2021-4-29 07:54! r( V4 @7 b8 T) G
OODA是美国空军提出的，是人类对抗的思维逻辑，当然很容易人工智能化，但到人工智能应用端，一是环境比空 ...
. c2 ~7 i! d$ k2 U% x
一点没错。这正是我的意思：反馈和非确定环境对人工智能的挑战还非常大。如果要比照的话，现在好比高斯发明最小二乘法的时候，都觉得只要最小二乘一套，天下问题都解决了。后来才发现，问题还多着呢。



欢迎光临 爱吱声 (http://aswetalk.net/bbs/) Powered by Discuz! X3.2