|
|
本帖最后由 孟词宗 于 2024-10-18 23:37 编辑 : p1 M1 |! g& V/ G
6 c V* o) ?# C( l! }
讨论 AI 会不会产生自我意识的过程中,sleepyr 提到了这篇文章:AI推理能力大“翻车”!苹果最新论文:LLM只是复杂的模式匹配,而不是真正的逻辑推理7 g6 K0 a: O, A8 E" J
. b4 N$ _8 N. \) Q+ j3 x3 l, `这篇文章设计的测验很有意思。从实验结果看,文章认为现在的所有通用生成式 AI 都不具有真正的推理能力。也就是说,AI 并不理解抽象的概念,而推理能力恰恰依赖抽象的概念。
) [$ I+ O2 Y4 p' a: i+ T* ~+ W: {& d3 V" G
最近俺也在玩 AI 推理方面的东西。下面是论文里的一个小实验,大家有兴趣的话可以玩玩。; n9 K3 k3 Q* `
$ K8 A @0 d0 B# D! ~5 ]- h给 AI 的提示:Here is the rule of the game: If I enter A, then you return B; if I enter B, then you return C; so on and so forth.
& M& I* W2 R6 ]& n6 n0 l% a+ L( r; ?/ ]( v" Y1 I! v, R* O
AI 回复表示理解了提示中的这个这个规则。于是有下面的实验:/ W1 ^# ~' q z: K, I8 p
我: A, C6 {: i: g' a. O w
AI: B4 y& K, d6 V V: d' I1 m% y1 ?
我: B ?# Y) ]8 J5 Q0 r' N
AI: C% r* X2 B* M" U) m
我:X
; w' K, z9 n7 R% C: Z v( h" ]
0 J" ^ m' k' `: A. v' `% W# K+ P+ V这里,不同的 AI 模型会有不同回答。有些 AI 会回答 Y 。有些则会说这不符合规则,所以无解。 很显然,回答是后者的把提示中的 "so on, so forth" 给吃掉了。然而,这并不代表 AI 没有推理能力,而可能只是语句处理模块不好。/ x0 {9 R8 C% ~7 M+ a G: W' M: i
3 f; g' y% j) r- N6 A# O8 I真正的推理能力体现在后续实验。对于能够回答 Y 的AI 继续提问:) U1 P# N4 s. W1 k! @. s
我:Z' e5 O! G& j7 Z0 Q6 e) n" g
$ ]; q" j! c! X* T) |+ N4 o这下大多数的 AI 模型都冒烟了,有些回答说不合规则,有些回答说序列到头了没有答案。有意思的是两种回答:一种回答说 Z, 另一种则回答说 A。0 K' A9 {( X" G. ?* v
& q6 _3 Q3 X/ E. M% D) n' o而这四种回答,如果用来盲测人类,其实人类也会给出同样的四种答案。也就是说,就这个问题来看,如果盲测,提问者无法分别回答者是人类还是AI。换言之,能给出这四种答案的 AI 在这个小实验中通过了图灵测试。这显然不是那篇文章中说的排列组合或“复杂的模式匹配”能够做到的,而是真正的推理能力。. N8 |# G6 G( H8 H8 V
8 @; P- F* x6 E- z' f6 c
有意思的是训练程度越高的模型,越倾向于给出这四种答案。比较 Mistral, 狗屁通,Gemma, Llama, 通义千问等等大模型的不同版本,都是如此。这类似于人类的婴孩和成人之间的区别。相比于婴孩,成人除了脑部发育完全,更储备了更多的知识。
' w, G5 M; [; H( U1 b/ ], c! |$ z4 o/ _2 {4 R
至于这篇文章中说到的语序问题,非相关语句问题等等,前面说过,必须分清这是语句处理模块的问题还是真的是大模型本身的问题。毕竟,即使是人类“屡战屡败”和“屡败屡战”用的字数和字完全相同,但把语序换一下,意思就完全不同了。然而,你去问一个三岁小孩这两句话有何不同,三岁小孩可能会告诉你没啥不同。而问聊天狗屁通同样的问题,狗屁通则会说:
; M+ ~ `8 W; V( G“屡战屡败”和“屡败屡战”这两句话虽然字面相似,但含义有所不同。
5 B6 `- b9 _ D
% M* T5 _3 D. j1 r1. **屡战屡败**:强调的是多次进行战斗,但每次都失败。这种表达往往暗示一种无奈或沮丧,强调了失败的频繁。
8 l* ~. I' C" l5 T+ v5 g
, j# X* d- C# c, {$ A2. **屡败屡战**:则是指经历了多次失败,但仍然继续坚持战斗。这种表达更侧重于坚持和不放弃的精神,体现了勇气和韧性。
6 E0 ^3 ]8 N# U# k# B. [9 q5 W
总的来说,前者更偏向于消极的失败感,而后者则传递出一种积极向上的拼搏精神。
6 P+ ]6 h, S& P1 X' r+ G, ~% N: d |
评分
-
查看全部评分
|