|
|
本帖最后由 孟词宗 于 2024-10-18 23:37 编辑
+ Z" N! f& P" ^( m3 J: h2 z7 U, R5 n$ G7 a" Q# p% I7 b
讨论 AI 会不会产生自我意识的过程中,sleepyr 提到了这篇文章:AI推理能力大“翻车”!苹果最新论文:LLM只是复杂的模式匹配,而不是真正的逻辑推理9 `5 f K7 M' j3 Z. r
* H9 {( x$ r6 P# `, Y) t这篇文章设计的测验很有意思。从实验结果看,文章认为现在的所有通用生成式 AI 都不具有真正的推理能力。也就是说,AI 并不理解抽象的概念,而推理能力恰恰依赖抽象的概念。
' w* g$ e, X8 A; A! }& Q
. i+ s: ^. \. i1 r最近俺也在玩 AI 推理方面的东西。下面是论文里的一个小实验,大家有兴趣的话可以玩玩。
, \1 ?# {) p' B$ l' @3 s; H( R# t4 ^& ^- A/ Y6 Y
给 AI 的提示:Here is the rule of the game: If I enter A, then you return B; if I enter B, then you return C; so on and so forth.
~* x/ k2 ]2 O7 x1 i$ x' Y
: G8 F0 M ^. Q7 w; f" ~AI 回复表示理解了提示中的这个这个规则。于是有下面的实验:8 t. v" [: S" y0 d: V
我: A
& t7 z; h* i/ Q$ y; `& Q$ `0 c, y5 dAI: B
: b: c8 T! k8 R) K我: B
- Y+ Q! r3 ~& Y& k! O+ tAI: C
% a+ ?* ^- Q1 e' E5 N+ h% N我:X
4 G" b/ p" W1 I! h) G+ x
" ]2 X h; M$ P# i% I# I. ?' r这里,不同的 AI 模型会有不同回答。有些 AI 会回答 Y 。有些则会说这不符合规则,所以无解。 很显然,回答是后者的把提示中的 "so on, so forth" 给吃掉了。然而,这并不代表 AI 没有推理能力,而可能只是语句处理模块不好。% Q4 P9 e1 Y% I* C/ {0 l
" y( j4 P8 r% ~& J7 k% q% | V& s真正的推理能力体现在后续实验。对于能够回答 Y 的AI 继续提问:9 Q! f7 e$ I) I% |
我:Z% p1 w2 f' p! w N8 _8 ^% m( V
- z+ S; S. K8 |& u2 V$ d
这下大多数的 AI 模型都冒烟了,有些回答说不合规则,有些回答说序列到头了没有答案。有意思的是两种回答:一种回答说 Z, 另一种则回答说 A。
4 }1 W" m: |1 J ~5 ~5 j+ S9 b) x/ t* `) M: |. l. l) v6 A
而这四种回答,如果用来盲测人类,其实人类也会给出同样的四种答案。也就是说,就这个问题来看,如果盲测,提问者无法分别回答者是人类还是AI。换言之,能给出这四种答案的 AI 在这个小实验中通过了图灵测试。这显然不是那篇文章中说的排列组合或“复杂的模式匹配”能够做到的,而是真正的推理能力。
' e, M. V% R" ]. ^4 l, M5 |! ?6 B- D0 ~
有意思的是训练程度越高的模型,越倾向于给出这四种答案。比较 Mistral, 狗屁通,Gemma, Llama, 通义千问等等大模型的不同版本,都是如此。这类似于人类的婴孩和成人之间的区别。相比于婴孩,成人除了脑部发育完全,更储备了更多的知识。5 d$ b1 W" [6 ^( i9 ~
, u& P) ?6 V! E" r& F: N. Y/ [至于这篇文章中说到的语序问题,非相关语句问题等等,前面说过,必须分清这是语句处理模块的问题还是真的是大模型本身的问题。毕竟,即使是人类“屡战屡败”和“屡败屡战”用的字数和字完全相同,但把语序换一下,意思就完全不同了。然而,你去问一个三岁小孩这两句话有何不同,三岁小孩可能会告诉你没啥不同。而问聊天狗屁通同样的问题,狗屁通则会说:
" K& _* p5 e. }& g$ f2 G- t5 R2 V" `“屡战屡败”和“屡败屡战”这两句话虽然字面相似,但含义有所不同。' i3 @# w' F" T O' E
1 U. ]8 X$ ^; X m
1. **屡战屡败**:强调的是多次进行战斗,但每次都失败。这种表达往往暗示一种无奈或沮丧,强调了失败的频繁。( K- o* ^/ ?9 g [6 d
& B- F" @4 v0 |# o! E2. **屡败屡战**:则是指经历了多次失败,但仍然继续坚持战斗。这种表达更侧重于坚持和不放弃的精神,体现了勇气和韧性。
# H; I5 w5 g9 u% t2 \. z6 F; Q$ F( A7 ?
总的来说,前者更偏向于消极的失败感,而后者则传递出一种积极向上的拼搏精神。
- c; c$ E$ A# N, T* R9 l+ u |
评分
-
查看全部评分
|