TA的每日心情 | 开心 2020-4-8 10:45 |
|---|
签到天数: 227 天 [LV.7]分神
|
玻璃之翼降临——Glasswing计划与Claude的Mythos Preview2 D- P6 E( e. x) o. z, Y
, v% D/ V& P6 t$ c5 B
* r3 Q/ v5 f& O% X) v9 E
一个预览版的AI大模型刚刚挖出了一个尘封27年的漏洞,然后11家科技巨头都坐不住了……
2 T& f$ H- B! e1 ^: @& V* N/ ?1 X# G# l' Y& N2 K
故事是这样的。1 t" ~1 |0 q# J+ U3 D6 g1 R
$ V8 u, P9 [8 P- b' ?我今天看到这个新闻,看完之后愣了好几秒。4 ^4 d3 v! P8 u5 x' u
9 ^6 g, c4 i4 f) x6 Y
一家叫OpenBSD的公司——做操作系统的,算是安全领域的老前辈——他们有一个漏洞,在代码里躺了整整27年。1998年写进去的,没人发现。
+ W- V9 `/ M; Q4 W0 }4 R* m/ s/ P9 `1 ^% x- T {) c9 T) y
结果被一个AI模型给挖出来了。
% n: v, w" ?- c3 c8 n Q
$ m& g- b5 I0 `5 R这肯定不是那种"我们用AI扫了一下代码库发现了问题"的挖出来。而是那种"这个漏洞藏在最核心的地方,所有传统工具都扫过5百万次,一次都没报过警"的条件下挖出来。 ?+ F. \) v4 w& h( ?
! w/ n$ J9 U) ?
然后,这个AI模型,顺手还把FFmpeg里一个16年的漏洞也给挖了。
' V* ]) @4 w. M+ p
: d$ Y( Y/ g& C. ~& f& {4 IFFmpeg,音视频处理领域最最最核心的基础设施。全世界的视频播放器、浏览器、直播平台,有几个不是建立在FFmpeg之上的?这个漏洞在里面藏了16年。5百万次自动化测试,没一次报过警。0 t d, Q3 g! G; `
% d+ s6 p: f* j# f1 b& Z
然后呢?: y$ K: D# s2 r
% h0 Z& U/ n# d1 n
然后,11家全球最大的科技公司——Google、Microsoft、Apple、NVIDIA、CrowdStrike、JPMorganChase、Google等等——坐下来,说了一句话:我们一起出钱,让这个AI模型,能被全世界的安全研究员用上。6 G6 \ N7 i# K1 p
n$ F, C* X' z* m4 ]# v
这个项目,叫Glasswing。. d# c9 l2 V% |, u% a% m
3 s# Z4 @) L' u4 |* N5 E
glasswing
4 j1 {2 m5 _( B3 Q2 j8 j: a
; I: v+ s9 i0 R8 s2 g7 k6 R
9 S7 q( e5 z4 n( D+ t8 n& q5 x3 D5 Z先说清楚Glasswing是什么。
" b: m6 V2 [9 R( v r) Q
, f z, p4 X' v$ `& D0 @简单说,它是一个AI安全联盟。发起方是Anthropic,加入方是一堆哪怕是不关注技术领域也叫得出名字的科技巨头。它的核心,是一个叫Claude Mythos Preview的模型——注意是Preview(预览版),就是还没正式发布的那个版本——专门训练来挖漏洞的。
% ~9 ^3 t! ]9 _( D8 S; o S0 [# n$ M* q
有多强呢?
0 ?2 T! F9 t, G* v- ?5 G4 F! _. N5 A/ n' |. w- Z. b6 \! e6 a
CyberGym基准测试,83.1%。作为对比,Claude Opus 4.6,得分是66.6%。不是Claude Opus 4.5,是Claude Opus 4.6,Anthropic目前最强模型。$ c7 B% ]) @/ z) l4 x' s$ V2 I* X* E
]3 P, o0 Y0 V' d0 y' B" u
SWE-bench Verified,93.9%。还是SWE-bench Verified,不是那个容易一点的版本。Claude Opus 4.6是80.8%。! l J. ]# G) T
) B* _3 L1 M1 E2 A' D- H M
差了13个百分点。
3 o& w) U- c7 t1 a
* r0 D' |& p$ O& C0 c/ |你说这13个百分点意味着什么?3 t: [. }. l' H5 |- h" ]
6 n, H# r4 `4 F" _+ n意味着,传统扫描工具漏掉的那些最刁钻的漏洞——那些藏在层层调用关系里、藏在异常分支里、藏在并发边界条件里的漏洞——Mythos Preview能找到。& Z$ T2 T5 ] V7 e; q
1 A! o) ^' z0 Z6 {& W0 t意味着,27年的OpenBSD,16年的FFmpeg,以后可能不会再有了。
' a9 d2 @' c6 ] f/ k3 }! p+ g( y) G: A
或者说,这种级别的漏洞发现速度,会比以前快几个数量级。3 [! s& W$ L3 [% l2 f/ ^
& h6 L. c2 `* \4 s说到这个OpenBSD的漏洞,我必须展开讲一下,因为这个例子太有意思了。 E& p: ?5 }! G3 `/ j
- }" s) i" p# y$ m/ ]" | b& O+ L3 c
OpenBSD是个什么存在?
; p. A+ M- Y m$ [+ h6 O2 G! v5 B# j3 U* {
它是BSD操作系统的一个分支,最核心的设计哲学就是安全。代码审计之严格,在整个开源社区都是有名的。很多安全研究员的信仰级操作系统。" k, R" T7 Y6 h) h0 p4 N1 i$ r+ c, Q
/ W @, q+ Q& m3 C0 s9 q8 A) U这样的项目,代码审计了多少年了?二十多年。
$ c' m- M: I/ d3 \- u* o1 ?2 ^% K4 j& [# B( c" G: R4 L
然后,一个漏洞,在里面躺了27年。2 M1 b; R5 X- t5 O
( L' ^2 z1 y6 o. \0 l" h) J8 Y
这说明什么?
: h9 Z) ^) n" V. z! ?& `
7 L; c( _# v/ z% k' Y! W, E$ l& j不是OpenBSD的人不行,是传统的审计方式有盲区。任何人工审计,只要时间足够长、人足够累、代码足够复杂,就一定会有漏洞漏过去。这是人性的边界,不是能力的边界。5 \! {- R5 N. n4 p
1 R/ R U$ S+ M! x8 M2 P但AI不一样。AI不会累。AI不会因为审了三个月之后注意力下降。AI可以在几个小时之内,把整个代码库的所有调用路径、所有边界条件全部穷举一遍。
: Q" a( P* [- m# o0 ^, y6 a! S4 G4 q* i0 Q+ `5 K. q* I
Mythos Preview发现的那个OpenBSD漏洞,是一个本地权限提升漏洞。攻击者如果已经拿到了一点点访问权限,可以利用这个漏洞进一步提升到root权限。
% W/ O3 y# O' S9 \+ R
4 z Z+ X/ k8 l这种漏洞可怕在哪?. I, I( ~' n0 j# a9 C' A [
0 d, u- x: V6 k& g# S! H它不显眼。它不是那种"输入框里填个单引号就弹shell"的漏洞。它需要你对系统有相当深的理解,才能构造出触发条件。1 I1 O! s1 X' z- f4 i
m% B7 B/ W+ j7 ~2 @
传统扫描工具扫不出来,是因为它的payload模式不在规则库里。AI不一样,AI学的是语义理解,它不是匹配特征,它是理解代码在"想什么"。. w. m0 p: w/ `, y
n. i% O1 B3 J1 s, r; R/ d
FFmpeg那个例子更让我震撼。
/ O* M7 ~1 k4 E. S, e. l; u9 J3 X" J" U* A2 O" a% }
16年。% Q `: t1 Q6 ?
! R& T1 y) b7 w6 M% C
FFmpeg上一次发现这种级别的漏洞是什么时候?2009年。% J t6 {; t' \( r
" p, ~2 Q: t& V( F: O16年都没有人发现。然后Mythos Preview扫了一下,找到了。
/ o& z2 o' N# v; Z: D1 R4 y
* N+ u5 H! n) T4 _7 Z2 Q注意这个"扫了一下"的背景。SWE-bench测试集里,有大量是真实世界里的bug修复历史。FFmpeg这个bug在历史上真实存在过,是某次修复的时候被记录下来的。这意味着,Mythos Preview不仅能做代码审计,它能做的是:从海量代码里,识别出"这个写法有问题,即使目前还没有人报告过"。% x& m. [# X; X+ [
& s) n4 i) n' a" o' x2 F
这是主动防御,不是被动响应。 g$ F3 X6 J0 y
. Y3 |: [6 A3 g1 ^: a; ^
传统安全的方式是:出了事 → 分析样本 → 提取特征 → 更新规则库 → 下次能识别。" r, r+ d( w9 O5 P, ]3 {5 g, b" B
1 z; F7 B5 \8 m2 u- ?9 v) A7 r9 D
AI安全的方式是:不需要样本。直接读代码,告诉你这里有个洞。% T& Y+ F- G5 s) B
, i5 g2 `( ~7 X5 G这两者之间的差距,大概就是"等贼来了再装防盗门"和"在盖楼的时候看着图纸就告诉你这堵墙扛不住地震"的差距。3 U; [. i* R0 ~% ?
8 N7 U6 l. R. {, N" I现在说说大家最关心的问题:谁能用到,怎么用,花多少钱。
1 q; l& ?) }9 h( h4 G
6 X& r' s% S# i' ~8 lGlasswing的AI能力,现在跑在三个平台上:Amazon Bedrock、Google Vertex AI、Microsoft Foundry。
$ K/ d/ L: F( C2 V4 a
+ q, x* l9 t7 L3 R这三个平台,恰好是AWS、Google Cloud、Azure。全球三大云服务商。1 o3 B+ ?. z& r1 {2 Z7 P
6 ]% C, h; I' n8 _+ B你在任何一个上面,都能调用Mythos Preview的漏洞检测能力。
* X8 ~" J; o- Y- T3 e1 |$ T: n5 f! D5 \, Y( Y0 W
价格呢?过了初始的credits之后,每百万token输入25美元,每百万token输出125美元。
6 m6 G- }( P6 x0 A6 {. A2 R# A9 i
这个价格贵不贵?
$ P/ S/ \# u, t {9 y) Z( r8 q& C, p E
对比一下就知道了。现在市面上做代码安全扫描的工具,像Snyk、Veracode这一类,商业扫描工具的报价大概是每个开发者每个月几十到几百美元不等。而且它们扫的是规则匹配,不是语义理解。7 G" f U) g+ S7 }, g& _
, g3 g$ P7 D" K9 d! j# ?$ WMythos Preview能发现那些工具发现不了的漏洞。( y7 N! P' [5 A2 ]
! z+ o- b3 K6 v/ u# |- \这不是贵不贵的问题了,这是"有没有意识到你以前省的那些钱其实在交更多的学费"的问题。, S% p$ I9 A& {& O) Q2 [$ L
. r# `) g& w) @1 V- q另外,Anthropic自己掏了1个亿美元的使用额度,分给联盟成员和开源社区。还额外捐了400万,250万给Alpha-Omega/OpenSSF,150万给Apache软件基金会。' u* H7 n$ {3 q5 y$ J( d ]* M
5 [. h- A8 {4 S4 \! u" E! N1 t& |1 I这些钱是用来干什么的?让那些没有商业利益驱动的开源项目,也能用上最好的漏洞检测能力。. J! ]* }$ j! Y5 g4 ^' q8 Q' F C# K
8 Z8 D" g' f. D+ h6 Z
FFmpeg就是开源的。OpenBSD也是开源的。这些项目没人给他们钱做安全审计,但他们的代码,运行在全球几十亿台设备上。% o! N' s% O- V5 U5 Y- B5 l7 M4 _
% |3 l' V: P/ E$ t/ [4 l还有一个细节,我觉得特别有意思。7 J$ T% A9 H( C# u+ T
$ J* D- ^/ _) r漏洞发现之后,公开披露的时间是90天。
/ K ?6 b, E6 z6 g
" ^8 X' {+ U/ o90天是什么概念?
4 Y% E3 T0 q9 q. d
h% T4 A+ v/ K7 q行业标准的漏洞披露窗口是90天。这个时间足够让厂商评估漏洞、制定修复方案、推送更新,但又不至于让漏洞在黑市上流通太久。7 k' S: e+ F1 Q6 G* B( |
1 n9 n' r, k1 ^3 m x
但这里有一个问题:90天是针对"有人发现了漏洞"这个前提来说的。
# G) m! F- V6 A5 S* [( J
9 e& R, b" M/ B3 x. V: Z! QMythos Preview现在能以前所未有的速度挖出漏洞。它一天挖出来的漏洞,可能比以前整个安全社区一个月挖的还多。0 Z% c1 _# _+ _3 ]( A8 C3 o
/ f2 I1 a9 _# o! X这意味着,漏洞披露的节奏,整个就变了。
$ r% ]9 r4 z) m u3 o) Y5 v4 h
4 F5 S+ Q5 O' H! V以前是"挖到一个,披露一个"。现在是"AI在持续不断地挖,每90天披露一批"。
% }0 e$ |" {9 h: p. c' s! `! [, D: t" A o6 N
厂商的补丁开发速度,能不能跟上AI的发现速度?6 O4 q! \* D2 A/ \
/ g1 b/ z( {- o; \* B2 U+ x+ s这个,我说实话,不知道。但我觉得,这是整个Glasswing项目最值得观察的地方之一。: F. I+ @0 R1 V2 B
1 u6 l$ s# u9 Y- v& t) i' t8 W! F
写到这儿,我突然想到了一个更大的问题。
. L7 l6 F% J0 I% h( W, J* `( p( g- T; B
Glasswing这个名字,本身就是一只蝴蝶的名字。玻璃翼蝴蝶。它的翅膀是透明的,像玻璃一样。* L7 H T) ?4 G' x( s y
( Q+ K3 u) C1 P7 N7 _* T; M
透明,意味着隐藏的东西变可见了。* N* ^# I# x, Z
, K! m, D1 d6 {1 K' r( @$ _一只蝴蝶的翅膀是透明的,它就隐藏不了任何东西了。它在哪里,飞向哪里,所有捕食者都看得清清楚楚。; N, v3 d7 V& P! s& a
( C. K, ^& R& g" Q3 x: ]这个意象,放在漏洞挖掘上,太精准了。9 m0 m' ^$ {& ?9 b
- T5 u- h" ~; Q) Q
代码里那些隐藏了几十年都没人发现的漏洞,在AI的"眼睛"之下,突然就透明了。
" J0 Z, t. B4 P3 \/ w0 d; B6 f; D4 |5 l
以前我们说"security through obscurity"——通过隐藏来保证安全。你的代码不公开,漏洞藏在暗处,攻击者找不到。( ~. u5 G# a4 M0 s. g
& q% b/ q0 w$ @0 t& ~4 W但现在,只要代码存在,AI就能读。Mythos Preview不需要你的代码是开源的,它只需要能接触到代码——不管是源码、还是编译后的二进制、还是运行时的行为轨迹。8 s1 I5 n3 I; [* R- D- K
! Y) b" o$ a- h3 w; M+ q6 B
代码越来越难藏了。或者说,代码里的漏洞越来越难藏了。& q! Z% L4 i! K9 D
% k; [. k! m; W# j# h9 l* d4 g" L
这是一件好事吗?; B' z! T' L% @, o! a/ r
) z. q8 `# i# R, L; a
我觉得,短期内,这是一件非常非常好的事。/ `9 G" q! U2 Q3 G- H2 T) _
6 a7 i2 X. _/ v2 i8 X4 j全球互联网基础设施里,有多少代码是10年、20年、30年前写的?没人敢审计、没人敢动、出了问题就打补丁接着跑的,有多少?9 k/ m2 S1 M: G* G
. {/ R) J6 ~8 A, c! o, V这些代码就像一颗颗定时炸弹,埋在整个数字世界的基础里。
' n( U9 Y5 D. S/ y+ P3 p$ D: \7 g. B1 {* D, x
AI能做的是,帮我们把这些炸弹找出来,一颗一颗地拆除。! n2 S+ ~9 W) Y) ?
7 x$ c2 A! z. N, N但长期呢?; O: z7 g+ X/ b6 N+ b
$ k; g/ e; l8 M' [: m6 _
当所有可见的漏洞都被AI清除干净之后,剩下的,是什么样的世界?
* h4 I P5 m( B7 @9 o/ M* D/ G, Y4 x& v+ x6 Z' W
是代码质量极高、安全性极强的一个世界?还是所有攻击者也在用同样的AI,攻击的速度和防守的速度同步提升的一个世界?( r2 s! h% c; w c( ]( R6 a
! L' O: [& d* B8 t: m: K我也不知道。6 q, j2 ^' [( {2 j2 a
! W' M0 l% Y! z但有一件事我特别想强调。
3 _' t3 A, k. ?# G. [6 g i7 n! ]4 U' O8 K( A' _" b# y
这次Glasswing联盟里,有JPMorganChase,有CrowdStrike,有Palo Alto Networks。这些公司,是真正的安全重度用户。! W* _. j8 ]: M$ j. r* v
* Q0 A( J4 l b- d, C! _/ i
他们自己有能力挖漏洞吗?当然有。JPMorganChase的安全团队在全球排前列。CrowdStrike就是做安全的。% |& ?8 r4 G7 O. |3 S! l7 [% r
" |6 p0 u1 X5 ~7 b4 N他们为什么还要加入这个联盟,用别人的AI?
7 q/ i1 L/ s, M3 t
& ]/ W4 C6 |# c8 V1 J我大胆猜测一下:因为挖漏洞这件事,规模太大了。$ d O$ n& }0 U! S% X" o
; {: c$ A: z4 Y; V" @/ a( Y D. S
全球代码量太大了。每一家公司,即使安全团队再强,也只能覆盖自己的代码库。但外面的供应链、开源组件、合作伙伴的代码,你根本管不到。+ E- Y6 W* l( J) |
" Y# M0 ^' J* c
Mythos Preview的价值,不在于它比你的安全团队强。而在于它能同时扫所有地方。
\$ R$ Q8 G4 n/ k* ^! M1 m/ E: n( z2 W( C( p- C o% d) a7 m
这是规模效应。1 \: q6 p* i& k8 b: j l. n$ a, c
/ \) M' v) c7 R; q0 h& @
就像打补丁。手工打补丁,你只能打你知道的那些机器。自动化打补丁,你能打你所有的机器。AI扫漏洞,相当于在每一个代码提交的时候,就自动扫一遍。! X: u; l6 s# h2 v9 R$ F! Q
# o9 X. l G; ~* v7 g- M7 M& G; s0 F
这个规模,是人类团队根本无法覆盖的。
8 _+ S9 x6 J0 f' r u$ k$ H2 J& O. e0 ~+ _, v: I5 [
Glasswing这个项目,还有可能往一个方向发展——成为一个独立的第三方机构。
5 m! P! I6 u8 H4 R9 k4 k! d6 g. x! \" e n
什么意思?# K+ O3 C: v3 D5 U* } E9 q
+ {- k |# ^5 o" Q( @ y! d
现在它还是Anthropic牵头、11家公司参与的联盟。但未来,它可能变成一个真正独立于任何商业公司的安全机构。它的评估结果,有公信力;它的漏洞报告,有权威性;它给出的安全评级,整个行业认。; C& g M, p) j* Z% K1 J" J, V
2 b( u, ]+ ^$ w2 s7 _类似现在的ISO认证,但针对的是代码安全。" s. A" D- v& l. C" V# Q: j: v
, l+ Q# {$ c/ y; J
想想这个画面。未来的软件采购,合同里可能不只要写"符合SOC2",还要写"通过Glasswing认证,漏洞数为0"。, `3 R/ @- h3 L4 `2 c
3 |9 E+ |5 x1 _# d6 I0 o* q这不是不可能的。3 q. e+ E; e) o: J. A2 j
. l/ w5 Z' S4 s/ ?( ?( m当然,路还很长。现在还只是第一步。但方向是对的。! O; f. L* C' V4 |4 B4 e
& s: w. ]' T4 |3 k好了,写了这么多,让我最后说几句掏心窝的话。& I+ @3 R5 q' l9 d0 {
4 h& A$ r6 d* T r" J# l我这次看到Glasswing的新闻,第一个反应是兴奋,第二个反应是有点怕。
1 z3 q1 C9 x; O. y9 A
* w/ p5 ]* K6 y f* N& A兴奋是因为,我真的觉得,这是AI在安全领域做的最有价值的一件事。以前我们聊AI安全,大家想的都是"AI能不能被攻击"——对抗样本、数据投毒、模型劫持。这些很重要,但离普通开发者很远。
3 o2 l. z! Y. q4 f I4 X8 d! c& R+ D' A# i! @
这次不一样。这次是AI在帮我们发现自己的脆弱点。2 r, [- B; Z/ S( {9 r
* S+ t W) h' O+ g" q
这种脆弱点,我们以前不知道,或者知道但没有能力发现。AI把它们挖出来,摆在阳光下,告诉你这里需要修。/ V7 h& ^8 J) ^1 `; p! m# H
$ y! Z# P& T- W" K: ?! C3 C
这是AI在补人类的短板。不是在超越人类,是在帮助人类补上人类自己够不到的地方。- K$ Q4 c) i; l5 x
: y4 _0 J/ L: V( |我怕的是什么呢?
; |% r3 z3 M |" E3 H/ Y5 }9 B( y) L- I! O3 D
我怕的是,这个工具,只有大公司用得起。5 k' n; ~# m9 j: P* i' Y( I6 @! }
, l- m" t E1 N6 K2 m3 xAWS、Google、Microsoft,Bedrock、Vertex AI、Foundry。这些平台,都是商业平台。Cloudflare这种中型公司,可能用起来没问题。但那些真正需要安全检测的——初创公司、开源项目、十几人的小团队——他们能用到吗?8 S4 V1 l8 v) k. a
& G$ v6 A4 Q1 h& k% y- T( w
Anthropic捐的那1亿美元额度够用多久?分到全世界的开源项目上,每个项目能分到多少?! @4 }! i* i& e8 |! n# N9 N7 Q
$ `2 b, r" z' s; T S9 u3 u( k这些问题,现在还没有答案。
( @! w+ J' q, W2 G! Q' G7 D0 J; }" S& O3 E* J* D
但有一点我特别想强调。
6 x- c; B5 a( h7 f& ]* J% I
/ k9 u6 x, Q: B" |Glasswing这个项目,让安全这件事,第一次真正有了一种"基础设施"的可能性。, _' x$ F' X& k
4 e4 \( F* @1 E4 d$ a/ N8 c
以前的安全,是奢侈品。你要么雇得起安全团队,要么买得起企业级扫描工具,要么你就裸奔。
3 I3 m p. B6 }4 Q3 q: Q
& l. w* g) _: f8 V8 ?" g% dAI改变了这个等式。Mythos Preview能发现那些企业级工具发现不了的漏洞,但它的调用成本,并没有比那些工具贵多少。+ W5 @( m \# o' j2 y
! F3 p8 u6 I& e" O$ l当漏洞挖掘的成本持续下降,当AI扫描变成每一个代码仓库的标配,我们或许真的会迎来一个更安全的互联网。
2 G2 G: r+ v* m
. k5 {2 \+ f/ X& l4 E* M这一天什么时候来?我不知道。可能5年,可能10年。5 w1 I( F0 j$ M9 Q, y& e4 r! B+ ~
& F; O' L7 Z$ l+ ~% j2 W, C: @
但Glasswing,让我第一次觉得,这件事不是痴人说梦了。
v3 B3 X. U v4 E. U |
评分
-
查看全部评分
|