TA的每日心情 | 开心 2020-4-8 10:45 |
|---|
签到天数: 227 天 [LV.7]分神
|
玻璃之翼降临——Glasswing计划与Claude的Mythos Preview/ F+ s3 q/ R) R5 b* R1 G9 s
7 n/ Z( O4 ]8 p0 e* z% Q
8 |. u# i- }0 Z i0 Z1 d+ f4 z2 b一个预览版的AI大模型刚刚挖出了一个尘封27年的漏洞,然后11家科技巨头都坐不住了……8 `, f6 ^/ ?6 ^" o) m* ?, G5 ?
- ~7 ?# A# C0 i1 @1 N故事是这样的。
8 L# d' V; s# Q! S$ L/ g3 X
0 M* @8 X. C, S* N我今天看到这个新闻,看完之后愣了好几秒。
- t3 V7 A6 p4 }
; B Z5 s8 b% a一家叫OpenBSD的公司——做操作系统的,算是安全领域的老前辈——他们有一个漏洞,在代码里躺了整整27年。1998年写进去的,没人发现。
: s3 [! F u7 j( J4 }/ W+ Y7 `1 _9 M
结果被一个AI模型给挖出来了。# a. ?- r, s9 N) d5 N
6 i1 ^+ G6 U j/ S1 v# ^5 d这肯定不是那种"我们用AI扫了一下代码库发现了问题"的挖出来。而是那种"这个漏洞藏在最核心的地方,所有传统工具都扫过5百万次,一次都没报过警"的条件下挖出来。# a5 Z/ x2 t- b* ]) r" {* A
3 A# Z1 `/ C4 R M
然后,这个AI模型,顺手还把FFmpeg里一个16年的漏洞也给挖了。* L5 o1 B- A* o# y
; s) s3 Q, k- O2 M. {% v
FFmpeg,音视频处理领域最最最核心的基础设施。全世界的视频播放器、浏览器、直播平台,有几个不是建立在FFmpeg之上的?这个漏洞在里面藏了16年。5百万次自动化测试,没一次报过警。
# Z/ b1 m7 H6 ~ \' b% l
6 N! p$ Z2 B5 E* l/ R! ]' K然后呢?3 ~1 g0 o3 j% ]2 l. t
9 G+ D2 b) R: m8 i- W3 k8 s0 ^
然后,11家全球最大的科技公司——Google、Microsoft、Apple、NVIDIA、CrowdStrike、JPMorganChase、Google等等——坐下来,说了一句话:我们一起出钱,让这个AI模型,能被全世界的安全研究员用上。
9 H& m" Z3 J/ v4 I# ?0 m+ N" Q+ a' m9 `5 h
这个项目,叫Glasswing。7 `7 |. y) a' P$ R; f4 A) n
4 I7 ?' l8 C( ^6 K7 `' t
glasswing) e# _4 f9 G: G# v! C% d) z
! p0 A* N. J# b. M3 }
) w, n" r; Q. B: i" C1 z先说清楚Glasswing是什么。
/ @- U, W. q5 Q( O1 x G. h$ D; D4 U* `0 y. `: }- u
简单说,它是一个AI安全联盟。发起方是Anthropic,加入方是一堆哪怕是不关注技术领域也叫得出名字的科技巨头。它的核心,是一个叫Claude Mythos Preview的模型——注意是Preview(预览版),就是还没正式发布的那个版本——专门训练来挖漏洞的。
* w) m* ]# c/ @7 R# R3 d
" H4 I" J; h) `0 ]7 p有多强呢?0 w1 b$ f+ h8 U; o* Q
8 B6 H4 G4 W/ w1 P6 `( y$ F8 ^4 m% C
CyberGym基准测试,83.1%。作为对比,Claude Opus 4.6,得分是66.6%。不是Claude Opus 4.5,是Claude Opus 4.6,Anthropic目前最强模型。
* r( A. @, u( ?1 Q7 b9 k) I: @, E1 Z$ J
SWE-bench Verified,93.9%。还是SWE-bench Verified,不是那个容易一点的版本。Claude Opus 4.6是80.8%。; S7 j: x5 m6 P
! R l! d8 e$ I% q: q
差了13个百分点。
( T P5 @9 m/ u
" j! W/ Q: c5 w; t你说这13个百分点意味着什么?! {2 U% D7 c2 V' N& R# ]
. Y% x1 ]( ~. R! {4 L( Z( I' D意味着,传统扫描工具漏掉的那些最刁钻的漏洞——那些藏在层层调用关系里、藏在异常分支里、藏在并发边界条件里的漏洞——Mythos Preview能找到。8 k) H# [" P( x5 i6 Y" l
" N* [/ Y7 S* \% o1 M
意味着,27年的OpenBSD,16年的FFmpeg,以后可能不会再有了。: s4 Y1 E& K4 m( q/ m$ r4 R% s4 B3 [
. \9 X3 E4 p$ m$ n" _或者说,这种级别的漏洞发现速度,会比以前快几个数量级。6 s2 {& |+ C. l+ b
! h3 G9 m/ R E+ l, s4 C0 _) ~
说到这个OpenBSD的漏洞,我必须展开讲一下,因为这个例子太有意思了。
( {- L/ Z. z6 Y: }' Y7 K* f
1 Y7 ]4 _! w8 L7 `' TOpenBSD是个什么存在?
# ?1 |! [# ?7 ~5 P8 P$ Q( Q" W% @- I5 x9 h3 v) z7 ~& Q
它是BSD操作系统的一个分支,最核心的设计哲学就是安全。代码审计之严格,在整个开源社区都是有名的。很多安全研究员的信仰级操作系统。
* h/ i. c) }) t$ x" Z
0 U5 H1 s7 l& T5 H" I这样的项目,代码审计了多少年了?二十多年。
6 E) O8 O5 v+ p% v& c5 e1 }: g/ M" t: w o' }" b0 | i, r
然后,一个漏洞,在里面躺了27年。
4 o3 G) ~2 g1 W$ k6 I
% y$ e, j$ x. n3 Z这说明什么?
; ]$ [* C! z! j4 r" ?% [- |7 T+ q9 c7 |# ~
不是OpenBSD的人不行,是传统的审计方式有盲区。任何人工审计,只要时间足够长、人足够累、代码足够复杂,就一定会有漏洞漏过去。这是人性的边界,不是能力的边界。( H. r" W% P7 r, ]
( k3 b! n0 A0 }0 ]' F# }但AI不一样。AI不会累。AI不会因为审了三个月之后注意力下降。AI可以在几个小时之内,把整个代码库的所有调用路径、所有边界条件全部穷举一遍。
: v' G; n/ _* L5 ]# H1 r
5 l( W6 t4 f2 @0 rMythos Preview发现的那个OpenBSD漏洞,是一个本地权限提升漏洞。攻击者如果已经拿到了一点点访问权限,可以利用这个漏洞进一步提升到root权限。& J1 ]% Q( B8 @! u; ~
/ s( B. o5 q2 G" {+ w这种漏洞可怕在哪?" O8 H' D% G) r) C9 V$ q! s
9 V: w% w9 T6 ?2 D1 L8 U它不显眼。它不是那种"输入框里填个单引号就弹shell"的漏洞。它需要你对系统有相当深的理解,才能构造出触发条件。% X" S6 C8 m* T
7 K! k4 q' l4 B$ Y) I
传统扫描工具扫不出来,是因为它的payload模式不在规则库里。AI不一样,AI学的是语义理解,它不是匹配特征,它是理解代码在"想什么"。* P8 N( K$ L) o6 d0 M8 h' G. ?
4 d) V8 g% z( ^FFmpeg那个例子更让我震撼。
& u3 T* [0 B: s7 R2 [ s( c) `' { c* F
16年。
: [- H( I1 G! K0 b5 u2 g
9 Q8 y+ W2 N) e% r* z# n/ m" oFFmpeg上一次发现这种级别的漏洞是什么时候?2009年。
+ r) _! h1 ]% I$ w* d7 C, M5 }! q/ n1 m$ K5 N$ [+ i1 A! j+ p
16年都没有人发现。然后Mythos Preview扫了一下,找到了。
. ?" G& H1 q# D. R' |
& C) c# y% f- o6 r3 O, W6 `注意这个"扫了一下"的背景。SWE-bench测试集里,有大量是真实世界里的bug修复历史。FFmpeg这个bug在历史上真实存在过,是某次修复的时候被记录下来的。这意味着,Mythos Preview不仅能做代码审计,它能做的是:从海量代码里,识别出"这个写法有问题,即使目前还没有人报告过"。
4 M( i* }! y7 G* [( W& L; g# |, I9 S& @) d+ ~; X# O4 m$ c
这是主动防御,不是被动响应。
( K a! i' b( G7 n1 i! k
4 H0 J; F% ~" L/ q0 q$ v传统安全的方式是:出了事 → 分析样本 → 提取特征 → 更新规则库 → 下次能识别。/ }# P( t. J8 ^% D P
$ ]/ n- ^! X' M7 _; }/ YAI安全的方式是:不需要样本。直接读代码,告诉你这里有个洞。 L4 L" x; Y% }( F& m1 J- l
0 j$ u# q2 u$ H5 X+ Q
这两者之间的差距,大概就是"等贼来了再装防盗门"和"在盖楼的时候看着图纸就告诉你这堵墙扛不住地震"的差距。
: ]- j8 @5 K0 \/ J* n, A% W6 S$ z" Y: ~- R
现在说说大家最关心的问题:谁能用到,怎么用,花多少钱。# o% R% W$ j9 I+ M
- Y% |* H3 A6 r7 d, w$ F% yGlasswing的AI能力,现在跑在三个平台上:Amazon Bedrock、Google Vertex AI、Microsoft Foundry。
4 d3 a+ O& z( L4 O
% d5 h# r) E. Y7 y) Q: ^这三个平台,恰好是AWS、Google Cloud、Azure。全球三大云服务商。
8 n. R, B7 v9 D, F# y2 G. R& k& W$ H- s# @& o
你在任何一个上面,都能调用Mythos Preview的漏洞检测能力。
4 p' T, p5 P/ t" c z6 V- G
% ]3 n h! @7 }7 ?' J价格呢?过了初始的credits之后,每百万token输入25美元,每百万token输出125美元。
/ y* r3 l" B D) X, |
' G# B3 D6 @6 P' O5 H( i) c这个价格贵不贵?
. a3 p- [: |( B9 H0 [+ k
1 t: I+ C1 G$ T$ \" S对比一下就知道了。现在市面上做代码安全扫描的工具,像Snyk、Veracode这一类,商业扫描工具的报价大概是每个开发者每个月几十到几百美元不等。而且它们扫的是规则匹配,不是语义理解。5 H3 q8 G: j. r) k2 z7 l
. X6 X, C9 O0 C. I9 N0 O1 G
Mythos Preview能发现那些工具发现不了的漏洞。
& l. v+ q: Q7 [* o3 o
# \( g# K! b3 V. @4 W2 _这不是贵不贵的问题了,这是"有没有意识到你以前省的那些钱其实在交更多的学费"的问题。
1 Y- E t0 v( X. R6 \( R! F( T' |
另外,Anthropic自己掏了1个亿美元的使用额度,分给联盟成员和开源社区。还额外捐了400万,250万给Alpha-Omega/OpenSSF,150万给Apache软件基金会。( B- B4 Z: N9 V4 L/ Q9 r
/ V) H u7 w0 @( S/ O# J
这些钱是用来干什么的?让那些没有商业利益驱动的开源项目,也能用上最好的漏洞检测能力。
% Q( a# g, X6 X8 P3 L- ?8 R5 ?% c6 v: a" w
FFmpeg就是开源的。OpenBSD也是开源的。这些项目没人给他们钱做安全审计,但他们的代码,运行在全球几十亿台设备上。 B5 `* b! s7 G5 V" k6 b- k0 t
8 N" {! _( b: W5 [9 r6 g! P
还有一个细节,我觉得特别有意思。- O* ?4 e* |' w9 ]
d. [' V% F/ Y% {8 V% i* e漏洞发现之后,公开披露的时间是90天。
2 W5 K7 Z5 ~7 I
0 D( W7 [3 t8 z. `2 c90天是什么概念?
: V% B7 u# z* f
0 z* y9 x$ q/ Y6 e2 R行业标准的漏洞披露窗口是90天。这个时间足够让厂商评估漏洞、制定修复方案、推送更新,但又不至于让漏洞在黑市上流通太久。
8 c7 ~3 i: p0 t8 {% I( T9 Y j* R, N0 J5 r$ R) n' p; I* w4 [
但这里有一个问题:90天是针对"有人发现了漏洞"这个前提来说的。 l8 _6 C& n# V9 m8 u
( }* E( v" s5 l8 P1 ~1 m( s2 a2 p- ]Mythos Preview现在能以前所未有的速度挖出漏洞。它一天挖出来的漏洞,可能比以前整个安全社区一个月挖的还多。; @# ]) J! h& |( V) D2 d
/ K3 e1 z$ N4 o/ }6 |& h
这意味着,漏洞披露的节奏,整个就变了。
8 r1 P$ \% p; }9 B* P8 |3 F4 r6 {
, X6 `' |% U+ h& `以前是"挖到一个,披露一个"。现在是"AI在持续不断地挖,每90天披露一批"。
$ W% B2 a7 N g! q, k: L
! p1 s* k6 N( D. P7 \1 Y厂商的补丁开发速度,能不能跟上AI的发现速度?; s: V& U# _. s* Q3 d! e( @8 m
: p: K& ]+ B: t这个,我说实话,不知道。但我觉得,这是整个Glasswing项目最值得观察的地方之一。
9 j3 a) Q( J, r0 M) v+ e- j' A8 B+ Y* O9 O }
写到这儿,我突然想到了一个更大的问题。
1 [4 N, `* ~& C" }: F( Y3 u7 f+ c9 m! Q* J- I
Glasswing这个名字,本身就是一只蝴蝶的名字。玻璃翼蝴蝶。它的翅膀是透明的,像玻璃一样。2 [$ R/ }* J( d8 w
) }7 x7 {+ X! l6 b7 Y
透明,意味着隐藏的东西变可见了。/ K$ P! |( K. p- d. I
1 n3 {, g3 S& M一只蝴蝶的翅膀是透明的,它就隐藏不了任何东西了。它在哪里,飞向哪里,所有捕食者都看得清清楚楚。
4 B+ X. ]/ ?& D
# E( p# ` E; ?; [1 {这个意象,放在漏洞挖掘上,太精准了。0 i! m; ^! D( v. W2 h( [& m
8 k! f$ N, ?* l- n; |9 z1 E代码里那些隐藏了几十年都没人发现的漏洞,在AI的"眼睛"之下,突然就透明了。* l: G% W8 m) E: P# y
- e( O, i; t: h4 [2 n
以前我们说"security through obscurity"——通过隐藏来保证安全。你的代码不公开,漏洞藏在暗处,攻击者找不到。
' |/ s# u! D1 }3 K2 }4 ]: t& f, t+ q* |7 Z0 e
但现在,只要代码存在,AI就能读。Mythos Preview不需要你的代码是开源的,它只需要能接触到代码——不管是源码、还是编译后的二进制、还是运行时的行为轨迹。# G, l3 ]/ W& y, z
/ M$ w$ m- Z5 q6 e代码越来越难藏了。或者说,代码里的漏洞越来越难藏了。 S% Z- _# p0 B: R
8 E# |( l, s0 G S: U- c& S+ S
这是一件好事吗?7 r$ Q& Q' L- Y; U: r
+ @9 K9 u! b0 X
我觉得,短期内,这是一件非常非常好的事。
4 B& ]$ z' s3 `" N# M) X
* K) \/ I& P8 o全球互联网基础设施里,有多少代码是10年、20年、30年前写的?没人敢审计、没人敢动、出了问题就打补丁接着跑的,有多少?
7 X7 S; B# b* [8 h6 i x
2 L7 m) J9 |+ P$ W这些代码就像一颗颗定时炸弹,埋在整个数字世界的基础里。- H8 _: m. c! Y$ x. S6 x% x. y
$ M8 s+ L/ h6 M: O; ^( D
AI能做的是,帮我们把这些炸弹找出来,一颗一颗地拆除。
8 w- Q1 ~8 D: D: |; \. r% @- X7 D( g; o& Q
但长期呢?3 N& \9 E! \, E% [0 C
; w3 W2 X3 k7 g7 M( T2 q g
当所有可见的漏洞都被AI清除干净之后,剩下的,是什么样的世界?5 x8 N( b; ]# C5 U. r
+ c. T4 l4 A. |3 O5 @" U1 n是代码质量极高、安全性极强的一个世界?还是所有攻击者也在用同样的AI,攻击的速度和防守的速度同步提升的一个世界?
( g/ S: G {2 n* E: I( ^3 G, a$ ~
7 r. E! a( ? S* g我也不知道。
; I7 y5 R3 O0 s5 i \3 o4 A6 Y ]) x' ]0 O4 F" ]8 z2 d& I
但有一件事我特别想强调。3 M2 M7 J% G. m' R; Y! E
9 r6 s1 j& `% X
这次Glasswing联盟里,有JPMorganChase,有CrowdStrike,有Palo Alto Networks。这些公司,是真正的安全重度用户。& F5 v. Q) \4 i2 E( s' ?' \ l
/ t \7 P& B, g5 O5 _
他们自己有能力挖漏洞吗?当然有。JPMorganChase的安全团队在全球排前列。CrowdStrike就是做安全的。* ~% U6 w( _6 p; `
5 _8 R/ z1 |4 \8 J, N
他们为什么还要加入这个联盟,用别人的AI?
& S0 Y3 D+ v1 N2 r0 _
+ Y k) K9 G: T1 s0 }& t; ~, V; D我大胆猜测一下:因为挖漏洞这件事,规模太大了。) D$ h. ?6 H8 Q9 f! `9 U9 a
( ^+ {' M3 @* k
全球代码量太大了。每一家公司,即使安全团队再强,也只能覆盖自己的代码库。但外面的供应链、开源组件、合作伙伴的代码,你根本管不到。
5 Q/ Q6 R0 f4 W: y( k$ n. x
1 c# m5 a& B, t+ bMythos Preview的价值,不在于它比你的安全团队强。而在于它能同时扫所有地方。
9 x9 P7 @' r# e- U Y6 L6 K5 R5 s5 T- M2 Q$ S; P, F
这是规模效应。
8 _5 |7 @( x: C2 a+ r% e Y; I* I/ z7 F5 L0 E
就像打补丁。手工打补丁,你只能打你知道的那些机器。自动化打补丁,你能打你所有的机器。AI扫漏洞,相当于在每一个代码提交的时候,就自动扫一遍。
# x! E& u& l: S7 g
6 N6 V3 W: s$ ?: u) {+ ?/ T J% T这个规模,是人类团队根本无法覆盖的。7 u# O/ }9 n; }9 Z8 F
- j/ w2 p' I4 j- v8 BGlasswing这个项目,还有可能往一个方向发展——成为一个独立的第三方机构。9 j1 i/ _2 c$ e( Z7 O& [# ~
: B, G) `, N2 `$ S! S: {什么意思?9 E8 _8 z, _, d4 g" R! P `
" o% |, ^+ f# s7 Z9 U- e6 x" V现在它还是Anthropic牵头、11家公司参与的联盟。但未来,它可能变成一个真正独立于任何商业公司的安全机构。它的评估结果,有公信力;它的漏洞报告,有权威性;它给出的安全评级,整个行业认。2 P) {( L% a% Z
& q2 K0 U5 o8 ]- c# Z- j类似现在的ISO认证,但针对的是代码安全。
% ~6 C) z* z( d. a( T7 a3 O6 ^& o) G C& f W8 `
想想这个画面。未来的软件采购,合同里可能不只要写"符合SOC2",还要写"通过Glasswing认证,漏洞数为0"。3 { b# s3 k6 C$ f ?4 O* |
$ x8 I4 u3 ~+ {* r
这不是不可能的。& w9 P3 c t* x6 J' Z9 V5 c
! z! s* h) b/ k4 E当然,路还很长。现在还只是第一步。但方向是对的。5 ^& N+ k# C, G! X, T% J& f
: C/ l3 P4 W& y0 y) q/ C% H
好了,写了这么多,让我最后说几句掏心窝的话。
4 G: l3 g8 `' j; T- Z5 s0 v) P7 l0 `3 w$ p1 H5 w% |% v
我这次看到Glasswing的新闻,第一个反应是兴奋,第二个反应是有点怕。
4 g) n7 c2 s/ K7 \8 n6 h1 _/ U% Y2 t( H9 D ^
兴奋是因为,我真的觉得,这是AI在安全领域做的最有价值的一件事。以前我们聊AI安全,大家想的都是"AI能不能被攻击"——对抗样本、数据投毒、模型劫持。这些很重要,但离普通开发者很远。
2 u3 f4 w) M4 H3 Y4 Z# G& M4 x/ e: X- O& m
这次不一样。这次是AI在帮我们发现自己的脆弱点。
& \7 R3 M2 n1 }$ p, F0 k2 P* ?7 Y" e3 g" Y( g: F- e9 X
这种脆弱点,我们以前不知道,或者知道但没有能力发现。AI把它们挖出来,摆在阳光下,告诉你这里需要修。
, v9 i3 g/ j+ ~
7 u! m/ h1 N9 J! p( `这是AI在补人类的短板。不是在超越人类,是在帮助人类补上人类自己够不到的地方。5 A. t' E% Z+ [/ g& T. Z
, Z( r. K3 s: ]& z j3 ^5 e我怕的是什么呢?* h m& r5 X/ w# O0 W2 Z* M, ~% b
- F5 n/ F3 ?' C7 V
我怕的是,这个工具,只有大公司用得起。
3 \8 ]9 I4 M, {5 x N8 i
8 M' L t* W4 I$ v1 xAWS、Google、Microsoft,Bedrock、Vertex AI、Foundry。这些平台,都是商业平台。Cloudflare这种中型公司,可能用起来没问题。但那些真正需要安全检测的——初创公司、开源项目、十几人的小团队——他们能用到吗?
5 W; u9 R7 h; w" D- J6 c F f& V# {9 j! _+ Z* q1 _0 p
Anthropic捐的那1亿美元额度够用多久?分到全世界的开源项目上,每个项目能分到多少?% \ ^& w/ q& H% A3 H0 J8 y3 e
0 K3 i' z" q7 V0 A/ g+ H
这些问题,现在还没有答案。9 T& {9 j' T8 ^; P1 p
$ L; g0 ?8 L, Z但有一点我特别想强调。, f1 v0 E- h, d# ^! N0 n( P
% M. s ]; b1 L1 U1 N) C- x2 t9 |Glasswing这个项目,让安全这件事,第一次真正有了一种"基础设施"的可能性。, a6 N! \/ ?5 D6 r. d: k
2 ^3 ?3 L; W; }以前的安全,是奢侈品。你要么雇得起安全团队,要么买得起企业级扫描工具,要么你就裸奔。
+ F( v' F k( I
2 L0 W9 x* ^6 E4 z7 Q" d/ H ~ k3 KAI改变了这个等式。Mythos Preview能发现那些企业级工具发现不了的漏洞,但它的调用成本,并没有比那些工具贵多少。
/ M5 v; E# ~0 {: Z3 @1 L& R+ a, ^3 y4 J H. b, W
当漏洞挖掘的成本持续下降,当AI扫描变成每一个代码仓库的标配,我们或许真的会迎来一个更安全的互联网。6 w! f) v* J( v ~; f- O1 t" M
3 g. R: \2 Z. p) k这一天什么时候来?我不知道。可能5年,可能10年。
8 C u; B& u+ S& V9 r8 H! k
% K) z) [+ o7 j但Glasswing,让我第一次觉得,这件事不是痴人说梦了。
8 W* n1 e6 P. Z" Y& H7 x* T0 J% Q+ @ |
评分
-
查看全部评分
|