TA的每日心情 | 开心 2020-4-8 10:45 |
---|
签到天数: 227 天 [LV.7]分神
|
3 V ]1 V# g ~% j; d( `9 i2 B你是否感觉到,人工智能(AI)的发展正在以一种前所未有的速度改变着我们的世界?甚至,那个曾经只存在于科幻小说中的“奇点”——通用人工智能(AGI)——似乎也并非遥不可及。2025年3月4日,一场在《纽约时报》“The Ezra Klein Show”播客上进行的对话,为我们理解这个正在加速到来的未来,提供了一个至关重要的视角。+ H/ O. ]$ f6 Z8 K
( X V7 t! X" P6 K
对话的一方,是知名主持人 Ezra Klein;另一方,则是 Ben Buchanan,一位兼具深厚学术背景和丰富政府经验的 AI 专家。Buchanan 不仅是乔治城大学安全与新兴技术中心(CSET)的研究员,更曾在2023年担任白宫科技与国家安全委员会的人工智能特别顾问,直接参与了拜登政府的 AI 政策制定。更重要的是,他亲眼见证了 AI 技术的飞速进步,尤其是来自中国 AI 力量的崛起。
! r2 d t' G# `$ Q2 P; r6 ^. \
! f& y5 ^+ t" d4 ?, Z$ O在这场长达数小时的深度对话中,Buchanan 抛出了一个又一个重磅观点:AGI 比我们想象的更近;它将对国家安全、网络安全、就业市场等领域产生颠覆性影响;而以 DeepSeek 为代表的中国 AI 公司的崛起,更是为这场全球 AI 竞赛增添了新的变数。
9 b6 \; v k" r! D+ b G6 W( }" B$ r# ?* J' {( x
DeepSeek,这家来自中国的 AI 公司,在访谈中被 Buchanan 多次提及。它不仅仅是一家普通的公司,更是中国 AI 技术实力快速提升的一个缩影。Buchanan 承认 DeepSeek 的工程师“才华横溢”,其算法效率令人瞩目。但与此同时,他也毫不掩饰对中国 AI 发展的担忧,认为美国必须采取措施,包括芯片出口管制,来确保自己在 AGI 领域的领先地位。1 M" Z$ {4 r- y- N$ C* q+ G3 I- k
( U& v( a; G8 Z* f# \/ P) B5 g" S
. _3 u6 Z6 }0 c) S1 J7 E* }这场对话,就像一面镜子,折射出 AGI 时代复杂的图景:技术突破的激动人心、地缘政治的紧张博弈、社会变革的潜在风险……它让我们不得不思考:面对 AGI 这个“潘多拉魔盒”,我们准备好了吗?* K ` ]& l1 ]- }
6 m4 Z" q7 g+ z2 k2 F4 U* W谁是 Ben Buchanan?
. j$ A1 U5 K& \+ R在深入对话内容之前,我们有必要先了解一下这位“主角”。Ben Buchanan 可不是那种只会纸上谈兵的学者,他可是真正在政策一线摸爬滚打过的实干家。他目前在乔治城大学的安全与新兴技术中心(CSET)担任研究员,要知道,CSET 可是美国顶尖的智库之一,专门研究那些可能颠覆国家安全的新兴技术。更重要的是,Buchanan 在 2023 年还担任过白宫科技与国家安全委员会的人工智能特别顾问,直接参与了拜登政府的人工智能政策制定。
1 O) R4 c+ B. P0 r5 W
Q5 M1 q8 T1 _: K除了这些光鲜的头衔,Buchanan 还写过一本名为《人工智能的黑客帝国:权力、偏见与意识形态》的书。这本书深入探讨了网络攻击如何成为地缘政治的新常态,以及人工智能在其中扮演的关键角色。可以说,Buchanan 的研究横跨了网络安全、人工智能政策和国家安全这几个关键领域,这使得他对 AGI 的发展及其影响有着远超常人的深刻见解。. ~/ X1 u! l' ]9 Q# b+ V6 s
% g6 o4 b7 K& P
正是 Buchanan 这种跨越学术与政策的背景,让他成为了讨论 AGI 问题的最佳人选。他的观点既有学者的严谨,又有政策制定者的务实。因此,他对 AGI 的判断和预测,绝不是空穴来风,而是有着深厚的理论和实践基础的。
; U, t1 a$ l! x+ ^" j" C! r" U
8 d8 |% e* _0 M5 K) `8 xAGI:不是“狼来了”,而是真的来了!
; b$ @) \) y. Y访谈一开始,Buchanan 就抛出了一个惊人的观点:AGI 就要来了,而且比大多数人想象的要快得多!他认为,那些“极其强大的 AI 系统”很可能在未来两三年内就会出现,甚至有可能在特朗普总统的第二个任期内(如果他当选的话)就成为现实。虽然 Buchanan 本人并不喜欢“通用人工智能”(AGI)这个有点科幻色彩的术语,但他认为这些系统将具备 AGI 的许多关键特征,也就是说,它们将在各种各样的认知任务上达到甚至超越人类水平。
9 J8 L7 I, B- }( N* k
& |2 T$ l D' T" s" U听到这里,你可能会觉得这又是一次硅谷式的技术炒作。但 Buchanan 的信心可不是凭空而来的,他有自己的“情报来源”:一是来自 AI 实验室和政府内部人士的报告,这些人可是亲眼见证了 AI 技术的飞速进步;二是 AI 产品的快速迭代,像 OpenAI 的 Deep Research 等工具已经展现出了让人瞠目结舌的能力;三是 Buchanan 本人在白宫工作期间观察到的趋势,这些趋势都指向一个明确的方向:AGI 正在加速到来。* @* \( i# f. z3 \; q
9 S3 P) D, r4 D# j! |- x
Buchanan 反复强调,AGI 的到来绝不是“狼来了”的故事,而是真真切切、迫在眉睫的现实。他认为,许多人,尤其是政策制定者,仍然低估了 AGI 的发展速度和潜在影响,这是一种非常危险的认知偏差。他呼吁人们必须认真对待 AGI 的到来,并为此做好充分准备,否则后果不堪设想。2 d$ X/ f( J5 u) K# E. r* Z
0 g4 `. o1 Q8 j
国家安全的“新战场”:AGI 时代的战略博弈
0 Q; M0 K. W0 H4 i F7 ~& r, s在 Buchanan 看来,AGI 不仅仅是一个技术问题,更是一个关乎国家安全的战略问题。他反复强调,美国必须在 AGI 领域保持领先地位,这对于维护美国的国家安全至关重要。他认为,AGI 将对未来的军事、情报、经济等领域产生深远影响,哪个国家掌握了 AGI,就将在这些领域拥有巨大的优势,甚至可能改写全球力量对比。% R) \/ `1 u; X' A; s
9 z5 ]9 c7 H. `
Buchanan 特别提到了中国,认为中国是美国在 AGI 领域的主要竞争对手。他担心,如果中国率先实现 AGI,可能会在网络战、情报分析等关键领域获得不对称优势,从而对美国构成战略威胁。他举例说,AGI 可以极大地提升网络攻击和防御的能力,如果中国在这方面取得领先,美国的关键基础设施和国家安全将面临前所未有的挑战。) i; o' _) N7 o* }$ T5 g
+ h, X5 C1 D9 I% a6 T7 I为了应对这种潜在威胁,Buchanan 支持美国政府采取强硬措施,包括出口管制,以限制中国在 AGI 领域的发展。他承认,这可能会加剧两国之间的紧张关系,但这就像当年美国为了赢得太空竞赛而采取的措施一样,是必要的。他甚至将 AGI 比作太空竞赛时期的太空技术,认为美国必须像当年赢得太空竞赛一样,赢得 AGI 的竞赛。- e, u4 @0 X5 B9 s
+ z, K; I2 X$ A) q4 u8 o
Buchanan 的观点反映了美国政府的一种主流看法,即 AGI 是一种具有战略意义的技术,必须将其置于国家安全的框架内来考虑。这种观点也反映了中美两国在科技领域的竞争日益激烈,而 AGI 已经成为这场竞争的核心战场。这场竞争不仅仅是技术上的较量,更是关乎未来世界秩序的博弈。4 x: ^' ~+ e* Q. g' T- K
) {' W, g2 t2 u9 J
网络安全的“潘多拉魔盒”:AGI 时代的攻防困境* [7 A' D. O0 }' V. s
AGI 的发展将对网络安全产生深远影响,这就像打开了一个“潘多拉魔盒”,既带来了机遇,也带来了前所未有的挑战。Buchanan 指出,AGI 可以用于提升网络攻击和防御的能力,这使得网络安全领域的攻防对抗变得更加复杂和激烈。* K8 T, m+ n# G
' l9 ^8 h9 x" B. q: o, l/ m! H' L一方面,AGI 可以帮助攻击者更快、更有效地发现软件漏洞,并利用这些漏洞发动攻击。想象一下,一个由 AGI 驱动的黑客,可以不知疲倦地扫描全球的网络,寻找任何可能的漏洞,这简直就是网络防御者的噩梦。AGI 还可以用于分析大量数据,从中识别出有价值的情报,从而提升网络间谍活动的能力。Buchanan 担心,在过渡时期,由于许多旧系统缺乏 AI 防御能力,它们将更容易受到网络攻击。
1 f: x, ?9 N# \' t% i9 k! B5 t, s1 R, j, l2 y) ]
另一方面,AGI 也可以用于提升网络防御能力。AGI 可以帮助开发者编写更安全的代码,减少软件漏洞的数量。AGI 还可以用于实时监测网络流量,及时发现并阻止网络攻击。Buchanan 提到,拜登政府曾推动国防高级研究计划局(DARPA)开展“AI 网络挑战赛”,旨在测试 AI 在网络攻防中的能力。5 p( }; P/ g9 f5 W: d9 B! Q
, c# M1 F' [: x; k* ?
然而,Buchanan 也特别提到了 AI 实验室本身的安全漏洞,他认为这些实验室可能成为国家间谍活动的目标。这不难理解,这些实验室掌握着最先进的 AI 模型和技术,其价值不言而喻。他认为,保护 AI 实验室的安全,与保护国家关键基础设施同等重要。" C! ~1 Y# R) R$ F: V6 W9 u
" Z% s2 @7 P" d9 _. _AGI 在网络安全领域的应用,就像一把双刃剑,既可以用于防御,也可以用于攻击。这使得网络安全领域的攻防对抗更加复杂和激烈,也对传统的网络安全观念和防御体系提出了巨大的挑战。未来的网络安全,将不仅仅是人与人之间的对抗,更是 AI 与 AI 之间的较量。+ P+ k7 i5 W2 h, }" ~0 R
1 A j( v5 F6 E B就业市场的“大地震”:AGI 时代的社会冲击0 Y$ u& `4 G0 Y0 h& w
AGI 不仅将对国家安全和网络安全产生深远影响,还将对劳动力市场和社会结构带来巨大的冲击,甚至可能引发一场“大地震”。Buchanan 和 Ezra Klein 都认为,AGI 将对劳动力市场产生重大影响,许多认知工作岗位可能被取代或部分取代。, s7 y+ l( j S
; M8 Y% _* W0 v0 d5 Y P他们特别提到了那些从事重复性、规则性工作的岗位,比如营销、文案、初级编程等。这些工作很容易被 AGI 自动化,从而导致大量失业或就业结构调整。试想一下,一个能够自动生成营销文案、编写代码、甚至进行数据分析的 AI,将会对多少人的饭碗造成威胁?Buchanan 举例说,许多正在大学学习市场营销专业的学生,未来可能会面临严峻的就业形势,因为 AGI 已经可以胜任许多市场营销工作。
. S8 R M$ {8 p, s2 b9 f+ ^& R
0 H ]$ P3 Z, gBuchanan 和 Klein 对如何应对这种潜在的社会和经济冲击表示担忧。他们认为,政府需要为此做好充分准备,但目前缺乏具体的应对措施。他们讨论了一些可能的解决方案,如加强职业培训、提供基本收入保障等,但都承认这些方案存在局限性,难以完全解决 AGI 带来的就业问题。
. f, T' J p& z$ B
3 h% ~' K( u6 u- R2 N4 H3 fAGI 对劳动力市场的影响,不仅仅是一个经济问题,更是一个社会问题。大规模失业可能导致社会不稳定,加剧社会不平等。因此,如何应对 AGI 带来的就业冲击,是政府和社会各界面临的一个重大挑战。这不仅仅是技术问题,更是关乎社会公平正义的重大议题。
/ D( R+ r G2 C4 Z( E: K! p3 }
) W; I2 a) G0 y" o美国政府的“两难境地”:政策的困境与挑战7 v" }' i$ }' n; M- K+ e
面对 AGI 带来的种种挑战,美国政府的应对策略和政策选择至关重要,但又陷入了两难境地。Buchanan 详细介绍了拜登政府在应对 AGI 方面所做的努力,并对特朗普政府的政策方向表达了担忧。
# N; p6 W Y. V3 V6 N" V ~8 E, m
拜登政府曾试图通过一系列行政命令和机构设置来应对 AGI 的挑战。例如,拜登签署了一项关于人工智能基础设施的行政命令,旨在加速能源和数据中心的建设,以满足 AGI 发展的需求。拜登政府还成立了美国人工智能安全研究所,旨在加强政府与 AI 企业之间的合作,共同应对 AGI 的安全风险。此外,拜登政府还采取了出口管制措施,限制向中国出口先进的 AI 芯片,以减缓中国在 AGI 领域的发展速度。
2 E, J2 R' c# P
a' t8 e7 g% v' p然而,Buchanan 也承认,拜登政府的这些措施只是初步的,而且存在局限性。他认为,政府的行动速度往往滞后于技术的发展,而且在制定具体政策方面存在困难。他特别提到了开放权重模型(类似于开源模型)的问题,认为这些模型可能被滥用于恶意目的,但政府尚未找到有效的监管方法。
8 V% ^ G/ S- z+ v0 D
m' K C9 h( K, ~$ j2 jBuchanan 对特朗普政府的政策方向表示担忧。他认为,特朗普政府更倾向于“加速主义”,即强调 AGI 的发展速度和机遇,而忽视其潜在风险。他担心,这种政策取向可能导致美国在 AGI 的安全和监管方面放松警惕,从而带来不可预测的后果。& t* J3 G( W% D Z0 h
" W1 }8 V9 |# o8 {& z: m) D" Z" _8 W% V
Buchanan 强调,政府需要在 AGI 的发展中平衡安全与机遇。他认为,适当的安全措施实际上可以促进技术的应用和发展,就像铁路发展早期的安全标准一样。然而,如何把握监管的尺度,避免过度监管扼杀创新,是一个难题。这就像走钢丝,既要保证安全,又要追求速度,稍有不慎,就可能跌入深渊。. W: e; m7 P, ^. C* ^1 ^/ s3 f& T
, x* W6 K( C+ g# c) Y w
DeepSeek:中国的“挑战者”与美国的“警惕”
8 O$ [, C( d! W. l( ?' C5 \6 E访谈中,Buchanan 多次提到了中国的 AI 公司 DeepSeek,并表达了对中国在 AGI 领域快速发展的担忧。他对 DeepSeek 的看法,体现了美国政府对中国 AI 发展的复杂心态:既承认其技术实力,又试图限制其发展。
; I; x5 N* Q) V
7 S' {4 f$ O5 y d f5 T% l, ZBuchanan 承认 DeepSeek 的工程师非常“有才华”,并且他们的系统在不断进步。他特别提到了 DeepSeek 在算法效率方面取得的进展,认为这表明中国在 AI 技术方面具有很强的竞争力。
7 i5 H7 c3 V) [% O( J4 l/ U$ ]& s8 K
然而,Buchanan 并不认为 DeepSeek 的进展像媒体炒作的那么夸张。他认为,DeepSeek 仍然受到计算能力的限制,其 CEO 曾表示,公司发展的最大障碍是无法获得先进芯片。他认为,DeepSeek 的进展并没有改变美国对 AGI 发展的基本分析,也没有动摇美国在 AGI 领域的领先地位。
7 k( I O) t0 \1 v3 Q+ t1 k
$ T9 A9 M% Y+ R) c4 G* b4 EBuchanan 强调,美国应该继续通过芯片控制来限制中国的发展。他认为,DeepSeek 的出现提醒美国,芯片控制非常重要,中国是 AGI 领域一个值得尊敬的竞争对手,美国不能掉以轻心。
" A( c9 M" ]5 A/ \3 k- O! @7 \& `. u+ q3 F% w
Buchanan 不认同 DeepSeek 证明美国 AGI 发展范式(依赖大量计算资源)错误的观点。他认为,美国需要同时在技术前沿和效率提升两个方面都取得领先。他认为,DeepSeek 的技术进步主要来自算法效率的提升,这与美国公司(如 Google、Anthropic、OpenAI)的做法类似。4 G* j+ f3 w* `( x1 f
( @' x3 l* N. K3 ~( D1 Z9 b7 zBuchanan 对 DeepSeek 的看法,反映了美国政府对中国 AI 发展的复杂心态:既承认其技术实力,又试图通过各种手段来限制其发展。这种心态也反映了中美两国在 AGI 领域的竞争日益激烈,这种竞争将对未来的科技格局和地缘政治产生深远影响。这不仅仅是一场科技竞赛,更是一场战略博弈。+ Y: b8 F W7 ~: A# i2 j* L2 t3 T
0 j8 V! k/ L$ [7 ` K- L. J9 w
“开放”与“封闭”的十字路口:AGI 时代的伦理困境
9 H- G$ f: N2 Z& S2 nAGI 的发展不仅带来了技术和战略上的挑战,还带来了深刻的伦理和社会问题。Buchanan 对开放权重模型(类似于开源模型)的潜在风险表示担忧,这反映了 AGI 时代开放与安全之间的复杂关系。$ F" f7 ~, `, u/ G$ h' a
7 W& q$ N" } i$ \6 M8 f; K开放权重模型是指那些将其模型权重公开的模型,类似于开源软件,但更侧重于模型权重本身。这种开放性可以促进技术的创新和传播,但同时,就像一把双刃剑,也可能被恶意行为者滥用。例如,开放权重模型可能被用于开发生物武器、发动网络攻击或制造虚假信息。* E' h) o8 A( }: {, ?. s6 l( a; S
# I, h, u; }2 _7 ]Buchanan 认为,需要持续监控开放权重模型的发展,并在必要时采取措施来限制其潜在风险。然而,他也承认,如何监管开放权重模型是一个难题,因为这涉及到技术、伦理和法律等多个方面的问题。这就像一个“潘多拉魔盒”,一旦打开,就很难再关上。& |: b: F( S+ q0 Y! z
9 @2 j0 l ~. |+ R
开放权重模型的争议,反映了 AGI 时代的一个核心问题:如何在促进技术创新的同时,确保其安全和负责任地使用?这是一个复杂的权衡,没有简单的答案。我们需要在开放与安全之间找到一个平衡点,但这绝非易事。9 t0 i( j6 i( {+ W, U& i
2 E& M% V' _* u. g能源的“紧箍咒”:AGI 时代的资源挑战1 i5 F' z& J& G) j9 ~
AGI 的发展需要消耗大量的能源,这不仅是一个技术问题,也是一个环境和社会问题。Buchanan 认为,美国应该加速能源基础设施的建设,以满足 AGI 发展的需求,并促进清洁能源的发展。% ^+ V0 h/ M3 j
6 W6 G! G2 l' @% f' Y, V
他指出,AGI 的训练和运行需要大量的计算资源,而这些计算资源需要消耗大量的电力。如果 AGI 的发展依赖于传统的化石能源,将加剧气候变化和环境污染。因此,他认为,美国应该大力发展清洁能源,如太阳能、风能、地热能等,以满足 AGI 发展的需求,并实现可持续发展。$ _) D" g8 r5 I S
. y: n6 c& h+ u0 Q7 Z3 ?Buchanan 的观点表明,AGI 的发展不仅仅是技术问题,还涉及到能源、环境、气候变化等多个方面。这需要政府、企业和社会各界共同努力,制定全面的战略来应对这些挑战。AGI 的发展,不能以牺牲环境为代价。
' I0 h! ^0 }" e$ D0 h/ f' S0 p+ N5 { ?( ]
结语:AGI 时代的机遇与挑战并存* B, i8 r! B. f- b4 A) M. r: c, p
Ben Buchanan 在《纽约时报》的这篇访谈,就像一面镜子,照出了 AGI 时代的机遇与挑战。他的观点既有对 AGI 快速发展的紧迫感,也有对 AGI 带来的挑战的深刻担忧。
$ k* q. E' W: ? q
. k, d) \- ?& E: fBuchanan 强调,AGI 的到来可能比我们想象的更快,其影响也将更加深远。他认为,AGI 将对国家安全、网络安全、劳动力市场、社会结构等多个方面产生重大影响。他呼吁政府、企业、研究机构和社会各界都需要为 AGI 的到来做好充分准备,包括制定合理的政策、加强技术研发、应对潜在的社会和经济冲击等。
' X. p8 D# P X# z2 ]+ S9 {, a3 |* e* |, L
Buchanan 的观点也反映了前白宫顾问视角下AGI 时代的一些核心问题:
2 e. [+ G6 e1 x6 _% J4 c5 ?" x7 z( ~- j0 [0 k% n. Q' m+ ]
国家安全与技术竞争: AGI 将如何重塑地缘政治格局?哪个国家将成为 AGI 时代的领导者?2 \ \8 h2 T' {
网络安全与攻防对抗: AGI 将如何改变网络安全的格局?如何应对 AGI 带来的网络安全挑战?5 x% ~0 z! A3 b! q1 r1 y: f
劳动力市场与社会结构: AGI 将如何影响就业和收入分配?如何应对 AGI 带来的社会冲击?
- U7 d9 e6 D8 M9 p. C开放与封闭的博弈: 如何在促进技术创新的同时,确保其安全和负责任地使用?
) F9 T# ^1 ~/ B能源与环境的挑战: 如何满足 AGI 发展的能源需求,并实现可持续发展?. Q( L& b' `# g* u8 S' N% S
这些问题没有简单的答案,需要全球合作来应对 AGI 带来的挑战。同时,我们也需要对 AGI 的发展保持警惕,避免其被滥用或带来不可预测的风险。AGI 的到来既是机遇也是挑战,我们需要以开放的心态、审慎的态度和负责任的行动,来迎接这个充满不确定性的未来。这不仅仅是一场技术革命,更是一场关乎人类未来的深刻变革。$ e( R: C0 z0 {: H2 C; G
0 x( |- c2 |( @8 F8 y: |( `参考链接: https://www.nytimes.com/2025/03/ ... t-ben-buchanan.html0 c6 w' |2 t% C0 h; f
8 @0 {1 Q( o8 a' ^
纽约时报这个链接可能要付费,需要原文的话可以群里喊我,我扔群里。 |
评分
-
查看全部评分
|