TA的每日心情 | 开心 2020-4-8 10:45 |
---|
签到天数: 227 天 [LV.7]分神
|
1 p; O) m+ |' A+ T, r. H2 M; ]7 r
你是否感觉到,人工智能(AI)的发展正在以一种前所未有的速度改变着我们的世界?甚至,那个曾经只存在于科幻小说中的“奇点”——通用人工智能(AGI)——似乎也并非遥不可及。2025年3月4日,一场在《纽约时报》“The Ezra Klein Show”播客上进行的对话,为我们理解这个正在加速到来的未来,提供了一个至关重要的视角。
0 w6 W0 e7 W+ N+ ^
8 f1 a% f% j4 j1 c2 {* B, m( v$ I对话的一方,是知名主持人 Ezra Klein;另一方,则是 Ben Buchanan,一位兼具深厚学术背景和丰富政府经验的 AI 专家。Buchanan 不仅是乔治城大学安全与新兴技术中心(CSET)的研究员,更曾在2023年担任白宫科技与国家安全委员会的人工智能特别顾问,直接参与了拜登政府的 AI 政策制定。更重要的是,他亲眼见证了 AI 技术的飞速进步,尤其是来自中国 AI 力量的崛起。
9 ^6 {' |7 R4 ^5 N. s, Z' n: D; F/ X0 A2 H- f9 |& G# j
在这场长达数小时的深度对话中,Buchanan 抛出了一个又一个重磅观点:AGI 比我们想象的更近;它将对国家安全、网络安全、就业市场等领域产生颠覆性影响;而以 DeepSeek 为代表的中国 AI 公司的崛起,更是为这场全球 AI 竞赛增添了新的变数。
8 D; V8 s$ C2 D2 D. m3 f( T5 H& {
0 r' w* R/ T% V5 c' R/ V7 zDeepSeek,这家来自中国的 AI 公司,在访谈中被 Buchanan 多次提及。它不仅仅是一家普通的公司,更是中国 AI 技术实力快速提升的一个缩影。Buchanan 承认 DeepSeek 的工程师“才华横溢”,其算法效率令人瞩目。但与此同时,他也毫不掩饰对中国 AI 发展的担忧,认为美国必须采取措施,包括芯片出口管制,来确保自己在 AGI 领域的领先地位。
: r2 X1 `4 T% `( g1 M
1 `# ^2 C0 P$ Q H2 _$ Z
5 R# Y: i, ]. f3 H9 r0 H这场对话,就像一面镜子,折射出 AGI 时代复杂的图景:技术突破的激动人心、地缘政治的紧张博弈、社会变革的潜在风险……它让我们不得不思考:面对 AGI 这个“潘多拉魔盒”,我们准备好了吗?
& N7 G I& ^" M1 u
; U! I# W+ V% E1 @) X谁是 Ben Buchanan?
6 m3 h1 k8 S8 j0 _3 L9 v. E在深入对话内容之前,我们有必要先了解一下这位“主角”。Ben Buchanan 可不是那种只会纸上谈兵的学者,他可是真正在政策一线摸爬滚打过的实干家。他目前在乔治城大学的安全与新兴技术中心(CSET)担任研究员,要知道,CSET 可是美国顶尖的智库之一,专门研究那些可能颠覆国家安全的新兴技术。更重要的是,Buchanan 在 2023 年还担任过白宫科技与国家安全委员会的人工智能特别顾问,直接参与了拜登政府的人工智能政策制定。) L2 z# l: U( Q1 w
; f2 v) ?8 ]1 F2 a除了这些光鲜的头衔,Buchanan 还写过一本名为《人工智能的黑客帝国:权力、偏见与意识形态》的书。这本书深入探讨了网络攻击如何成为地缘政治的新常态,以及人工智能在其中扮演的关键角色。可以说,Buchanan 的研究横跨了网络安全、人工智能政策和国家安全这几个关键领域,这使得他对 AGI 的发展及其影响有着远超常人的深刻见解。 |; m( B I( j3 \
+ P: k) P Q, q Y2 T. q/ x
正是 Buchanan 这种跨越学术与政策的背景,让他成为了讨论 AGI 问题的最佳人选。他的观点既有学者的严谨,又有政策制定者的务实。因此,他对 AGI 的判断和预测,绝不是空穴来风,而是有着深厚的理论和实践基础的。- P0 a- x6 Z+ b1 j3 q
5 H) a) n9 t4 a- E2 z/ qAGI:不是“狼来了”,而是真的来了!
% R7 m1 H9 G( e7 X0 b) Q6 n2 I访谈一开始,Buchanan 就抛出了一个惊人的观点:AGI 就要来了,而且比大多数人想象的要快得多!他认为,那些“极其强大的 AI 系统”很可能在未来两三年内就会出现,甚至有可能在特朗普总统的第二个任期内(如果他当选的话)就成为现实。虽然 Buchanan 本人并不喜欢“通用人工智能”(AGI)这个有点科幻色彩的术语,但他认为这些系统将具备 AGI 的许多关键特征,也就是说,它们将在各种各样的认知任务上达到甚至超越人类水平。
; |6 w+ W+ M; C% f4 D
/ X& a( z: a/ h6 h* D+ C( }听到这里,你可能会觉得这又是一次硅谷式的技术炒作。但 Buchanan 的信心可不是凭空而来的,他有自己的“情报来源”:一是来自 AI 实验室和政府内部人士的报告,这些人可是亲眼见证了 AI 技术的飞速进步;二是 AI 产品的快速迭代,像 OpenAI 的 Deep Research 等工具已经展现出了让人瞠目结舌的能力;三是 Buchanan 本人在白宫工作期间观察到的趋势,这些趋势都指向一个明确的方向:AGI 正在加速到来。) f O) |8 S( \ x
6 g# V9 P/ [, n, c! j! _) s! B
Buchanan 反复强调,AGI 的到来绝不是“狼来了”的故事,而是真真切切、迫在眉睫的现实。他认为,许多人,尤其是政策制定者,仍然低估了 AGI 的发展速度和潜在影响,这是一种非常危险的认知偏差。他呼吁人们必须认真对待 AGI 的到来,并为此做好充分准备,否则后果不堪设想。* c6 b3 I' V! i0 K. i" b' c3 Y
2 w W3 H; N; O- }* W
国家安全的“新战场”:AGI 时代的战略博弈
/ x5 Y) ` u& [8 O0 D+ w: d" W在 Buchanan 看来,AGI 不仅仅是一个技术问题,更是一个关乎国家安全的战略问题。他反复强调,美国必须在 AGI 领域保持领先地位,这对于维护美国的国家安全至关重要。他认为,AGI 将对未来的军事、情报、经济等领域产生深远影响,哪个国家掌握了 AGI,就将在这些领域拥有巨大的优势,甚至可能改写全球力量对比。$ U; e! r- r7 L
* ~0 j- L* F: I$ |- aBuchanan 特别提到了中国,认为中国是美国在 AGI 领域的主要竞争对手。他担心,如果中国率先实现 AGI,可能会在网络战、情报分析等关键领域获得不对称优势,从而对美国构成战略威胁。他举例说,AGI 可以极大地提升网络攻击和防御的能力,如果中国在这方面取得领先,美国的关键基础设施和国家安全将面临前所未有的挑战。* v1 @) r% x4 Z7 i: [' m
+ Z$ b: A+ C9 b& Z6 P5 h6 |5 }" f
为了应对这种潜在威胁,Buchanan 支持美国政府采取强硬措施,包括出口管制,以限制中国在 AGI 领域的发展。他承认,这可能会加剧两国之间的紧张关系,但这就像当年美国为了赢得太空竞赛而采取的措施一样,是必要的。他甚至将 AGI 比作太空竞赛时期的太空技术,认为美国必须像当年赢得太空竞赛一样,赢得 AGI 的竞赛。
5 Y; y/ N; L/ V% H
_" P! v* S: {+ Q' ]& @; v) gBuchanan 的观点反映了美国政府的一种主流看法,即 AGI 是一种具有战略意义的技术,必须将其置于国家安全的框架内来考虑。这种观点也反映了中美两国在科技领域的竞争日益激烈,而 AGI 已经成为这场竞争的核心战场。这场竞争不仅仅是技术上的较量,更是关乎未来世界秩序的博弈。! e! t+ J* {8 v
) e0 [, D( e( D网络安全的“潘多拉魔盒”:AGI 时代的攻防困境
8 U* c# T/ q3 `5 r9 n& YAGI 的发展将对网络安全产生深远影响,这就像打开了一个“潘多拉魔盒”,既带来了机遇,也带来了前所未有的挑战。Buchanan 指出,AGI 可以用于提升网络攻击和防御的能力,这使得网络安全领域的攻防对抗变得更加复杂和激烈。
; y8 ?! I* b) S3 O% h [; |' G- ^. s3 Y6 X
一方面,AGI 可以帮助攻击者更快、更有效地发现软件漏洞,并利用这些漏洞发动攻击。想象一下,一个由 AGI 驱动的黑客,可以不知疲倦地扫描全球的网络,寻找任何可能的漏洞,这简直就是网络防御者的噩梦。AGI 还可以用于分析大量数据,从中识别出有价值的情报,从而提升网络间谍活动的能力。Buchanan 担心,在过渡时期,由于许多旧系统缺乏 AI 防御能力,它们将更容易受到网络攻击。. Y" T2 G% ^2 G5 ~7 T) v$ `
" z' H) o. X0 J" E! E$ y另一方面,AGI 也可以用于提升网络防御能力。AGI 可以帮助开发者编写更安全的代码,减少软件漏洞的数量。AGI 还可以用于实时监测网络流量,及时发现并阻止网络攻击。Buchanan 提到,拜登政府曾推动国防高级研究计划局(DARPA)开展“AI 网络挑战赛”,旨在测试 AI 在网络攻防中的能力。. _" I' N& {% h) C
V5 ~9 z* C$ B Y. O
然而,Buchanan 也特别提到了 AI 实验室本身的安全漏洞,他认为这些实验室可能成为国家间谍活动的目标。这不难理解,这些实验室掌握着最先进的 AI 模型和技术,其价值不言而喻。他认为,保护 AI 实验室的安全,与保护国家关键基础设施同等重要。- H2 o9 B9 I6 D/ d- n& n
8 k4 K% W e2 D+ z K
AGI 在网络安全领域的应用,就像一把双刃剑,既可以用于防御,也可以用于攻击。这使得网络安全领域的攻防对抗更加复杂和激烈,也对传统的网络安全观念和防御体系提出了巨大的挑战。未来的网络安全,将不仅仅是人与人之间的对抗,更是 AI 与 AI 之间的较量。
- {3 o5 B8 e* \! R4 x7 _: E" [7 x+ B- G2 H3 A: c. |, f9 e# I1 r! m
就业市场的“大地震”:AGI 时代的社会冲击
% T/ ^' t2 w# \8 O% sAGI 不仅将对国家安全和网络安全产生深远影响,还将对劳动力市场和社会结构带来巨大的冲击,甚至可能引发一场“大地震”。Buchanan 和 Ezra Klein 都认为,AGI 将对劳动力市场产生重大影响,许多认知工作岗位可能被取代或部分取代。
$ P2 \4 O; k+ V) a: o( F Q% Z o- s- ^7 C1 l/ m
他们特别提到了那些从事重复性、规则性工作的岗位,比如营销、文案、初级编程等。这些工作很容易被 AGI 自动化,从而导致大量失业或就业结构调整。试想一下,一个能够自动生成营销文案、编写代码、甚至进行数据分析的 AI,将会对多少人的饭碗造成威胁?Buchanan 举例说,许多正在大学学习市场营销专业的学生,未来可能会面临严峻的就业形势,因为 AGI 已经可以胜任许多市场营销工作。/ [& A! F6 I7 n
. K9 z. @) i) ]Buchanan 和 Klein 对如何应对这种潜在的社会和经济冲击表示担忧。他们认为,政府需要为此做好充分准备,但目前缺乏具体的应对措施。他们讨论了一些可能的解决方案,如加强职业培训、提供基本收入保障等,但都承认这些方案存在局限性,难以完全解决 AGI 带来的就业问题。
0 A" j9 d0 q9 T' y6 s
. X% n) l6 c& X5 Z. [AGI 对劳动力市场的影响,不仅仅是一个经济问题,更是一个社会问题。大规模失业可能导致社会不稳定,加剧社会不平等。因此,如何应对 AGI 带来的就业冲击,是政府和社会各界面临的一个重大挑战。这不仅仅是技术问题,更是关乎社会公平正义的重大议题。, ?& Q) c) S3 l
6 c) p5 \% o9 l( c& p
美国政府的“两难境地”:政策的困境与挑战
4 C/ u- l1 [) f+ O9 F面对 AGI 带来的种种挑战,美国政府的应对策略和政策选择至关重要,但又陷入了两难境地。Buchanan 详细介绍了拜登政府在应对 AGI 方面所做的努力,并对特朗普政府的政策方向表达了担忧。% M* l1 F. q& f; y5 K* Q3 |
6 o {2 K r7 a" w) S
拜登政府曾试图通过一系列行政命令和机构设置来应对 AGI 的挑战。例如,拜登签署了一项关于人工智能基础设施的行政命令,旨在加速能源和数据中心的建设,以满足 AGI 发展的需求。拜登政府还成立了美国人工智能安全研究所,旨在加强政府与 AI 企业之间的合作,共同应对 AGI 的安全风险。此外,拜登政府还采取了出口管制措施,限制向中国出口先进的 AI 芯片,以减缓中国在 AGI 领域的发展速度。; N. y# f7 X6 |4 J t6 o- T
2 T) B: j5 b9 Y" y' I6 F1 N
然而,Buchanan 也承认,拜登政府的这些措施只是初步的,而且存在局限性。他认为,政府的行动速度往往滞后于技术的发展,而且在制定具体政策方面存在困难。他特别提到了开放权重模型(类似于开源模型)的问题,认为这些模型可能被滥用于恶意目的,但政府尚未找到有效的监管方法。
4 j! f- B1 C" x; S$ n P8 T
) h4 O# m7 v, a3 `2 D- _1 GBuchanan 对特朗普政府的政策方向表示担忧。他认为,特朗普政府更倾向于“加速主义”,即强调 AGI 的发展速度和机遇,而忽视其潜在风险。他担心,这种政策取向可能导致美国在 AGI 的安全和监管方面放松警惕,从而带来不可预测的后果。
1 B* G4 }! Z5 m: s
/ c+ N& T& u" S0 ]4 T. j- b# LBuchanan 强调,政府需要在 AGI 的发展中平衡安全与机遇。他认为,适当的安全措施实际上可以促进技术的应用和发展,就像铁路发展早期的安全标准一样。然而,如何把握监管的尺度,避免过度监管扼杀创新,是一个难题。这就像走钢丝,既要保证安全,又要追求速度,稍有不慎,就可能跌入深渊。! {/ }, g, G$ E2 l1 G2 @
7 l) q! g; }: l4 k: `" l+ s+ uDeepSeek:中国的“挑战者”与美国的“警惕”( o. T( K) @7 S+ L9 z; _
访谈中,Buchanan 多次提到了中国的 AI 公司 DeepSeek,并表达了对中国在 AGI 领域快速发展的担忧。他对 DeepSeek 的看法,体现了美国政府对中国 AI 发展的复杂心态:既承认其技术实力,又试图限制其发展。4 R9 x# h5 l* V. f; `
6 L/ |. ], ^% {1 @! }- c0 _( dBuchanan 承认 DeepSeek 的工程师非常“有才华”,并且他们的系统在不断进步。他特别提到了 DeepSeek 在算法效率方面取得的进展,认为这表明中国在 AI 技术方面具有很强的竞争力。
, ]& E( V0 p9 R5 w* c7 [ W
9 q# b$ f4 h& a5 d2 q$ R然而,Buchanan 并不认为 DeepSeek 的进展像媒体炒作的那么夸张。他认为,DeepSeek 仍然受到计算能力的限制,其 CEO 曾表示,公司发展的最大障碍是无法获得先进芯片。他认为,DeepSeek 的进展并没有改变美国对 AGI 发展的基本分析,也没有动摇美国在 AGI 领域的领先地位。- Z4 \. h4 c* ]4 ]1 S; g
4 D: _% Z7 @7 p, X/ {Buchanan 强调,美国应该继续通过芯片控制来限制中国的发展。他认为,DeepSeek 的出现提醒美国,芯片控制非常重要,中国是 AGI 领域一个值得尊敬的竞争对手,美国不能掉以轻心。
! o5 S1 s, y: `* o) }/ w, D. e
1 @; U8 y( ]/ X! R& ~5 R! tBuchanan 不认同 DeepSeek 证明美国 AGI 发展范式(依赖大量计算资源)错误的观点。他认为,美国需要同时在技术前沿和效率提升两个方面都取得领先。他认为,DeepSeek 的技术进步主要来自算法效率的提升,这与美国公司(如 Google、Anthropic、OpenAI)的做法类似。
0 O/ t4 K# N, I' f" t
* b3 u* X1 Q: J3 }: y2 y# N& CBuchanan 对 DeepSeek 的看法,反映了美国政府对中国 AI 发展的复杂心态:既承认其技术实力,又试图通过各种手段来限制其发展。这种心态也反映了中美两国在 AGI 领域的竞争日益激烈,这种竞争将对未来的科技格局和地缘政治产生深远影响。这不仅仅是一场科技竞赛,更是一场战略博弈。6 x# z+ G& h7 A0 P; M
) I1 g, O1 i2 A8 t" Z“开放”与“封闭”的十字路口:AGI 时代的伦理困境# F$ ]) s/ e6 B# n, `
AGI 的发展不仅带来了技术和战略上的挑战,还带来了深刻的伦理和社会问题。Buchanan 对开放权重模型(类似于开源模型)的潜在风险表示担忧,这反映了 AGI 时代开放与安全之间的复杂关系。
- {. ?: ?6 G' H3 a
2 u' k: L% |! H开放权重模型是指那些将其模型权重公开的模型,类似于开源软件,但更侧重于模型权重本身。这种开放性可以促进技术的创新和传播,但同时,就像一把双刃剑,也可能被恶意行为者滥用。例如,开放权重模型可能被用于开发生物武器、发动网络攻击或制造虚假信息。. R. G4 {) E/ R
" d/ z' T, l y0 U4 s3 s5 B& gBuchanan 认为,需要持续监控开放权重模型的发展,并在必要时采取措施来限制其潜在风险。然而,他也承认,如何监管开放权重模型是一个难题,因为这涉及到技术、伦理和法律等多个方面的问题。这就像一个“潘多拉魔盒”,一旦打开,就很难再关上。0 @! v0 e0 T. M
$ i0 s0 e$ G- \- u3 a: m
开放权重模型的争议,反映了 AGI 时代的一个核心问题:如何在促进技术创新的同时,确保其安全和负责任地使用?这是一个复杂的权衡,没有简单的答案。我们需要在开放与安全之间找到一个平衡点,但这绝非易事。
! Y8 [4 b- J" I a8 k& u
2 D3 t- L2 ?* S( i. p能源的“紧箍咒”:AGI 时代的资源挑战/ B' H; z# f- ]3 x' z
AGI 的发展需要消耗大量的能源,这不仅是一个技术问题,也是一个环境和社会问题。Buchanan 认为,美国应该加速能源基础设施的建设,以满足 AGI 发展的需求,并促进清洁能源的发展。
, X- d, M/ r. O& g# T
. B a/ ^5 Z7 E$ q! h: C他指出,AGI 的训练和运行需要大量的计算资源,而这些计算资源需要消耗大量的电力。如果 AGI 的发展依赖于传统的化石能源,将加剧气候变化和环境污染。因此,他认为,美国应该大力发展清洁能源,如太阳能、风能、地热能等,以满足 AGI 发展的需求,并实现可持续发展。# a5 o2 |5 A% ^4 Q
6 _$ \6 Q8 e5 p x
Buchanan 的观点表明,AGI 的发展不仅仅是技术问题,还涉及到能源、环境、气候变化等多个方面。这需要政府、企业和社会各界共同努力,制定全面的战略来应对这些挑战。AGI 的发展,不能以牺牲环境为代价。
# K& G8 M* H* G/ Y- ^, \* {/ E+ w) q# ^0 K: h
结语:AGI 时代的机遇与挑战并存3 Z6 @+ I" A. P) X9 I1 S
Ben Buchanan 在《纽约时报》的这篇访谈,就像一面镜子,照出了 AGI 时代的机遇与挑战。他的观点既有对 AGI 快速发展的紧迫感,也有对 AGI 带来的挑战的深刻担忧。
/ C* ?7 @8 ]. _3 J% x2 G
/ S* Z; O& L; d- O! {Buchanan 强调,AGI 的到来可能比我们想象的更快,其影响也将更加深远。他认为,AGI 将对国家安全、网络安全、劳动力市场、社会结构等多个方面产生重大影响。他呼吁政府、企业、研究机构和社会各界都需要为 AGI 的到来做好充分准备,包括制定合理的政策、加强技术研发、应对潜在的社会和经济冲击等。- c0 X7 W; ?; n3 @* i
; f, `5 ]% ?5 E& y+ G+ k% pBuchanan 的观点也反映了前白宫顾问视角下AGI 时代的一些核心问题:$ G5 v6 T Y1 h7 |# `5 c& z- g
* b( w- ]/ b. m6 W. H9 w
国家安全与技术竞争: AGI 将如何重塑地缘政治格局?哪个国家将成为 AGI 时代的领导者?
7 J1 q% Q* k$ X网络安全与攻防对抗: AGI 将如何改变网络安全的格局?如何应对 AGI 带来的网络安全挑战?/ h; s+ {0 a* A( ]7 H
劳动力市场与社会结构: AGI 将如何影响就业和收入分配?如何应对 AGI 带来的社会冲击?+ P0 B( D! S% h4 H
开放与封闭的博弈: 如何在促进技术创新的同时,确保其安全和负责任地使用?
. P3 i+ f1 |2 @9 F( m7 K! B能源与环境的挑战: 如何满足 AGI 发展的能源需求,并实现可持续发展?. k* t- `% V+ A+ c
这些问题没有简单的答案,需要全球合作来应对 AGI 带来的挑战。同时,我们也需要对 AGI 的发展保持警惕,避免其被滥用或带来不可预测的风险。AGI 的到来既是机遇也是挑战,我们需要以开放的心态、审慎的态度和负责任的行动,来迎接这个充满不确定性的未来。这不仅仅是一场技术革命,更是一场关乎人类未来的深刻变革。
' U0 F7 x& D' ?" m, W8 i3 y* E, h; T4 S! s4 f# F9 _
参考链接: https://www.nytimes.com/2025/03/ ... t-ben-buchanan.html; S7 p; a% I7 X" l
. ~. ?5 n" `: I; m& c/ O
纽约时报这个链接可能要付费,需要原文的话可以群里喊我,我扔群里。 |
评分
-
查看全部评分
|