TA的每日心情 | 开心 2020-4-8 10:45 |
---|
签到天数: 227 天 [LV.7]分神
|
: ~" ~$ t7 U: f7 Y2 }! i
你是否感觉到,人工智能(AI)的发展正在以一种前所未有的速度改变着我们的世界?甚至,那个曾经只存在于科幻小说中的“奇点”——通用人工智能(AGI)——似乎也并非遥不可及。2025年3月4日,一场在《纽约时报》“The Ezra Klein Show”播客上进行的对话,为我们理解这个正在加速到来的未来,提供了一个至关重要的视角。( p. D+ ~2 S' L4 p, D; R$ I2 L. G
( d" o; _; F" }( ^9 H对话的一方,是知名主持人 Ezra Klein;另一方,则是 Ben Buchanan,一位兼具深厚学术背景和丰富政府经验的 AI 专家。Buchanan 不仅是乔治城大学安全与新兴技术中心(CSET)的研究员,更曾在2023年担任白宫科技与国家安全委员会的人工智能特别顾问,直接参与了拜登政府的 AI 政策制定。更重要的是,他亲眼见证了 AI 技术的飞速进步,尤其是来自中国 AI 力量的崛起。
1 {4 B3 ^: B# z0 ?' G( k
: z8 Q: u3 \( S; I# y在这场长达数小时的深度对话中,Buchanan 抛出了一个又一个重磅观点:AGI 比我们想象的更近;它将对国家安全、网络安全、就业市场等领域产生颠覆性影响;而以 DeepSeek 为代表的中国 AI 公司的崛起,更是为这场全球 AI 竞赛增添了新的变数。6 s9 e/ L2 j3 K) G- |
n; @+ E6 Q$ d* SDeepSeek,这家来自中国的 AI 公司,在访谈中被 Buchanan 多次提及。它不仅仅是一家普通的公司,更是中国 AI 技术实力快速提升的一个缩影。Buchanan 承认 DeepSeek 的工程师“才华横溢”,其算法效率令人瞩目。但与此同时,他也毫不掩饰对中国 AI 发展的担忧,认为美国必须采取措施,包括芯片出口管制,来确保自己在 AGI 领域的领先地位。& E7 e, Z; h8 W% y9 t6 d9 @8 b
- `5 O: K0 c* L" R
2 X2 o; ]( s2 a2 F9 x. u
这场对话,就像一面镜子,折射出 AGI 时代复杂的图景:技术突破的激动人心、地缘政治的紧张博弈、社会变革的潜在风险……它让我们不得不思考:面对 AGI 这个“潘多拉魔盒”,我们准备好了吗?- D) P' m7 k+ F, g# m
- y7 L3 f( e; c# K, L
谁是 Ben Buchanan?. b7 S" G, i" t; t8 B
在深入对话内容之前,我们有必要先了解一下这位“主角”。Ben Buchanan 可不是那种只会纸上谈兵的学者,他可是真正在政策一线摸爬滚打过的实干家。他目前在乔治城大学的安全与新兴技术中心(CSET)担任研究员,要知道,CSET 可是美国顶尖的智库之一,专门研究那些可能颠覆国家安全的新兴技术。更重要的是,Buchanan 在 2023 年还担任过白宫科技与国家安全委员会的人工智能特别顾问,直接参与了拜登政府的人工智能政策制定。$ g, Z* W9 T$ m* u" T* Y l H
* v7 O) W, ~6 _6 S1 X+ j) K8 L除了这些光鲜的头衔,Buchanan 还写过一本名为《人工智能的黑客帝国:权力、偏见与意识形态》的书。这本书深入探讨了网络攻击如何成为地缘政治的新常态,以及人工智能在其中扮演的关键角色。可以说,Buchanan 的研究横跨了网络安全、人工智能政策和国家安全这几个关键领域,这使得他对 AGI 的发展及其影响有着远超常人的深刻见解。! M1 n: O8 Z* T" w: R/ `, z
- a' }7 w* L% z8 k; c
正是 Buchanan 这种跨越学术与政策的背景,让他成为了讨论 AGI 问题的最佳人选。他的观点既有学者的严谨,又有政策制定者的务实。因此,他对 AGI 的判断和预测,绝不是空穴来风,而是有着深厚的理论和实践基础的。# s9 i4 g6 X" B V& ~# D; x$ w( y+ [
P2 w2 P& q, _9 E! wAGI:不是“狼来了”,而是真的来了!
# D A* V: V1 `# K& O/ F& l访谈一开始,Buchanan 就抛出了一个惊人的观点:AGI 就要来了,而且比大多数人想象的要快得多!他认为,那些“极其强大的 AI 系统”很可能在未来两三年内就会出现,甚至有可能在特朗普总统的第二个任期内(如果他当选的话)就成为现实。虽然 Buchanan 本人并不喜欢“通用人工智能”(AGI)这个有点科幻色彩的术语,但他认为这些系统将具备 AGI 的许多关键特征,也就是说,它们将在各种各样的认知任务上达到甚至超越人类水平。
. S1 S# r) T7 b; m) _/ \5 H) ]" s: r- r* g. U1 [/ d; Z1 P
听到这里,你可能会觉得这又是一次硅谷式的技术炒作。但 Buchanan 的信心可不是凭空而来的,他有自己的“情报来源”:一是来自 AI 实验室和政府内部人士的报告,这些人可是亲眼见证了 AI 技术的飞速进步;二是 AI 产品的快速迭代,像 OpenAI 的 Deep Research 等工具已经展现出了让人瞠目结舌的能力;三是 Buchanan 本人在白宫工作期间观察到的趋势,这些趋势都指向一个明确的方向:AGI 正在加速到来。- i. |( m$ K( i2 f5 V; x
. P3 E" w0 I e- @: P/ ~. N( x4 aBuchanan 反复强调,AGI 的到来绝不是“狼来了”的故事,而是真真切切、迫在眉睫的现实。他认为,许多人,尤其是政策制定者,仍然低估了 AGI 的发展速度和潜在影响,这是一种非常危险的认知偏差。他呼吁人们必须认真对待 AGI 的到来,并为此做好充分准备,否则后果不堪设想。1 ?" C& M. G9 x/ P$ [$ i
8 Y+ o2 ~( q, G7 R' G) y
国家安全的“新战场”:AGI 时代的战略博弈
# ?5 x7 a/ Z1 [在 Buchanan 看来,AGI 不仅仅是一个技术问题,更是一个关乎国家安全的战略问题。他反复强调,美国必须在 AGI 领域保持领先地位,这对于维护美国的国家安全至关重要。他认为,AGI 将对未来的军事、情报、经济等领域产生深远影响,哪个国家掌握了 AGI,就将在这些领域拥有巨大的优势,甚至可能改写全球力量对比。
. t, e# s }4 J# \5 E
* i7 _; L S; sBuchanan 特别提到了中国,认为中国是美国在 AGI 领域的主要竞争对手。他担心,如果中国率先实现 AGI,可能会在网络战、情报分析等关键领域获得不对称优势,从而对美国构成战略威胁。他举例说,AGI 可以极大地提升网络攻击和防御的能力,如果中国在这方面取得领先,美国的关键基础设施和国家安全将面临前所未有的挑战。8 ?5 q3 s! k) C8 T! W U
+ D0 \9 H$ O/ \6 g( q/ G为了应对这种潜在威胁,Buchanan 支持美国政府采取强硬措施,包括出口管制,以限制中国在 AGI 领域的发展。他承认,这可能会加剧两国之间的紧张关系,但这就像当年美国为了赢得太空竞赛而采取的措施一样,是必要的。他甚至将 AGI 比作太空竞赛时期的太空技术,认为美国必须像当年赢得太空竞赛一样,赢得 AGI 的竞赛。- f# g0 o; d0 r; h) r
. W5 i0 f" O; _) Y$ P
Buchanan 的观点反映了美国政府的一种主流看法,即 AGI 是一种具有战略意义的技术,必须将其置于国家安全的框架内来考虑。这种观点也反映了中美两国在科技领域的竞争日益激烈,而 AGI 已经成为这场竞争的核心战场。这场竞争不仅仅是技术上的较量,更是关乎未来世界秩序的博弈。8 k$ i) q* |+ K9 h9 r- d
: F G6 f, C; R3 N: y
网络安全的“潘多拉魔盒”:AGI 时代的攻防困境, h6 E3 ^$ @' v) d
AGI 的发展将对网络安全产生深远影响,这就像打开了一个“潘多拉魔盒”,既带来了机遇,也带来了前所未有的挑战。Buchanan 指出,AGI 可以用于提升网络攻击和防御的能力,这使得网络安全领域的攻防对抗变得更加复杂和激烈。" a& }# T2 K) D, }- H
- Z; f6 r% M2 Y
一方面,AGI 可以帮助攻击者更快、更有效地发现软件漏洞,并利用这些漏洞发动攻击。想象一下,一个由 AGI 驱动的黑客,可以不知疲倦地扫描全球的网络,寻找任何可能的漏洞,这简直就是网络防御者的噩梦。AGI 还可以用于分析大量数据,从中识别出有价值的情报,从而提升网络间谍活动的能力。Buchanan 担心,在过渡时期,由于许多旧系统缺乏 AI 防御能力,它们将更容易受到网络攻击。, p* ~1 V% j/ l
" f, A+ h& r& _5 S; m另一方面,AGI 也可以用于提升网络防御能力。AGI 可以帮助开发者编写更安全的代码,减少软件漏洞的数量。AGI 还可以用于实时监测网络流量,及时发现并阻止网络攻击。Buchanan 提到,拜登政府曾推动国防高级研究计划局(DARPA)开展“AI 网络挑战赛”,旨在测试 AI 在网络攻防中的能力。) }0 G$ t8 N; S4 c( ^; @ j% ?
; y( E$ z* `4 L; a& Q$ v0 R! e
然而,Buchanan 也特别提到了 AI 实验室本身的安全漏洞,他认为这些实验室可能成为国家间谍活动的目标。这不难理解,这些实验室掌握着最先进的 AI 模型和技术,其价值不言而喻。他认为,保护 AI 实验室的安全,与保护国家关键基础设施同等重要。
; z. \( ]9 U+ g& D9 d/ d: d2 A- [' K8 f, n0 A& C4 f9 z# n% ]
AGI 在网络安全领域的应用,就像一把双刃剑,既可以用于防御,也可以用于攻击。这使得网络安全领域的攻防对抗更加复杂和激烈,也对传统的网络安全观念和防御体系提出了巨大的挑战。未来的网络安全,将不仅仅是人与人之间的对抗,更是 AI 与 AI 之间的较量。
! y6 R1 T; f. \
% n5 g5 ]1 i1 a1 E* i就业市场的“大地震”:AGI 时代的社会冲击
5 i) O- |% B7 V |. U+ } _" ^5 }8 Z/ VAGI 不仅将对国家安全和网络安全产生深远影响,还将对劳动力市场和社会结构带来巨大的冲击,甚至可能引发一场“大地震”。Buchanan 和 Ezra Klein 都认为,AGI 将对劳动力市场产生重大影响,许多认知工作岗位可能被取代或部分取代。2 X" G$ r. }! V
* j8 b1 [; `, A; l他们特别提到了那些从事重复性、规则性工作的岗位,比如营销、文案、初级编程等。这些工作很容易被 AGI 自动化,从而导致大量失业或就业结构调整。试想一下,一个能够自动生成营销文案、编写代码、甚至进行数据分析的 AI,将会对多少人的饭碗造成威胁?Buchanan 举例说,许多正在大学学习市场营销专业的学生,未来可能会面临严峻的就业形势,因为 AGI 已经可以胜任许多市场营销工作。
. q: Y7 n: D# V: x/ w$ w2 Y6 L! C5 E6 Z9 i
Buchanan 和 Klein 对如何应对这种潜在的社会和经济冲击表示担忧。他们认为,政府需要为此做好充分准备,但目前缺乏具体的应对措施。他们讨论了一些可能的解决方案,如加强职业培训、提供基本收入保障等,但都承认这些方案存在局限性,难以完全解决 AGI 带来的就业问题。
' {( |) c/ \# v. k3 l$ N4 F% Q9 S$ p. O# c2 e/ }
AGI 对劳动力市场的影响,不仅仅是一个经济问题,更是一个社会问题。大规模失业可能导致社会不稳定,加剧社会不平等。因此,如何应对 AGI 带来的就业冲击,是政府和社会各界面临的一个重大挑战。这不仅仅是技术问题,更是关乎社会公平正义的重大议题。* s& o! ?( J! X1 |1 _: ]9 U
/ P4 |9 v$ q# P$ l9 z T) x美国政府的“两难境地”:政策的困境与挑战 p8 q2 G P( H% J0 s. P
面对 AGI 带来的种种挑战,美国政府的应对策略和政策选择至关重要,但又陷入了两难境地。Buchanan 详细介绍了拜登政府在应对 AGI 方面所做的努力,并对特朗普政府的政策方向表达了担忧。
+ i/ G0 a5 }+ U0 X% L7 @. C7 G6 X$ n+ Y& g3 J/ x% _0 [* y- A# D( X+ @
拜登政府曾试图通过一系列行政命令和机构设置来应对 AGI 的挑战。例如,拜登签署了一项关于人工智能基础设施的行政命令,旨在加速能源和数据中心的建设,以满足 AGI 发展的需求。拜登政府还成立了美国人工智能安全研究所,旨在加强政府与 AI 企业之间的合作,共同应对 AGI 的安全风险。此外,拜登政府还采取了出口管制措施,限制向中国出口先进的 AI 芯片,以减缓中国在 AGI 领域的发展速度。7 ]# i& C! |; B/ S3 C
2 ~& W( H/ D7 Y# s5 q
然而,Buchanan 也承认,拜登政府的这些措施只是初步的,而且存在局限性。他认为,政府的行动速度往往滞后于技术的发展,而且在制定具体政策方面存在困难。他特别提到了开放权重模型(类似于开源模型)的问题,认为这些模型可能被滥用于恶意目的,但政府尚未找到有效的监管方法。
. d# |0 m6 P" B( J' M, w0 n
% y/ u# N& x: ^% }; _Buchanan 对特朗普政府的政策方向表示担忧。他认为,特朗普政府更倾向于“加速主义”,即强调 AGI 的发展速度和机遇,而忽视其潜在风险。他担心,这种政策取向可能导致美国在 AGI 的安全和监管方面放松警惕,从而带来不可预测的后果。
( G7 q2 D. d3 r5 c+ [4 y2 F% M
: l- n2 o3 g2 e6 a$ u2 m* VBuchanan 强调,政府需要在 AGI 的发展中平衡安全与机遇。他认为,适当的安全措施实际上可以促进技术的应用和发展,就像铁路发展早期的安全标准一样。然而,如何把握监管的尺度,避免过度监管扼杀创新,是一个难题。这就像走钢丝,既要保证安全,又要追求速度,稍有不慎,就可能跌入深渊。; P9 m2 u! E+ h: [
) u g/ d. F+ o/ c6 p1 ]3 v
DeepSeek:中国的“挑战者”与美国的“警惕”
# l+ U: h* }. p" s7 k访谈中,Buchanan 多次提到了中国的 AI 公司 DeepSeek,并表达了对中国在 AGI 领域快速发展的担忧。他对 DeepSeek 的看法,体现了美国政府对中国 AI 发展的复杂心态:既承认其技术实力,又试图限制其发展。( z, D- f; C& J5 Z8 u) D
$ @6 s2 _+ U- Z' }0 H6 s; ~
Buchanan 承认 DeepSeek 的工程师非常“有才华”,并且他们的系统在不断进步。他特别提到了 DeepSeek 在算法效率方面取得的进展,认为这表明中国在 AI 技术方面具有很强的竞争力。
4 S6 R1 u- U1 c; l* w& T
$ U" L& Q0 F6 E3 `# v, r. X4 R然而,Buchanan 并不认为 DeepSeek 的进展像媒体炒作的那么夸张。他认为,DeepSeek 仍然受到计算能力的限制,其 CEO 曾表示,公司发展的最大障碍是无法获得先进芯片。他认为,DeepSeek 的进展并没有改变美国对 AGI 发展的基本分析,也没有动摇美国在 AGI 领域的领先地位。
: T2 {1 `9 B/ r7 a( s% E" r- j! H. ` o" Y
Buchanan 强调,美国应该继续通过芯片控制来限制中国的发展。他认为,DeepSeek 的出现提醒美国,芯片控制非常重要,中国是 AGI 领域一个值得尊敬的竞争对手,美国不能掉以轻心。
# I0 V) f# R1 U
; I, A; @, s7 f9 t: v3 KBuchanan 不认同 DeepSeek 证明美国 AGI 发展范式(依赖大量计算资源)错误的观点。他认为,美国需要同时在技术前沿和效率提升两个方面都取得领先。他认为,DeepSeek 的技术进步主要来自算法效率的提升,这与美国公司(如 Google、Anthropic、OpenAI)的做法类似。0 c b5 u/ w# a0 b& V2 f
0 p( h* o. t6 N4 A% H" f! P
Buchanan 对 DeepSeek 的看法,反映了美国政府对中国 AI 发展的复杂心态:既承认其技术实力,又试图通过各种手段来限制其发展。这种心态也反映了中美两国在 AGI 领域的竞争日益激烈,这种竞争将对未来的科技格局和地缘政治产生深远影响。这不仅仅是一场科技竞赛,更是一场战略博弈。9 T- y" H @' {' G; R) {- _
8 @: P7 P) D1 u6 @2 J! K7 _
“开放”与“封闭”的十字路口:AGI 时代的伦理困境
; g5 ?% w2 ` I6 o: k$ C- }AGI 的发展不仅带来了技术和战略上的挑战,还带来了深刻的伦理和社会问题。Buchanan 对开放权重模型(类似于开源模型)的潜在风险表示担忧,这反映了 AGI 时代开放与安全之间的复杂关系。
% m5 Q- ~9 o! B7 R8 [+ O6 e1 X: V9 p
% U. M+ O7 Q0 A开放权重模型是指那些将其模型权重公开的模型,类似于开源软件,但更侧重于模型权重本身。这种开放性可以促进技术的创新和传播,但同时,就像一把双刃剑,也可能被恶意行为者滥用。例如,开放权重模型可能被用于开发生物武器、发动网络攻击或制造虚假信息。
2 [$ e# j$ g' O! G/ ?! T& P
8 s# p/ ]% y. r" \3 wBuchanan 认为,需要持续监控开放权重模型的发展,并在必要时采取措施来限制其潜在风险。然而,他也承认,如何监管开放权重模型是一个难题,因为这涉及到技术、伦理和法律等多个方面的问题。这就像一个“潘多拉魔盒”,一旦打开,就很难再关上。+ z% B: o; k1 `! `7 t: J. L3 o
4 ?* W4 D( R5 T. I8 I开放权重模型的争议,反映了 AGI 时代的一个核心问题:如何在促进技术创新的同时,确保其安全和负责任地使用?这是一个复杂的权衡,没有简单的答案。我们需要在开放与安全之间找到一个平衡点,但这绝非易事。
* }% C/ F, w9 o: {* w) J
% _+ L5 t% B# T) _9 ^ t, ?" z能源的“紧箍咒”:AGI 时代的资源挑战
+ f- r* _* o/ U3 O# IAGI 的发展需要消耗大量的能源,这不仅是一个技术问题,也是一个环境和社会问题。Buchanan 认为,美国应该加速能源基础设施的建设,以满足 AGI 发展的需求,并促进清洁能源的发展。0 d, e$ J; L! h9 B( V/ Q6 o
; V+ Y+ f$ S6 \# R4 A' c
他指出,AGI 的训练和运行需要大量的计算资源,而这些计算资源需要消耗大量的电力。如果 AGI 的发展依赖于传统的化石能源,将加剧气候变化和环境污染。因此,他认为,美国应该大力发展清洁能源,如太阳能、风能、地热能等,以满足 AGI 发展的需求,并实现可持续发展。4 t3 H, i+ X& |2 [4 S" E
' f; M- l2 g' G7 t4 R
Buchanan 的观点表明,AGI 的发展不仅仅是技术问题,还涉及到能源、环境、气候变化等多个方面。这需要政府、企业和社会各界共同努力,制定全面的战略来应对这些挑战。AGI 的发展,不能以牺牲环境为代价。 e( f& q& F2 w ^4 B7 T/ W
6 [! n0 ]& {- V
结语:AGI 时代的机遇与挑战并存& T; _- O% D6 b: Z1 E$ \, @: l
Ben Buchanan 在《纽约时报》的这篇访谈,就像一面镜子,照出了 AGI 时代的机遇与挑战。他的观点既有对 AGI 快速发展的紧迫感,也有对 AGI 带来的挑战的深刻担忧。2 a) I. t) ^, E+ S6 h9 E
- O) H2 A# Q/ _" c( OBuchanan 强调,AGI 的到来可能比我们想象的更快,其影响也将更加深远。他认为,AGI 将对国家安全、网络安全、劳动力市场、社会结构等多个方面产生重大影响。他呼吁政府、企业、研究机构和社会各界都需要为 AGI 的到来做好充分准备,包括制定合理的政策、加强技术研发、应对潜在的社会和经济冲击等。3 n4 S0 C" s3 [' }) I% S
6 P2 `% W9 H" P$ w8 RBuchanan 的观点也反映了前白宫顾问视角下AGI 时代的一些核心问题:
8 E6 a' X& K0 t5 u/ r& L- ^; w' G5 V3 [! U
国家安全与技术竞争: AGI 将如何重塑地缘政治格局?哪个国家将成为 AGI 时代的领导者?
. f3 y, S0 d% M, t网络安全与攻防对抗: AGI 将如何改变网络安全的格局?如何应对 AGI 带来的网络安全挑战?1 o! x7 O, e, h6 Z: C
劳动力市场与社会结构: AGI 将如何影响就业和收入分配?如何应对 AGI 带来的社会冲击?0 ] p/ ^& I1 P. P, a8 m
开放与封闭的博弈: 如何在促进技术创新的同时,确保其安全和负责任地使用?/ x, b6 Q. H9 o8 s$ J7 k: A
能源与环境的挑战: 如何满足 AGI 发展的能源需求,并实现可持续发展?
6 t- o4 G; z, N9 m: e这些问题没有简单的答案,需要全球合作来应对 AGI 带来的挑战。同时,我们也需要对 AGI 的发展保持警惕,避免其被滥用或带来不可预测的风险。AGI 的到来既是机遇也是挑战,我们需要以开放的心态、审慎的态度和负责任的行动,来迎接这个充满不确定性的未来。这不仅仅是一场技术革命,更是一场关乎人类未来的深刻变革。
@' g8 m2 Y( `3 o, R; U# G# P& R5 K. \9 _7 S2 u
参考链接: https://www.nytimes.com/2025/03/ ... t-ben-buchanan.html# L, `4 W+ y; a# ?; u4 ]+ ?( T1 e: ?% u
7 J. K! W* P3 k( K纽约时报这个链接可能要付费,需要原文的话可以群里喊我,我扔群里。 |
评分
-
查看全部评分
|