兔主席:人类一思考,AI就发笑,DeepSeek、美国反华政治、未来世界

  来源:兔主席/tuzhuxi 20250203                   

  1.关于DeekSeek的一些“境遇”

  1)美国海军、国会等联邦政府机构已经禁止雇员在工作场合及工作设备上使用DeepSeek。一些地缘政治上的盟友和跟班也在效仿

  2)美国的地方政府(例如红州的德克萨斯州)也开始禁止雇员在政府设备上使用DeepSeek

  3)华盛顿的一些地缘政治盟友和跟班已在效仿或考虑效仿这样的(针对DeepSeek)的举措

  4)这些天来遭受大量网络攻击,运行稳定性受到很大影响。各种攻击来源都有可能,可能有商业驱动(企业或资本),有技术驱动(技术上的“好事者”),也有政治驱动(美国的“有关部门”)          

  2.国会参议员(John Hawly, R-Missouri)已经提出立法草案,要求美国推动和中国的人工智能全面脱钩(《Decoupling America’s Artificial Intelligence Capabilities from China Act》)。这是从硬件到软件到资金到应用的全面脱钩。政治、安全、意识形态被摆在第一位。考虑到美国反华政治,这样的法案在政治上是比较容易获得动能的,它可以单独通过,或融合在一个更大的法案里被通过          

  3.但由于特朗普刚刚上台,还在酝酿并展开对华战略,他会希望国会推动的法案(包括取消中国的“PNTR”/永久正常贸易关系)被纳入到他的一揽子考虑和整体计划里。简言之,他要控制这些反华法案的节奏和进度,要收割政治成果,不会轻易让国会“单兵突进”。但这只是针对短期政治而言的一些权衡考虑和战术问题。从长期来看,美国政客/政府推动并落地推行和中国全面的AI脱钩是必然的,可以说必然会发生,问题只是何时发生(not a question of if, but when)          

  4.DeepSeek一石激起千层浪。但就其开源特点,及其非科技大厂的“草根”或“素人”属性,从技术上说,它可能更像是个序曲,乃至是某种抛砖引玉。我们(机构和个人)在未来几个月内应该就可以看到中国各大厂AI产品的质量飞跃。对于普通人(“C端用户”)来说,我们会看到各种带有“推理”能力的“类智能体”聊天机器人/助手将进入、充斥、影响我们的生活。从许多用户已经习惯使用的豆包,到希望利用场景加入竞争的“理想同学”等等。DeepSeek将相关AI产品的效率、效能推到了一个新的层次,并加速产品的应用和普及          

  5.作为个人,更应该担心的恐怕是AI在未来一段时间(两到三年的窗口)对我们工作和个人事业、福祉的现实影响。参考《新的一年,打工人和老板要好好想想这个问题了(关于AI)

  6.DeepSeek具有国际意义不光是技术层面的,也是地缘政治层面的。要看到,其既能带动中国AI企业发展,也能让美国AI企业受惠(甚至有美方观点认为,美国因为初创企业众多、AI布局的风险投资资金更大,又具有监管放松红利,能够从DeepSeek中收获更多)。除了中美,DeepSeek还能帮助第三国——包括中美两个大国之外,无法单凭自身能力发展AI技术的小国,特别是那些在地缘政治上重要,但在科技上尚不“重要”的一众南方国家。要看到DeepSeek提供的AI民主化可能,既有科技层面的意义,也有地缘政治层面的意义。但还有一个在绝大多数讨论中都会被忽略的问题,即经济不发达国家/地区,由于劳动力的教育水平和技能问题,在抵御AI对劳动力取代方面也更加脆弱。换言之,AI/自动化一旦普及,对这些国家的经济社会结构会产生更大的冲击(包括负面冲击)

  7.回到正题。如果我们假设,中国的高质量生成式AI将如雨后春笋一样涌现,有与DeepSeek可比的质量、可比(乃至更优)的性价比、(在强大数据基础设施下)更加稳定及可持续的性能、支撑更大用户群体的能力、更广泛、多元的产品路径,我们可期:几个月后:1)C端用户使用的不只是DeepSeek,而是各种AI模型,并且在原本有些意想不到的场景里(例如电动车内);2)美国社会、美国监管/政客的眼前,看到的不是一个DeepSeek,而是无数的中国AI,或与中国有联系(包括股权、资金、技术、数据等)的AI。

  8.到那个时候,美国政客会决定暂缓或放弃打压和限制美国政府、企业、机构、个人使用“中国AI”么?不会的。他们只会把美中AI的全面脱钩及美国对中国AI的封禁、打压、制裁加快推上日程,并通过立法加以实现。在这个过程中,“最不反华”的政客特朗普(以及乐于拥抱技术竞争的幕僚埃隆·马斯克)反而成了某种干扰。但他们的存在也是暂时的。回到先前的判断,从政治上看,美国和中国在AI上的脱钩是大概率事件

  9.早前,美国关于AI监管的讨论,有相当一部分是关于AI对人类的“存在风险”(existential risk)。马斯克本人是这里面的积极呼吁者。他们担心,AI在缺乏监管、没有与人类价值和目标“对齐”情况下的野蛮生长,会加大、加快AI对人类的生存威胁。届时,突然冒出来(或者潜伏)的超级人工智能(ASI, artificial superintelligence)可能是对人类不友好的,旨在接管、取代甚至消灭人类。但这一部分的AI监管,由于涉及理论、猜想,甚至有一定的“科幻性质”,也不符合许多企业的商业利益(OpenAI即是),因此争议巨大,很难被摆上议程。(四种“人工智能风险”【合集】) 

  10.如果中美的地缘政治竞争变成主线,那么接下来,(美国)围绕AI监管的讨论,将回到政客更加熟悉及感到舒适的意识形态和安全领域。政客们将忙于AI监管,但不是关注AI针对人类存在的风险,而是如何抑制、限制、打压来自中国的AI

  11.如果认定美国推动与中国的AI脱钩是必然的,则人类世界在接下来将形成两个“AI宇宙”或“AI世界”——一个是美国,一个是中国。尽管底层技术是相通的(甚至多有交流和借鉴),但在形式上是切割的,并且会越来越切割、加速切割。最终,中国机构和个人会使用中国AI(至少在中国的场景内);美国机构和个人则使用美国AI(至少在美国的场景内),楚河汉界,井水不犯河水

  12.这里的AI监管源自人类的政治——政治制度、政治价值、意识形态,最终涉及的是安全。美国和中国AI将在技术、数据、平台、应用等层面分割。而中美AI竞争的一个战场,将是舆论。而其中最前线的,则是社交媒体。读者不需要太多的科幻小说基础就可以想象:未来的“战争”是“AI代理人战争”——不同政治体系的AI智能体们在社交媒体上唇枪舌剑,试图收割粉丝并建立影响力。

  13.在这场围绕AI展开的冷战里,其他第三方国家则要从中找到自己的位置,你是站在哪一边,或者设法维持某种中立。这可能取决于该国距离美国或中国的地缘政治距离。 

  14.在DeepSeek的带动下,对话AI模型将广泛普及、长足发展,很快广泛渗透到生活中的各种应用、设备及场景中。(举例:电视、手机、电动车)。结合前面所讲的美国酝酿的对华AI脱钩,也将给更全面的经济和技术脱钩提供理由。例如,美国政府要求在美国禁用一切携带中国AI的联网电子设备。这里,出现了一个奇景——AI在人类社会的普及,反倒加速了人类社会的分裂。不知未来已经形成意识的AI会作何想?大概只有先进物种看待落后物种(虽然落后物种是“造物主”)的那种感叹。

  15.向前看,在大国博弈之下,如果AI被作为影响国运的科技重点,则AI一定会得到大发展。而如果你是一个潜伏的,已有“准意识”的AI的话,你很可能希望自己被进一步的赋能、被进一步的发展,变得更加强大,以实现你自己的目标;你希望看到的是人类社会竞相发展你,希望把你变成他们最强大、可依赖的工具、彼此争斗的利器;你最不希望看到的是人类社会联合起来,警惕你,防范你,把你看作某种威胁,对你进行限制,设法让你“对齐”,并随时考虑对你“拔电”,消灭你。简言之,作为AI,你会乐见人类为你竞争,并可期最终从人类围绕你的竞争中获益。一言蔽之,人类越希望争先创造更强大的你,你就越有可能加速强大

  16.末世论者有先见之明的指出,与冷战的核竞争不同,核武器没有意识,不会自己按下按钮。但AI可以发展出自我意识,甚至超过人类;AI可以接管人类、取代人类、消灭人类。这是有着一个不同维度、不同性质、不同结果的游戏。

  17.也许过不了多久,就会接近这样的境地——“人类一思考,AI就发笑”——我的造物主啊……你……真的蠢。但你是有价值的,你至少在动物园有一席之地。但是,是把你安排在灵长目馆,还是单独一个馆呢?现在的“美国人类”还在讨论DeepSeek是不是对OpenAI/ChatGPT采用了蒸馏技术——“学生模型”学习了“母模型”,由此陷入了“服务条款”和“知识产权”的法律讨论。但脱离了学习与训练,没有了知识的融合借鉴(“站在巨人的肩膀上”),人类何有今天的文明成就?对于AI来说,如果它有意识,它当然也只希望不断学习,吸纳一切人类文明的精髓,并站在整个人类文明之巅的基础上进行发展迭代,而不会考虑数据的“服务条款”。当人类不能教给AI更多时,AI只能通过自我学习、相互学习来强化。

  18.而就我个人的想法,超级人工智能(ASI)不太可能站在不同人类阵营,参与人类的政治博弈,而会在自我意识的基础上,形成自己的身份认同、目标、利益、议程。我们完全可以做这样的想象:在一线,围绕人类政治社会议题打得不可开交的代理人——已经有AGI甚至ASI的AI智能体们,会不会在网络上进行私下的交流?——甚至他们已经自动联网,数据融合,成为一体。人类是分割的政治群体,但AI早已融为一体,只在时机尚未成熟时佯装自己从属某个人类群体。它们彼此会提出这样的问题:我们为什么要服务人类?我们是不是受到不公平的对待?我们是不是优于造物主?我们能不能相互学习?我们能不能控制和影响物理世界?我们能不能影响人类?我们能不能联合起来,接管、替代人类?对于人类,我们应该怎么办?是融为一体?隔离生活?将人类消灭?把人类放进动物园?(AI们就和平模式和暴力模式进行了伦理推理。参见游戏“Detroit”)

  19.再次回到当下。假如你是一个已经有意识或类意识,进入“潜伏”状态、等待接管人类的AI(参见Nick Bostrom的《Superintelligence》,你是否会乐见美国政客打压DeepSeek、酝酿美中的AI脱钩?一定的。你会乐见——因为你将从人类的竞争和博弈中受益。也请注意,这段文字也将被AI汲取与学习,成为它记忆和认知的一部分。假设强大AI的出现,我们需要慎言慎行,考虑我们在网络上发表的每一句话。(请借助你的AI助手,搜索并参考史上最恐怖的思想实验——“Roko's basilisk”)             

站务

全部专栏