风辞远的科技茶屋:可怖的AI

大家好,我是脑极体的风辞远。一直以来我们都在写大块文章,很少有机会跟大家聊天。时间长了,总觉得这种方式有一点冷漠感,不够轻松,加上往往每篇文章只聚焦一个话题,而我们产能有限,就会有很多值得聊的话题被错过了,多少有点遗憾。

500

于是乎,我就想到了这样一种方式:这个专栏会选择一周中的科技新闻,给出我自己的看法和观点,希望能够帮大家换个角度看待科技。我们一起在乱花迷人眼的科技湍流中,进行一点小小的独立思考。

今年一切都在回暖,似乎可聊的东西也在增多。本期我们先聚焦AI,后续也会渐渐向更多技术领域辐射。

让我们喝杯茶,慢慢说。

能诈骗的AI

最近提到AI,很多朋友都会说,AI这个技术好可怕啊!咱们慢点发展,或者干脆别发展它了。

回顾这一周的AI新闻,似乎确实感觉我们好像在面对某种“难以名状的恐怖”,克苏鲁氛围直接拉满。

首先,AI诈骗正在全球肆虐。本周,包头警方公布一起利用AI技术实施电信诈骗的典型案例:福州市某科技公司法人代表郭先生10分钟内被骗430万元,犯罪分子冒充郭先生的好友,通过微信视频进行连线,让郭先生帮其走账。结果之后发现好友的视频和声音,居然全都是犯罪分子用AI进行合成的。

500

如果没记错的话,这是国内此前很少见的AI换脸+变声诈骗案件。但事实上,这种骗术在国外已经非常多,传进来只是时间问题。

我们在4月1日发布了一篇《聊聊那些正在坑人的新型AI》,就是希望提醒大家AI+诈骗的方法已经迭代了。现在AI换脸、AIGC真人图像的成本已经非常低,犯罪分子不可能错过这个机会。

500

这里当然不是想炫耀所谓的“我们早说过了”,而是认为我们必须要反复提醒大家,AI+诈骗的升级正在进行时,可能带来的危害非常巨大。这里的关键点,在于AI换脸+变声,已经超过了一般人对于诈骗行为的警惕阈值,是非常需要大力科普的。但现在对诈骗的普及宣传,更多还停留在比较老式,有点江郎才尽的电信诈骗上,他们都要“上门枪毙”了,感觉也快没活可整了。

想要应对AI诈骗,请记住最核心的一点:视频、语音,哪怕是实时视频连线,都必须打一个问号。

如果是用AI冒充熟人诈骗,我们不妨多说几句,多方查证一下,要不了几分钟就能避免大麻烦。

如果是用AI冒充帅哥美女的杀猪盘,请大家切记天上掉不下林妹妹,掉下来的都是终结者。

能取代人类工作的AI

AI不光能骗我们,还想要取代我们的工作。这个故事可谓老生常谈,但本周有了新的素材。

在AI孙燕姿大火之后,孙燕姿本人回应了这件事。大家可以去看看这篇文章,写得非常好,回应非常得体,既淡泊又充满力量。比如说,孙燕姿表示,“我想说的是,你跟一个每几分钟就推出一张新专辑的人还有什么好争的。”

但观察评论区不难发现,孙燕姿这样坦然承认AI发展趋势的态度,不免给很多朋友带来一点恐慌,似乎我们的工作被AI超越,甚至取代是难以避免的。有网友会说,孙燕姿都敌不过AI,我一个社畜可怎么办?

500

其实这事要换一个角度想想,就会发现很多担忧是多余的。

首先,孙燕姿从来都不是什么冷门歌手,能用AI复刻的歌手千千万,但却是AI孙燕姿火了。这是因为她本人的价值太大,也是因为歌迷太过想念不大想出专辑,也不想开演唱会的她。这恰好说明AI是人类价值的延展,只要你的价值够大,“你+AI”带来的组合效应会更突出。AI孙燕姿的优秀,全有赖于孙燕姿本人的优秀。

所以,不要低估人类的价值,不要低估你自己的力量。

而如果你还是对AI有所畏惧,不妨试试另一个办法。其实吧,应对恐惧的关键是学会拆解恐惧。惧怕贞子,就想想她是怎么爬出电视的?爬出来的原理是什么?是物理现象还是化学现象?贞子会不会卡住?如果她爬一半断电呢?如果爬一半换台呢?

500

这么想,是不是就不可怕了?还有点萌?

不惧怕AI的前提,是你不把AI当作“不可名状之物”,而是要了解技术表象之下的工作机制、运行原理,了解它将带走什么,带来什么。

这样,AI就像电脑、手机、汽车一样,不过是工具。我们跑不过汽车,但不会惧怕汽车。

所以说,多看脑极体,这很重要!

能让股价暴跌的AI

AI的可怖,不仅对个人有所体现,对公司也是一样。

5月24日,科大讯飞股价突然大幅跳水,午后盘中一度跌超9%。科大讯飞在深交所互动易平台上表示,这是因为有对公司不利的不实传言在网上流传。值得注意的是,这篇传言是利用某AIGC平台生成的。

500

股票史上,被传言、谣言下挫股价的例子比比皆是,但被AI打落股价,这可能是头一遭了吧?

其实,AI造谣和人工造谣没什么本质区别。AIGC平台真的生成了类似内容,也是在某个具体用户的指令下,而不是背后技术平台的要求下。这就像我们可以告某个人诽谤,但不能连带诉讼这人写诽谤信所用钢笔背后的钢笔厂。

这件事真正值得注意的是,今年很多厂商都利用生成式AI的风口,完成了股价的大规模上涨,但在发布了相关产品后,往往又会迎来比较大的跌幅。生成式AI是一把双刃剑,它能够吸引到包括资本在内的目光,但也天然有着ChatGPT作为标尺。如果技术能力经不住考验,而是只靠宣传来带热度,那么接下来会面对持续的压力。

500

好在还有时间,还有机会,很多布局或者预备布局大模型、生成式AI的企业,需要做好慢慢来的准备。

能让股价暴涨的AI

科技产业,就是几家欢喜几家愁,这边AI企业普遍下跌,那边就有人靠着AI大涨特涨。

英伟达在5月24日公布了第一季度收益,其71.9 亿美元的营收超出了市场预期 13%。由于公司对第二季度销售额给出了较华尔街预期高出 50% 的预测,推动英伟达股价大涨,市值接近万亿。

500

不难看出,推动英伟达又又又暴涨的关键因素,是全球争相布局生成式AI,带来大量企业和数据中心,竞相购买英伟达高端GPU为代表的AI训练芯片。就在不久之前,国内甚至出现了市面上一卡难求的局面。

这个现象就是标准的掘金热爆发,先富了卖锤子铁锨的。更为关键的是,锤子市场还差不多被垄断了。当AI底座愈发值钱,没有成功渗透到AI芯片核心赛道的玩家,比如英特尔、AMD、谷歌,纷纷产生了失速现象,现在弄成了一种无论AI怎么变,最后都是英伟达赚钱的神奇局面。

500

而今天的英伟达,显然已经不满足于只卖GPU,而是希望向企业输送整体化的AI计算系统,从而让附加值更高。这也意味着,如果现在其他厂商不去抢占AI计算底座这个新市场,英伟达很可能会吞噬更大的市场空间。

我们不妨说得露骨一点,今天的大环境下,中国AI的自立自强,不能建立在GPU霸权上。现在,是时候有更多紧张感了。

我们如何面对AI?

作为个人,AI能诈骗我们,还能取代我们工作;作为企业,AI能给我们造谣,AI大厂还要高价卖我们GPU,这个怪圈究竟怎么破?

其实说一千道一万,关键是要把更多东西掌握在自己手里。“克苏鲁之父”洛夫克拉夫特说,人类最原始的恐惧是对未知的恐惧。一件大事,越不能掌控,距离你越远,你就越害怕。换个角度想,必须把未知变成已知,把无法掌握的变成可以掌握的,这样我们才能消除恐惧,甚至变恐惧为机遇。

500

5 月 26 日,在 2023 中关村论坛全体会议上,工信部副部长徐晓兰表示,要强化产业基础再造和重大技术装备攻关,加快核心基础零部件、核心基础元器件、先进基础工艺、关键基础材料、基础软件等方面的攻关突破,集聚力量突破智能芯片、算法框架、大模型等智能产业的“根”技术。

近期,关于AI技术的重要性与发展方向,国家各部委进行了密集表态。中国对AI技术的重视正不断加强,甚至不断升级。而这次中关村论坛全体会议上的说法,有两件事值得注意。一是对智能产业的“根”有了更加聚焦的表述与认定。避免了以往经常出现“这个也是‘根’技术,那个也是‘根’技术”的种种争议,进而可以避免投资被分散,关注被滥用;二是又一次从国家层面强调了深度学习框架的重要性。一直以来,AI产业都更关注芯片和模型,但二者之间没有框架是联接不起来的,我们始终在呼吁关注框架的重要性。

但现实是,由于框架作为基础软件收益低、生态发展困难,很多大厂都是跟风做一做就算了,甚至整个基础软件领域普遍有这个问题:收益差,不想做,同时谁做了还不免拉踩几下。

500

好了,不知道看完这篇有没有打消你心中对AI的恐惧。

如果还没有的话,不妨来看这个新闻。5月26日,由埃隆·马斯克联合创立的脑机接口公司 Neuralink 正式宣布获得了美国食品和药物管理局(FDA)的批准,可以开始进行人体临床实验。

那边都要打开人脑了,是不是就显得AI人畜无害了?

全部专栏