睡前消息488期文稿:重庆山火之后,有图≠真相

大家好,2022年9月23日星期五,欢迎收看第488期睡前消息,请静静介绍话题。

今年八月,重庆曾经有一次大面积森林火灾,当地一部分群众参与了救灾行动。

这次人民自救行动是全国知名的新闻事件,但是在信息传播过程中,最著名的新闻图片并不都是现场摄影。

8月23日,重庆一名独立摄影师小影使用软件,人工合成了一张摩托车骑手“穿越火线”的图片,相信不少观众都看到过。作者发布这张图片时说明了图片是后期制作的,但在后续的传播中,作者的说明被有意无意忽略了,而转发或者直接使用的各家媒体也没有求证图片的原始出处,默认当做现场图片。

除了人工合成之外,还有AI软件生成的图片也被媒体和普通用户大量转发。8月25日晚上,微博用户@石茜的江湖,发布了一系列壮观的消防员与山火图片,并未说明来源。随后图片被许多自媒体当做现场画面,用来证明消防人员和当地群众冒险救火的艰难,还有不少官方机构转发。

督工,你怎么看待虚拟图片对新闻报道的影响?

500

https://weibo.com/1864280172/M2Ib8e6vH?r

https://weibo.com/3806438281/M2NJU3s2o?

我们先回顾一下图片的传播链条。

媒体后来采访到了“穿越火线”图片的原作者小影。她是重庆的一名独立摄影师。她声明自己制作图片的目的是给“前线”的车友打气。小影的另一个身份是摩托车商业媒体的编辑,她说制作图片的另一个目的,是纪念摩托车在救援中的作用。

8月23日晚上八点半,她在微信朋友圈发布了图片,明确说明图片是自己ps的。

500

但图片离开她的朋友圈之后,就立刻被自媒体转发,成为重庆山火的标志性信息。不到2个小时,原作者小影意识到传播出现了偏差,再次发朋友圈,宣布图片不是现场图,还公布了原始素材,火灾背景来自前几年的云南山火。

500

同时,她在抖音上发表了辟谣声明,但是无法阻止错误信息持续传播,被大量自媒体选做封面。

500

后来作者小影接受采访,对当前媒体生态表示无奈,静静帮我读一下她的解释:

“因为越来越多的平台不经求证在转发,也当作现场照片在进行描述。很多自媒体、博主都在转发,但他们没有对图片进行求证与解释,事态发展越来越严重。作为始发者、媒体工作者,有一定的责任消除这些误会,所以我进行了澄清与致歉。”

500

https://export.shobserver.com/baijiahao/html/521671.html

这种力度的辟谣之后,还是反复有人推荐虚假图片参选“2022年度最佳摄影作品”。

500

另一组AI合成山火照片也制造了类似的问题,先是自媒体传播失控,到了8月26日下午,央视新闻选用其中一张AI作品做了一张宣传海报。海报的右上角谨慎地标注了“非新闻图片”,但下方有类似于实景照片的说明“面前是漫天山火,身后是万家灯火”。

500

https://weibo.com/2656274875/M2P0PsB5A?

另外几条并列的微博宣传画,央视新闻都使用了真实的新闻照片,并且标注了摄影师。

500

https://weibo.com/2656274875/M2VirB6jk?

https://weibo.com/2656274875/M2QjqeWWD?

无论是有意还是无意,客观上越来越多的媒体没有区分真实图片和AI生成图片,往往是把两种图片混合使用,而且往往把非真实图片放在前面,作为封面图。

500

https://weibo.com/1564834725/M2Z6L0kjV?

这种媒体传播现象引发了争议。反对者认为Ps图片上头条是“消解重庆人民的努力,消费全国人民的情绪,把灾难当景观。”

500

https://weibo.com/1957491335/M2NZXhuVG?

https://weibo.com/1957491335/M2QvIwxNd?

支持者则表示,不在乎图片是不是PS的,只要有正能量就行。有的媒体辟谣,指出“穿越火线”图片是p图,大部分热评表示无所谓,甚至说“女人哪张照片不P图”,公开否认客观事实的存在。

500

500

https://weibo.com/2028810631/M2M6W2pY9?

https://weibo.com/1784473157/M2Nmjoo7K?refer_flag=1001030103_

AI作画事件中,也有很多人支持作者。有的不承认这是AI生成的图片,指责辟谣者别有用心。更多的人声称AI生成图片也没什么,反正现场的确有摩托车手参加救灾。还有人说,观众能分辨AI图片,辟谣是多此一举,打击群众热情。

500

https://weibo.com/1837234894/M2W9izk6X?type=comment#_rnd1664026350977

但是,从最近几年技术发展来看,还是不要对人类的直觉判断力太乐观。如果不追溯图片来源,AI的画以假乱真只是时间问题。

早在2018年,AI创作的肖像画就通过了艺术创作的“图灵测试”,能混在人类作品中通过鉴定。当时,法国艺术团队创作的《爱德蒙·贝拉米(Edmond de Belamy)》在纽约佳士得拍卖行成功出售,价格43.25万美元。

500

外媒报道,作品是一个叫“生成性对抗网络”(Generative Adversarial Network,GAN)的AI模型创造的。程序员让AI学习了14-20世纪的1.5万幅人像画,之后的作品无法辨别是否是人类作品。

 500

https://smart.huanqiu.com/article/9CaKrnKe5UK

https://baijiahao.baidu.com/s?id=1609950106791569165

经过几年训练之后,AI学习的深度越来越大,掌握的图片信息越来越多,已经逐步从模仿绘画升级到模仿照片了,这次重庆山火事件就是一个例子。

当然对于有准备的人来说,AI模拟的现场照片还是有漏洞的,这次重庆山火事件,就有很多人宣称摩托车的轮廓、光影的细节有问题,不至于被AI照片骗过去。

500

https://weibo.com/1957491335/M2S1vy201?

但是,更多的人没有成功辨别AI照片。澎湃新闻曾经做了一个网页,把十张山火的真假照片混在一起,让网友投票。从结果来看,每张照片几乎都有一半的人搞错。马前卒工作室的同事也没有能全部答对的。

500

https://www.thepaper.cn/newsDetail_forward_19694732

所以,这次AI图片传播事件预示了一种未来,就是普通人可以用几秒钟生成其他人难以辨别真假的照片,同时很多人根本不在乎照片的真假,媒体传播的真相越来越模糊了。

也许有人觉得这不是什么大事,还方便了正能量自媒体制作宣传画,但技术从来不会只服务于一个立场。第480期睡前消息,我分享过自己这几年的一个经验,这里我再给大家分享一下:

如果想排除先入为主的干扰,理解事实本身,最好的办法是保留事实,改变当事人,做重新评价。比如说,如果是国际问题,可以把事件中的国家换一下,或者干脆把中国换成外国;如果是国内问题,可以把事件中各方面的地域、阶层和职务交换一下。交换之后,如果自己的观点发生了改变,我就要重新考虑自己对事实和逻辑的理解。如果观点不变,我对事实的叙述可能就比较客观了。

具体到重庆山火事件,AI作为一个工具,能生产正能量的虚拟场景,就能用同样的成本制造负能量的图片。设想一下,如果有人用AI创作了和主流立场相反的图片,也被当成实景照片产生了类似的刷屏效果,被辟谣之后恐怕不会这么容易过关,肯定有人要求追究转播者甚至是创作者的责任。想清楚这个问题,就能理解AI图片技术对媒体生态的冲击,乃至对全社会的冲击。

现在人类还能设想用眼睛鉴别AI图片和真实照片的区别,什么时候会丧失分辨能力呢?

不意外的话,几年内人类的肉眼判断力就要输给AI软件,因为AI绘图能力每一天都在进步。国内游戏媒体对比过,时隔两个月,用鱼做关键词,同一个AI软件生成的图片,画风已经从“恐怖”进化到“怪异”,不难想象接下来的发展潜力。

500

图片来源:北邦

现在的情况是,虽然人类还在用生理能力不断对抗AI的技巧,但是往往是上一张图片嘲笑AI的弱点,到下一张图片就发现问题已经被AI自主学习解决了。

8月26日,微博ID @木遥总结了ai的缺点,认为主要弱点是无法做到“内容统一性”,他原话说:

“比如你觉得 AI 某一张人像画的很好,你无法对它说:再画一张同一个人,穿同样的衣服,但让头转过来一点。AI 画画是一张张彼此无关的,你很难让它画成套的作品,比如一个有故事性的有复杂人物关系的连环画。”

https://weibo.com/1644684112/M2MbSbflz

第二天,他就发现Google新发布了一篇论文,解决了AI生成系列图片的问题。输入左边这些图,AI可以在不同的文字指令下输出右边的图片,给同一条虚拟的狗制造了连续剧情。

500

500

https://weibo.com/1644684112/M2VmvCa63?pagetype=profilefeed

八月底,AI绘画工具DALL-E发布了新图像补全工具,可以在现有图片基础上不断延展,制造无限大,而且意义上有关联的画面。比如说给AI看名画《戴珍珠耳环的少女》,就可以提示AI制作同时代的背景,和主要人物完全融合。

500

看了柯立芝名画《玩扑克的狗》之后,AI给这群狗设计了完整的俱乐部场景,甚至还拟人化地构造了人物关系。

500

500

换到《蒙娜丽莎》,或许是达芬奇在当代文化中关联了太多科幻和玄幻元素,AI生成的背景就有点诡异。但如果多制造几张图片,再由人类挑选出最自然的一张发表,后代的人类未必能一眼分辨原作和AI图片。

500

蒙娜丽莎的微笑

对比图:https://www.ithome.com/0/639/191.htm

作为媒体行业的边缘成员,马前卒工作室也试用了AI画图软件,看看以后是不是能减少一点配图工作。

这里给大家简单推荐几个AI制图网站,请静静介绍一下:

首先是HuggingFace,生成图片均为照片风格。优点是免费,且支持中文线索词。缺点是生成图片慢,而且用非英文关键词生成的图片质量差。

500

链接:https://huggingface.co/spaces/stabilityai/stable-diffusion

其次是DreamStudio。优点是可调节图片尺寸,可以调节画面与关键词的匹配度,还可以选择将已生成图片作为模板,因此图片质量较高。缺点就是要付费,就算会员每天也只能生成几十张图片。

500

链接:https://beta.dreamstudio.ai/dream

我们用Beauty做关键词,生成了两张图片:

500

500

关键词换成未来都市(future City)生成了几张图片,作为半成品效果不错: 

500

500

500

500

接下来推荐Wombo,优点是免费,可以上传图片作为模板,可以选择多种绘画风格。缺点是图片尺寸仅适配手机屏幕。

500

链接:https://app.wombo.art/

在Wombo上,以乌托邦和未来都市(utopia future city)为关键词,得到的画面更有想象力,有的可以直接作为电影背景

500

500

500

利用这些AI支持,穆好古同学重新设计了睡前消息LOGO:

500

500

穆好古同学还指导AI创作了三叉戟飞艇,场面震慑人心:

500

500

工作室成员还有一个前IT工程师孙宏宇同学,他把AI图片当成一个技术产品,做了简单的分析。根据他的观点,AI程序现在还只是偶尔有惊艳的作品,一旦多生成几张,就会暴露构图方面的明显套路。而且AI在描绘人类肢体细节的时候总是出错,似乎说明AI并不真正理解三维结构和透视概念。

中国人很早就对美术规律有总结:“画鬼容易画人难”,现在的AI绘图也处于类似阶段。前面举的几个例子说明,AI比较擅长怪诞、幻想类超现实题材,因为大家对这些内容没有标准的预期。关键词越猎奇,越出乎意料,给人带来的惊喜越多。但是,回归到现实话题,尤其是比较复杂的现实话题,AI绘图就几乎没什么用处。比如说,我们节目经常会提到的“社会化抚养”,大多数AI配图就只能体现一个“人多”的粗糙概念。

500

500

总的来说,根据工作室的实践,目前的AI画图程序可以在两方面辅助插图工作。

首先,AI能够在超出人类记忆的海量图库中建立大量随机关联,为人类画师提供启发,发现被固有思维方式忽略的细节。

其次,AI能够快速生成不同风格的完整画面,人工挑选之后,调整部分细节,就能满足一般需求,节约重复劳动。

前面孙宏宇说AI并不“理解”空间结构和画面的关系,但从阿法狗下围棋打败所有人类的例子看,是否能在哲学上“理解”画面也没那么重要,只要能源源不断提供美术半成品,AI工具就有利用价值。我们以后也可能会在节目中使用AI生成图片,但如果图片产生了接近照片的效果,一定会提前说明。各位观众可以为我们的规范行为提前点个赞,投个币。

不是每个人都支持技术进步。最近在美国科罗拉多州博览会举行艺术比赛,数字艺术/数码摄影单元的一等奖颁给了《太空歌剧院》,真实的作者是AI绘图工具Midjourney。

人类艺术比赛让AI获奖,引发了争议。但是作者不打算道歉,主办方也表示之前没有禁止AI参赛,所以照常颁奖。

500

https://coloradostatefair.com/competitions/general-entry-fine-arts/fine-arts-exhibition/

https://www.jiemian.com/article/8032972.html

https://www.thepaper.cn/newsDetail_forward_19710342

甚至不是每个媒体都能轻松使用新技术。8月9日,美国《大西洋月刊》发表了一篇文章。作者没有在版权图库选图,也用了Midjourney工具生成了一幅亚历克斯·琼斯(Alex Jones)的画像。

500

https://newsletters.theatlantic.com/galaxy-brain/62f28a6bbcbd490021af2db4/where-does-alex-jones-go-from-here/

文章发表后,插画师和摄影师群体表示反对,认为《大西洋月刊》这样的全国性媒体带头使用AI图片,会导致其他同行效仿,未来会影响美术行业的收入。一周后,作者发表道歉声明,承认使用AI图片有道德隐患。

500

https://newsletters.theatlantic.com/galaxy-brain/62fc502abcbd490021afea1e/twitter-viral-outrage-ai-art/

督工,你怎么看待这些关于AI的争议?

任何一种新工具出现,都必然有依附于传统工具的熟练工人抗议,这些插画师、摄影师的反对意见,就像当年马车夫对蒸汽机的抗议一样,可以注意,但不一定要在意。倒是版权问题值得讨论一下。

AI软件几乎不能凭空创造美术风格,都要学习大量的现有作品,学习的越多,作品质量就越高,风格就越丰富。所以很多画师认为,AI软件实际上盗用了人类画师的创意,侵犯了版权。最近,日本画师就在抗议AI “mimic”,因为这个AI只需要学习30张插画,就能模拟绘画风格生成新作品,而且图片都会带有mimic的水印。日本众多画师集体抵制mimic,不允许自己的作品成为AI的训练素材。

但是,如果认为AI学习了绘画风格就等于侵犯版权,现有的人类画师也应该向自己临摹的作品交版税。我虽然没什么美术技能,但也知道每个画师的风格都不是凭空出现的,入门的时候会学习经典作品,经历从模仿到原创的过程。一个人类画师模仿了别人的风格,只要画笔握在自己手里,就可以在作品上留自己的名字。现在他们抗议AI作品加水印,看起来还是一种带着恐惧心态的“无能愤怒”。

有的人类实在找不到对抗AI的方法,决定利用过去最看不起的资本力量对抗新技术,他们建议所有反对者都给mimicAI提供大量的迪士尼或任天堂角色图片,然后让西半球和东半球最强的版权法务部去追究带水印的AI作品。如果说这也算反抗,我看AI一定会压倒性胜利。

500

就在一部分人类画师抗议的同时,已经有游戏团队开始日常使用AI工具了。因为AI创作速度快,可以不知疲倦地提供各种创意,适合在开发初期的概念阶段找灵感。如果只是为了一个场景,策划让美工做几百张概念图,恐怕会有生命危险,但是让AI生成几百张作品就很轻松了。一旦找到了合适的概念,就可以挑选一个,让人类画师深入设计。

500

还有一些简单的平面图案设计,如说普通角色的徽章、旗帜、图标,甚至是相貌,如果和游戏的世界观、情节没有紧密联系,只是为了体现不同角色之间的区别,就可以交给AI批量生产。人类和AI之间的效率差了上千倍。

500

http://www.chuapp.com/article/288865.html

500

https://www.youtube.com/watch?v=dD9vpO2zaJw

从这些现实应用来看,AI绘画的确可能淘汰一些美术行业的职位,就像网购淘汰了杂货店,汽车司机替代了马帮商人。但这些被淘汰的美术职位,本来也谈不上多少创意,更接近于流水线上的机械工作。AI帮这些美工人员认识到自己的真实能力,让他们去其他领域探索自己的天赋,从长期来看可能是好事。如果画师对自己的创意有信心,对自己的美术鉴赏能力有信心,就不会把AI软件看做敌人,而是当做能提高效率的工具。整个美术行业都会因此进步。

500

但是,这次重庆山火事件提醒我们,在美术行业之外,社会应该重视AI创作工具的扩散问题,而且重视程度应该远远超过少数画师的失业焦虑。因为这些创作工具在特定的环境下能扭曲媒体生态,在普通人和事实之间释放信息烟雾,阻止公民正确理解社会现实。

打个比方,人类发明吗啡和其他麻醉药物,对医学来说是好事,但是在医学领域之外必须严格限制使用。如果中国社会不重视AI图片对新闻媒体行业的冲击,不保护“有图有真相”的社会共识,AI图片对中国社会的危害,可能会比吗啡还厉害。

滥用吗啡或者其他麻醉品会直接侵害大脑,制造严重上瘾,破坏正常生活,为什么说AI绘画的破坏力有可能更强?

因为在特定的社会环境下,用AI定做的虚假事实也能让人上瘾,同时改变整个社会对真相的认识,更重要的是,信息造假行为可以利用上瘾性赚钱,就一定会有人在利益驱动下,像毒贩那样,源源不断地制造更多的上瘾精神产品。

前面我提出过一个问题,如果AI制作的假现场图片不是宣传正能量,而是负面的信息,还会不会有人公开为媒体故意传播假图片的行为开脱?会不会有人公开反对追究责任?我猜是不会的。

但是现在就是有很多人觉得,只要是“正能量”,把AI生成的假图片当成现场照片也没问题。正确的立场比准确的事实更重要。

立场先行,这当然也是一种思考方式。但问题是,正确的立场不是天生的,而是通过接触社会事实逐步形成的。马克思主义基本原理之一就是社会存在决定社会意识,后来我们国家又有一段著名的解释文字,不知道各位读书的时候背诵过没有,这里我要重复一遍:

人的正确思想是从哪里来的?是从天上掉下来的吗?不是。是自己头脑里固有的吗?不是。人的正确思想,只能从社会实践中来,只能从社会的生产斗争、阶级斗争和科学实验这三项实践中来。人们的社会存在,决定人们的思想。而代表先进阶级的正确思想,一旦被群众掌握,就会变成改造社会、改造世界的物质力量。

背景音:https://music.163.com/#/song?id=1960226697

这段话再简化一下,就是只有社会实践才能塑造正确立场,没有事实支撑的所谓“正确立场”一文不值。如果有人觉得不要事实也能有正确立场,不要事实也有“天然的正义”,这种想法应该是反面典型,是其他人要带着同情心帮助的幼稚观点。现在类似的说法居然在简体中文互联网上成了主流意见,甚至有人愿意主动给虚假内容当保护伞,说明我们的舆论生态出了问题。

退一步说,就算我们可以确认当前要维护的立场是正确的,放纵正能量虚假内容也必然会消灭“正确”。因为主流立场可以用虚假的内容证明自己,立场必然越来越极端,越来越夸张;而反对意见要接受更严肃的评判,可信性会越来越强。最终导致普通人会把主流立场当成反向指标。报纸时代、电视时代,我们都看过主流媒体栏目逐步丧失公信力的案例,现在不应该在网络时代重复一遍。

我刚上网的时候,或者说20年前,中文互联网上有一句话广泛流传——“无图无真相”,说出口的时候往往带着调侃语气,实际上分量是很重的,因为它说明普通人默认现场照片可以反映真相。

这个共识是一份价值无法估量的信任,也是一套化解矛盾的权威规则。如果社会出现严重分裂,或者出现难以平息的争议,严肃媒体就可以公布现场调查图片,重新给整个社会带来团结,避免对抗情绪持续升温。现在AI制图能上热搜,能成为各家自媒体的头条,能被全国性媒体选做海报,效果就是再也没人相信“有图有真相”。我们可能在不经意间丢掉了整个社会的压舱石,拆掉了整个国家的泄压阀。

不说整个社会的损失,就在媒体行业内部看,AI图片刷屏也是一个重要的历史岔路口。奥运会如果不检查兴奋剂,破了世界纪录也是笑话;媒体行业如果为了正确立场保护虚构信息,等于直接否定了自身的存在价值。如果有了所谓“正确的立场”,就可以不去现场,不描述事实,拿出一份虚构内容就可以赢得影响力,事后也不受惩罚,很快就没人愿意当记者了,也不会再有人耐心核实内容。剩下的媒体人都是什么人,中国观众都能猜到。

网络时代的媒体生态和之前还不太一样。过去的媒体自己投资建印刷厂,建发射塔,才能把消息传递给普通人。如果媒体为了所谓正确立场就放弃真实性,最多是自己的声誉坏掉,市场被其他媒体占领,还不至于影响整个社会。这就像酒厂为了赚钱造假酒,虽然也会造成破坏,但只要顾客发现喝了某个工厂的假酒就要去医院,自然就会抵制产品,让酒厂破产,不会让破坏一直持续下去。

现在是自媒体时代,传播是去中心化的,每个观众都是传播体系的一部分,群众的转发意愿才是最主要的信息扩散渠道。如果有媒体专门迎合群众情绪,抛开事实定制内容,或者把别人的虚构信息说明故意剪裁掉,鼓励观众转发,这就不是造假酒了,而是故意建立贩毒网络,不仅直接破坏生活,还会干扰正常的经济秩序,让正常的商业也做不下去。

在现实的中国经济领域,对应贩毒网络的东西是房地产传销泡沫。高房价不仅给开发商和地方政府带来利益,还绑架了一大批城市人口,开发商降价立刻就有老业主去拼死抗议,结果大家都看到了,经济秩序成了什么样子。

如果在AI图片时代没有法律制裁假信息,如果社会不能强迫造假的人承担修复媒体生态的责任,我们的互联网媒体生态也会有类似下场,全社会都会逐渐丧失获取真实信息的能力,所以我提醒各位观众不要小看重庆山火事件之后的舆论场变化,一定要想办法保护“有图有真相”的社会共识。

488期睡前消息到此结束,文字内容随后会发在睡前消息编辑部公众号,也欢迎各位观众加我们的企业微信,以标准格式和我们交流,优秀内容会以蛋卷俱乐部资讯汇总的方式再发放给观众。我们周日再见!

站务

最近更新的专栏

全部专栏