从2022年末到2023年初，IT界最火爆（可以说没有之一，甚至可以说是自互联网以来）的现象级产品就是OpenAI公司的智能聊天机器人ChatGPT。对于这个东西，业界给了前所未有的溢美之词，核心意思就是“它会颠覆生态”（生态位大致对标——甚至很有可能超过——互联网和手机的诞生），以至于对这个行业的巨头也产生了强大压力，Google、微软、百度都不得不被迫跟进，甚至不惜冒着名声受损的风险，急于发布自己很不成熟的类似产品。
进入本世纪第二个十年的中后期，IT产业也曾先后多次出现被业界追捧的新概念、产品乃至新业态，主要有：
- 互联网金融：一部分以数字支付为代表，基本通过了历史的检验，融入了社会基础设施，算是一个正面典型。另一部分以P2P为代表，最后的狂欢收割完一大批韭菜，以极稀少的几个头部高位套现退场而收场，则是一个反面典型。
- 新视频和新电商：以抖音和带货为代表。主要不在于技术门槛的突破，而是在成熟技术提供的新平台上的商业模式创新，为就业和自由职业者开辟了传统个人发展路径之外的新赛道，得到了来自官方的政策扶持。但同时围绕流量经济带来的单纯逐利效应，经过时间检验之后就暴露出大量负面问题（KOL在工业时代也是可以通过MCN等渠道流水线生产出来的）。
- 区块链：以比特币为代表。大部分围绕币圈制造出来的各种“郁金香”“君子兰”等类庞氏局继续割韭菜，还有一部分成为以NFT为代表类金融产业（是不是多半也会沦为韭菜盘？就见仁见智了），只有少部分整合进了数字货币等有官方支撑的正规产业。
- 自动驾驶：以特斯拉为代表。由于是跨行业技术，蓝（da）图（bing）上的拉动效应至少能看得到，得到了来自官民两面的政策和资本扶持，其未来还有待检验。
- 元宇宙：以Fackbook高调转型Meta为代表。其前置的VR产业本身似乎还没有成长到人们所预期的程度，Metaverse的概念炒作差不多充满了整个疫情期（不知道这算是是洗具还是杯具），离落地似乎仍有很大距离，已经有人开始怀疑很可能其中会有相当大一部分将沦为新的韭菜盘。
可以看出，之前新冒出来的这些概念/技术/产品，真正能沉淀下来，未来回顾历史的时候能记下一笔的，其实并不占多数。但这段时间ChatGPT给人营造出来的（目前尚未经过时间检验）观感，似乎有所不同，好像是真有成为一场“革命”的意思。
关于这一点，ChatGPT自己倒是颇有自知之明，对于我的提问它明确回答自己是一款基于学习型的交互式AI——
从工科男的视角看来，ChatGPT作为一个“黑箱”，输入端接收人类（或者其他的，比如另外一个ChatGPT？）的自然语言和文字信息，输出端吐出具有因果相关性的同语言的文字信息。如果ChatGPT自身没有内置一组规则来鉴别的话，那很有可能被不怀好意的人类“玩坏”。目前已经发生过的事件（包括但不限于）：
- 有人把ChatGPT训练成尬聊或出口成脏的工具
- 有人利用ChatGPT编写假新闻，然后发布到网上进行传谣
- 甚至有黑客利用ChatGPT编写恶意代码
然后我昨天就碰到了一件疑似“ChatGPT式假新闻”的案例。起因是某个公众号上看到这么一则据称是纽约时报的报道截图——
这则报道给我感觉很违和，特别是其中有这么一句——
这句话是很奇怪的，沙特被安理会制裁了吗？我初步怀疑这则报道可能是假的，其中上面这句话可能是把别的新闻报道中的部分文字材料进行过偷梁换柱，比如把“朝鲜”或“伊朗”替换成了“沙特”。于是我上NYT官网上去找，无论是英文版还是中文版都没有找到上述“报道”的原始出处。我注意到上述截图中的两处关键信息：作者Marc Santora，以及发表时间2023年2月27日。Marc Santora确实是NYT的撰稿人，在NYT官网上很容易查到Santora发表过的稿件——
大致翻了一下，此人的主要关注方向是俄乌战争，并且于2月27日发表在NYT上的所有稿件只有下面这些——
完全没有前面截图提到过的内容。至此，我大致可以说，这个截图很可能是个P图作品制造的假新闻。这是一个“有图未必有真相”的年代。
联想到近来火爆的ChatGPT，我打算做个试验，让ChatGPT模仿NYT写一篇这个题材的假新闻——
我点击了“Regenerate response”多次，得到的都是内容大同小异的“洋八股”。我也请朋友帮我进行了类似试验——
在这个回答里就有关于“武器禁运决议”的内容，但是逻辑确是莫名其妙：沙特跟朝鲜和伊朗的禁运有什么关系？
（好吧，这个图是用来搞笑的）
联想到原截图里面那句关于“制裁”的表述，跟这里就很相似了。因此我怀疑，P这张图的原始文字有可能是来自ChatGPT生成的产物。假使真是如此，那也并不意外，因为前面我举的例子里就有杭州某市民利用ChatGPT制作散发谣言的。
问题还不仅于此，这张（暂且称为）疑似P图，是另一则网络流传“新闻”的一部分。最近几天国内某些论坛上盛传一个猛料，称“沙特将订购12艘052D”“三周内就会达成协议”。我用疑似P图中的标题百度了一下，结果如下——
我依次查看了这些链接，发现几乎全部来自于自媒体，没有一个是门户网站自己的新闻，更不用说来自正规媒体的消息。比如最下面这条标注“网易”的消息，点开发现只是来自“网易号”，也就是自媒体，并不是网易新闻——
而且所有这些消息内容基本相同，其引用的所谓消息来源仅仅推特上的两个id，一个是个人，一个是野鸡媒体。如果有这样重磅的“猛料”，为何没有一个国内外主要媒体（无论平面还是网络）进行报道呢？既然不到报道，为何又要故意P一张美防长的“新闻”呢？
右边这个id有点意思，看头像和推文似乎是个沙特人，其实只要一搜就会发现这个id现在长这样——
这是一个注册不满一个月的水军号吗？而且刚搜到这个号的时候推特还会提示你，这个号“有异常活动”“暂时受限”。
关于沙特是不是真的要买052D，在没有更多正规渠道的消息之前，我也不能说它一定就是假新闻。但是，如果所谓的“信源”只是上面这些货色的话，那我倒是很可以怀疑，这很可能就是假新闻。那么它是借助ChatGPT制造出来钓鱼的吗？
十几年前，我在这里也写过一篇关于钓鱼党的博文，我在文中说到过——
我们知道维基百科完全是一个“由非专业机构组织的，由大量非专业人员参与编写的一个非专业知识平台”，这样一个平台没有权威的专业人士和机构对其各种词条进行严格审核，也没有任何个人或机构能对所编写的内容负责，其结果完全取决于编写人的个人良心、知识水平、观点立场等等等等，编辑结果又是立即可见的，那么这个效果与我们用google或百度这样的通用网络搜索引擎所搜出来的结果有多大的差别，是很值得怀疑的。
这些年来涌现了很多技术和产品，比如维基百科，强调人人参与和知识共享；比如区块链，强调“去中心化”理念；比如ChatGPT，需要接受海量训练。但是如何确保在输入端，使用者是“主观善意”的呢？谁又有资格作为“善意还是恶意”的裁决人呢？
时过境迁，新一代的人们有了ChatGPT这个工具，想要造假钓鱼的话，简直是太太太方便了……20年前的wiki涂鸦党，10年前的钓鱼党，今天应该叫什么呢？ChatGPT调教党吗？所以，当我们欢呼人工智能“革命”来临的同时，是不是也要考虑一下调教它的那个主人的动机呢？我可不希望看到，当我还没有完全体验到ChatGPT的便利的时候，就已经被泛滥的ChatGPT假新闻所困扰。
Jungleford's Home 总舵 