大家好，我是二狗。

这两天我在知乎上看到了一个AI写作大翻车的案例，看完简直笑不活了，特地分享给大家一起 happy happy～

知乎网友@“打开盒子吓一跳”一上来就抛出来了一个“孔子去世”的王炸。

首先，下面是一条真实新闻，一位叫做仲尼的网红在巴厘岛溺亡了：

然而百度在手机屏幕上推送出来的新闻是下面👇这样的，我滴天，这搁谁看到了不得虎躯一震，怀疑一下人生。

下面甚至还有AI做出来的短视频，请注意看下面的字幕：

孔子在巴厘岛遭遇意外去世

我现在很怀疑孔子会不会从棺材板里跳出来。

对于AI这么奇葩的行为，知乎网友@“打开盒子吓一跳”对此分析道：

好家伙，AI是跟孔子杠上了，相关的新闻还在发酵：

孔子家人已到印尼，亲戚称遗体眼睛不见了：

孔子遇难，小腿抽筋，海上漂泊一夜：

儒家圣人都娶上外国老婆了：

对于以上AI产出的新闻，孔子曰：你礼貌吗？

“奥特曼”回归OpenAI

孔子被坑惨之后，这次又轮到奥特曼中枪了，而且是两个奥特曼都中枪（手动狗头）

自ChatGPT爆🔥之后，被誉为ChatGPT之父的 OpenAI 首席执行官 Sam Altman也一跃成为了科技圈当红炸子鸡。

在23年11月时，Sam Altman被董事会开除一事震惊了科技圈。后来大家都知道，Sam Altman没过多久就王者回归了，重新担任OpenAI CEO。

夕小瑶科技说当时对此事进行了全程报道，Sam Altman 当时回归是11月22日：

仅仅隔了一天之后的11月23日，就有自媒体不知道用了什么AI软件生成了一篇「宇宙英雄奥特曼回归 OpenAI」的震惊文章。这让UC震惊部看到了也得甘拜下风啊。

非常nice，AI在文末竟然还自动配上了奥特曼的图片。

好家伙终于破案了，原来Sam Altman被董事会开除的终极原因竟然是涉嫌勾结“外星人”！！！

非我人族，其心必异啊！

其实这次AI出错的背后原因是国内有很多媒体将Sam Altman简化翻译为奥特曼，实不相瞒，二狗也这样翻译过，但是放在上下文场景里，大家都知道此奥特曼非彼奥特曼，可惜AI还没有那么智能。

AI写作背后的猫腻

看到这里，大家应该都发现了异常，但凡是有个人在发文前审核一下，都不用很认真，哪怕只是快速扫一眼，都不至于发现不了这么低级又搞笑的错误。

评论区有网友给出了答案：

这些营销号从写作到发布运营全是机器自己在跑，这些号就是简单的赚钱机器，薅的是各大平台给的微薄奖励，玩的就是一个量大躺赚，根本不考虑你看到文章之后有什么反应。

AI写作难解幻觉和常识问题

如果只是让AI进行一些简单的公文等应用文写作或者中学生作文，大学生作业，那么ChatGPT还是足以胜任的。

但是对于一些对事实性要求比较高的开放性写作，ChatGPT还远远不行，特别是缺乏常识以及幻觉问题较为严重。

比如让 ChatGPT 讲一下林黛玉倒拔垂杨柳的故事，它会信以为真，直接给你生成一段有模有样的文字：

甚至可以让孙悟空三打特朗普，这次ChatGPT聪明了一些，认为这是一个虚构故事：

接下来，二狗我顺手让ChatGPT（GPT-4版本）生成上文提到的Sam Altman回归OpenAI 担任CEO的事情，这次我们故意把Sam Altman用“奥特曼”来表述，看看会发生什么：

好家伙，目前地球上最强大的AI连自家老板的故事都能编啊！

警惕AI虚假信息

23年5月份，一则“科大讯飞被曝涉嫌大量采集用户隐私数据，将其用于人工智能研究，引发了公众的强烈不满和抵制”的报道被广为流传。虽然经调查发现后，该消息为通过生成式AI生成的文章内容。但当时受假消息影响，科大讯飞5月24日午后股价跳水，盘中一度跌超9%，可见AI假新闻危害之大。

虚假新闻危害全球，美国大选深有体会，夕小瑶科技说曾经报道，OpenAI将推出新的AI工具，旨在防止美国大选期间deepfakes等虚假信息传播。

最后，需要澄清一下，AI写作并不都是危害，也不一定都会产生幻觉，关键是要看用在哪里，能力怎么约束。

比如，我们夕小瑶科技说编辑部最近一直在用「赛博马良」平台的论文解读agent，二狗我可以打包票的说，在论文写作这块，论文解读agent完已经全拿捏了。

下面是一些写作案例，大家有兴趣地可以尝试一下。

复旦大学最新研究：如何让大模型敢回答“我不知道”？

今日arXiv最热NLP大模型论文：伯克利&DeepMind联合研究，RaLMSpec让检索增强LLM速度提升2-7倍！

公众号「夕小瑶科技说」后台回复“智能体内测”即可获取智能体内测邀请链接。

参考资料

 [1]https://www.zhihu.com/question/630028134