世界关注：忧虑成真：著名杂志因人工智能“作家”激增而关闭投稿
著名科幻出版物“克拉克斯世界（Clarkesworld）”正在努力应对大量的机器提交 —— 仅在2月份就有500多份。
上图：该漫画描绘了一个人工智能生成机器人急切地向“克拉克斯世界”提交了一份稿件。
无限内容创作机器（生成性人工智能）的一个副作用是无限内容。周一，著名科幻出版物“克拉克斯世界”杂志的编辑宣布，由于发送给该出版物的机器生成故事大幅增加，他已暂时关闭小说稿件投稿。
(资料图片)
在推特上分享的一张图表中，“克拉克斯世界”杂志编辑尼尔·克拉克（Neil Clarke）统计了提交剽窃或机器生成小说的被禁作家的数量。2月份的数字总计为500个，高于1月份的100多人和2022年10月约25人的较低基线。被禁提交数量的上升，大致与2022年11月30日ChatGPT的发布时间一致。
上图：尼尔·克拉克（Neil Clarke）提供了一张图表：“这是我们每月不得不禁止的人数。在2022年底之前，这主要是抄袭。现在是机器生成的提交。”
像 ChatGPT 这样的大型语言模型（LLM）已经在数百万本书籍和网站上进行了训练，可以快速写出原创故事。然而，它们不是自主工作的，人类必须用提示来指导它们的输出，然后人工智能模型尝试自动完成。
自2006年以来，“克拉克斯世界”杂志出版了许多著名科幻作家的作品，并多次获得雨果奖。在科幻出版物中，它以公开提交过程而闻名，通常每字支付12美分。在其投稿页面上，该出版物写道：“目前我们不考虑由人工智能撰写、联合撰写或协助的故事。”然而，这并没有阻止提交的数量急剧增加，尼尔·克拉克将其主要归因于快速致富计划。
克拉克在推特上写道：“造成这个问题的人来自SF/F社区之外。很大程度上是由‘副业’专家推动的，他们声称使用 ChatGPT 可以轻松赚钱。他们推动了这一趋势，应该受到人工智能开发人员的一些鄙视。”
截至目前，在YouTube上快速搜索“用ChatGPT致富”和“用ChatGPT写作赚钱”之类的词，会得到很多结果，尽管我们没有找到一个特别指向“克拉克斯世界”杂志的视频。
上图：YouTube上的快速搜索显示了许多促进使用ChatGPT写作赚钱的结果。
人工智能撰写内容的问题，并非“克拉克斯世界”杂志独有。周二，路透社写了一篇关于亚马逊上人工智能电子书崛起的报道。路透社在亚马逊Kindle商店中发现了200多本将ChatGPT列为作者或合著者的电子书。
人工智能生成内容的大量涌入使“克拉克斯世界”杂志处于一个尴尬的境地，它试图将提交稿件的门槛保持在足够高的水平，以防止垃圾邮件发送者，但又不能高到阻止来自世界某些地区的未被发现的作家或写手，他们可能会被基于地理位置的禁令不公平地针对。在一系列推文中，克拉克解释了他的困境：
我们没有解决这个问题的办法。我们有一些最小化它的想法，但问题并没有消失。探测器不可靠。付费提交牺牲了太多的合法作者。纸质提交对我们来说是不可行的。各种各样的第三方身份确认工具比杂志所能承受的费用要昂贵得多，而且往往存在地域漏洞。采用它们就相当于禁止整个国家使用。
我们可以很容易地实现一个系统，只允许以前提交过作品的作者。这将有效地禁止新作者，但这是不可接受的。他们是这个生态系统和我们未来的重要组成部分。
值得重申的是，到目前为止，声称检测 LLM 编写的文本的工具的准确率很低（在使用人类编写的文本进行测试时经常返回假阳性），因此它们目前不是可行的解决方案。尽管存在这些问题，克拉克说杂志不会停刊，投稿将在未来的某个时间再次恢复。但就目前而言，未来的道路尚不明朗。
克拉克上周三曾表示：“它不会自己消失，我也没有解决办法。我在做一些修改，但这不是任何人都能‘赢’的打地鼠游戏。我们所能期待的最好的结果就是放出足够多的水来保持漂浮。”与此同时，克拉克鼓励那些想要支持该杂志的人订阅。
如果朋友们喜欢，敬请关注“知新了了”！
责任编辑：