据路透社报道，ChatGPT被列为亚马逊Kindle商店中至少200本书的作者或共同作者。然而，由于亚马逊的政策没有明确要求作者披露他们使用人工智能的情况，因此机器人写的书的实际数量可能要比这个数字高很多。这是自11月OpenAI的免费工具发布以来，人工智能生成的写作充斥市场并在道德上可疑的内容创作中发挥作用的最新例子。
"我可以看到人们以此为职业，"在Kindle Store上发表了一本儿童书的纽约州罗切斯特市销售员布雷特-希克勒说。"写书的想法似乎终于成为可能。"施克勒自行出版的故事《聪明的小松鼠》。一个关于储蓄和投资的故事》是一个30页的儿童故事--由人工智能编写和插图--数字版售价2.99美元，印刷版售价9.99美元。尽管施克勒说这本书自1月发行以来为他赚了不到100美元，但他只花了几个小时，根据ChatGPT的提示，如 "写一个关于爸爸教儿子理财知识的故事 "来创作这本书。
Kindle商店中人工智能创造内容的其他例子包括儿童故事《家庭作业的力量》，一本名为《宇宙的回声》的诗集和一本关于星际妓院的科幻史诗《银河系皮条客》。第一卷。"这是我们真正需要担心的事情，这些书将充斥市场，很多作者将失去工作，"作家协会的执行董事玛丽-拉森伯格说。"作者和平台需要对这些书的创作方式有透明度，否则你将会有很多低质量的书。"
同时，据PCMag报道，科幻出版物《Clarkesworld》杂志在收到大量涉嫌使用人工智能而不公开的文章后，暂时停止了短篇小说的提交。尽管编辑尼尔-克拉克（Neil Clarke）没有说明他是如何识别这些文章的，但他由于 "一些非常明显的模式 "而识别了这些（据称是）机器人协助的故事。"他说："我可以说的是，本月导致禁言的垃圾邮件数量已经达到38%。"虽然拒绝和禁止这些提交的内容一直很简单，但它的增长速度将使我们必须做出改变。更糟糕的是，技术只会变得更好，所以检测将变得更加具有挑战性"。
Clarkesworld目前禁止 "由人工智能编写、共同编写或协助编写 "的故事，该出版物本月已经禁止了500多名用户提交疑似人工智能协助的内容。Clarkesworld每字支付12美分，使其成为首要目标。"据我所知，这不是关于可信度。它是关于赚取快钱的可能性。这就是他们所关心的，"克拉克在推特上说。
除了有关透明度的道德问题，还存在错误信息和剽窃的问题。例如，人工智能机器人，包括ChatGPT、微软的Bing AI和谷歌的Bard，很容易产生 "幻觉"，这个词指的是自信地吐出虚假信息。此外，它们在人类创造的内容上进行训练--几乎总是在原作者不知情或未经许可的情况下--有时使用与源材料相同的语法。
从去年开始，科技出版物CNET使用内部人工智能模型编写了至少73篇经济解释文章。不幸的是，除了最初的狡猾做法，即只有当你点击署名时才会发现它是由人工智能写的，它还包括许多事实错误和几乎与其他网站的文章相同的措辞。因此，CNET被迫进行了广泛的更正，并暂停了对该工具的使用--然而，它的一个姐妹网站至少已经尝试着再次使用该工具。
