真假难辨的互联网

现在要分辨互联网上什么是真实内容越来越难了。

这个问题在 Substack 上相对较轻，我们希望保持这样。作为第一步，我们今天在 Substack 应用中与 Pangram 合作推出了一项功能。今后，你可以扫描文本，查看其中有多少可能是手写的，有多少是在 AI 辅助下完成的。我稍后会详细说明，但首先让我解释一下为什么这很重要。

到处是水，却没有一滴能喝

根据 Pangram 的估计，某些平台上由 AI 生成的文本比例正在上升，高达 40%。这是一个巨大的变化。许多人抱怨他们的信息流充满了毫无灵魂的垃圾内容。还有些人甚至没意识到自己正在阅读无人创作的东西。

核心问题不在于人们使用 AI, 也不在于 AI 输出的质量。并非所有用 AI 制作的内容都是垃圾，也不是所有垃圾都是 AI 制作的。问题在于当读者的预期与现实不符时，尤其是当他们在不知情的情况下将注意力投入到背后没有任何人类思考的内容时。这就是 Claudefishing。

Freddie deBoer 是这样说的：

我接触人类创作的艺术，是因为我知道背后有一个人，这正是我在寻找的 —— 其他人，通过艺术向我展示他们隐藏在自我中的东西。在这个过程中欺骗我，不过是一场骗局。

我们在 Substack 关心这个问题,是因为它触及了我们工作的核心:为文化建立经济引擎。这意味着帮助真实的人——那些思考、感受、观察、争论、实验、考虑、挣扎、劝诫和关心的人——通过他们相信的工作赚钱。这个网络建立在人与人之间的信任之上,这就是它有效的原因。

当无人创作的内容占领了本应属于人类的互联网部分时，它污染了公共空间，让人难以发现和听到人类的声音。当读者不得不怀疑他们正在阅读的内容是否真实时，这会破坏对作者身份的信任，并威胁作家的生计 —— 包括那些深思熟虑地使用 AI 工具来创作他们相信的作品的人。奖励虚假内容的平台将引发逐底竞赛。

我们正在做什么

这是一个新兴领域，我们不敢说有所有答案。但我们确实知道的一件事是，我们不想等到你的 Substack 应用变成 LinkedIn 之后才开始学习和取得进展。所以首先，我们推出了一些新工具，希望能提高透明度，并为我们征求你的反馈打下基础。

我们正在与领先的 AI 检测工具 Pangram 合作。你将能够扫描笔记、回复、评论和帖子,查看其中有多少文本是手写的或在 AI 辅助下完成的估计值。这将适用于从今天起发布的超过 100 个单词的文本,并且只会向请求查看的人显示分析结果。

请注意，Pangram 只能检测是否使用了 AI 来制作文本，而不能检测创作时是否投入了大量人类心血，也不能检测是否使用 AI 工具作为来源。它并不完美，但独立研究表明，它能以很高的准确度检测 AI 生成的文本。我们相信，人们使用这样的工具来帮助自己做出判断是有益的。

我们还为创作者推出了工具，包括添加 "我如何创作这个" 声明的功能，你可以在其中解释你的流程并为读者设定预期。你可以在发布前对草稿运行 Pangram, 也可以举报和删除你认为有误的对自己作品的任何扫描结果。

这些功能现在可以在网页和 iOS 上使用，很快也会在 Android 上推出。这只是一个起点。根据反馈和兴趣，我们正在考虑以下工具:

让你在回复规则中为自己的社区设置关于 AI 内容的偏好

为创作者提供更多方式来表达他们提供的个人价值，无论是通过人类写作还是深思熟虑的 AI 使用

让读者可以选择设置关于向他们推荐什么内容的偏好

随着 AI 加速这些问题,继续改进我们打击垃圾邮件、机器人和各种骗局的系统

我们并不反对人们使用 AI 来辅助工作，我们认为人们应该可以自由选择使用哪些工具来表达自己。平台上有些人是人类写作最大化主义者，有些人则公开探索使用 AI 工具的前沿，同时关注细节以制作他们支持的作品。我们在 Substack 一直使用 AI 来编写软件、做研究，以及构建剪辑、翻译等产品功能。

但人们应该知道他们得到的是什么。例如，你可能不介意阅读某人的犀利分析，其中他们严重依赖 AI 来呈现研究结果，但只想花时间与人类手写的回复互动。无论哪种方式，你都应该有选择权。

你想看到什么?

我们都在一起进入这个奇怪的新世界，我们想不出比公开辩论更好的方式来找出我们需要的新工具和新社会规范。我们想听听你的意见：Substack 如何帮助支持 AI 时代有价值的人类创作？什么时候使用 AI 是 Claudefishing? 什么时候是好的？

无论 AI 变得多么强大，人类视角都是文化的基本要素，这一点将始终如此。事实上，你越期待这些工具不断改进，理解你所阅读内容的出处就越重要。Claude 有很多优点！但当我想要 Claude 的意见时，我会直接问 Claude。

作者：Chris Best、编译：深潮 TechFlow、图：Substack 与 Pangram 合作的 AI 检测工具界面，可显示文本由人类撰写与 AI 辅助的比例。来源：Substack