如何看待OpenAI希望利用AI来管理互联网内容？

自从生成式人工智能聊天机器人蓬勃发展以来，越来越多的平台一直在与垃圾邮件和大量文本作斗争。 ChatGPT 开发商 OpenAI 现在希望自行解决这一问题。 基于 GPT-4 语言模型的审核工具旨在使平台的工作更加轻松。

OpenAI 在博客文章中承诺的是更快的帖子处理速度和更一致的指南实施。 可以理解的是，AI 工具基本上可以比人类审核更快地处理大量文本。 但另一个优点应该是符合规则的实施。

因此，GPT-4 在评估内容时更加一致，并且能够更快地实施适应的指南。 对于人类审核来说，调整规则并实施这些更改通常需要数周到数月的时间，而对于人工智能系统来说，这只需要几个小时。 例如，根据 OpenAI 的说法，使用 GPT-4 可以更容易地识别规范中的关键点，以便完善指南。

AI 工具也应该是人们的一种解脱。 调节社交网络产生的大量内容被认为是有压力的，而且会让人精神疲惫； 该行业的工作条件也经常受到批评。 顺便说一句，这也适用于那些代表 OpenAI 优化和调整 ChatGPT 输出的人。

作为付费服务的审核 API

可以通过 API 访问 OpenAI 的审核工具。 所以有一点很明确：这是一项付费服务； 显然该公司正在努力拓展业务领域。 收入是必要的，因为春季就已经报道了成本上涨。 据此计算，仅 OpenAI 每天就需要为运行 ChatGPT 所需的基础设施支付约 70 万美元。 根据最近的报道，情况并没有变得更好。

除了成本之外，竞争也在加剧，而之前的炒作（至少在用户层面）似乎有所放缓。 根据分析服务 SimilarWeb 的数据，ChatGPT 7 月份的用户数量下降了 12%。 这将是连续第二个月。 除此之外，还需要 Nvidia GPU，这是训练模型所必需的，但目前很难获得。

用 AI 对抗 AI 文本泛滥

OpenAI 并不是第一家使用语言模型进行审核的公司。 Meta 的人工智能主管 Yann LeCunn 几个月前解释说，这些有助于识别要删除的内容。

当平台使用生成式人工智能工具时，必须考虑其局限性。 OpenAI 本身谈到了在训练或调整语言模型时可能出现的不必要的扭曲。 该公司在博客文章中表示，“与所有人工智能应用程序一样”，结果应该由人类定期检查。 调整也始终是必要的。

这些工具的前景如何还有待观察。一个普遍的问题是，当涉及灰色区域或边界区域的问题时，人工智能系统实际上能够精确地做出决定。

如何看待 OpenAI 希望利用 AI 来管理互联网内容

互联网上存在大量的信息和内容，其中包括不良、有害、误导性或违规的内容。因此，利用 AI 技术来管理互联网内容可以帮助过滤和审查内容，以确保用户获得更安全、准确且有价值的信息。

然而，这个目标也面临一些挑战和争议。首先，AI 技术在理解和解释复杂的语义和文化背景时可能存在局限性，导致误判和过度审查合法内容。其次，决定何为合适的内容可能涉及主观判断，这可能引发对言论自由和信息流动的担忧。此外，依赖于 AI 进行内容管理也可能造成授权和责任的问题。

因此，OpenAI 希望利用 AI 来管理互联网内容的做法需要综合考虑各种因素，包括技术可行性、法律法规、伦理准则以及尊重用户和社会的权益。重要的是要确保 AI 技术的使用是透明和可信的，并且带来积极的影响，而不是阻碍言论自由、创新和开放的互联网环境。