AI 内容检测器。 他们值得吗？ | 商业人工智能#38

已发表: 2023-11-24

你还记得几年前我们对第一批人工智能生成的几乎不像人类散文的文章感到兴奋吗？ 如今，当人工智能可以写出近乎诗意的文章时，许多人想知道如何区分机器的工作和人类的工作。 ChatGPT 成功背后的 OpenAI 公司由于其无效性而永久关闭了对其 AI 检测器的访问。

AI 内容检测器 – 目录：

  1. AI内容检测器
  2. 为什么要使用人工智能内容检测器？
  3. AI 内容检测器的不可靠性。 现实还是神话？
  4. 通过 AI 避免 AI 检测。 这可能吗？如何实现？
  5. 人工智能内容检测的未来。 发展方向及创新点

如今，人工智能内容检测器的开发人员将它们作为保护真实性的工具。 问题是，它们值得信任和投资吗？ 在本文中，我们将了解人工智能内容检测器的工作原理、它们为何可能灭绝、它们带来哪些挑战以及它们带来的道德困境。

AI内容检测器

人工智能内容检测器基于类似于用于生成人工智能内容的语言模型。 他们可以分为两类，其任务是检查人工智能支持下生成的图像、文本和音乐的来源。 每种类型的“人工智能检测器”的工作原理都略有不同，但它们都不能绝对确定地区分人类创建的内容和人工智能生成的内容。

由于媒体产生假新闻的能力，人工智能生成的图像检测器正在发挥越来越重要的作用。 他们分析异常现象、独特的风格和模式，并寻找 DALL-E 等模型留下的迹象。

用于识别图像的探测器中最突出的是 Optic 的“AI or Not”工具，它使用 Midjourney、DALL-E 和 Stable Diffusion 生成的图像数据库。 虽然结果尚不确定，但这是朝着未来开发更精确的识别方法迈出的一步。

AI content detectors

来源：AI 与否 (https://www.aiornot.com/)

识别人工智能生成的文本的人工智能检测器的运行背后是先进的算法，该算法可以分析文本的结构和单词选择，然后识别人工智能特定的模式。 他们利用：

  • 分类器——一种对文本进行分类并检查风格、语气和语法的算法。 例如，适合任何同类产品的产品描述可能会被归类为人工智能创作，
  • 嵌入（embeddings）——单词的数字表示允许机器理解其使用的上下文。 多亏了他们，程序才“理解”了单调选词的文本可以是人工智能的作品，
  • 困惑度——衡量文本不可预测性的指标。 由人类编写的文本往往具有更高的复杂性，尽管本质上简单、典型形式的功利性文本或由外国人编写的文本可能会被错误地归类为人工智能生成的文本，
  • 多样性（突发性）——该因素描述了句子长度和结构的可变性。 与人工智能相比，人类倾向于编写更加多样化的文本。

人工智能内容检测器使用上述元素来评估我们是否正在处理人造文本或机器生成的文本。

为什么要使用人工智能内容检测器？

人工智能内容检测器适用于从教育到营销和招聘的各个领域。 以下是将它们作为辅助评估工具的主要原因，但不能作为内容是否已生成的明确证据：

  • 识别人工智能修改的名人照片——检测照片是否描绘真实情况，
  • 防止虚假信息——在打击虚假信息的背景下，有效的人工智能内容检测器可以帮助社交媒体管理员检测传播的虚假信息，以识别和消除机器人生成的重复内容，
  • 限制低价值文本的发布——人工智能内容检测器可以帮助发布者拒绝包含由 ChatGPT、Bing 或 Bard 在输入简单查询后生成的通用信息的文本。

然而，值得记住的是，文本的来源并不是谷歌降低网站排名的依据。 谷歌的搜索中心博客指出，谷歌的关键是“奖励高质量的内容，无论它是如何创建的[……]。 自动化长期以来一直被用来生成有用的内容，例如体育比分、天气预报和成绩单。 人工智能可以开启新的表达和创造力水平，并成为支持创建优秀网络内容的关键工具。”

AI 内容检测器的不可靠性。 现实还是神话？

尽管人工智能内容检测器无处不在，但其有效性可能值得怀疑。 主要问题是：

  • AI内容检测效率低，
  • 误报问题以及
  • 使探测器适应快速多样化和改进新的人工智能模型的困难。

OpenAI 进行的测试表明，他们的分类器仅能在 26% 的情况下识别 GPT 生成的文本。 TechCrunch 进行的一项实验可以看到生成器不可靠性的一个有趣例子，该实验表明 GPTZero 工具正确识别了七个人工智能生成文本中的五个。 而 OpenAI 分类器只识别出一种。

AI content detectors

来源：GPTZero (https://gptzero.me/)

此外，还存在收到误报的风险，即将人类编写的文本识别为人工智能生成的文本。 例如，米格尔·德·塞万提斯的《堂吉诃德》第二章的开头被 OpenAI 检测器标记为很可能是由人工智能编写的。

虽然历史文学文本分析中的错误可以被视为一种有趣的好奇心，但当我们想使用检测器作为评估文本的工具时，情况会变得更加复杂。 ZeroGPT 将美国宪法标记为 92.15% 由人工智能撰写。 而且，根据斯坦福大学研究人员发表的一项研究，非英语母语学生撰写的托福论文中有 61% 被归类为人工智能生成的论文。 不幸的是，没有数据表明其他语言中被错误分类为正面文本的百分比有多高。

另一个问题是检测器后续运行时分类的变化。 这是因为，ZeroGPT 或 Scribbr 等检测器经常会更改文本片段的分类，一次将其标记为人工智能生成，另一次标记为人类编写。

AI content detectors

来源：Scribbr (https://www.scribbr.com/ai-detector/)

人工智能图像和视频检测器主要用于识别深度伪造品和其他人工智能生成的可用于传播虚假信息的内容。

当前的检测工具如 Deepware、Illuminarty 和 FakeCatcher 均未提供其可靠性测试结果。 在检测人工智能生成的视觉材料的法律背景下，有人提出向人工智能图像添加水印。 然而，这是一种非常不可靠的方式——你可以轻松地下载没有水印的图像。 Midjourney 采用了不同的水印方法，由用户决定是否要以这种方式为图像添加水印。

避免人工智能检测。 这可能吗？如何实现？

企业家应该意识到，人工智能内容检测器不能替代人类质量评估，并且并不总是可靠的。 他们的实际维护问题可能会带来相当大的困难，就像试图避免将您的内容归类为人工智能生成一样。 尤其是当人工智能只是专业人士手中的工具时——也就是说，它不是“人工智能生成的内容”，而是“与人工智能合作创建的内容”。

将某人添加到生成的材料中相对简单，因此它们的创建方式确实很难检测。 如果使用生成式人工智能的人知道要达到什么效果，则可以简单地手动调整结果。

基本问题在于，如果内容是由人工智能生成的，我们希望避免检测的原因。

  • 例如，如果这是一个道德问题并涉及已发表的科学研究的作者身份，那么人们就只能依靠科学家的职业道德和负责任地使用基于人工智能的工具。
  • 如果雇主希望员工选择不使用人工智能，那么仍然存在使用生成人工智能的合同安排。

它还提出了一个问题：我们是否希望通过禁令和批评者（ZeroGPT 和 GPTZero！），或者通过欣赏透明度、建立信任和诚实使用先进技术来促进负责任地使用人工智能。

AI content detectors

来源：ZeroGPT (https://www.zerogpt.com/)

概括

人工智能内容检测器是否值得使用这个问题的答案还远未明确。 人工智能内容检测器仍处于开发阶段，其未来很难预测。 有一点是肯定的——它们会随着人工智能技术的发展而进化。 人工智能的进步，包括语言模型模仿人类写作风格的能力不断增强，意味着人工智能内容检测可能会变得更加复杂。 对于企业来说，这是跟随这些发展的标志，而不仅仅是依赖工具，而是依赖于他们对内容及其对其创建目的的适用性的评估。 并明智地利用快速发展的人工智能。

AI content detectors

如果您喜欢我们的内容，请在 Facebook、Twitter、LinkedIn、Instagram、YouTube、Pinterest、TikTok 上加入我们的忙碌蜜蜂社区。

AI content detectors. Are they worth it? | AI in business #38 robert whitney avatar 1background

作者：罗伯特·惠特尼

JavaScript 专家和 IT 部门的讲师。 他的主要目标是通过教其他人如何在编码时有效合作来提高团队生产力。

查看所有帖子

商业人工智能：

  1. 人工智能在商业中的威胁和机遇（第 1 部分）
  2. 人工智能在商业中的威胁和机遇（第 2 部分）
  3. 人工智能在商业中的应用 - 概述
  4. 人工智能辅助文本聊天机器人
  5. 商业 NLP 的今天和明天
  6. 人工智能在商业决策中的作用
  7. 安排社交媒体帖子。 人工智能有何帮助？
  8. 自动社交媒体帖子
  9. 利用人工智能运行的新服务和产品
  10. 我的经营理念有哪些弱点？ ChatGPT 的头脑风暴会议
  11. 在商业中使用 ChatGPT
  12. 合成演员。 排名前 3 的 AI 视频生成器
  13. 3 个有用的 AI 图形设计工具。 商业中的生成式人工智能
  14. 今天你必须尝试的 3 位出色的人工智能作家
  15. 探索人工智能在音乐创作中的力量
  16. 使用 ChatGPT-4 探索新的商机
  17. 经理的人工智能工具
  18. 6 个很棒的 ChatGTP 插件，让您的生活更轻松
  19. 3 绘图人工智能。 商业情报总局
  20. 麦肯锡全球研究院认为人工智能的未来是什么？
  21. 商业人工智能 - 简介
  22. 什么是 NLP，即商业中的自然语言处理
  23. 自动文档处理
  24. 谷歌翻译 vs DeepL。 机器翻译的 5 个商业应用
  25. 语音机器人的运营和商业应用
  26. 虚拟助理技术，或者说如何与AI对话？
  27. 什么是商业智能？
  28. 人工智能会取代商业分析师吗？
  29. 人工智能如何帮助 BPM？
  30. 人工智能和社交媒体——它们对我们有何评价？
  31. 内容管理中的人工智能
  32. 今天和明天的创意人工智能
  33. 多模态人工智能及其在商业中的应用
  34. 新的互动。 人工智能如何改变我们操作设备的方式？
  35. 数字公司中的 RPA 和 API
  36. 未来的就业市场和即将到来的职业
  37. 教育科技中的人工智能。 发挥人工智能潜力的 3 个公司示例
  38. 人工智能与环境。 3 个人工智能解决方案可帮助您建立可持续发展的业务
  39. AI 内容检测器。 他们值得吗？