AI 內容偵測器。 他們值得嗎？ | 商業人工智慧#38

已發表: 2023-11-24

你還記得幾年前我們對第一批人工智慧產生的幾乎不像人類散文的文章感到興奮嗎？ 如今，當人工智慧可以寫出近乎詩意的文章時，許多人想知道如何區分機器的工作和人類的工作。 ChatGPT 成功背後的 OpenAI 公司由於其無效性而永久關閉了對其 AI 檢測器的存取。

AI 內容偵測器 – 目錄：

  1. AI內容偵測器
  2. 為什麼要使用人工智慧內容檢測器？
  3. AI 內容偵測器的不可靠性。 現實還是神話？
  4. 透過 AI 避免 AI 檢測。 這可能嗎？如何實現？
  5. 人工智慧內容檢測的未來。 發展方向及創新點

如今，人工智慧內容偵測器的開發人員將它們作為保護真實性的工具。 問題是，它們值得信任和投資嗎？ 在本文中，我們將了解人工智慧內容偵測器的工作原理、它們為何可能滅絕、它們帶來哪些挑戰以及它們帶來的道德困境。

AI內容偵測器

人工智慧內容檢測器是基於類似於用於生成人工智慧內容的語言模型。 他們可以分為兩類，其任務是檢查人工智慧支援下生成的圖像、文字和音樂的來源。 每種類型的「人工智慧偵測器」的工作原理都略有不同，但它們都不能絕對確定地區分人類創建的內容和人工智慧產生的內容。

由於媒體產生假新聞的能力，人工智慧生成的影像偵測器正在發揮越來越重要的作用。 他們分析異常現象、獨特的風格和模式，並尋找 DALL-E 等模型留下的跡象。

用於識別影像的偵測器中最突出的是 Optic 的「AI or Not」工具，它使用 Midjourney、DALL-E 和 Stable Diffusion 產生的影像資料庫。 雖然結果尚不確定，但這是朝著未來開發更精確的識別方法邁出的一步。

AI content detectors

資料來源：AI 與否 (https://www.aiornot.com/)

識別人工智慧生成的文字的人工智慧偵測器的運作背後是先進的演算法，該演算法可以分析文字的結構和單字選擇，然後識別人工智慧特定的模式。 他們利用：

  • 分類器－一種對文字進行分類並檢查風格、語氣和語法的演算法。 例如，適合任何同類產品的產品描述可能會被歸類為人工智慧創作，
  • 嵌入（embeddings）－單字的數字表示允許機器理解其使用的上下文。 多虧了他們，程式才「理解」了單調選詞的文字可以是人工智慧的作品，
  • 困惑度－衡量文本不可預測性的指標。 由人類編寫的文本往往具有更高的複雜性，儘管本質上簡單、典型形式的功利性文本或由外國人編寫的文本可能會被錯誤地歸類為人工智慧生成的文本，
  • 多樣性（突發性）－此因素描述了句子長度和結構的可變性。 與人工智慧相比，人類傾向於編寫更多樣化的文字。

人工智慧內容偵測器使用上述元素來評估我們是否正在處理人造文字或機器生成的文字。

為什麼要使用人工智慧內容檢測器？

人工智慧內容偵測器適用於從教育到行銷和招募的各個領域。 以下是將它們作為輔助評估工具的主要原因，但不能作為內容是否已產生的明確證據：

  • 辨識人工智慧修改的名人照片－偵測照片是否描繪真實情況，
  • 防止假訊息－在打擊假訊息的背景下，有效的人工智慧內容偵測器可以幫助社群媒體管理員偵測傳播的假訊息，以識別和消除機器人產生的重複內容，
  • 限制低價值文字的發布－人工智慧內容偵測器可以幫助發布者拒絕包含由 ChatGPT、Bing 或 Bard 在輸入簡單查詢後產生的通用資訊的文字。

然而，值得記住的是，文字的來源並不是Google降低網站排名的依據。 谷歌的搜尋中心部落格指出，Google的關鍵是「獎勵高品質的內容，無論它是如何創建的[……]。 自動化長期以來一直被用來產生有用的內容，例如體育比分、天氣預報和成績單。 人工智慧可以開啟新的表達和創造力水平，並成為支持創建優秀網路內容的關鍵工具。”

AI 內容偵測器的不可靠性。 現實還是神話？

儘管人工智慧內容檢測器無所不在，但其有效性可能值得懷疑。 主要問題是：

  • AI內容偵測效率低，
  • 誤報問題以及
  • 使探測器適應快速多樣化和改進新的人工智慧模型的困難。

OpenAI 進行的測試表明，他們的分類器只能在 26% 的情況下識別 GPT 產生的文字。 TechCrunch 進行的一項實驗可以看到生成器不可靠性的一個有趣例子，該實驗表明 GPTZero 工具正確識別了七個人工智慧生成文字中的五個。 而 OpenAI 分類器只識別出一種。

AI content detectors

資料來源：GPTZero (https://gptzero.me/)

此外，還存在收到誤報的風險，即將人類編寫的文本識別為人工智慧產生的文本。 例如，米格爾·德·塞萬提斯的《唐吉訶德》第二章的開頭被 OpenAI 檢測器標記為很可能是由人工智慧編寫的。

雖然歷史文學文本分析中的錯誤可以被視為一種有趣的好奇心，但當我們想使用偵測器作為評估文本的工具時，情況會變得更加複雜。 ZeroGPT 將美國憲法標記為 92.15% 由人工智慧撰寫。 而且，根據史丹佛大學研究人員發表的一項研究，非英語母語學生撰寫的托福論文中有 61% 被歸類為人工智慧產生的論文。 不幸的是，沒有數據表明其他語言中被錯誤分類為正面文本的百分比有多高。

另一個問題是偵測器後續運行時分類的變化。 這是因為，ZeroGPT 或 Scribbr 等檢測器經常會更改文字片段的分類，一次將其標記為人工智慧生成，另一次標記為人類編寫。

AI content detectors

資料來源：Scribbr (https://www.scribbr.com/ai-detector/)

人工智慧影像和視訊偵測器主要用於識別深度偽造品和其他人工智慧產生的可用於傳播虛假資訊的內容。

目前的檢測工具如 Deepware、Illuminarty 和 FakeCatcher 均未提供其可靠性測試結果。 在檢測人工智慧生成的視覺材料的法律背景下，有人提出在人工智慧影像中添加浮水印。 然而，這是一種非常不可靠的方式——你可以輕鬆地下載沒有浮水印的圖像。 Midjourney 採用了不同的浮水印方法，由使用者決定是否要以這種方式為影像添加浮水印。

避免人工智慧檢測。 這可能嗎？如何實現？

企業家應該意識到，人工智慧內容檢測器不能取代人類品質評估，並且並不總是可靠的。 他們的實際維護問題可能會帶來相當大的困難，就像試圖避免將您的內容歸類為人工智慧生成一樣。 尤其是當人工智慧只是專業人士手中的工具時——也就是說，它不是“人工智慧生成的內容”，而是“與人工智慧合作創建的內容”。

將某人添加到生成的材料中相對簡單，因此它們的創建方式確實很難檢測。 如果使用生成式人工智慧的人知道要達到什麼效果，則可以簡單地手動調整結果。

基本問題在於，如果內容是由人工智慧產生的，我們希望避免偵測的原因。

  • 例如，如果這是一個道德問題並涉及已發表的科學研究的作者身份，那麼人們就只能依靠科學家的職業道德和負責任地使用基於人工智慧的工具。
  • 如果雇主希望員工選擇不使用人工智慧，那麼仍然存在使用產生人工智慧的合約安排。

它也提出了一個問題：我們是否希望透過禁令和批評者（ZeroGPT 和 GPTZero！），或透過欣賞透明度、建立信任和誠實使用先進技術來促進負責任地使用人工智慧。

AI content detectors

資料來源：ZeroGPT (https://www.zerogpt.com/)

概括

人工智慧內容偵測器是否值得使用這個問題的答案還遠遠不清楚。 人工智慧內容檢測器仍處於開發階段，其未來很難預測。 有一點是肯定的──它們會隨著人工智慧技術的發展而進化。 人工智慧的進步，包括語言模型模仿人類寫作風格的能力不斷增強，意味著人工智慧內容檢測可能會變得更加複雜。 對於企業來說，這是跟隨這些發展的標誌，而不僅僅是依賴工具，而是依賴他們對內容及其對其創建目的的適用性的評估。 並明智地利用快速發展的人工智慧。

AI content detectors

如果您喜歡我們的內容，請在 Facebook、Twitter、LinkedIn、Instagram、YouTube、Pinterest、TikTok 上加入我們的忙碌蜜蜂社群。

AI content detectors. Are they worth it? | AI in business #38 robert whitney avatar 1background

作者：羅伯特‧惠特尼

JavaScript 專家和 IT 部門的講師。 他的主要目標是透過教導其他人如何在編碼時有效合作來提高團隊生產力。

查看所有帖子

商業人工智慧：

  1. 人工智慧在商業中的威脅與機會（第 1 部分）
  2. 人工智慧在商業中的威脅與機會（第 2 部分）
  3. 人工智慧在商業中的應用 - 概述
  4. 人工智慧輔助文字聊天機器人
  5. 商業 NLP 的今天和明天
  6. 人工智慧在商業決策中的作用
  7. 安排社交媒體貼文。 人工智慧有何幫助？
  8. 自動社交媒體貼文
  9. 利用人工智慧運作的新服務和產品
  10. 我的經營理念有哪些弱點？ ChatGPT 的腦力激盪會議
  11. 在商業中使用 ChatGPT
  12. 合成演員。 排名前 3 的 AI 影片產生器
  13. 3 個有用的 AI 圖形設計工具。 商業中的生成式人工智慧
  14. 今天你必須嘗試的 3 位出色的人工智慧作家
  15. 探索人工智慧在音樂創作中的力量
  16. 使用 ChatGPT-4 探索新的商機
  17. 經理的人工智慧工具
  18. 6 個很棒的 ChatGTP 插件，讓您的生活更輕鬆
  19. 3 繪圖人工智慧。 商業情報總局
  20. 麥肯錫全球研究院認為人工智慧的未來是什麼？
  21. 商業人工智慧 - 簡介
  22. 什麼是 NLP，即商業中的自然語言處理
  23. 自動文件處理
  24. 谷歌翻譯 vs DeepL。 機器翻譯的 5 個商業應用
  25. 語音機器人的營運與商業應用
  26. 虛擬助理技術，或者說如何與AI對話？
  27. 什麼是商業智慧？
  28. 人工智慧會取代商業分析師嗎？
  29. 人工智慧如何幫助 BPM？
  30. 人工智慧和社群媒體——它們對我們有何評價？
  31. 內容管理中的人工智慧
  32. 今天和明天的創意人工智慧
  33. 多模態人工智慧及其在商業上的應用
  34. 新的互動。 人工智慧如何改變我們操作設備的方式？
  35. 數位公司中的 RPA 和 API
  36. 未來的就業市場和即將到來的職業
  37. 教育科技中的人工智慧。 發揮人工智慧潛力的 3 個公司範例
  38. 人工智慧與環境。 3 個人工智慧解決方案可協助您建立永續發展的業務
  39. AI 內容偵測器。 他們值得嗎？