在產品開發過程中添加人工智慧總是值得的嗎？ | 商業人工智慧#55

人工智慧常常給人留下耀眼的第一印象！ 從那時起，我們開始思考改善設計流程和創造新產品的迷人可能性。 借助機器學習演算法，人工智慧系統可以分析大量數據，產生概念和原型，並以以前無法達到的精度優化設計參數。 在數位轉型時代，人工智慧似乎成為現代企業尋求競爭優勢不可或缺的工具。 然而，正如新技術的情況一樣，它在帶來好處的同時也帶來了一些挑戰。 下面，我們將仔細研究在此過程中整合人工智慧的正面方面和潛在陷阱

人工智慧在產品開發過程中的作用

人工智慧可以支援新產品設計和實施過程的許多方面。 通常這是一個好主意，主要好處包括：

• 市場研究－透過自動化重複性任務（例如調查分析或訪談轉錄）可以加速研究或進行更大規模的研究。 這使得團隊能夠專注於產品開發中更具創造性和挑戰性的方面，
• 新靈感－促進獲得更廣泛的想法是產生人工智慧的主要優勢之一。 人工智慧演算法可以在龐大的資料庫中搜尋超出設計師先前思維的未知模式和概念，
• 深入的數據分析－透過處理目標客戶的行為、偏好和購買動機數據，更了解目標客戶的需求。

但是，什麼時候在使用人工智慧協作之前再三考慮是個好主意呢？

特寫：實施人工智慧的隱藏挑戰

儘管人工智慧在產品開發過程中意味著許多新機遇，但其實施並非沒有挑戰。 其中最重要的是：

• 需要徹底培訓產品團隊並調整現有工作流程以與人工智慧系統整合。 在大型的、層級化的組織中，這可能會很困難，組織中的專家都遵循傳統的工作方式，
• 對訓練人工智慧演算法的客戶資料的安全性的擔憂。 為了利用額外的安全功能，公司通常需要可能超出小型組織預算的企業授權協議。 這就是為什麼小公司有時會選擇小規模合併開放取用模型，例如 Llama 2、Vicuna 或 Alpaca。 誠然，他們需要公司更強大的硬件，但他們提供資料安全。 這是因為機器學習模型依賴敏感的個人資訊。 如果安全措施設定不當，資訊外洩可能會對公司形象造成災難性後果，
• 涉及人工智慧系統的關鍵業務決策的複雜性和責任分散化。 誰對這些系統的任何錯誤承擔財務和聲譽責任？ 如何確保對人工智慧「黑盒子」的監管？

黑匣子陷阱。 人工智慧決策缺乏透明度

神經網路等先進機器學習技術的基本缺點之一是決策缺乏透明度。 這些系統就像「黑盒子」一樣，將輸入轉換為期望的結果，但無法理解底層邏輯。

這使得確保用戶對人工智慧生成的推薦的信心變得非常困難。 如果我們不明白系統為什麼建議特定的產品變體或概念，就很難評估該建議的敏感性。 這可能會導致對整個技術的不信任。

在產品開發中使用人工智慧的公司需要意識到「黑盒子」問題，並採取措施提高其解決方案的透明度。 解決方案的範例包括：

• 神經網路中資料流的可視化，或
• 由附加演算法產生的決策的文本解釋。

人工智慧和道德。 如何避免歧視和偏見？

另一個重要問題是與人工智慧相關的潛在倫理問題。 機器學習系統通常依賴存在各種偏見且缺乏代表性的數據。 這可能導致歧視性或不公平的商業決策。

例如，根據公司的歷史招募模式，亞馬遜的招募演算法似乎有利於男性候選人。 使用機器學習開發應用程式時可能會發生類似的情況：

• 設定客戶服務優先級，
• 廣告定位，
• 建議鄰近領域的專家，或
• 個性化產品建議。

為了避免此類問題，公司需要仔細分析他們使用的資料集，以充分代表不同的人口群體，並定期監控人工智慧系統是否有歧視或不公平的跡象。

算法的局限性。 過程中的人工智慧

人工智慧可以支援創意過程、尋找想法並優化解決方案。 然而，選擇完全信任人工智慧的企業仍然很少。 在內容創建過程中使用人工智慧提供了令人難以置信的機會，但發布或檢查生成材料中包含的資訊的最終決定必須由人工輸入做出。

因此，設計師和產品經理需要意識到人工智慧技術的局限性，並將其視為現成解決方案的支援而不是自動來源。 關鍵設計和業務決策仍然需要創造力、直覺和對客戶的深刻理解，而這些僅靠演算法無法提供

資料來源：DALL-E 3，提示：Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

確保控制和法律合規性

為了最大限度地降低人工智慧風險，公司需要對這些系統實施適當的監督和控制機制。 這包括但不限於：

• 在實際使用之前驗證人工智慧模型產生的資訊的正確性和來源，
• 對機器學習演算法的偏差、預測不確定性和決策透明度進行審計，
• 建立專家或道德委員會來監督公司內人工智慧系統的設計、測試和應用，
• 制定關於可接受的人工智慧應用程式的明確指南以及這些系統對業務流程和設計決策的干擾限制，
• 培訓設計師了解其限制和陷阱，以避免過於不加批判地依賴其指示。

概括

總而言之，人工智慧無疑為優化和加速新產品的設計和實施開闢了令人興奮的前景。 然而，它與遺留系統和實踐的整合並非沒有挑戰，其中一些是根本性的，例如不確定性和缺乏預測透明度。

為了充分利用人工智慧的潛力，公司必須以適當的謹慎和批評態度對待它，以了解該技術的局限性。 制定道德框架和控製程序也至關重要，以最大限度地減少在實際業務流程中實施先進演算法所帶來的風險。 只有這樣，人工智慧才能成為人類創造力和直覺的有價值且安全的補充。

如果您喜歡我們的內容，請在 Facebook、Twitter、LinkedIn、Instagram、YouTube、Pinterest、TikTok 上加入我們的忙碌蜜蜂社群。

作者：羅伯特‧惠特尼

JavaScript 專家和 IT 部門的講師。 他的主要目標是透過教導其他人如何在編碼時有效合作來提高團隊生產力。

查看所有帖子

商業人工智慧：

1. 人工智慧在商業中的威脅與機會（第 1 部分）
2. 人工智慧在商業中的威脅與機會（第 2 部分）
3. 人工智慧在商業中的應用 - 概述
4. 人工智慧輔助文字聊天機器人
5. 商業 NLP 的今天和明天
6. 人工智慧在商業決策中的作用
7. 安排社交媒體貼文。 人工智慧有何幫助？
8. 自動社交媒體貼文
9. 利用人工智慧運作的新服務和產品
10. 我的經營理念有哪些弱點？ ChatGPT 的腦力激盪會議
11. 在商業中使用 ChatGPT
12. 合成演員。 排名前 3 的 AI 影片產生器
13. 3 個有用的 AI 圖形設計工具。 商業中的生成式人工智慧
14. 今天你必須嘗試的 3 位出色的人工智慧作家
15. 探索人工智慧在音樂創作中的力量
16. 使用 ChatGPT-4 探索新的商機
17. 經理的人工智慧工具
18. 6 個很棒的 ChatGTP 插件，讓您的生活更輕鬆
19. 3 繪圖人工智慧。 商業情報總局
20. 麥肯錫全球研究院認為人工智慧的未來是什麼？
21. 商業人工智慧 - 簡介
22. 什麼是 NLP，即商業中的自然語言處理
23. 自動文件處理
24. 谷歌翻譯 vs DeepL。 機器翻譯的 5 個商業應用
25. 語音機器人的營運與商業應用
26. 虛擬助理技術，或者說如何與AI對話？
27. 什麼是商業智慧？
28. 人工智慧會取代商業分析師嗎？
29. 人工智慧如何幫助 BPM？
30. 人工智慧和社群媒體——它們對我們有何評價？
31. 內容管理中的人工智慧
32. 今天和明天的創意人工智慧
33. 多模態人工智慧及其在商業上的應用
34. 新的互動。 人工智慧如何改變我們操作設備的方式？
35. 數位公司中的 RPA 和 API
36. 未來的就業市場和即將到來的職業
37. 教育科技中的人工智慧。 發揮人工智慧潛力的 3 個公司範例
38. 人工智慧與環境。 3 個人工智慧解決方案可協助您建立永續發展的業務
39. AI 內容偵測器。 他們值得嗎？
40. ChatGPT vs Bard vs Bing。 哪個人工智慧聊天機器人在這場競賽中處於領先地位？
41. 聊天機器人人工智慧是谷歌搜尋的競爭對手嗎？
42. 有效的 ChatGPT 人力資源和招募提示
43. 及時工程。 即時工程師做什麼的？
44. AI 模型產生器。 四大工具
45. 人工智慧還有什麼？ 2024 年商業頂級技術趨勢
46. 人工智慧和商業道德。 為什麼您應該投資道德解決方案
47. 元人工智慧。 關於 Facebook 和 Instagram 的人工智慧支援功能，您應該了解哪些？
48. 人工智慧監管。 身為企業家你需要了解什麼？
49. 人工智慧在商業中的 5 個新用途
50. 人工智慧產品和專案—它們與其他產品和專案有何不同？
51. 人工智慧輔助流程自動化。 從哪裡開始？
52. 如何將人工智慧解決方案與業務問題相匹配？
53. 人工智慧作為您團隊中的專家
54. AI團隊與角色分工
55. 人工智慧職業領域如何選擇？
56. 在產品開發過程中添加人工智慧總是值得的嗎？