财富500强企业对AI风险的关注度飙升，增幅高达473.5%！

總體來看，根據 Arize AI 最近發布的一份報告顯示，超過 500 家大型企業目前正依賴人工智慧來優化其運營，但它們在監控和解決模型性能問題方面仍然面臨重大挑戰。該報告發現，企業平均需要一周時間才能檢測到問題。研究表明，有 281 家大型企業使用人工智慧進行模型監控，但其中只有 56.2% 的企業對所使用的工具感到滿意，並且有 49 家企業表示需要額外的工程師來解決問題，導致成本增加了 473.5%。

在生成式人工智慧領域，人工智慧的應用正在迅速擴張，這也意味著，要確保這些模型的準確性將變得更加困難。考慮到 OpenAI 在 2022 年底發布了 ChatGPT，人工智慧的採用率和相關風險在各個行業中都顯著增加，導致人工智慧監控的實施率增長了 152%，問題解決時間增加了 323 小時。

目前，許多公司都難以有效監控人工智慧模型，因為傳統的資料監控方法並不適用於人工智慧。儘管如此，91.7% 的大型企業都認為監控人工智慧對他們至關重要。以 Netflix 為例，該公司利用其龐大的資料集來訓練個性化推薦系統，從而提升使用者體驗，並確保使用者能夠找到他們感興趣的內容。

然而，當涉及到這些模型的實際部署時，許多公司都面臨著資料品質方面的挑戰，這會直接影響到模型的性能。事實上，86.4% 的企業表示，他們在人工智慧應用方面遇到了資料品質問題，進而影響了模型準確性、訓練時間和整體效率，分別高達 70%、65.1% 和 62.7%。

此外，資料漂移、概念漂移和不準確的標籤也是常見的問題，對人工智慧模型的可靠性和有效性產生負面影響，影響程度分別為 18.8%、37.3% 和 39.7%。儘管如此，如果企業能夠在早期階段解決這些問題，就能夠顯著提高人工智慧的準確性。總而言之，投資於可靠的人工智慧監控工具可以幫助企業最大程度地發揮人工智慧的潛力，同時降低風險，並確保資料的完整性和合規性。

Salesforce 強調，有效的人工智慧治理不僅僅是技術問題，更需要結合相關的道德考量和組織文化。今年的 Def Con 會議也重點關注了人工智慧在資訊安全和隱私保護方面所帶來的獨特挑戰。

總而言之，必須充分認識到“人工智慧”炒作背後的實際情況。透過採用健全的資料監控實踐，企業可以更好地應對人工智慧模型所帶來的複雜性，確保其應用既可靠又符合道德標準，從而在不斷發展的技術環境中保持競爭力。

主要發現：

1. 📈 在大型企業（56.2%）中，隨著 AI 應用的普及，解決資料問題所需的時間大幅增加，達 473.5%。

2. 🎬 大多數公司（91.7%）都認為對 AI 模型的資料進行有效監控至關重要，以確保其性能。

3. 🤖 充分認識到 “AI” 炒作背後的實際情況，關注資料監控的準確性，以確保資料的完整性和合規性。