Blog
企業知道值得信賴和負責任的人工智慧，將是可靠的商業必需品，那麼他們為什麼還在猶豫呢？
企業知道值得信賴和負責任的人工智慧，將是可靠的商業必需品，那麼他們為什麼還在猶豫呢？
August 16, 2023
生成型人工智慧（Generative AI）其實已經存在一段時間，但在短短幾個月內，ChatGPT讓每一個有網路的人都能使用人工智慧，引起了商業領袖和公眾的想像。思科（Cisco）的孵化引擎Outshift的高級副總裁Vijoy Pandey表示，隨著技術以創紀錄的速度演進並廣泛實施，迫切需要採用負責任的人工智慧來管理其道德、隱私和安全風險。（Outshift是思科的孵化引擎，探索對當今環境在新興市場至關重要的變革技術。）
Pandey表示：「生成型人工智慧影響了我們個人和商業生活的每個方面，跨足各行各業。」他強調，「現在人工智慧已經擺脫了特定用途的特定產品，並融入了我們每天所做的一切，因此建立負責任的人工智慧框架至關重要。」
風險和不負責任的實際成本
人工智慧正在推動巨大的創新，但技術領袖必須明白這其中涉及實際成本。當人工智慧做得好時，它可以改變生活。當人工智慧無人看管時，它不僅可能對公司的底線產生深遠影響，還可能影響到它所觸及的人們的生活。而生成型人工智慧帶來了全新的問題。它與預測型人工智慧、推薦和異常檢測有很大的不同，生成型人工智慧實際上提供了表面上全新的內容。
Pandey說：「我稱之為再生型人工智慧，因為它使用現有的東西，將它們拼湊在一起，並生成新的音訊內容、影片、圖像、文本。」他解釋，「因為它正在生成內容，新的問題悄然滲入。我們不僅在關注隱私和透明度，我們還開始關注知識產權侵權、虛假內容、幻覺等等。」
隨著這些生成型人工智慧模型在互聯網上吸取所有可用的數據，客戶數據和專有公司知識產權正處於危險之中。當人工智慧引擎被問到一個問題或收到一個提示時，如果沒有合適的保護措施，就有將不應公開的數據洩露出去的真實危險。這些人工智慧引擎越來越容易學習和訓練專有數據集，例如Getty Image對生成型人工智慧藝術工具Stable Vision的訴訟就是一個鮮明的例子。隨著技術變得更強大並更深入地融入公司基礎設施，風險也在增加。
值得信賴和負責任的人工智慧框架
隨著生成型人工智慧的出現，負責任的人工智慧框架必須強調知識產權侵權、意外輸出、虛假內容、安全和信任。
朝向這一框架的安全和信任也意味著確保每個人工智慧計劃都內置了責任感。
Pandey解釋說：「值得信賴的人工智慧是我們所有人開始關注的更大的保護傘。」他說，「這不僅關於公正、透明和公平。它還關於確保我們不生成有缺陷或扭曲的內容，或違反版權法。」
朝向這一框架的安全和信任，也意味著確保每個人工智慧計劃都內置了責任感，具有明確的權限劃分，以便在出錯時容易識別誰或什麼應承擔責任。
透明度增強了可信度，因為它在人工智慧被用來做出影響他們的重大和重要決策的情況下，將代理權交還給客戶。保持通信渠道暢通有助於建立客戶和利益相關者的信任。這也是一種減輕有害偏見和歧視性結果的方式，創造促進包容的技術。
例如，Outshift正在開發的新安全產品Panoptica有助於為雲端應用程式的安全問題提供上下文和優先順序，這意味著它正在處理極其敏感的信息。因此，為了確保不會暴露任何私人信息，Outshift將透明地公開其訓練模型的無偏見合成數據。
責任心是指對人工智慧解決方案的所有後果承擔責任，包括它突然跳過柵欄並開始在其預定範圍之外運作的時候。它還包括將隱私、安全和人權作為整個人工智慧生命周期的基礎，包括保護免受潛在網絡威脅的侵害，以提高攻擊韌性、數據保護、威脅建模、監控和第三方合規。
即使系統不受外部惡意行為者的威脅，生成型人工智慧特別容易產生不准確的結果。這需要在推出後對人工智慧解決方案進行系統測試，以在未預見的條件和用例下保持目的和意圖的一致性。
Pandey說：「負責任的人工智慧是我們使命陳述的核心，自2021年以來，我們一直是預測型人工智慧的負責任框架的倡導者。」他說，「對我們來說，這是軟體開發生命周期的一部分。它與安全評估一樣嵌入我們的流程中。」
實施值得信賴和負責任的人工智慧：超越人員和流程
Pandey說：「首先也是最重要的是，高管們必須開始教育他們的團隊，並認真思考負責任的人工智慧，考慮到技術的普遍性以及危險和風險。」他說，「如果你看看框架，你會發現它需要跨職能團隊，從安全和信任方面到工程、IT、政府和監管團隊、法律甚至人力資源，因為這既涉及內部又涉及與其他公司的合作。」
他解釋，這一切始於了解風險和陷阱的教育，然後建立一個重要的框架，根據自己的用例訂製，並使用每個團隊成員都可以團結在一起的語言，這樣你們就都在同個方向上。然後，高管需要制定所需的業務成果，因為沒有這些，所有這些都只是最大努力的倡議。
他說：「如果整個世界都在朝向數位化邁進，那麼人工智慧、數據和負責任的人工智慧就成為商業必需品。」他說，「如果不在每個用例中建立商業價值，這些努力將隨著時間的推移消失。」
他還指出，隨著我們從預測型人工智慧過渡到生成型人工智慧，世界變得越來越數位化，用例數量增加，這些解決方案獨立提供動力的機器和軟件和工具也將需要在這些框架內運作。
在業務的每個方面部署和使用人工智慧非常複雜，不斷變化的監管格局清楚地表明，它將變得越來越複雜。公司將需要密切關注法規是如何演變的，以及投資產品和與可以幫助解決在追求負責任的人工智慧策略時出現的痛點的公司合作。
開始值得信賴和負責任的人工智慧之旅
Pandey表示，啟動負責任的人工智慧倡議是一個棘手的過程。但第一步是確保你不是在AI洗白，或者無論用例如何都在使用AI，而是確定業務成果以及何時何地需要人工智慧和機器學習才能產生差異。換句話說，業務在哪裡帶來差異化，你可以卸載什麼？
他說：「只是因為到處都有人工智慧，對每個問題都拋出人工智慧是昂貴的，並增加了不必要的複雜性。」他說，「你需要非常特別地選擇使用人工智慧的地方，就像使用任何其他工具一樣。」
他說：「我確信這些問題的技術解決方案將來自行業。」
一旦你確定了最合適的用例，就必須在人員、流程、軟件等方面建立正確的抽象層，以便處理不可避免的變動，因為你建立了使用人工智慧的組織結構所需的結構。
他說：「最後，要有希望和信念，技術將解決技術的問題。」他說，「我確信這些問題的技術解決方案將來自行業。它們將解決這種複雜性，這種變動，這個負責任的人工智慧框架，數據洩漏、隱私、知識產權等等。但是現在，確保你為這些演變做好了準備。」
新聞原址： https://venturebeat.com/ai/companies-know-that-trustworthy-and-responsible-ai-is-a-business-imperative-why-are-they-hesitating/
Pandey表示：「生成型人工智慧影響了我們個人和商業生活的每個方面，跨足各行各業。」他強調，「現在人工智慧已經擺脫了特定用途的特定產品，並融入了我們每天所做的一切，因此建立負責任的人工智慧框架至關重要。」
風險和不負責任的實際成本
人工智慧正在推動巨大的創新，但技術領袖必須明白這其中涉及實際成本。當人工智慧做得好時，它可以改變生活。當人工智慧無人看管時，它不僅可能對公司的底線產生深遠影響，還可能影響到它所觸及的人們的生活。而生成型人工智慧帶來了全新的問題。它與預測型人工智慧、推薦和異常檢測有很大的不同，生成型人工智慧實際上提供了表面上全新的內容。
Pandey說：「我稱之為再生型人工智慧，因為它使用現有的東西，將它們拼湊在一起，並生成新的音訊內容、影片、圖像、文本。」他解釋，「因為它正在生成內容，新的問題悄然滲入。我們不僅在關注隱私和透明度，我們還開始關注知識產權侵權、虛假內容、幻覺等等。」
隨著這些生成型人工智慧模型在互聯網上吸取所有可用的數據，客戶數據和專有公司知識產權正處於危險之中。當人工智慧引擎被問到一個問題或收到一個提示時，如果沒有合適的保護措施，就有將不應公開的數據洩露出去的真實危險。這些人工智慧引擎越來越容易學習和訓練專有數據集，例如Getty Image對生成型人工智慧藝術工具Stable Vision的訴訟就是一個鮮明的例子。隨著技術變得更強大並更深入地融入公司基礎設施，風險也在增加。
值得信賴和負責任的人工智慧框架
隨著生成型人工智慧的出現，負責任的人工智慧框架必須強調知識產權侵權、意外輸出、虛假內容、安全和信任。
朝向這一框架的安全和信任也意味著確保每個人工智慧計劃都內置了責任感。
Pandey解釋說：「值得信賴的人工智慧是我們所有人開始關注的更大的保護傘。」他說，「這不僅關於公正、透明和公平。它還關於確保我們不生成有缺陷或扭曲的內容，或違反版權法。」
朝向這一框架的安全和信任，也意味著確保每個人工智慧計劃都內置了責任感，具有明確的權限劃分，以便在出錯時容易識別誰或什麼應承擔責任。
透明度增強了可信度，因為它在人工智慧被用來做出影響他們的重大和重要決策的情況下，將代理權交還給客戶。保持通信渠道暢通有助於建立客戶和利益相關者的信任。這也是一種減輕有害偏見和歧視性結果的方式，創造促進包容的技術。
例如，Outshift正在開發的新安全產品Panoptica有助於為雲端應用程式的安全問題提供上下文和優先順序，這意味著它正在處理極其敏感的信息。因此，為了確保不會暴露任何私人信息，Outshift將透明地公開其訓練模型的無偏見合成數據。
責任心是指對人工智慧解決方案的所有後果承擔責任，包括它突然跳過柵欄並開始在其預定範圍之外運作的時候。它還包括將隱私、安全和人權作為整個人工智慧生命周期的基礎，包括保護免受潛在網絡威脅的侵害，以提高攻擊韌性、數據保護、威脅建模、監控和第三方合規。
即使系統不受外部惡意行為者的威脅，生成型人工智慧特別容易產生不准確的結果。這需要在推出後對人工智慧解決方案進行系統測試，以在未預見的條件和用例下保持目的和意圖的一致性。
Pandey說：「負責任的人工智慧是我們使命陳述的核心，自2021年以來，我們一直是預測型人工智慧的負責任框架的倡導者。」他說，「對我們來說，這是軟體開發生命周期的一部分。它與安全評估一樣嵌入我們的流程中。」
實施值得信賴和負責任的人工智慧：超越人員和流程
Pandey說：「首先也是最重要的是，高管們必須開始教育他們的團隊，並認真思考負責任的人工智慧，考慮到技術的普遍性以及危險和風險。」他說，「如果你看看框架，你會發現它需要跨職能團隊，從安全和信任方面到工程、IT、政府和監管團隊、法律甚至人力資源，因為這既涉及內部又涉及與其他公司的合作。」
他解釋，這一切始於了解風險和陷阱的教育，然後建立一個重要的框架，根據自己的用例訂製，並使用每個團隊成員都可以團結在一起的語言，這樣你們就都在同個方向上。然後，高管需要制定所需的業務成果，因為沒有這些，所有這些都只是最大努力的倡議。
他說：「如果整個世界都在朝向數位化邁進，那麼人工智慧、數據和負責任的人工智慧就成為商業必需品。」他說，「如果不在每個用例中建立商業價值，這些努力將隨著時間的推移消失。」
他還指出，隨著我們從預測型人工智慧過渡到生成型人工智慧，世界變得越來越數位化，用例數量增加，這些解決方案獨立提供動力的機器和軟件和工具也將需要在這些框架內運作。
在業務的每個方面部署和使用人工智慧非常複雜，不斷變化的監管格局清楚地表明，它將變得越來越複雜。公司將需要密切關注法規是如何演變的，以及投資產品和與可以幫助解決在追求負責任的人工智慧策略時出現的痛點的公司合作。
開始值得信賴和負責任的人工智慧之旅
Pandey表示，啟動負責任的人工智慧倡議是一個棘手的過程。但第一步是確保你不是在AI洗白，或者無論用例如何都在使用AI，而是確定業務成果以及何時何地需要人工智慧和機器學習才能產生差異。換句話說，業務在哪裡帶來差異化，你可以卸載什麼？
他說：「只是因為到處都有人工智慧，對每個問題都拋出人工智慧是昂貴的，並增加了不必要的複雜性。」他說，「你需要非常特別地選擇使用人工智慧的地方，就像使用任何其他工具一樣。」
他說：「我確信這些問題的技術解決方案將來自行業。」
一旦你確定了最合適的用例，就必須在人員、流程、軟件等方面建立正確的抽象層，以便處理不可避免的變動，因為你建立了使用人工智慧的組織結構所需的結構。
他說：「最後，要有希望和信念，技術將解決技術的問題。」他說，「我確信這些問題的技術解決方案將來自行業。它們將解決這種複雜性，這種變動，這個負責任的人工智慧框架，數據洩漏、隱私、知識產權等等。但是現在，確保你為這些演變做好了準備。」
新聞原址： https://venturebeat.com/ai/companies-know-that-trustworthy-and-responsible-ai-is-a-business-imperative-why-are-they-hesitating/