保護產生式人工智慧與人工智慧所產生的程式碼，需要結合治理、測試與監控。主要做法包括安全編碼檢查：透過 SAST 、 DAST 、SCA 和 IaC 測試執行 AI 產生的程式碼。政策執行：為何時以及如何使用人工智慧編碼輔助程式設定警戒線。威脅偵測：識別 AI 應用程式中的提示注入、資料洩漏和濫用風險。開發人員啟用：教育團隊安全使用 AI 編碼工具。AI 增強的 AppSec：以負責任的態度 使用 GenAI 以減少誤報並加速修復。

聯絡我們相關產品

概述

生成式 AI 安全性（有時也稱為 AI 代碼風險）是保護應用程式和組織免受生成式人工智慧 (GenAI) 系統和 AI 輔助編碼工具所帶來的獨特風險的實務。這也包括負責任地使用 AI 來強化應用程式安全測試與修復。

AppSec 中生成式 AI 的危險與前景

透過強化網路安全工具，創造性人工智慧正在徹底改變應用程式安全。

閱讀該報告

生成式 AI 安全性

GenAI 的安全性為何重要？

生成式 AI 已經快速地改變了軟體開發，讓開發人員可以更快、更大規模地生成程式碼。這在加速創新的同時，也帶來了新的挑戰：

產生不安全的程式碼：AI 工具可能會建議包含漏洞的程式碼。
提示注入攻擊：惡意輸入可操控 AI 模型做出不安全的行為。
資料暴露風險：敏感資訊可能會透過訓練集或模型輸出洩漏。
過度依賴人工智能：開發人員可能缺乏評估人工智能產生的程式碼是否安全的背景。

同時，敵人也開始使用 AI 來自動化攻擊，使得威脅形勢更加多變。組織必須採取策略來降低這些風險，同時安全地利用 AI 的優點。

生成式 AI 安全性如何運作？

保護產生式人工智慧與人工智慧所產生的程式碼，需要結合治理、測試與監控。

主要做法包括

安全編碼檢查：透過SAST、DAST、SCA 和 IaC 測試執行 AI 產生的程式碼。
政策執行：為何時以及如何使用人工智慧編碼輔助程式設定警戒線。
威脅偵測：識別 AI 應用程式中的提示注入、資料洩漏和濫用風險。
開發人員啟用：教育團隊安全使用 AI 編碼工具。
AI 增強型 AppSec： 以負責任的態度使用 GenAI，以減少誤報並加速修復。

GenAI 安全性的優點

降低風險：防止不安全的 AI 生成的程式碼進入生產階段。
更安全的採用：讓團隊能負責任地使用 AI 編碼助理。
AI 應用程式安全性：透過處理獨特的風險 (例如模型篡改、資料曝露和對抗性輸入)，保護人工智慧驅動的應用程式。
持續監督：長期監控與管理 AI 相關的弱點。
加快修復速度：利用 AI 來簡化弱點分流與修復。
平衡創新：在獲取 AI 好處的同時，盡量降低新的風險。

使用 OpenText 應用程式安全的創造性 AI 安全性

OpenText 賦予企業處理 AI 相關風險的能力，同時負責任地利用 AI 來改善安全性：

OpenText™ Application Security Aviator™ (Fortify)：人工智能驅動的助理，可減少誤報並加速修復。
SSR 研究：持續更新以偵測 AI/ML 框架和 API 中的漏洞。
開發人員優先啟用：協助開發人員安全使用 AI 工具的指導與訓練。
整合式測試平台：全面的 SAST、DAST、SCA、IaC 及 API 測試，適用於 AI 產生的程式碼。
政策驅動的協調：透過應用程式安全勢態管理 (ASPM) 管理 AI 的使用。

主要心得

生成式 AI 安全性可協助組織擁抱 AI 的生產力優勢，同時降低不安全程式碼、資料洩漏以及由 AI 驅動的系統所引進的新型攻擊媒介的風險。