AI red teaming 依 OWASP LLM Top 10 測試你的 AI 應用
在上線前，用攻擊者的方法測你的 AI 應用：提示詞注入、資料外洩、越權操作，依 OWASP LLM Top 10 逐項檢查。
01
適合誰
- 已上線或準備上線的 AI 客服、聊天機器人或內部 AI 助理
- AI 應用串接了內部資料，或能執行寄信、下單等動作
- 需要向客戶、稽核或主管機關說明 AI 的安全措施
- 模型或功能改版後，不確定原本的防護還有沒有效
02
服務內容
範圍界定
釐清應用架構、AI 可以存取的資料與工具，以及不同使用者的權限。
提示詞注入測試
直接注入與間接注入（藏在文件、網頁、Email 裡的指令），確認 AI 會不會被改變行為。
資料外洩與越權
系統提示與敏感資料是否會被套出、AI 能否被誘導執行超出權限的動作。
輸出處理
AI 的輸出被其他系統使用時，是否會造成注入或錯誤執行。
報告與複測
每個發現附嚴重度、重現步驟與修補建議；修補後複測。
03
執行方式
1. 範圍與規則
約定測試範圍、環境、時段與停止條件。
2. 測試
依 OWASP LLM Top 10 逐項測試，記錄每一次嘗試。
3. 報告
說明發現、影響與修補建議，並與開發團隊逐項討論。
4. 複測
修補後重新測試，確認問題已處理。
04
交付物
- 測試範圍與方法說明
- 發現清單（嚴重度、重現步驟、修補建議）
- 複測報告
05
合作週期
以三個月、半年或一年為一個週期，依範圍決定。每個週期結束時，我們會和你一起對照一開始設定的目標，再決定下一個週期要做什麼，或到此為止。
每個週期：盤點 → 設計 → 導入 → 對照目標，決定下一步
06
計價方式
依個別案例估算：要處理的系統與資料有多少、需要的人力與時間、週期多長。先聊一次，我們會依實際範圍給你一個數字，而不是先報價再湊範圍。
07
常見問題
什麼是 AI 對抗測試？
模擬攻擊者，嘗試讓 AI 應用做出不該做的事：洩漏資料、忽略原本的指令、執行超出權限的動作。目的是在真正的攻擊者之前找到問題。
AI 對抗測試跟一般的滲透測試有什麼不同？
一般滲透測試針對網路、伺服器與網頁的弱點；AI 對抗測試針對語言模型特有的風險，例如用文字內容改變模型行為的提示詞注入。兩者互補。
測試會影響正式環境嗎？
建議在測試環境進行。必須在正式環境測試時，會事先約定範圍、時段與停止條件。
修補之後就安全了嗎？
提示詞注入目前沒有一次根治的解法，重點是降低風險、限制 AI 能動用的權限與資料。模型或功能改版後，建議重新測試。
08