AI代理安全
TikTok 執行長示警 AI 代理授權，信用卡與企業機密成高風險入口
結論先講：TikTok 執行長周受資提醒，使用者與企業把權限交給 AI 代理前，往往沒有理解它會如何完成任務。信用卡可導致超買，敏感資料也可能被丟進公開聊天工具。真正可行的路線是保留人類判斷，逐步放寬自動化邊界。
2至3年
預期科學突破時間窗
信用卡
個人高風險權限
人機協作
建議的導入方向
[ 3 個快取重點 ]
01
代理若只追求完成任務，可能在未充分限制下發生超買等失控行為。
02
企業員工把機密輸入公開模型，也會形成法律與資安風險。
03
周受資預期兩三年內出現科學突破，但這是展望而非確定成果。
01授權比聊天更危險
聊天機器人答錯時，人還能停下來；代理取得付款或系統權限後，錯誤可能直接變成交易與資料外洩。
01 時間軸 · 從試用到放權
現在
先用低風險任務理解能力邊界
導入期
建立資料與付款權限規則
未來2至3年
科學領域可能出現突破（預期）
空心＝受訪者預期，尚未實現。
02企業需要可撤回的權限
最小權限、操作紀錄與人工核准點，會比單純提醒員工小心更能降低代理風險。
Bottom line
AI 代理是否可靠，要看它犯錯時能做多大的事，而不只看回答多聰明。
- 原始報導
- 科技新報
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後，用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源，未經我們獨立查證。
- 單位
- 「pt」為百分點，指兩個百分比的差，不是成長率。標示「預估」或斜線紋樣者為推估值，非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤，寫信到 corrections@cachenews.tw，我們會在文末公開記錄更正內容與時間。