企業大小事

AI記得你的秘密─ChatGPT隱私風險揭密

2025/05/16

2026/02/23 更新

隨著AI HR應用在企業內部管理中日益普及，隱私與資料使用的議題也成為人資與技術導入時不可忽視的風險之一。

AI隱私的幻覺
OpenAI執行長奧特曼最近表示，他「對於人們如此願意與大型語言模型分享非常私人的詳細資訊，感到非常驚訝」。這種驚訝背後隱藏著一個事實：在AI的世界裡，隱私只是一種幻覺。你與ChatGPT分享的所有內容，都可能成為刑事調查來源、洩漏給未來用戶，甚至被用來針對你設計廣告。

赤裸裸的數位告解
WildChat資料庫收集了百萬筆的ChatGPT對話，記錄了人們如何與這個聊天機器人互動。這些對話大多圍繞著工作和學業需求，如「幫忙寫作業」或「寫行銷文案」，但也有許多極為私密的內容。例如，一位華盛頓州的男子在婚姻危機時，向ChatGPT尋求挽回伴侶的建議、一名學校主任可能透露了學生的學習障礙情形、甚至有未成年人訴說自己的犯罪意圖。

為何我們對AI毫無保留？
聊天機器人特別擅長讓人透露關於自己的一切細節。與傳統的Google搜索不同，AI對話可能持續很長時間，每個訊息都包含豐富的個人資料。普林斯頓大學的電腦科學家亨德森指出，AI比過去任何網站都更能接近用戶的資訊。

南加州大學教授格拉奇解釋道，人們在互相交談時會進行「印象管理」，有意調整自己的行為來隱藏弱點，「但人們不認為機器會像人類一樣對他們進行社會評價」。結果是，使用者不僅分享文字，還上傳敏感文件、對話截圖，毫無戒心地披露自己的真實訊息。

隱私風險重重
即使AI公司承諾對話保密，網路隱私從未滴水不漏。今年夏天，ChatGPT應用程式出現漏洞，導致用戶對話暴露給不法分子；上個月，研究人員發現另一個漏洞，可能允許駭客安裝間諜軟體提取對話內容。

更有甚者，AI對話可能成為法律訴訟的證據。就像一位美國參議員因Google搜尋「一公斤黃金值多少錢？」而被定罪一樣，AI聊天記錄也可能成為呈堂證供，而且提供的資訊更加詳盡。

你的秘密訓練了下一代AI
多數人不知道的是，與聊天機器人的對話通常會被開發公司保留，並用於訓練改進AI模型。「理論上，你向AI工具透露的秘密訊息，可能會被用來改善未來用戶的體驗，」關注AI隱私議題的記者雪羅夫提醒道。這也是許多企業已經禁止員工使用ChatGPT的原因，以防止公司機密外洩。

「意向經濟」來臨：量身定做的廣告
雖然目前多數AI公司尚未推出廣告計畫，但史丹佛大學AI研究員波馬薩尼表示，難以想像生成式AI能迴避廣告和商業化。未來，你的個人資訊可能成為AI公司的金礦。

當問AI「誰製作了最厲害的電吉他？」可能會得到樂器製造商贊助的連結；健身公司可能建立聊天機器人，鼓勵用戶透露更多健身目標並進行銷售。劍橋大學研究人員將這種新興的行銷模式定義為「意向經濟」——能夠預測用戶未來意向的手法。他們警告：「意向經濟不僅讓數位廣告更具侵入性，還會進一步侵犯我們的隱私、左右思想、灌輸意識形態，甚至顛覆選舉。」

保護自己：不要告訴AI的五件事
根據《華爾街日報》建議，以下五類資訊絕不應透露給AI：

1. 身分資訊：包括駕照和護照號碼、出生日期、地址和電話號碼
2. 醫療資訊：如需AI協助判讀檢驗結果，建議在上傳前裁剪圖像，只保留必要部分
3. 財務帳戶資訊：保護你的銀行和投資帳戶號碼，避免被監控或非法存取
4. 企業資訊：使用AI協助工作時，應謹慎避免洩露客戶資料或商業機密
5. 帳號密碼：不要將登入密碼或PIN碼交給AI，應使用專業的密碼管理器保存

在大AI時代，保護個人隱私成為每個人必須面對的挑戰。隨著技術的發展，AI已經全面延伸到我們生活中的每一個面向；科技是雙面刃，一方面提升了人類的效率與舒適度，一方面則可能使人類暴露在危險中。我們需要更加警惕自己對AI透露的內容，並建立健康的使用界限。