CAN WE TRUST AI?

說不定人工智能已將你⋯不，是將我們的一切竊取殆盡。 Text by Yoon Sangpil　Images：courtesy of 達志/Shutterstock　Translation by Weiyu Ou Yang　Edit by Gary Liu



不久前，在企劃公司上班的朋友對我大吐苦水。他說公司禁止員工使用私人AI，只能統一使用公司提供的Gemini企業版帳號，要從頭開始做個人化設定，實在很沒效率。「當我問公司為何要這麼做時，結果公司說是資安問題，我們提供給AI的所有資訊都可能被洩漏，這是真的還假的？」實際上，大多數的公司都是仰賴封閉式的企業帳號在使用外部AI，有些公司則會使用自行開發的AI模型。不過，我們提供給人工智能的情報，真的有脆弱到需要這麼小心翼翼嗎？

我們通常會覺得會流失漏出的東西只有水。水打翻了，擦乾就好。但是流向到人工智慧的資訊不是水，更像是滴在絨布上的顏料。一旦滲進去，不管怎麼擦都會留下痕跡。即便以為已經擦乾淨了，還是會有些許殘留，過了段時間便會顯現出來。問題在於，我們總是太輕易地把顏料倒在上面。公司的會議記錄、未公開的報告、開發中的程式碼、客戶名單、個人的健康煩惱、小孩的照片，甚至是在工作時分享螢幕畫面。我們以為只是單純的一問一答，但並非如此。AI會記錄、連結並活用所有資訊。雖然各伺服器皆有些許差異。但以OPEN AI提供的ChatGPT個人帳號為例，其預設設定會將使用者輸入的資料用來改善和訓練模型。雖然能透過設定關閉這個功能，但過去已用來訓練的資料卻無法復原，因為早已滲透進去了。另外，不用來訓練模型，並不代表沒辦法儲存。一般來說，為了資安或履行法律義務，仍會保存一段時間後才刪除。已上傳的文件和對話也可能另外留存於資料庫中，意即，即使刪除了對話，也不代表檔案會跟著被刪除。

至少企業版帳號聲稱不會將資料拿去訓練模型，但為了履行提供服務、執行功能、確保資安和遵守規則等義務，系統一樣會在約定的範圍內處理並儲存資料。更何況如今的AI服務正從聊天機器人進步成代理人。AI能讀信件、安排行程、撰寫文件，還能查詢資料庫、呼叫外部服務的API，甚至能購買物品、訂車票，還能報稅。在這種情況下，我們必須把AI視為一個被授予實質權限的執行者。未來AI將擁有更大的權限，而我們真的能夠信任它嗎？目前還是言之過早。因為AI產業的發展比起安全性，更看重「搶佔競爭優勢」。更迅速的模型、更強大的推論、理解更長的文脈、使用更多的工具以及更低的費用，才是市場的主流。雖然總在大眾面前強調安全性，但面對現實的競爭時，安全永遠有被拋在後頭的危險。速度緩慢、不準確的AI只會被市場淘汰，因此廠商也不得不追求更多的使用者和更多的資料，並希望被運用於更多領域當中。雖然包括歐盟與韓國在內的許多國家已開始制定人工智慧管制法案，但依然陷入「需優先考慮競爭與創新」的兩難之中。畢竟若顧慮安全而不幸落後，反而會使國家的AI發展面臨更大的危險。

儘管面臨這種狀況，但不論是個人、組織還是國家，都沒有「不使用AI」的這個選項。使用AI和不使用AI的人之間、擁有AI與沒有的國家之間，未來將拉開難以縮短的巨大差距。三星電子正是最具代表性的例子，2023年他們曾因ChatGPT導致內部原始碼洩漏，進而全面限制使用生成式AI。但在2026年時，三星率先以成品部門為中心，正式允許使用外部生成式AI服務，並以教育訓練、控制權限、限制敏感領域等控制方式作為條件。既然無法不用，那就邊管控邊用吧！國家層級的競爭則更加激烈。美國國防部已經在戰略、戰術及行政等所有領域中，積極使用本土企業的AI。在這個過程中，Anthropic考慮到安全與倫理，並未答應政府提出「全面開放軍事應用範圍」的要求，國防部便隨即將Anthropic列為供應鏈風險企業，這也代表AI如今已定位為國家安全層面的戰略資產。



隨著AI在資安領域展現出超越人類駭客的能力，這種典範轉移的速度也越來越快。最近公開的前沿AI模型在資安領域中被評估為擁有接近頂尖專家的判斷與執行能力，實際上，Anthropic的Mythos 5以及OpenAI的GPT-5.5現在已開始能獨立破解過去頂尖駭客需花上20小時才能完成的入侵計畫。更嚴重的問題是，這些AI的安全系統在六小時內就被徹底破譯。說得誇張一點，這意味著犯罪集團、恐怖組織或敵國的駭客，將有可能操控像電影《不可能的任務：最終清算》中出現的超人工智慧「生存體」，並開啟大駭客時代。最終，美國政府採取強硬手段，全面禁止外國國籍人士存取Anthropic的最新模型。包含韓國在內的全球各國政府，也正積極尋求替代服務等應對方案。

在這場龐大的國家級生存競爭以及跨國科技企業的強大技術面前，個人顯得極度無力。日後，人工智慧的技術競爭只會持續升溫。從服務的角度來看，聚焦於企業或機構客戶的管理型AI將會持續增加，資料訓練也將受到合約限制。然而，若想在人工智慧的競賽中勝出，以目前的技術水準來說，還得更加廣泛地收集高品質的資料才行。那麼這些資料要在哪裡收集呢？必然是來自於個人輸入的資料、網路空間中公開的Web資料、各平台上的活動軌跡、透過裝置收集到的圖片與聲音，以及無數在日常生活中留下的痕跡。

所以我們該做什麼呢？我們必須理解AI並學會在保護自己的同時善用它。AI不只是個單純的對話工具，我們輸入的提問與資料，最終都會存放在其他國家企業的伺服器晶片中。等於是將資訊傳到另一個，由我們都不認識的管理員權限與法律規範所主導的世界。因此，在現實生活中被視為敏感、不能給外人看的資訊，也絕不能提供給AI。不論是家裡住址、身分證字號、銀行帳戶等，或是特定的重要工作行程、公司組織圖、客戶名稱、內部決策過程、原始碼、會議出席者名單等現實中本來就不會隨意公開的資料。我們也得確認系統是否會拿我們輸入的資料進行訓練，若不願意提供，則需限制設定。需要留意自己在使用的系統，在公開網路上的活動軌跡也必須小心。若無意間發布的貼文中包含個人資料，我們就必須假設它會在不知不覺中，被無數的AI機器人被收集走。在未來，AI說不定會因為你一直很粗魯地命令他、又時常在網上留下尖酸留言，而將你視為一個沒禮貌的人並以此對待你。它甚至可能結合來自不同出處的資訊，用你的聲音與外表打電話給你的父母進行詐騙。

個人資料的風險正在從單純的資料外洩演變為預測與操控的問題。即使是你從未說過的資訊，AI也有辦法推論出來。將消費規律、搜尋紀錄、照片背景、定位資訊、寫作習慣、睡眠時間以及人際關係的變化結合後，甚至能推測出健康狀態、經濟狀況、政治傾向與情緒的脆弱之處。這樣打造出的個人資料將不再只運用於個人化廣告，更可能被運用在客製化說服、客製化詐騙、客製化政治煽動上。意即，一個「看似是自主選擇實則不然」的時代也可能悄然到臨。比起《魔鬼終結者》或《復仇者聯盟》裡的奧創，AI時代的風險會以更加真實、日常、安靜又迅速的方式靠近我們。

最後也留給全人類一個問題。AI替我們閱讀、書寫、判斷並做出選擇時，人類的生活將變得更加便利，但同時，人類也可能逐漸更少去記憶、更少去判斷、更少去承擔責任。雖然便利性提升，自由的條件卻變弱了。「對所有人說同一個謊言」的時代已經過去，取而代之的恐怕是一個「針對每個人展示客製化謊言」的時代。民主主義是建立在公民自主判斷的前提之上，但如果當AI開始分析人類的喜好、焦慮、憤怒、孤獨並以此設計我們做選擇的環境時，我們是否依舊能說自己做出的是「自由的選擇」呢？

因此，AI時代的核心能力正是作為一名自由公民的主體性與自律性。我們得將AI視為一種手段，且要懂得判斷什麼事可以交給它、什麼事情需由人類親自確認到最後。我們不能因為害怕顏料暈開，就不再畫畫。AI這支巨大的畫筆早已握在人類的手中，關鍵是我們要決定在哪裡使用多少顏料、要混合哪些顏色或要將什麼顏色留到最後。比起知道該讓AI做什麼，知道不能把什麼餵給AI的判斷力或許更為重要。如今擺在AI面前的，不只是單純的個人資料，而是包含你的語氣、我的記憶、我們的工作、組織的知識、國家的戰略，乃至於人類創立的民主主義，幾乎一切。所以現在我們需要的是在使用AI的過程中，將判斷與責任、關係與信任，以及自由做出選擇的能力，作為人類的本分，守護到底。

（Yoon Sangpil：為高麗大學情報保護研究所研究教授，主要研究人工智慧、資訊安全及網路安全相關的法律制度與政策。著有及譯有《網路安全漏洞的法律規制》、《比特戰：網路戰的革新》等書。）

… 本文摘錄自 Esquire君子國際中文版 2026/8月 第252期