iVOD / 157001

陳永康 @ 第11屆第2會期外交及國防委員會第14次全體委員會議

Index	Text
0	陳委員永康：（10時21分）主席你好，有請蔡局長。
1	主席：請蔡局長。
2	蔡局長明彥：謝謝主席，陳委員好。
3	陳委員永康：局長好。今天我準備了很多有關AI的流程圖表，剛才局長已經做了一部分的回應了，工程技術部分，我們在這邊就不做深入的探討，我只請教幾個問題，第一個就是在我們局裡面，高階的長官同仁有沒有人本身先使用過AI，還是由研析人員？我講研析部分，完全用研析人員的概念去使用AI，然後呈報給長官。
4	蔡局長明彥：對，主要是研析部門在做相關的研究跟開發，我們局裡面AI的小組在各個單位都有，我們也非常鼓勵有一些橫向經驗的交流。
5	陳委員永康：因為剛才都探討了深度偽造、網路攻擊，還有最主要就是AI可以產生一些結果，並不是假訊息，可是它扭曲了你的價值觀，也就是說，我們在講用AI的方法，剛剛講反制就是洗腦、反洗腦這個東西，將來我想數發部在法律上、法遵上面，科技的進步，通常我們的法律不太容易跟得上，這是我們面臨的最大的一個挑戰。我等一下舉個例給你看，像生成式AI它的風險、它的正反面、效益，這些東西都有流程，我們確定你使用的目標、方法、手段，以法律與規範為監管基礎，符合成本效益的監管模式，因為你投入太大的經費去管一些有機會發生，但是它並不是那麼嚴重的，你做到那麼細也沒有好處。
6	我最後用一個簡圖來給您做一個回應，就是這個圖，現在媒體已經沒有人在了，所以我就很高興，這個圖是我們講川普對應中國大陸，從他在選舉過程中的目的、方法、手段，這裡面有屬於對抗、合作，有屬於主觀、客觀，有屬於推測、有反思，有宏觀、微觀，不同的方法論裡面，我們把這個邏輯框架圖餵進AI，但是當你把它的邏輯順序調整的時候，AI的回復就不一樣了，所以在這邊8個方塊圖，我把它輪轉一圈，它會產生64種不同的組合，這種分析的情況下，對我們的參謀、幕僚判斷，它裡面講的都是真的現象，但是不會反映出真相。在這種情況下，AI的判斷就要我們的參與人員知道當初這個東西設計的邏輯框架，因為你問AI的並不是文字，並不是句子。第一個，你的information是從工情來的；第二個，你有database；第三個，你有邏輯框架；第四個，組織架構把這個變成一個infographic，餵進AI，那麼AI就會產生一些給你的建議，但這個建議是主觀、客觀，還是正確、不正確，這個有不同的結果。我舉個例給您聽，像這個我們只是把上面的狀況轉一圈，所有的東西都會不一樣。所以當你把美國它追求的目的，還是它的方法、手段做調整，也會有不一樣的結果。像這種東西，我做一個很簡單的。
7	（播放錄音）
8	陳委員永康：這個是AI就這個邏輯框架所做的回答，把這個回答再轉換成英文，你再送到另外一個AI的技術去，它又幫你把邏輯框架重新調整，就是說，它講的都是正確的，但是當你把框架的內容做了調整，你再問AI，它又會產生另外不同的一套，當把這個語言、英語套到國外的學者論證裡面引述進去，這個就變成假訊息了。這種東西很容易影響到我們的學者專家政治的判斷。
9	我現在特別是用這個範例向您做一個解說，我希望我們在做研析的單位，第一個，先把美國政策跟國際情勢的邏輯框架把它畫出來，大家做客觀的分析、溝通，確定我們的路徑、方法、手段，最後能不能支持我們的國安，這是一個大格局。這種情況下，再用AI的資料進來比對就會比較客觀，而不是直接去找這個是文字輸入，這個是語音輸入，第三個影像，最後變成一個動態，這四個全部可以組合。因為高階的長官並不是本身有工程背景或者用AI，由研析幕僚單位來使用這個東西，因為第一個有時間的壓力，可是現在這個生成式的結果，像這個方塊圖我們改變一下，問它30秒，產生另外一套完全不同的分析論述，所以這個東西8乘8，它可以產生64種不同的結果。請問這種情況下，我們的幕僚如何去收斂？可能迴歸過來，你還要倒過來，用你的AI技術去過濾、再簡化，這個部分我是不是請局長做一個回應？
10	蔡局長明彥：基本上，委員剛剛所分享到的一些AI生成技術運用過程當中的方法論，我們局裡面事實上已經有投入滿長一段時間的研究。也跟委員說明的是，我們也曾經透過這些AI的系統去預測中共的人事布局，在啟動這樣的一個生成式AI系統過程當中，就正如委員所講的，我們必須要由研析人員來設定，我們當時設定的大概有70個指標，把70個指標建立到我們生成式AI的系統裡面去，在這些指標的資料運作之下，由它幫我們來預測中共人事可能的布局。跟委員說明的是，預測的正確率相當的高，這主要的重點就在於說，我們本身的資料庫跟指標設定必須要能夠貼近中共的決策思維，所以這部分確實是我們在方法論運用上一直在關注的一個主要的重點。
11	陳委員永康：特別還是建議，就是說，我們做研析人員，他的工具，跟他的資料庫，需要持續在這方面投資增長，如果只是用純粹的一般工情，也許可以花點錢，很多軟體都會提供，但是邏輯框架就像您講的，預測系統包括你的資料庫，包括你的information，還有你的邏輯框架，最後送進AI的infographic，這個要有持續更新。
12	蔡局長明彥：是。
13	陳委員永康：我特別提出這個請局裡面在這部分努力。
14	蔡局長明彥：謝謝陳委員的指導，我們還有一些設計上的競賽，有時候用AI系統去做分析預判，有時候用人工系統來做分析預判，然後再做比較，這樣可以在過程當中不斷策進我們在AI運用方法論上的一些經驗。
15	陳委員永康：好，特別謝謝局長，大家共同努力。
16	蔡局長明彥：好，謝謝委員提醒，我們繼續來努力，謝謝。
17	主席：謝謝陳永康委員，局長請回。
18	主席（陳委員永康代）：請林委員憶君發言。

公報詮釋資料

page_end	58
meet_id	委員會-11-2-35-14
speakers	["林憶君","羅美玲","洪申翰","徐巧芯","黃仁","沈伯洋","陳永康","陳冠廷","馬文君","王鴻薇","賴士葆","洪孟楷","葛如鈞","楊瓊瓔","黃國昌","王定宇","林楚茵"]
page_start	1
meetingDate	["2024-11-18"]
gazette_id	11310101
agenda_lcidc_ids	["11310101_00002"]
meet_name	立法院第11屆第2會期外交及國防委員會第14次全體委員會議紀錄
content	邀請國家安全局局長、數位發展部、法務部調查局、內政部警政署、國家科學及技術委員會報告「AI 技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢
agenda_id	11310101_00001