iVOD / 156994

沈伯洋 @ 第11屆第2會期外交及國防委員會第14次全體委員會議

Index Text
0 沈委員伯洋：（10時9分）謝謝主席，有請局長。
1 主席：請局長。
2 蔡局長明彥：謝謝主席，沈委員早。
3 沈委員伯洋：局長好。雖然今天的題目是AI，但一開始我想問一個時事，這個時事其實跟AI沒有直接的關係，但其實是非常類似的問題，媒體的官方說法，我剛剛看到在媒體區受訪時你好像已經有回答過這問題了，所以我就不再贅述。我先講右邊這件事，右邊是與馬斯克有關的影片，該影片的字幕從頭到尾都在講他要撤出什麼之類的，不過其實裡面講的英文根本不是那麼一回事，所以就是亂上字幕！在澤倫斯基之前很多的影片裡，俄羅斯也做過類似的事，中國也做過類似的事，就是澤倫斯基講了一堆話，而底下上了一些完全無關的字幕。這是從早期從到現在一直有的操作方式，不過昨天發生了一件更麻煩的事情，也就是拜習會。拜習會的場合就是畫面上看到的樣子，裡面根本就沒有人講到賴清德，可是央視在旁白的時候講了這句話：賴清德和民進黨當局的台獨本性。然後新華社、還有臺灣的報紙跟媒體，就直接把這個當作事實來報導。我看到有些媒體報導比較平衡，說現場完全沒有提到，但中國的官方文件講了這件事。現在對我們來講，有一個很麻煩的地方在於，臺灣有些人會把中國的東西直接copy過來講。問題出在假設我們今天出來闢謠說，我們都沒有聽到講賴清德！結果他們就自己說，沒有，但是在內部時他們有聽到，最後就是有理說不清。在這邊我想請問，目前國安局對這一類方式的新聞比較好的回應說法會是什麼？
4 蔡局長明彥：就這問題來講，我們第一時間也有去比對白宮對外的公開新聞稿，也會去研判中共領導人在國際場合、一般在處理類似事情的說法。確實像委員所提到的，不能排除可能是中共的官宣、官媒在會後的刻意操作！在APEC期間，其實不只剛剛委員所提到的個案，我們也注意到在中共與新加坡領導人會談過程當中，似乎也有這種會後刻意的新聞操作及處理，包括認為新加坡黃總理曾經在會中提到恪遵一中原則與反對臺獨……
5 沈委員伯洋：對，菲律賓也有過，印尼也有過。
6 蔡局長明彥：有很多國家似乎在會後都遭到中共在媒播上以刻意手法處理，所以對於跟中共的會談，各國都很警示，看事後怎麼樣有自己的版本，避免成為中共單方面、片面的說詞，這也變成大家共同關注的議題。當然，希望媒體朋友們在報導相關的議題過程中能多方查證。
7 沈委員伯洋：非常感謝局長講到這點。如果我們跟國人說之前印尼、菲律賓等國家也都發生過明明會面時沒有講的東西，結果中國在事後的文件講出來。講出來以後，我們也不是要去爭執到底真或假，因為這種東西有理說不清。但我們可以強調，中國很喜歡在事後去講一些你在公開時找不到的內容，這樣以後國人在看到中國的官方說法時會有一些警惕，也不會落入對方陷阱，甚至認為沒有啊，他們私底下有偷偷講到什麼之類的，不用去爭執那樣的細節。但這也是我擔心的，所以我今天早上就特別把頭版都拍過，不過比較重要的當然是我們昨天贏球。但某報的頭版就直接講「首度點名賴清德」。其實這件事明明沒有在現場發生，是後來才出現在官方文件，卻刊在頭版。至於中國時報的講法就是「陸方新聞稿點名」，這就講得比較清楚，表示這不是現實發生的，是新聞稿點名的。我覺得臺灣現在是一個隨時可能會被入侵的國家，如果在危急時，我們的媒體是把中國新華社的內容直接當作頭版來報導，也沒有講為什麼這樣報導，報導跟事實到底一不一樣，就廣泛地在臺灣發送，我認為這會是國安危機，這可能是個別倫理上的問題，而國安局這次是整理後直接跟媒體回應，我想之後也應該繼續往這方向邁進。
8 蔡局長明彥：好。
9 沈委員伯洋：這雖然跟AI沒有直接關係，但這也是我之前比較擔心的。就AI來講，中國的AI技術當然好，不過有時候不一定需要用AI，他可以使用非常簡單的，譬如真實的影片。也就是說，影片從頭到尾都不是AI，都是真實的，卻配上錯誤的字幕。其實配錯誤的字幕是第一步，下次可能是配上錯誤的語音！現在語音是真的，字幕是假的，至於AI則可以讓語音是錯的，字幕也是錯的，一步一步往下做，讓臺灣人越來越習慣，越來越搞不清楚這樣的機制。不管是數發部或國安局報告都有提到，近期之內有越來越多的造假，像我自己也被造假了。這個其實還不是最大的重點，最近剛好數發部……對不起，這可能要請教林次長。這幾天剛好很多財經粉專被下架，由於Meta本來就有詐騙回報的相關機制，所以開始有人說，會不會是數發部做的？我看到次長有回答，讓我覺得這真的不知道是造謠還是怎樣。我現在有一個問題，詐騙是不是有向Facebook回報的機制？
10 林次長宜敬：是。
11 沈委員伯洋：如果跟Deepfake有關呢？因為Deepfake有可能是詐欺，如果是詐欺的話我們直接回報，這個沒問題；但像這樣的方式能不能歸類在詐欺？
12 林次長宜敬：這的確是一個很好的問題。像這樣的Deepfake是不是可以構成詐欺？這的確是很有爭議的。不過這樣的事其實不能由行政部門直接認定，因為臺灣是一個自由民主法治的國家，對於是否為詐欺，最終必須由檢調機關調查，由司法機關決定。相較於威權國家，威權國家很簡單，就是政府一下令，所有事情可能當天、甚至一個小時之內就解決了。至於我們民主國家，有時候會覺得好像有一隻手被綁在後面來做事情，但這就是自由民主的代價，這也是我們未來非常大的挑戰，不過我們還是必須想辦法去面對。
13 沈委員伯洋：對，這是我比較擔心的。我們現在已經有了打詐專法，但詐欺是限定的，所謂詐欺就是刑法的詐欺取財，是詐騙金錢。如果是詐騙金錢的話，那麼我們用詐騙的定義去向各平臺做回報，我覺得合理；但如果要將這個視為詐欺的話，但它並沒有直接造成財產損害，也不是用我的名義買賣股票。所以可否乾脆另闢蹊徑？也就是不要用詐欺這一條路徑，而用Deepfake當路徑，跟社群平臺談設立Deepfake回報的專門路徑？以後只要出現過……不過這個是在抖音上，所以是另外一回事，而且抖音不會理我們。但如果是在Facebook、在YT上，譬如沒有標記為AI，是Deepfake，有哪幾個標準是我們可以跟他們回報，直接做另外一條途徑，看數發部有沒有機會去跟這些社群平臺談一下？
14 林次長宜敬：是，我們現在持續跟這些主要的社群平臺做溝通，之前他們比較不願意跟我們配合，還推說總部在美國或在日本，所以沒辦法影響總部的決策。但經過幾個月不斷地溝通，他們的態度有比較鬆動。我們後來也發現，臉書在臺灣的法遵部門基本上只有兩個人，根本管不到業務部門！所以我們後來直接去跟他們在新加坡的亞太總部溝通，接下來就直接到美國總部溝通，也透過美國政界人士，當他們來臺灣訪問，與數發部會談時，我們就跟他們抱怨，希望透過美國輿論以及美國政府部門來對Facebook施壓。美國國會以及行政部門對Facebook也面臨同樣問題，他們也覺得很頭大，所以他們感同身受。這幾個月來，不管是Facebook、Google或LINE的態度都有改善。至於Deepfake，只要我們提出的解釋是合理的，相信他們都會配合。如同委員所講的，現在最大的問題其實是在TikTok！
15 沈委員伯洋：所以這個機制必須趕快建立，因為會變得越來越多！打詐機制固然立意良善，臺灣詐騙卻還是很多，不過我個人認為中國才是最大的詐騙集團，但這個就不用回答了。在政治上，我們現在遇到這種大型且用各式各樣的方式來做詐欺，像這就是今年才出現過的事，我覺得也蠻扯的。這是今年9月才出現的事，是直接Deepfake烏克蘭外長的形象，甚至跟美國參議員做視訊連線；在連線的過程裡，參議員覺得有點怪怪的才趕快通報！所以這已經不是影片了，而是連線的那一個人有問題！我覺得這部分機制要趕快建立，因為一樣的事情有可能會發生在臺灣。因為時間到了，後面我沒有辦法再細問。不過數發部跟國安局在所寫的AI報告裡說，畢竟AI在不同的層次裡，如果今天是在Level 2的話，自動化防禦比較沒什麼問題；如果做到紅隊程度的Level 3，畢竟現在要做到紅隊的創意還是要比較夠，但是防守這個部分是我們現在就可以做的，我看到美國有這個相關的……主席，不好意思，再給我30秒，就是DARPA，他們在去年開始有這個AI，這個我猜次長很熟悉啦，他們有這個計畫，他們直接請大家來攻，然後去把這個漏洞找出來等等之類的，因為防禦這件事情是我們現在馬上可以做的。我記得剛剛局長跟次長在回答的時候都有講過，我們已經有用AI在防禦，那這部分可以強化。
16 至於AI要應用在紅隊這個有創意的部分，到底會發展成什麼樣，我們不是很確定，但至少我看OpenAI的報告，放在假消息的部分，它說已經有說服力了，所以當它已經開始有說服力，我們先不要管一般的資安攻擊，但如果是假消息，還有像剛剛講的Deepfake這個部分有可能是必須要先去注意的。我後面當然有一些建議，還有一些法律上的問題，如果有機會的話，我可能會再去交通委員會問一下部長或次長。
17 林次長宜敬：是，謝謝委員。
18 沈委員伯洋：謝謝主席，謝謝局長，謝謝次長。
19 主席：謝謝沈伯洋委員。
20 接下來我們請陳永康委員上臺質詢。
公報詮釋資料
page_end 58
meet_id 委員會-11-2-35-14
speakers ["林憶君","羅美玲","洪申翰","徐巧芯","黃仁","沈伯洋","陳永康","陳冠廷","馬文君","王鴻薇","賴士葆","洪孟楷","葛如鈞","楊瓊瓔","黃國昌","王定宇","林楚茵"]
page_start 1
meetingDate ["2024-11-18"]
gazette_id 11310101
agenda_lcidc_ids ["11310101_00002"]
meet_name 立法院第11屆第2會期外交及國防委員會第14次全體委員會議紀錄
content 邀請國家安全局局長、數位發展部、法務部調查局、內政部警政署、國家科學及技術委員會報告 「AI 技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢
agenda_id 11310101_00001