|
00:00:00,088 |
00:00:02,831 |
沈委員伯洋 |
謝謝主席，有請局長。 |
|
00:00:03,051 |
00:00:09,474 |
主席 |
請局長。 |
|
00:00:09,474 |
00:00:10,176 |
蔡局長明彥 |
謝謝主席，沈委員早。 |
|
00:00:10,615 |
00:00:10,835 |
沈委員伯洋 |
局長好。 |
|
00:00:12,236 |
00:00:25,721 |
沈委員伯洋 |
雖然今天的題目是AI，但一開始我想問一個時事，這個時事其實跟AI沒有直接的關係，但其實是非常類似的問題，媒體的官方說法，我剛剛看到在媒體區受訪時你好像已經有回答過這問題了，所以我就不再贅述。 |
|
00:00:27,002 |
00:00:40,512 |
沈委員伯洋 |
我先講右邊這件事，右邊是與馬斯克有關的影片，該影片的字幕從頭到尾都在講他要撤出什麼之類的，不過其實裡面講的英文根本不是那麼一回事，所以就是亂上字幕！ |
|
00:00:41,273 |
00:00:50,160 |
沈委員伯洋 |
在澤倫斯基之前很多的影片裡，俄羅斯也做過類似的事，中國也做過類似的事，就是澤倫斯基講了一堆話，而底下上了一些完全無關的字幕。 |
|
00:00:51,259 |
00:00:58,884 |
沈委員伯洋 |
這是從早期從到現在一直有的操作方式，不過昨天發生了一件更麻煩的事情，也就是拜習會。 |
|
00:00:58,983 |
00:01:11,690 |
沈委員伯洋 |
拜習會的場合就是畫面上看到的樣子，裡面根本就沒有人講到賴清德，可是央視在旁白的時候講了這句話：賴清德和民進黨當局的台獨本性。 |
|
00:01:12,490 |
00:01:21,756 |
沈委員伯洋 |
然後新華社、還有臺灣的報紙跟媒體，就直接把這個當作事實來報導。 |
|
00:01:21,895 |
00:01:30,921 |
沈委員伯洋 |
我看到有些媒體報導比較平衡，說現場完全沒有提到，但中國的官方文件講了這件事。 |
|
00:01:32,260 |
00:01:40,647 |
沈委員伯洋 |
現在對我們來講，有一個很麻煩的地方在於，臺灣有些人會把中國的東西直接copy過來講。 |
|
00:01:41,108 |
00:01:44,450 |
沈委員伯洋 |
問題出在假設我們今天出來闢謠說，我們都沒有聽到講賴清德！ |
|
00:01:44,970 |
00:01:49,914 |
沈委員伯洋 |
結果他們就自己說，沒有，但是在內部時他們有聽到，最後就是有理說不清。 |
|
00:01:50,835 |
00:01:57,099 |
沈委員伯洋 |
在這邊我想請問，目前國安局對這一類方式的新聞比較好的回應說法會是什麼？ |
|
00:01:58,230 |
00:02:10,138 |
蔡局長明彥 |
就這問題來講，我們第一時間也有去比對白宮對外的公開新聞稿，也會去研判中共領導人在國際場合、一般在處理類似事情的說法。 |
|
00:02:11,400 |
00:02:16,404 |
蔡局長明彥 |
確實像委員所提到的，不能排除可能是中共的官宣、官媒在會後的刻意操作！ |
|
00:02:17,224 |
00:02:35,943 |
蔡局長明彥 |
在APEC期間，其實不只剛剛委員所提到的個案，我們也注意到在中共與新加坡領導人會談過程當中，似乎也有這種會後刻意的新聞操作及處理，包括認為新加坡黃總理曾經在會中提到恪遵一中原則與反對臺獨…… |
|
00:02:36,322 |
00:02:37,503 |
沈委員伯洋 |
對，菲律賓也有過，印尼也有過。 |
|
00:02:38,043 |
00:02:53,331 |
蔡局長明彥 |
有很多國家似乎在會後都遭到中共在媒播上以刻意手法處理，所以對於跟中共的會談，各國都很警示，看事後怎麼樣有自己的版本，避免成為中共單方面、片面的說詞，這也變成大家共同關注的議題。 |
|
00:02:54,411 |
00:03:02,476 |
蔡局長明彥 |
當然，希望媒體朋友們在報導相關的議題過程中能多方查證。 |
|
00:03:02,476 |
00:03:03,676 |
沈委員伯洋 |
非常感謝局長講到這點。 |
|
00:03:04,397 |
00:03:14,381 |
沈委員伯洋 |
如果我們跟國人說之前印尼、菲律賓等國家也都發生過明明會面時沒有講的東西，結果中國在事後的文件講出來。 |
|
00:03:15,924 |
00:03:20,168 |
沈委員伯洋 |
講出來以後，我們也不是要去爭執到底真或假，因為這種東西有理說不清。 |
|
00:03:20,650 |
00:03:39,227 |
沈委員伯洋 |
但我們可以強調，中國很喜歡在事後去講一些你在公開時找不到的內容，這樣以後國人在看到中國的官方說法時會有一些警惕，也不會落入對方陷阱，甚至認為沒有啊，他們私底下有偷偷講到什麼之類的，不用去爭執那樣的細節。 |
|
00:03:39,227 |
00:03:45,809 |
沈委員伯洋 |
但這也是我擔心的，所以我今天早上就特別把頭版都拍過，不過比較重要的當然是我們昨天贏球。 |
|
00:03:47,029 |
00:03:52,611 |
沈委員伯洋 |
但某報的頭版就直接講「首度點名賴清德」。 |
|
00:03:53,992 |
00:03:59,094 |
沈委員伯洋 |
其實這件事明明沒有在現場發生，是後來才出現在官方文件，卻刊在頭版。 |
|
00:04:00,293 |
00:04:09,197 |
沈委員伯洋 |
至於中國時報的講法就是「陸方新聞稿點名」，這就講得比較清楚，表示這不是現實發生的，是新聞稿點名的。 |
|
00:04:09,917 |
00:04:26,704 |
沈委員伯洋 |
我覺得臺灣現在是一個隨時可能會被入侵的國家，如果在危急時，我們的媒體是把中國新華社的內容直接當作頭版來報導，也沒有講為什麼這樣報導，報導跟事實到底一不一樣，就廣泛地在臺灣發送，我認為這會是國安危機，這可能是個別倫理上的問題，而國安局這次是整理後直接跟媒體回應，我想之後也應該繼續往這方向邁進。好。 |
|
00:04:44,891 |
00:04:47,832 |
沈委員伯洋 |
這雖然跟AI沒有直接關係，但這也是我之前比較擔心的。 |
|
00:04:48,273 |
00:04:57,134 |
沈委員伯洋 |
就AI來講，中國的AI技術當然好，不過有時候不一定需要用AI，他可以使用非常簡單的，譬如真實的影片。 |
|
00:04:57,654 |
00:05:01,196 |
沈委員伯洋 |
也就是說，影片從頭到尾都不是AI，都是真實的，卻配上錯誤的字幕。 |
|
00:05:02,016 |
00:05:05,177 |
沈委員伯洋 |
其實配錯誤的字幕是第一步，下次可能是配上錯誤的語音！ |
|
00:05:06,237 |
00:05:16,661 |
沈委員伯洋 |
現在語音是真的，字幕是假的，至於AI則可以讓語音是錯的，字幕也是錯的，一步一步往下做，讓臺灣人越來越習慣，越來越搞不清楚這樣的機制。 |
|
00:05:18,020 |
00:05:25,604 |
沈委員伯洋 |
不管是數發部或國安局報告都有提到，近期之內有越來越多的造假，像我自己也被造假了。 |
|
00:05:26,463 |
00:05:32,506 |
沈委員伯洋 |
這個其實還不是最大的重點，最近剛好數發部……對不起，這可能要請教林次長。 |
|
00:05:39,775 |
00:05:49,703 |
沈委員伯洋 |
這幾天剛好很多財經粉專被下架，由於Meta本來就有詐騙回報的相關機制，所以開始有人說，會不會是數發部做的？ |
|
00:05:50,042 |
00:05:55,326 |
沈委員伯洋 |
我看到次長有回答，讓我覺得這真的不知道是造謠還是怎樣。 |
|
00:05:56,507 |
00:06:00,210 |
沈委員伯洋 |
我現在有一個問題，詐騙是不是有向Facebook回報的機制？是。 |
|
00:06:00,973 |
00:06:02,716 |
沈委員伯洋 |
如果跟Deepfake有關呢？ |
|
00:06:02,716 |
00:06:09,548 |
沈委員伯洋 |
因為Deepfake有可能是詐欺，如果是詐欺的話我們直接回報，這個沒問題；但像這樣的方式能不能歸類在詐欺？ |
|
00:06:13,447 |
00:06:14,727 |
林次長宜敬 |
這的確是一個很好的問題。 |
|
00:06:14,727 |
00:06:18,329 |
林次長宜敬 |
像這樣的Deepfake是不是可以構成詐欺？ |
|
00:06:19,490 |
00:06:22,312 |
林次長宜敬 |
這的確是很有爭議的。 |
|
00:06:23,414 |
00:06:42,266 |
林次長宜敬 |
不過這樣的事其實不能由行政部門直接認定，因為臺灣是一個自由民主法治的國家，對於是否為詐欺，最終必須由檢調機關調查，由司法機關決定。 |
|
00:06:44,308 |
00:06:51,391 |
林次長宜敬 |
相較於威權國家，威權國家很簡單，就是政府一下令，所有事情可能當天、甚至一個小時之內就解決了。 |
|
00:06:52,092 |
00:07:05,242 |
林次長宜敬 |
至於我們民主國家，有時候會覺得好像有一隻手被綁在後面來做事情，但這就是自由民主的代價，這也是我們未來非常大的挑戰，不過我們還是必須想辦法去面對。 |
|
00:07:05,242 |
00:07:05,862 |
沈委員伯洋 |
對，這是我比較擔心的。 |
|
00:07:06,622 |
00:07:13,628 |
沈委員伯洋 |
我們現在已經有了打詐專法，但詐欺是限定的，所謂詐欺就是刑法的詐欺取財，是詐騙金錢。 |
|
00:07:13,908 |
00:07:24,957 |
沈委員伯洋 |
如果是詐騙金錢的話，那麼我們用詐騙的定義去向各平臺做回報，我覺得合理；但如果要將這個視為詐欺的話，但它並沒有直接造成財產損害，也不是用我的名義買賣股票。 |
|
00:07:25,838 |
00:07:28,519 |
沈委員伯洋 |
所以可否乾脆另闢蹊徑？ |
|
00:07:28,519 |
00:07:35,966 |
沈委員伯洋 |
也就是不要用詐欺這一條路徑，而用Deepfake當路徑，跟社群平臺談設立Deepfake回報的專門路徑？ |
|
00:07:36,907 |
00:07:40,668 |
沈委員伯洋 |
以後只要出現過……不過這個是在抖音上，所以是另外一回事，而且抖音不會理我們。 |
|
00:07:40,668 |
00:07:53,937 |
沈委員伯洋 |
但如果是在Facebook、在YT上，譬如沒有標記為AI，是Deepfake，有哪幾個標準是我們可以跟他們回報，直接做另外一條途徑，看數發部有沒有機會去跟這些社群平臺談一下？ |
|
00:07:54,736 |
00:08:09,903 |
林次長宜敬 |
是，我們現在持續跟這些主要的社群平臺做溝通，之前他們比較不願意跟我們配合，還推說總部在美國或在日本，所以沒辦法影響總部的決策。 |
|
00:08:10,823 |
00:08:15,825 |
林次長宜敬 |
但經過幾個月不斷地溝通，他們的態度有比較鬆動。 |
|
00:08:15,825 |
00:08:23,368 |
林次長宜敬 |
我們後來也發現，臉書在臺灣的法遵部門基本上只有兩個人，根本管不到業務部門！ |
|
00:08:24,368 |
00:08:45,763 |
林次長宜敬 |
所以我們後來直接去跟他們在新加坡的亞太總部溝通，接下來就直接到美國總部溝通，也透過美國政界人士，當他們來臺灣訪問，與數發部會談時，我們就跟他們抱怨，希望透過美國輿論以及美國政府部門來對Facebook施壓。 |
|
00:08:45,782 |
00:08:54,588 |
林次長宜敬 |
美國國會以及行政部門對Facebook也面臨同樣問題，他們也覺得很頭大，所以他們感同身受。 |
|
00:08:57,168 |
00:09:01,631 |
林次長宜敬 |
這幾個月來，不管是Facebook、Google或LINE的態度都有改善。 |
|
00:09:03,012 |
00:09:08,734 |
林次長宜敬 |
至於Deepfake，只要我們提出的解釋是合理的，相信他們都會配合。 |
|
00:09:09,454 |
00:09:13,076 |
林次長宜敬 |
如同委員所講的，現在最大的問題其實是在TikTok！ |
|
00:09:14,298 |
00:09:17,061 |
沈委員伯洋 |
所以這個機制必須趕快建立，因為會變得越來越多！ |
|
00:09:18,403 |
00:09:27,312 |
沈委員伯洋 |
打詐機制固然立意良善，臺灣詐騙卻還是很多，不過我個人認為中國才是最大的詐騙集團，但這個就不用回答了。 |
|
00:09:27,312 |
00:09:35,482 |
沈委員伯洋 |
在政治上，我們現在遇到這種大型且用各式各樣的方式來做詐欺，像這就是今年才出現過的事，我覺得也蠻扯的。 |
|
00:09:36,362 |
00:09:51,095 |
沈委員伯洋 |
這是今年9月才出現的事，是直接Deepfake烏克蘭外長的形象，甚至跟美國參議員做視訊連線；在連線的過程裡，參議員覺得有點怪怪的才趕快通報！ |
|
00:09:51,095 |
00:09:55,536 |
沈委員伯洋 |
所以這已經不是影片了，而是連線的那一個人有問題！ |
|
00:09:56,236 |
00:10:00,239 |
沈委員伯洋 |
我覺得這部分機制要趕快建立，因為一樣的事情有可能會發生在臺灣。 |
|
00:10:01,259 |
00:10:02,900 |
沈委員伯洋 |
因為時間到了，後面我沒有辦法再細問。 |
|
00:10:04,101 |
00:10:42,407 |
沈委員伯洋 |
不過數發部跟國安局在所寫的AI報告裡說，畢竟AI在不同的層次裡，如果今天是在Level 2的話，自動化防禦比較沒什麼問題；如果做到紅隊程度的Level 3，畢竟現在要做到紅隊的創意還是要比較夠，但是防守這個部分是我們現在就可以做的，我看到美國有這個相關的……主席，不好意思，再給我30秒，就是DARPA，他們在去年開始有這個AI，這個我猜次長很熟悉啦，他們有這個計畫，他們直接請大家來攻，然後去把這個漏洞找出來等等之類的，因為防禦這件事情是我們現在馬上可以做的。 |
|
00:10:42,487 |
00:10:47,928 |
沈委員伯洋 |
我記得剛剛局長跟次長在回答的時候都有講過，我們已經有用AI在防禦，那這部分可以強化。 |
|
00:10:48,628 |
00:11:07,494 |
沈委員伯洋 |
至於AI要應用在紅隊這個有創意的部分，到底會發展成什麼樣，我們不是很確定，但至少我看OpenAI的報告，放在假消息的部分，它說已經有說服力了，所以當它已經開始有說服力，我們先不要管一般的資安攻擊，但如果是假消息，還有像剛剛講的Deepfake這個部分有可能是必須要先去注意的。 |
|
00:11:08,134 |
00:11:13,137 |
沈委員伯洋 |
我後面當然有一些建議，還有一些法律上的問題，如果有機會的話，我可能會再去交通委員會問一下部長或次長。 |
|
00:11:13,137 |
00:11:13,217 |
林次長宜敬 |
是，謝謝委員。 |
|
00:11:13,717 ≈
|
00:11:17,145 |
沈委員伯洋 |
謝謝主席，謝謝局長，謝謝次長。 |
|
00:11:17,445 ≈
|
00:11:19,445 |
主席 |
謝謝沈伯洋委員。 |
|
00:11:19,745 ≈
|
00:11:24,031 |
主席 |
接下來我們請陳永康委員上臺質詢。 |