| 0 |
徐委員巧芯：（10時23分）謝謝主席，我們有請蔡局長。 |
| 1 |
主席：局長請。 |
| 2 |
蔡局長明彥：謝謝主席，徐委員早。 |
| 3 |
徐委員巧芯：今天我們主要是針對國安局預算書公開的部分，我看了一下在113年度立法院審議中央總預算的決議跟附帶決議裡面的執行情形報告表第26項裡面提到了AI技術的運用部分，當時有一個附帶決議寫到，美國國安局、國防部都成立了AI發展的安全中心，來監督國家安全系統裡面的AI整合發展，美國國防部也在112年8月成立了AI工作小組，用在包含國防科技發展、國家維護等等，當時就希望你們三個月內向立法院外交及國防委員會提出報告。你們也寫了一些辦理的情形，在2023年11月26號的時候說人工智慧威脅國安，國安局要招募反制人才，可是我們在你們今年預算書的公開部分裡面，相關的只有看到了其他網路空間攻防培訓場域統裁、演習管理、軟體維護等經費1,100萬而已。我想問一下，在明年（114年）的預算，有關於去年大家提的附帶決議，就是所謂AI中心等等相關的一些預算，為什麼沒有在裡面做相關的提供？ |
| 4 |
蔡局長明彥：有，就AI的部分，也是這一、兩年來我們建置能量的一個主要重點，委員剛剛有提到，一方面是在人才培訓的部分，第二部分是在AI技術實際應用到我們情工作業的部分，這部分我們內部有成立，不同的單位都有不同的AI小組，也鼓勵不同單位的AI小組可以進行橫向的經驗分享。 |
| 5 |
徐委員巧芯：請問這些AI小組研究過後，對於實際在臺灣有了這些AI的假訊息，他們有什麼樣的功能？以及你們編列了多少相關的預算來因應這樣子的一個國安問題？ |
| 6 |
蔡局長明彥：關於這個部分我們在AI的應用上，一個部分會應用到我們內部龐大資料庫的研析，因為AI的作業速度會比較快，它可以幫我們做一些初步的分析，人員的運用上就可以比較人力精簡，這是第一部分。第二部分是在AI的技術或系統的應用，可能委員也比較關注到很多網路上一些AI假訊息的傳散，我們運用新的數據技術，可以去了解到這些假的AI帳號是怎麼生成的，它又用哪些不斷產製的AI文字，不斷地透過異常帳號來傳散，整個網路運作透過我們AI系統倒是可以掌握到全貌。 |
| 7 |
徐委員巧芯：掌握到之後，後續的處理是交由其他哪一個單位去做處置？或者是國安局要怎麼樣去跟其他的單位做相關的連合？這個部分你們的銜接到底做得好還是不好？ |
| 8 |
蔡局長明彥：這部分大概分兩個層面來看，第一個部分，假如AI的傳散有涉及到違法，這個部分我們會移請相關的司法警察機關來偵辦。第二個部分，假如AI的傳散是違反到社群平臺本身內部管理的機制跟規範的話，我們會很積極地跟社群平臺做檢舉，讓社群平臺可以把它下架。第三個部分，假如AI的傳散是需要政府單位來做即時澄清的，我們有一個通報的機制讓政府各單位來做這部分訊息的快速澄清。 |
| 9 |
徐委員巧芯：但是局長，就如您剛剛說的，因為AI的傳散可以說是非常快的，所以最近大概這一個多禮拜之間就出現了很多，我們先放一下影片給大家看，這是民進黨前立委高嘉瑜，他就被放出一個影片，大家可以看一下。我要先講，這是假訊息，他並沒有做這樣的發言，可是他的背景看起來就是在某一個政論節目裡面，但他講的話、底下的字幕以及他講出來的聲音確實非常像高委員的聲音，但是他私下從來沒有講過這個話，然後這個影音就在LINE上面、網路上面很快速地轉傳。高委員自己也有在臉書澄清過這件事了，可是它的轉傳速度仍然是非常快，而且這一、兩週以來不只這一件，還有好幾件，對於當事人來說，第一個，是造成一種傷害；第二個，因為這個AI做得非常像，就算對口型也對不太出來，所以有很多民眾是在誤會之下才去做轉傳的，他並沒有惡意，但他真的相信高委員有說過這些話，所以他們轉傳之後，有可能從受害者變成加害者。也就是說，高委員可能會試圖想要……他當然沒有，但他可以對於這些轉傳者去提告或要求對方道歉，可是其實轉傳的人也沒有惡意，因為他是真的相信了這個AI所傳的影片。 |
| 10 |
所以我們想要問的是，針對這一、兩週以來類似這樣的攻擊，您覺得算不算是一種所謂的AI深偽攻擊？國安局又有什麼樣的辦法來抑制這樣子的事情持續發生在臺灣？ |
| 11 |
蔡局長明彥：這個影片我們有在網路上注意到，似乎是擷取了高委員在今年1月24號參加政論節目的影片，再進行後製來變更他講話的內容，這是第一部分的說明。第二部分，我們有注意到傳散的管道，一個部分是委員提到LINE封閉群組裡面快速的傳散；另一部分，我們也注意到在TikTok上面有一些異常帳號也不斷地在進行傳散，而且這些異常帳號背後的IP位置不斷地在變換更動，這代表比較像是專業、有系統、有組織地在傳散這樣的影片。第三…… |
| 12 |
徐委員巧芯：那國安局具體的作法能夠怎麼做？我比較想知道要怎麼做，因為這些管道我都清楚，但我要知道的是國安局具體的作法。 |
| 13 |
蔡局長明彥：我們在掌握相關的狀況部分，剛才有說明到，網絡傳散的管道是我們有責任要來確認的，假如他有涉及到違法或傷害到影片當事人的權益的話，當然我們也會尊重當事人是不是有一些法律的作為，我們相關的司法警察機關或國安單位是有相關的系統可以來辨識，證明他的影音是偽製的，這個部分到時候在法律的攻防或偵辦的過程當中，就…… |
| 14 |
徐委員巧芯：可是這樣的話，局長，比如假設我是高委員，因為有人傳散這個，而我走入司法去提告了，可是這些民眾也不是惡意的，他們也是相信了這些……他不知道、他無法去辨認深偽，他會從受害者變成加害者，這方面國安局要怎麼樣來面對這種假訊息在網路上不斷地傳散？包含在預算裡面的編列，還有其實這個在過去……我特別講我們在113年的時候就有相關的附帶決議了，請問這附帶決議你們處理得如何？在去年一整年，乃至於明年來說，你們要怎麼樣做規劃去抑制這類事情的發生？ |
| 15 |
蔡局長明彥：這也是剛剛在口頭報告的時候有提到，未來加強在公關還有針對一些相關的中共對臺認知作戰滲透作為的揭露會是本局一個重要的工作。不過也要特別謝謝委員，可以利用這個機會把這個問題提出來…… |
| 16 |
徐委員巧芯：對，因為…… |
| 17 |
蔡局長明彥：因為這個也是一個社會教育、社會提醒的過程。 |
| 18 |
徐委員巧芯：對，我建議你們要有一個公開的平臺，不管是以國安局為主，或者是跟其他的單位共同來協作，並不一定要由國安局作為主要的公開單位…… |
| 19 |
蔡局長明彥：對，沒有錯。 |
| 20 |
徐委員巧芯：你們可以跟其他的部會，比如數位發展部來協助，但是至少要有一個平臺去說明有哪一些是Deepfake假訊息，讓大家能夠有所蹤，而不是變成受害者轉為加害者這樣的情形，好不好？ |
| 21 |
蔡局長明彥：應該的，好。 |
| 22 |
徐委員巧芯：那就麻煩局長後續針對這個部分再做一些研究，因為這兩週以來不只這一支影片，非常多在網路上轉傳的狀況，我們自己有時候都分不太清楚是真是假，所以要請國安局在AI的深偽部分再進行進一步的精進，謝謝。 |
| 23 |
蔡局長明彥：好，我們來努力，也謝謝委員在公開場合提出這個問題，提醒大家來注意，謝謝委員。 |
| 24 |
主席：謝謝徐委員。局長，徐委員剛才質詢這個題目很重要、很好，因為任何人都有可能成為受害者，這跟黨派無關，任何人都有可能被偽造，國家元首可能被偽造而下達錯誤的指令，天災的時候可能被偽造。所以針對剛才徐委員提出來的，我希望看到國安局的處理不是研究辦理，如果確定是偽造的，就像美國那個講的，要先辨識完，你要有delete的能力，你不應該讓錯誤的東西持續傷害任何人，那個人不管是誰，他只要是被偽造的，我們應該要有個機制，要讓他從網路上……這個錯誤的東西不能再散播，否則到時再拿掉就太慢了。 |
| 25 |
徐委員巧芯：對啊！而且…… |
| 26 |
主席：這個給你做參考。 |
| 27 |
徐委員巧芯：受害者會變成加害者，轉傳的人…… |
| 28 |
主席：我們委員會也許可以提個案子，要求你們要正視新科技帶來的危害，這是對個人、對國家安全整個都會有影響，好不好？ |
| 29 |
蔡局長明彥：下禮拜就有一個專報是要講這個。 |
| 30 |
主席：對，所以請注意，謝謝。 |
| 31 |
接下來進行詢答，請陳冠廷委員。 |