| 0 |
黃委員仁：（9時56分）有請蔡局長。 |
| 1 |
主席：請蔡局長。 |
| 2 |
蔡局長明彥：謝謝主席。黃委員早。 |
| 3 |
黃委員仁：早。有關日前華爾街日報曾報導一款名為Talkie的AI聊天機器人，成為美國最受歡迎的app之一。這個app不只在美國受到歡迎，連在菲律賓、英國、加拿大的下載次數都非常多，而這個軟體背後的公司就是大陸、大陸製。本席想要了解一下，發現這個軟體在臺灣也可以下載得到，你認為這樣會不會對國安產生非常大的威脅？這類AI聊天軟體構成的威脅為何？你來回答一下，好不好？ |
| 4 |
蔡局長明彥：我們一再提醒，對於中共製作的這些app軟體，可能潛存資安風險，Talkie的流通主要是在英語系國家，目前用戶大概有1,100萬人。因為中共的這些軟體公司也要配合到中共的國安法制提供客戶的相關資訊，可能造成資安的危害，包括使用者的一些習性、位置以及通聯資訊，我們都要避免可能有外流到中共的風險。 |
| 5 |
黃委員仁：等一下我們會往下延伸。本席所知道的是，這個AI軟體的特色在於學習，意思就是在當我們越使用它，它就會更聰明。 |
| 6 |
蔡局長明彥：對，越會掌握使用的習性。 |
| 7 |
黃委員仁：因為它可以透過用戶使用的過程，蒐集個人或某群體的思維、邏輯和習慣。以國安局的角度，AI聊天軟體是在蒐集或者再生成，對國安更具有危險性。本席看了今天的報導，發現比較有意思的是再生成，所構成的威脅是大家都在重視AI製造出假訊息，它也提供反制的想法，但是比較忽略蒐集的部分。 |
| 8 |
蔡局長明彥：對，這確實是一個威脅，也謝謝委員利用質詢的機會，提出這個非常重要問題。因為AI聊天軟體是連網的，所以變成它可以即時掌蒐使用者使用軟體的習性。這也是為什麼我們一再提醒，使用這種生成式的AI一定要特別注意。本局一定是要落地的，落地的意思就是所謂的實體隔離，我們是運用它的軟體在我們內部的系統來測試，但是這種中共製的app因為是連網的，所以它可以即時掌蒐一些資訊，這確實有資安疑慮，要特別注意。 |
| 9 |
黃委員仁：因為有這樣的訊息，所以我們要加以來反制或是防範，無論是中國大陸的Talkie還是美國的ChatGPT都在蒐集、使用媒體的訊息，這也是AI發展的條件之一，雖然這是不可避免的，但政府不能單純以開發國家來區分威脅性，而是應針對個別軟體區分威脅程度，政府是否有做這樣的工作，並且是否有能力做到個別檢視？ |
| 10 |
蔡局長明彥：就國安局的立場來講，針對這些中製app可能產生的資安風險，我們會提供業管單位作為參考，主要業管可能還是在數發部這邊，針對相關的app要不要提出警示公告，但這部分我們也跟數發部有做過一些討論，也就是在公告的名單上，比較有可能的做法是朝向限制使用，哪些app是比較有風險要限制，比較不方便做的是…… |
| 11 |
黃委員仁：那就你們麻煩跟數發部講一下。 |
| 12 |
蔡局長明彥：好，我們上禮拜才跟他們討論。 |
| 13 |
黃委員仁：短程、近程、遠程的討論過程，能不能給我一份簡單的說明報告，好不好？ |
| 14 |
蔡局長明彥：沒有問題。 |
| 15 |
黃委員仁：第二個，指導美國國家安全及情報部門使用人工智慧（AI）之新規定的備忘錄裡面，局長，你認為AI錯假訊息的這種威脅，除了來自中國大陸政府之外，有沒有可能來自於盟友，甚至我們自己的政府？今天出席的各部會報告中提到以AI反制AI，本席首先想要請教國安局局長，政府具體要如何以AI反制AI，政府又要如何應用AI的技術？ |
| 16 |
蔡局長明彥：像我們今天報告的主題，AI可以運用到錯假訊息或是資安攻擊，因為它發動的攻擊能量會非常龐大，所以我們必須要用AI的技術來做反制，因為以傳統人力來講會非常吃力，在這部分我們的努力大概分兩個部分，第一個部分是運用AI查找資安上可能的攻擊來源，我們會針對這些駭客團體的攻擊方式與路徑做蒐集，然後讓我們的AI系統可以學習辨識，跟委員很誠實的報告，我們過去透過AI系統來查找這些境外的IP或攻擊來源，正確比例非常高，跟人工來比較正確比例非常高，這是一部分。 |
| 17 |
黃委員仁：我希望你們能夠精準…… |
| 18 |
蔡局長明彥：第二部分是針對…… |
| 19 |
黃委員仁：今年10月份美國發布指導美國國家安全與情報部門使用人工智慧之新規定的備忘錄，我們目前有類似的指導規範嗎？還有，局長是否確切地知道美國這一份備忘錄規範的目的是什麼？ |
| 20 |
蔡局長明彥：美國這一份備忘錄主要提到的是AI未來發展技術的主要方向，另外也提到了可能帶來的風險，再來，另外一個重點就在於跟國際連結的部分，哪一些是可以連結的，哪一些可能要注意，這大概是這一次白宮公布備忘錄最主要的重點。 |
| 21 |
黃委員仁：其實在這個備忘錄裡面，你剛剛講的是對的，但是本席要再加上個人的看法，有兩個部分，第一個，鼓勵使用AI，強調國安和情報部門不能利用AI壓迫言論自由與公民的權利，明定政府不能用這個來壓迫言論自由。第二個，禁止濫用AI，強調國安和情報部門不能利用AI壓迫政府的言論自由。你們在報告中提到要以AI反制AI，這本來就是你們要做的事情，但情治單位強調以AI反制AI的同時，如果缺乏明確使用的指導規範，很可能會被濫用在自己國人身上，就算政府是對於不利的消息認知作戰，以致於遭政府不斷地濫用後，國人根本無法確定到底是中共還是現在執政黨在混淆民眾的認知。 |
| 22 |
蔡局長明彥：謝謝委員提到這個問題，事實上，剛剛我們在口頭報告的時候也特別提到這一點，也就是對於AI的使用跟管理還是應該要有法規、法遵的規範，這部分因為業管單位數發部已經在研擬人工智慧基本法，所以本局會針對相關國外發展的趨勢提供給業管單位作為參考。另外，本局內部對於使用AI也有我們自己的作業規範，避免使AI被濫用，一方面保障我們國人的權益，一方面保障國家安全。 |
| 23 |
黃委員仁：各部會強調政府應用AI、以AI反制AI，但都是要告訴國人如何使用，使用時是否受到規範和限制，這一點你們一定要告訴國人，讓國人知道，而且使用過程是否侵害到國人自由或隱私，這讓本席非常擔心政府會濫用。 |
| 24 |
蔡局長明彥：我們會持續跟相關單位，包括國科會跟數發部來交換意見。 |
| 25 |
黃委員仁：我延續剛剛徐巧芯委員所講的，就高嘉瑜的深偽影片部分請教警政署，近日在網路上流傳一段民進黨前立委高嘉瑜遭AI變造的假政論節目抖音影片，影片中高嘉瑜說：「我對民進黨沒有什麼好感，這個爛黨真的糟糕，從賴清德開始就歪瓜劣棗」。這個影片雖然仔細看還是能夠辨別某些地方嘴型不一樣，但仿真程度不低，影片大約在一週前流傳，雖然不少觀看者能夠區別真偽，甚至留言取笑影片是偽造，但講的內容是否真實及還是為了避免誤會，高嘉瑜已在四天前提告，本席特別確認這個影片目前在網路上仍然沒有刪除，請問警政署。 |
| 26 |
林副局長信雄：跟委員報告，有關於高嘉瑜委員影片的部分，因為抖音有分國際版和中國大陸版，如果是屬於國際版TikTok的部分，目前刑事警察局這邊有聯繫管道，但是對於中國大陸版抖音的部分，因為我們並沒有辦法去跟它們做相關聯繫，所以在下架的部分，我們沒辦法直接來做處理。 |
| 27 |
黃委員仁：這個已經很明確，高嘉瑜也對媒體公開解釋說這是一個偽造的AI，你們應該查察之後就要下架，不要流傳到社會層面裡面造成誤會，警政署應該要精準趕快查察這樣的訊息才對，對不對？ |
| 28 |
林副局長信雄：跟委員報告，剛剛有提到抖音是中國大陸本身的網際網路公司，我們對於這個部分並沒有辦法去要求公司來進行下架，當然國內部分也可以進行網域封鎖，不過這不涉及到警政署的權責，這是屬於TWNIC的部分，那邊是可以來做處理。 |
| 29 |
黃委員仁：我要提醒警政署，包含檢調，在處理深偽影片的反應、動作遲緩，顯然政府對於如何處理AI造成的訊息危害根本沒有一個確切的SOP，而且未來可能會有更多這樣的事件發生，在座的各位都可能會成為被深偽的部分，所以你們本來就應該制定出，不管是軍警檢調都要制定一個SOP，以警示及防範未來這樣的事件發生，是吧？ |
| 30 |
林副局長信雄：是，謝謝委員的指教，這部分我們會跟相關部會來做聯繫，請他們在國內可以適當處理的部分，儘量來做處理，我們會來努力。 |
| 31 |
黃委員仁：你們制定的SOP裡面本來就應該要做好未來防範，因為將來可能會有更多，我們要以AI反制AI，但是他們也有自己系統的一套玩法，好不好？ |
| 32 |
林副局長信雄：好。 |
| 33 |
黃委員仁：謝謝。 |
| 34 |
主席：謝謝黃仁委員。 |
| 35 |
接下來我們請沈伯洋委員上臺質詢。 |