| 00:00:00,129 |
00:00:03,672 |
有請我們蔡局長請蔡局長好 謝主席 黃委員早早 |
| 00:00:11,876 |
00:00:31,591 |
有關於日前《華爾街日報》曾報導一款名為TOKIT的AI聊天機器人,成為美國最受歡迎的APP之一。這個APP不只是美國受到歡迎,連菲律賓、英國、加拿大 |
| 00:00:32,732 |
00:00:59,444 |
的下載次數的非常多而這個軟體背後的母公司就是大陸的大陸制所以本身想要了解一下就是說發現這個軟體在台灣也可以下載得到局長你認為這樣的一個會不會對國安產生一個非常大的一個威脅那這類AI聊天軟體構成的威脅為何你來回答一下好不好 |
| 00:01:00,284 |
00:01:14,070 |
對,大概我們一再再提醒對於中共製作的這些APEC的軟體它可能潛存了資安的風險那這個TOKI的流通主要是在英語系的國家目前用戶大概有1100萬人那對於 |
| 00:01:16,971 |
00:01:20,473 |
好 等一下我們要往下延伸本席所知道的這個AI軟體的特色在於學習意思就是在當我們越使用它它就會 |
| 00:01:45,226 |
00:01:48,207 |
所以本席看了今天的報導我們發現比較有意思的是在深層 |
| 00:02:13,573 |
00:02:24,895 |
那時候構思的威脅大家都在重視AI製造出的一個假訊息它也是提供反制的想法但是比較忽略收集的部分 |
| 00:02:26,899 |
00:02:51,378 |
對 這確實是一個威脅那也謝謝委員利用這個質詢的機會提出這個非常重要的問題來因為就AI的一個聊天的軟體因為它是聯網的所以變成是它可以即時的去掌搜那使用者他相關使用軟體的一個習性那這是為什麼我們一再的在提醒使用這種AI生成式的AI一定要特別注意我們局裡面是一定是要落地的 |
| 00:02:51,678 |
00:02:54,519 |
所以因為有這樣的一個信息所以我們加以來做一個反制或反犯那不管是無論是中國大陸的一個TOTIP |
| 00:03:15,903 |
00:03:44,675 |
還是美國的這個CHAT的一個GPT都在收集使用媒體的信息這就是AI發展的條件之一但不可避免但政府不能單純以開發國家區分威脅性而是針對個別軟體區分它的一個威脅的程度那政府是否有這個做這樣的一個工作並且是否能有能力的到個別檢視 |
| 00:03:46,416 |
00:04:11,799 |
這部分就國安局的立場來講我們會針對這些可能的中置的APP的資安風險我們會提供業管單位來做參考那因為主要的業管可能還是在書發部這邊針對相關的一個APP要不要提出警示的一個公告但這部分我們也跟書發部有做過一些討論也就是說在公告的名單上可能比較有可能的做法是朝向限制使用 |
| 00:04:12,139 |
00:04:15,903 |
就是哪些APP是比較有風水的,來先跟蘇拉夫講一下,短程、近程、遠程的一個,好不好,你們在討論的過程裡面,能不能給我一份簡單的一個說明報告,好不好。 |
| 00:04:27,096 |
00:04:50,121 |
那第二個就是指導美國國家安全及情報部門使用的人工智慧AI新規定的備忘錄裡面局長你認為AI錯假的信息正威脅除了來自中國大陸政府之外有沒有可能來自盟友甚至我們自己的政府那今天出席的各部會報告中提到 |
| 00:04:51,141 |
00:05:01,988 |
以AI反制AI本席首先想要請教國安局長政府要具體要如何以AI反制AI政府又如何應用AI的技術 |
| 00:05:03,238 |
00:05:24,455 |
對,因為AI它可以運用到像我們今天報告的主題用到錯假訊息或是用到資安的攻擊那因為它發動的攻擊的能量會非常的龐大所以我們必須要用AI的技術來做反制我們要是依照傳統的人力來講我們會非常的吃力那在這部分我們的努力大概分兩個部分第一個部分是運用AI來查找資安上 |
| 00:05:25,936 |
00:05:26,096 |
韓國瑜委員 |
| 00:05:45,003 |
00:05:52,408 |
希望你們能夠精準,今年的10月份美國發布指導美國國家安全與情報部門使用人工智慧這新規定的備忘錄裡面,我們目前有類似指導規範嗎?還有局長是否確確的知道美國這一份備忘錄的目的的規範是什麼? |
| 00:06:10,241 |
00:06:28,469 |
對,美國這份備忘錄主要提到的是AI未來發展技術的主要的一個方向那另外也提到了可能帶來的一個風險那再來另外一個重點部分就在於說跟國際連結的部分哪一些是可以連結的但哪一些可能要注意的這大概是這次公布的備忘錄其實備忘錄裡面當然你剛剛講的是對的但是我要再加上 |
| 00:06:33,451 |
00:06:55,486 |
我本席的個人的看法有兩個部分一鼓勵使用AI強調國安和情報不能不能利用AI壓迫言論自由以公民的權利因為這是明確明定確定政府不能用這個來做一個壓迫言論的一個自由那第二個是 |
| 00:06:56,286 |
00:07:12,980 |
禁止濫用AI強調國安局和情報部不能利用AI壓迫政府的言論自由那當然我們在報告中以AI反制AI這本來就是你們要做的事情那當然我們情事單位強調以AI反制 |
| 00:07:16,565 |
00:07:26,180 |
指導規範很可能會被濫用在自己國人的身上就算在政府非常喜歡對於不利的消息認知作戰這個 |
| 00:07:29,764 |
00:07:54,475 |
此於遭政府不斷的濫用後,國人根本無法確定到底是中共還是現在執政黨在混淆民眾的認知。謝偉文提到這問題,事實上剛剛我們在口頭報告的時候也特別提到這一點,也就是說對於AI的使用跟管理還是應該要有法規的法尊的規範,那這部分因為業管單位書發部已經在研擬人工智慧基本法, |
| 00:07:54,815 |
00:08:11,333 |
所以本局會針對相關國外發展的趨勢提供給業管單位來做參考另外本局內部對於使用AI也有我們自己的作業規範避免到使用AI被濫用以便來一方面保障我們國人的權益一方面保障國家安全所以我們本席各部會強調政府應用AI以反以AI反制AI |
| 00:08:16,438 |
00:08:42,926 |
但這個都是要告訴國人如何使用使用時是否受到規範和限制你們這一點一定要告訴給國人知道那使用過程是否侵害到國人自由或隱私這讓本席非常擔心政府會濫用我們會持續跟相關單位包括國科會跟書發部來交代我們聯繫跟我們習巧欣委員所講的高嘉義 |
| 00:08:44,506 |
00:09:01,694 |
深偽的一個部分我請教一下我們的警政署在今日網路流傳了一段民進黨前立委高嘉宜遭AI變造的假政論節目抖音影片影片中高嘉宜說我對民進黨沒有什麼好感這個爛黨真的糟糕 |
| 00:09:05,416 |
00:09:21,348 |
從賴清的開始就歪瓜這個內軸那這個影片雖然仔細看了還是能夠辨別某些地方嘴形不一樣但反正的程度不低影片大約在一週前流傳雖然不少 |
| 00:09:23,309 |
00:09:41,927 |
觀看能夠區別的真偽甚至留言取笑影片是偽造但講的內容是真實的還是為了避免誤會高嘉宜在4天前提告本席特別確認這個影片目前網路上仍然沒有刪除請問一下警政署 |
| 00:09:47,601 |
00:10:16,482 |
跟委員報告有關於高教育委員的影片的部分因為他本身抖音有分國際版跟中國大陸版如果是屬於國際版的TikTok的部分我們目前行事警察局這邊是有聯繫管道但是對於他本身中國大陸版的抖音的部分因為我們並沒有辦法去跟他們做相關聯繫所以在下屆的部分我們沒辦法直接來做處理 |
| 00:10:17,898 |
00:10:43,217 |
所以這個對於很明確高嘉義也是對媒體的對公開的解釋就是說這是一個偽造的一個AI那你們應該查查之後應該就要下架不過還是要流傳到在社會的層面裡面讓別人誤會到他的本尊我想這個警政署你們應該就要精準趕快查查這樣的一個訊息才對啊對不對 |
| 00:10:45,731 |
00:11:07,417 |
跟委員報告剛剛有提到是說他抖音本身是中國大陸他本身的這些網際公司我們對於這部分我們並沒辦法去要求他們這公司來進行下架當然國內部分也可以做進行網域封鎖的部分不過這不涉及到警政署的權責有提到Link的部分那邊是可以來做處理 |
| 00:11:08,977 |
00:11:34,128 |
這個是要提示警政署包含警調在處理深偽影片的反應動作遲軟顯然政府對於如何處理AI造成的信息危害根本沒有一個的確的一個切切的一個SOP啊對不對所以你們未來可能會更多更多會發生這種不管在座的各位可能會被偽造偽曾偽的部分 |
| 00:11:34,628 |
00:11:55,453 |
所以你們本來就自己本身自立出不管是精緊檢調都要製作一個SOP來警示未來防範這樣的一個發生啊是吧是 謝委員的指教我們這部分會跟相關部會來做聯繫請他們在我們國內可以適當處理的部分盡量來做一個處理我們會來努力 |
| 00:11:56,693 |
00:12:14,348 |
好,你們製造一個SOP裡面本來就是應該要做未來防範因為將來以後可能會更多因為AI反制AI但是我們自己AI反制AI但他們也有自己的一個系統的一套的玩法對不對,好不好是好,謝謝 |