|
00:00:00,000 |
00:00:10,714 |
莊委員瑞雄 |
謝謝主席，有請衛福部呂次長。 |
|
00:00:12,857 |
00:00:13,928 |
主席 |
有請呂次長。 |
|
00:00:15,000 |
00:00:17,666 |
莊委員瑞雄 |
今天法務部也有來…… |
|
00:00:17,666 ≈
|
00:00:18,666 |
呂次長建德 |
莊委員好。 |
|
00:00:18,047 |
00:00:19,952 |
莊委員瑞雄 |
法務部就請陳主任檢察官。 |
|
00:00:20,333 |
00:00:22,619 |
主席 |
請陳主任檢察官。 |
|
00:00:23,000 |
00:00:29,222 |
莊委員瑞雄 |
我看警政署也要，警政署要請誰比較符合職掌？ |
|
00:00:30,111 |
00:00:32,500 |
主席 |
警政署副組長嗎？還是…… |
|
00:00:33,000 |
00:00:35,571 |
莊委員瑞雄 |
我看，副組長好了。 |
|
00:00:35,571 ≈
|
00:00:36,571 |
主席 |
請許副組長。 |
|
00:00:36,000 |
00:00:46,000 |
莊委員瑞雄 |
還有數發部，數發部來了副署長，數位產業署的「產業」跟今天的議題比較不符合，我就不要…… |
|
00:00:46,000 ≈
|
00:00:47,000 |
主席 |
副司長呢？ |
|
00:00:46,272 |
00:00:48,454 |
莊委員瑞雄 |
來的是副署長，是不是？ |
|
00:00:49,000 |
00:00:50,333 |
主席 |
副司長或副署長。 |
|
00:00:51,000 |
00:00:53,727 |
莊委員瑞雄 |
好啦，不然就副署長上來一下好了。 |
|
00:00:54,700 |
00:01:00,650 |
莊委員瑞雄 |
今天我先請教次長，還有幾位各部會的代表。 |
|
00:01:01,571 |
00:01:13,826 |
莊委員瑞雄 |
網路科技一直在往前跑，至於兒少的保護，我們似乎一直跟在後面，當然跟過去的時代比較的話，其實都是在進步。 |
|
00:01:14,230 |
00:01:38,111 |
莊委員瑞雄 |
今天涉及到整個性侵害犯罪防治法跟兒少剝削，其實也不只是衛福部的事情，那是牽扯到兒少的保護，涉及到整個犯罪的偵查，甚至涉及到NCC、數發部，對於安全，要怎麼分級、要怎麼審查，這也是大家都有責任的。 |
|
00:01:39,400 |
00:02:06,769 |
莊委員瑞雄 |
我今天其實只有三件事要問，我剛剛很仔細地在臺下聽，我反而認為，第一個就是像我們今天在聯席裡面審查這樣的法案，本席……本來我不是想問這一些，可是聽完以後，我還是覺得要把題目變更一下，我簡單寫了幾個題目，就是就網路性影像，我們這樣在審條例，到底有沒有辦法抓得到？ |
|
00:02:06,769 ≈
|
00:02:07,769 |
莊委員瑞雄 |
這是第一個。 |
|
00:02:07,000 |
00:02:17,666 |
莊委員瑞雄 |
第二個是現在網路上面一鍵式脫衣的高風險AI，我們到底是不是管得到？ |
|
00:02:18,000 |
00:02:23,777 |
莊委員瑞雄 |
當然最後面就是孩子受害以後，政府是不是接得住？ |
|
00:02:24,000 |
00:02:29,764 |
莊委員瑞雄 |
這當然就是衛福部可能必須要好好去思考的問題。 |
|
00:02:30,375 |
00:02:36,599 |
莊委員瑞雄 |
政府現在用AI去抓性影像部分，是不是抓得到？ |
|
00:02:37,000 |
00:02:52,750 |
莊委員瑞雄 |
以前都是被檢舉之後，我們再去處理，現在不是，你看在113年的時候，因應社會矚目案件，為了加強兒少保護，立法院也三讀通過兒少性剝削防制條例。 |
|
00:02:53,000 |
00:02:54,000 |
呂次長建德 |
即時封網。 |
|
00:02:55,818 |
00:03:10,250 |
莊委員瑞雄 |
引入即時封網與主動巡查機制，但是以現在的成效來看，次長，113年通過之後，你看現在的成效，你覺得……尤其是就政府主動巡查跟主動下架部分，你看成效怎麼樣？ |
|
00:03:11,000 |
00:03:28,571 |
呂次長建德 |
我也跟委員很老實地報告，確實，我們有一個數字，大概到115年8月，兒童申訴案件19件，成人Deepfake大概65件，占總共的1%而已。 |
|
00:03:29,222 |
00:03:39,333 |
莊委員瑞雄 |
次長，為什麼剛才開宗明義我就跟你說，科技一直往前跑，我們對兒少的保護是在後面一直追…… |
|
00:03:39,555 |
00:03:39,777 |
呂次長建德 |
在追啦，對。 |
|
00:03:40,000 |
00:03:47,500 |
莊委員瑞雄 |
才會像你現在講說，這樣算一算……資料我有幫你準備好，才1%而已。對，1%。 |
|
00:03:48,000 |
00:04:32,714 |
莊委員瑞雄 |
1%而已，說我們這個實際上跟整個網路世界裡在流竄的差太遠了，我這種算是「老芋仔」了，但是你去看，很多網路上的暗語都是我們本土發展出來比較在地化的，像喝茶、茶資、茶溫，網路的這些暗語，大家都很清楚，問年輕的人都知道啦，我知道你們也意識到了，但問題就是說，你們要等到116年就是明年8月才開始要上線嘛！對。 |
|
00:04:33,000 |
00:04:41,799 |
莊委員瑞雄 |
對於你們這個上線，我現在比較有疑問的是，你們那個標準會是什麼？ |
|
00:04:42,000 |
00:04:43,750 |
莊委員瑞雄 |
為什麼還要再等一年？ |
|
00:04:44,666 |
00:04:45,666 |
莊委員瑞雄 |
原因是怎樣？ |
|
00:04:47,000 |
00:04:49,714 |
莊委員瑞雄 |
其實我覺得這個一定是跨部會啦！對。 |
|
00:04:50,571 |
00:04:56,714 |
莊委員瑞雄 |
以教育部的課程來說，整個AI在網路上這樣氾濫，教育部難道不用在課程裡面多弄一些宣導嗎？ |
|
00:04:57,000 |
00:04:57,400 |
呂次長建德 |
是，沒錯。 |
|
00:04:58,000 |
00:05:04,785 |
莊委員瑞雄 |
以前這全部都是由檢察官去判定有沒有妨害風化的問題啊，但現在涉及到的已經不是這個問題了！ |
|
00:05:05,222 |
00:05:07,875 |
莊委員瑞雄 |
好，你說明年要上線，為什麼要等到明年？ |
|
00:05:08,000 |
00:05:30,799 |
莊委員瑞雄 |
113年就通過了要主動巡查，這不簡單喔，主動巡查的部分，我怎麼想也沒想到主動巡查會變成衛福部的工作，那是因為牽扯到兒少，不然我一直在想這個為什麼是衛福部負責，刑事警察局平常也在查，當然，你說法務部叫檢察官去查這個，他哪有人力？ |
|
00:05:31,000 |
00:05:43,777 |
莊委員瑞雄 |
檢察官辦案就是在分層節制底下去做犯罪偵查，他們有分工嘛，但是會把這個丟到衛福部，當然就是希望你們盡更大一點的責任，但問題是你們做得到嗎？ |
|
00:05:44,000 |
00:05:56,750 |
呂次長建德 |
我很誠實的跟委員報告，其實這個沒辦法，反正通過了我們就是承擔啦，但是誠如委員剛剛所說的，這裡面牽涉到所謂政策工具跟監測工具的問題。 |
|
00:05:57,000 |
00:05:59,750 |
莊委員瑞雄 |
你們有那麼多人可以去主動巡查嗎？ |
|
00:06:00,555 |
00:06:03,571 |
呂次長建德 |
這個部分我們當然是委託啦！ |
|
00:06:05,307 |
00:06:08,714 |
莊委員瑞雄 |
到時候你們要去下架的時候，好像也需要NCC吧？ |
|
00:06:09,000 |
00:06:19,769 |
呂次長建德 |
對啊，當然，要封網或什麼等等的，也是要透過NCC及數發部，數發部那邊也非常幫忙，他們對於整個屏蔽等等的那些也非常非常幫忙。 |
|
00:06:20,200 |
00:06:29,799 |
呂次長建德 |
我現在先跟委員簡單報告一下，這裡面有一個很重要的問題就是所謂的提示詞、關鍵字，那個東西確實是像委員所說的…… |
|
00:06:30,000 |
00:06:32,000 |
莊委員瑞雄 |
那個不用多久又改了啦，你知道嗎？ |
|
00:06:32,000 ≈
|
00:06:33,000 |
呂次長建德 |
對啦，計畫趕不上變化…… |
|
00:06:32,299 |
00:06:36,833 |
莊委員瑞雄 |
你們要去抓以後，AI比你更聰明啦，我跟你講，要犯罪的人很聰明的啦！ |
|
00:06:39,000 |
00:06:51,500 |
莊委員瑞雄 |
譬如說我們打詐2.0，雖然是2.0，但也早就輸人家了啦，他們做生意的人都有一個business model，都一直在升級、一直在升級，我們只能從後面去追趕啦！ |
|
00:06:52,000 |
00:06:57,400 |
莊委員瑞雄 |
所以我要說的是，你們拖到明年的最主要原因是什麼？ |
|
00:07:01,000 |
00:07:08,799 |
呂次長建德 |
跟委員報告，我們目前就是密集在找這些專家學者，這裡面其實也牽涉到警政、檢察、被害人團體這些…… |
|
00:07:09,000 |
00:07:09,666 |
莊委員瑞雄 |
那當然！ |
|
00:07:10,000 |
00:07:17,916 |
呂次長建德 |
他們要趕快把所謂的提示詞、關鍵字建起來，我們目前是在這個階段。 |
|
00:07:18,000 |
00:07:25,833 |
莊委員瑞雄 |
臺灣有很多被害人團體，還有很多社福團體，這些人對我們臺灣做出很多貢獻。 |
|
00:07:25,833 ≈
|
00:07:26,833 |
呂次長建德 |
對，像勵馨…… |
|
00:07:26,000 |
00:07:43,599 |
莊委員瑞雄 |
但問題是意見很難整合，很多人關心就會發揮很大的力量，我也知道這個會搞死你們衛福部，但沒辦法，因為對於兒少要更加大支持，我期待你們的這個標準要趕快弄好，不然這個拖到明年…… |
|
00:07:45,000 |
00:07:48,500 |
呂次長建德 |
我們現在有一個機制就是調校的程序，調整校正…… |
|
00:07:49,125 |
00:07:56,777 |
莊委員瑞雄 |
我怎麼會不知道你們在調校，但問題就是你們這個部分多久才可以下架，以及到時候要怎麼供外界做檢驗？ |
|
00:08:00,000 |
00:08:06,166 |
莊委員瑞雄 |
光是你們跟數發部要怎麼去做風險分級跟安全審查的制度就要搞很長時間了啦！對啦。 |
|
00:08:06,333 |
00:08:13,818 |
莊委員瑞雄 |
這個113年就通過了，我希望你們可以做得更好。 |
|
00:08:14,000 |
00:08:16,846 |
呂次長建德 |
當然、當然，因為兒少的保護真的不能等。 |
|
00:08:17,000 |
00:08:17,666 |
莊委員瑞雄 |
那當然啊！ |
|
00:08:18,000 |
00:08:30,666 |
莊委員瑞雄 |
第二個，現在實在很難去想像，在二零幾年我忘記啦，那個時候的換臉事件，連蔡總統都被人家換臉，對不對？ |
|
00:08:30,666 ≈
|
00:08:31,666 |
呂次長建德 |
對，沒錯。 |
|
00:08:31,000 |
00:08:43,833 |
莊委員瑞雄 |
我記得那時候我去質詢之後，要求說這個不能開玩笑，不是因為總統身分，而是連總統都可以都被這樣子，其他的女性更是不得了，當然很快就破案了。 |
|
00:08:44,200 |
00:08:55,769 |
莊委員瑞雄 |
問題是我們當初就預想得到，現在網路的app裡面一鍵脫衣也都出現了，這個部分你們也都只能事後去抓人而已啦！對啦。 |
|
00:08:56,375 |
00:09:30,750 |
莊委員瑞雄 |
AI有夠方便的，方便到現在要犯罪的人只要有這個app，我先到社群裡面，你們任何人只要有社群且在社群上有放照片的，我都可以把照片抓下來，一抓下來，app一弄上去以後，一按下去衣服、褲子都脫光光了，一鍵脫衣馬上就生成，AI這麼進步，到最後其實不只脫衣而已，可能還兼做色情影片，這很麻煩啊！ |
|
00:09:31,444 |
00:09:52,750 |
莊委員瑞雄 |
以成年人來講當然會提告，還會有一些作為來主動保護自己，但對兒少來講的話，他什麼事情都沒有做，這些影像就在網路上流竄了，對他整個未來或他整個人際關係造成非常大非常大的影響。 |
|
00:09:53,200 |
00:10:04,750 |
莊委員瑞雄 |
現在法律可以去處罰製作跟散布，但我覺得最主要的是，政府對於這些平臺部分的對策是什麼？ |
|
00:10:05,000 |
00:10:06,777 |
莊委員瑞雄 |
要怎麼去給它們加重？ |
|
00:10:08,000 |
00:10:12,750 |
莊委員瑞雄 |
次長是否可以簡單說明一下，你們準備要怎麼管？ |
|
00:10:13,000 |
00:10:37,777 |
呂次長建德 |
OK，非常感謝委員，具體來說，現在……我跟委員報告，其實在5月8號兒少性剝削防制諮詢會議上就有很多團體提出來，我們具體的做法就是現在正跟數發部有一個所謂技術提供者事前風險分級，我們目前正在做風險分級的工作。 |
|
00:10:38,000 |
00:10:39,500 |
莊委員瑞雄 |
只有這樣而已嗎？ |
|
00:10:40,000 |
00:10:40,909 |
莊委員瑞雄 |
你們現在只做到這裡而已？ |
|
00:10:41,000 |
00:10:42,333 |
莊委員瑞雄 |
所以這就是你剛剛說的只有1%啊！ |
|
00:10:44,285 |
00:10:56,857 |
莊委員瑞雄 |
我們的工具真的是太少了，我都不願意去苛責衛福部的原因在這個地方啦，衛福部本來就比較著重在事後發生以後如何去保護，至於事前防範的部分，我跟你說，你們做不到啦！ |
|
00:10:57,000 |
00:10:58,875 |
呂次長建德 |
也確實是這樣，因為委員也知道…… |
|
00:10:59,428 |
00:11:02,799 |
莊委員瑞雄 |
光是這個平臺你說你們要管得到，但你們的專業就不是在這裡啊！ |
|
00:11:02,799 ≈
|
00:11:05,799 |
呂次長建德 |
對，事實是如此。 |
|
00:11:05,799 |
00:11:28,714 |
莊委員瑞雄 |
連檢察官大部分也都是針對犯罪在做事後偵查，主動去防範的部分，其實我反而會覺得……數發部副署長，我覺得這個部分你們要負比較大的責任，譬如說要怎麼樣做風險分級，在那個app、在那個平臺裡面，尤其是安全審查制度，這應該是你們管的啊！ |
|
00:11:29,500 |
00:11:36,799 |
莊委員瑞雄 |
當然，出現了之後要怎麼即時下架、要怎麼封網，那個好像又不是你們的部分。 |
|
00:11:37,000 |
00:11:37,888 |
莊委員瑞雄 |
請問那個部分是你們還是NCC的權責？ |
|
00:11:38,000 |
00:12:13,666 |
黃副署長雅萍 |
跟委員報告，我大概從幾個層面來講，誠如剛剛次長提到的，有關於風險分類、分級的部分，其實數發部跟衛福部已經一起在做這個部分的討論，未來衛福部也會將相關可能涉及到一鍵脫衣這樣的一個題目給我們，我們會就市面上大家常用的一些AI模型去檢測，這些檢測報告出來也會公布給大家知道，這是第一個。 |
|
00:12:14,090 |
00:13:01,846 |
黃副署長雅萍 |
第二個，剛剛委員垂詢到網路廣告平臺如果有這樣一個情況的時候應該怎麼處理，當然，在事後我們只要有發現，我們就可以讓TWNIC去做封網的動作，或者是停止解析這個網頁，但是我們也有透過……因為之前防詐本來就有一個聯防平臺，針對這些比較大型的平臺業者，我們也會要求他們要先自律，所以其實他們自己本身也會去做事前的網路掃描，如果發現有這樣的狀況，他們就會提早做下架的處理，這個部分跟委員先做個補充。 |
|
00:13:02,000 |
00:13:10,799 |
莊委員瑞雄 |
我光是想到整個AI這樣高度發展以後，不要說是兒少，光是想到一鍵脫衣，那是多可怕的一件事！ |
|
00:13:11,000 |
00:13:15,230 |
莊委員瑞雄 |
各位，每個人有社群而且只要有把照片放上去，每一個人都可能有這樣的風險啊！ |
|
00:13:15,538 |
00:13:15,846 |
呂次長建德 |
對，暴露在這個風險中。 |
|
00:13:17,571 |
00:13:42,750 |
莊委員瑞雄 |
我覺得這是很可怕的事情，所以我才提問，剛才次長跟我說兒童案件19件，成人Deepfake有65件，約占1%，我才會說你們大家現在還在研討中，但你應該知道現在呈現的數字跟真正網路世界存在的數字會有多大的落差，那是很可怕的事情啦！ |
|
00:13:43,000 |
00:13:54,833 |
莊委員瑞雄 |
我最後要請教的就是說，這一些被救下來以後，中央應該跟地方做個合作嘛，我看你們今天剛好也在跟地方政府在開會，是不是？ |
|
00:13:54,833 ≈
|
00:13:55,833 |
呂次長建德 |
對，沒錯。 |
|
00:13:55,000 |
00:13:56,799 |
莊委員瑞雄 |
你們的標準到底是怎麼樣？ |
|
00:13:57,000 |
00:14:17,900 |
莊委員瑞雄 |
我現在比較擔心的是，譬如在臺北或新北這種都會區，你們的標準就會訂定的比較高，但是對於比較偏鄉的地方，以各縣市來看的話，如果有立即危險的就會趕快開案，如果沒有立即危險的就轉為一般服務，請問你們的標準到底會怎樣？ |
|
00:14:18,000 |
00:14:21,666 |
莊委員瑞雄 |
應該要讓各個縣市有一致的標準。 |
|
00:14:22,000 |
00:14:23,555 |
莊委員瑞雄 |
請次長來做個回復沒錯！ |
|
00:14:24,000 |
00:14:34,818 |
呂次長建德 |
非常感謝委員，目前就您剛剛所說的這個部分，其實也不光今天，我們之前有召集地方政府社會局，趕快將所謂的判斷基準…… |
|
00:14:37,375 |
00:14:37,875 |
莊委員瑞雄 |
就是開案的標準啦！ |
|
00:14:37,875 ≈
|
00:14:38,875 |
呂次長建德 |
對，開案標準，而且要全國一致。 |
|
00:14:38,000 |
00:14:42,444 |
莊委員瑞雄 |
你評估的方式跟時程啦！ |
|
00:14:43,000 |
00:14:57,857 |
呂次長建德 |
對，一方面是開案的標準，另外一方面就是處遇計畫，就是說如果現在有的話，趕快，這邊其實有分級分類的部分，我們目前在跟地方政府社會局做這個事情的整個標準化。 |
|
00:14:58,000 |
00:15:47,200 |
莊委員瑞雄 |
所以還是回到我剛開頭問你的那一句話啦，科技一直在進步，而我們的保護只能在後面一直追，你們跟數發部、教育部，甚至是法務部、NCC，我覺得你們的速度真的還是要加快啦，不然我們113年通過修正案，大家說要把整個社會的安全網防堵起來，要即時封網、主動巡查，看起來，本來以為都是法律在後面追，現在有一點不一樣囉，我們政府應該主動出擊這個部分，各部會都要加油，好不好？OK。 |
|
00:15:47,400 |
00:15:47,799 |
莊委員瑞雄 |
好，謝謝。 |
|
00:15:48,000 |
00:15:49,666 |
呂次長建德 |
感謝委員，謝謝。 |
|
00:15:50,166 ≈
|
00:15:52,738 |
主席 |
謝謝莊瑞雄召委發言。 |
|
00:15:53,038 ≈
|
00:15:56,180 |
主席 |
接下來請盧縣一召委發言。 |