|
00:00:00,930 |
00:00:11,658 |
柯委員志恩 |
謝謝召委，我們先請數發部的侯次長好了。 |
|
00:00:12,460 |
00:00:13,581 |
主席 |
有請數發部侯次長。 |
|
00:00:22,719 |
00:00:23,019 |
柯委員志恩 |
次長好。 |
|
00:00:24,220 |
00:00:39,776 |
柯委員志恩 |
非常感謝召委今天排定的AI主權時代所衍生非常多問題的議題，當然我們肯定AI基本法已經三讀通過，但是到現在，面對AI的時代，我們還是有很多細節需要來做討論。 |
|
00:00:40,779 |
00:00:54,006 |
柯委員志恩 |
在進入主題之前，我先請問侯次長，目前高德地圖真的是鬧得沸沸揚揚，每個人都說它可能有資安的疑慮，但是地方政府卻認為目前並沒有個資外洩的問題。 |
|
00:00:54,427 |
00:01:03,831 |
柯委員志恩 |
中央說有疑慮，地方說沒有資安的疑慮，次長，就你的觀點，到底是誰的認知有問題？ |
|
00:01:09,197 |
00:01:23,661 |
侯次長宜秀 |
首先跟委員說明，我們處理的原則是依據資通安全法第十一條的規定，就是公務機關不得下載、安裝或使用危害國家…… |
|
00:01:23,921 |
00:01:54,677 |
柯委員志恩 |
我知道，我的意思是，你們有做過這個評估……因為剛剛特別提到，高雄市交通局認為我們這些個資沒有外洩的問題，而且它純粹是用大數據的方式，其實這個政府不禁還好，一禁，它馬上就變成熱門下載app，上個禮拜還是第一名，這個禮拜變成第二名，所以顯然政府所謂的國安疑慮跟人民的使用是有一些落差的。 |
|
00:01:55,538 |
00:02:22,601 |
柯委員志恩 |
我還特別來問，而且不要忘記你們上一次也特別發布的，去年數發部及國安局認定有高風險的五款中國製造app當中，像抖音幾乎就是排名第4名，微信、小紅書在社交類排名大概是第10名和第11名，我當然認為政府替人民把關是天經地義，但是你就應該檢視所有的app，所以到目前為止，你們認為高德地圖還是有資安的危險嗎？ |
|
00:02:24,638 |
00:02:43,697 |
侯次長宜秀 |
向委員報告，因為高德地圖是中國廠商的地圖，他會受到中國法律的拘束，在中國的法律底下，據我們所了解，關於他的情報法及網路安全法的規定，中國政府是可以隨時取用這些使用者的資料的。 |
|
00:02:43,957 |
00:02:51,003 |
柯委員志恩 |
我個人認為還是一句話，為了資安，你們可以做任何的事情，可是我覺得在發布這個消息之前，應該要有更審慎且一致的標準。 |
|
00:02:51,203 |
00:03:38,448 |
柯委員志恩 |
如果你覺得這是有資安疑慮的話，但到目前為止，大家還是在用我剛剛所條列的不管是抖音或是小紅書等等，所以我才說這與民眾的認知有一些落差，而且就以大家感受最深刻的詐騙來說，以app來說，從數發部的網路詐騙通報查詢網內一個月詐騙平臺分布來看，那個是個資的問題，到底有沒有資安的問題，每個人見仁見智，但是這個部分裡面，人民受傷最多的、有關於詐騙的app的問題裡面，32萬則當中，Threads占了28.6%，Facebook占了24.8%，Instagram占了17.2%，這才是人民切身關切的。 |
|
00:03:38,970 |
00:03:57,388 |
柯委員志恩 |
你們永遠都是在這裡告訴大家這些有國安疑慮，然後要禁、要禁、要禁，卻不去思考為什麼大家要用高德地圖，說實在我用了，我也不覺得有那麼好用，很多人看法就不一樣，但是我個人覺得app的標準應該要一致，像詐騙的部分，數發部目前為止束手無策啊！ |
|
00:03:57,749 |
00:04:04,335 |
柯委員志恩 |
所以到底哪個軟體是我們人民在使用的時候最需要、最應該提高警覺的？ |
|
00:04:05,115 |
00:04:08,257 |
柯委員志恩 |
數發部在這個層面上面也應該有更積極的作為嘛！ |
|
00:04:08,657 |
00:04:25,772 |
侯次長宜秀 |
是，跟委員報告，就app來說，還是必須看它所適用的準據法，因為中國的app有他原廠地國的法規，跟其他國家不一樣…… |
|
00:04:26,513 |
00:04:49,946 |
柯委員志恩 |
高德這部分，次長，我同意，只要有資安疑慮，你可以提出你的看法，但我現在是要告訴你，目前跟人民最相關的app當中，他們都是使用這些，其實這些部分的詐騙比率更高，在更高的狀況下，你會不會做出像高德一樣的警訊，告訴大家這些都是大家應該要注意的？ |
|
00:04:50,046 |
00:05:00,071 |
柯委員志恩 |
我覺得這才是數發部的角色跟責任，我所要強調的是這一點，我並沒有說你們不應該完全不顧人民的資安問題，你要搞清楚我的重點好不好？ |
|
00:05:00,691 |
00:05:08,236 |
柯委員志恩 |
所以關於這個部分，你應該更強調的去宣導，很多詐騙都是來自於這些，這些都需要大家共同去做。 |
|
00:05:08,456 |
00:05:17,625 |
柯委員志恩 |
所以我才說不要有雙標，任何只要跟人民有關的，不管是跟資安或者是跟這個有關，都要做相同的提醒，不要顧此失彼。 |
|
00:05:18,186 |
00:05:27,519 |
柯委員志恩 |
還有很重要的是，今天因為AI的倫理，時間的關係，你們特別建置了兩個很重要的任務，一個是建立AI風險分類框架與指引，沒錯吧？是。 |
|
00:05:29,341 |
00:05:31,983 |
柯委員志恩 |
另一個是推動AI模型評測機制。是。 |
|
00:05:32,924 |
00:05:44,676 |
柯委員志恩 |
關於AI風險分類框架與指引，我認為這是非常重要的，是重中之重，因為這涉及到各部會當中，這個法規是否充足以及風險管理的規範到哪裡。 |
|
00:05:45,217 |
00:06:09,295 |
柯委員志恩 |
以目前來說，到選舉的時候，AI出來的東西簡直讓我們疲於奔命，我們看到有很多AI生成的扭曲訊息，即使AI基本法第五條已經明文規定，但它畢竟是一個基本大法，很多的細節並未規定，導致我們要承受很多AI生成之後造成資訊扭曲的部分，然後我們跟數發部檢舉，以Meta為例，你們最大的做法就是：好吧！ |
|
00:06:09,535 |
00:06:12,117 |
柯委員志恩 |
那我們就通知Meta，然後把它下架。 |
|
00:06:12,756 |
00:06:22,744 |
柯委員志恩 |
但如果這個分類的方法、框架一出來之後，就不用每次都由數發部來做處理，你們可以分門別類給不同的單位去做處理，沒錯吧？ |
|
00:06:23,186 |
00:06:27,229 |
侯次長宜秀 |
跟委員報告，其實目前就已經是由數發部統籌給各部會來處理。 |
|
00:06:27,229 ≈
|
00:06:28,229 |
柯委員志恩 |
好，你們預計這個要審查多久？ |
|
00:06:27,750 |
00:06:35,135 |
侯次長宜秀 |
我們現在已經把風險分類框架送到行政院了。 |
|
00:06:35,395 |
00:06:36,036 |
柯委員志恩 |
什麼時候可以下來？ |
|
00:06:37,457 |
00:06:39,497 |
侯次長宜秀 |
要看行政院那邊處理的狀況。 |
|
00:06:39,497 |
00:06:57,206 |
柯委員志恩 |
需要很快就下來，因為對我們來說，這樣我們才知道對等在什麼地方，包括我們用AI來做遠距醫療，我就可以直接去找衛福部，什麼事情要找什麼部會，所以你必須要在最快時間把它放出來，這樣我們才會知道，不然你們數發部真的會忙死啦！同意！ |
|
00:06:58,987 |
00:07:06,733 |
侯次長宜秀 |
跟委員報告，我們現在已經跟各個部會在進行協作中，也開了很多次的工作坊…… |
|
00:07:06,874 |
00:07:12,038 |
柯委員志恩 |
好，你們儘量趕快把這個管理規範訂出來，因為過去基本法只是個大框架，很多的細節、我們所遭遇的問題都來了。 |
|
00:07:12,038 |
00:07:12,217 |
柯委員志恩 |
請回座。 |
|
00:07:12,959 |
00:07:25,453 |
柯委員志恩 |
關於遭遇的問題，我想請中研院彭副院長以及國科會陳副主委，因為這個很重要，這面臨到學術倫理的問題，這完全打破我們以前在教書……各位都教過書吧？對。 |
|
00:07:25,852 |
00:07:30,819 |
柯委員志恩 |
我們以前最重要的就是第二章文獻探討、reference，對不對？對。 |
|
00:07:30,819 |
00:07:38,486 |
柯委員志恩 |
當老師的、指導教授不是每天都要去看它到底跟我們之間的研究有什麼關係，現在這塊反而是老師最不曉得該怎麼辦的，為什麼？ |
|
00:07:39,628 |
00:08:07,177 |
柯委員志恩 |
因為學生比我們更了解這個資訊，他把他全部的資料丟進去，AI把它生成連老師都沒有辦法出來的，以致在最後文獻參考資料的部分，以前我們只要把出自哪裡放出來就好，現在這麼多的整合，而且你們還要找到源頭，但是要從AI生成的資料當中找到源頭，必須要有一些技術跟方法，這叫我們怎麼辦呢？ |
|
00:08:09,038 |
00:08:10,539 |
柯委員志恩 |
兩位學術單位，你們要怎麼辦？ |
|
00:08:10,539 |
00:08:26,339 |
彭副院長信坤 |
報告柯委員，中研院學術處已經有這個能力，而且我們已經在做這個動作，任何一個paper、任何一個計畫，我們都有辦法用AI去偵測到底是AI生成的，還是AI改寫的，甚至改寫了哪一部分，我們都可以mark起來，我們有在使用這個軟體。 |
|
00:08:26,339 |
00:08:35,681 |
柯委員志恩 |
我不想看到我們以前寫的paper，到最後被它生成之後，我看到這個，覺得看起來很像是我以前寫的，可是又好像不是，因為整合了很多。 |
|
00:08:36,221 |
00:08:36,661 |
柯委員志恩 |
都會有這個狀況！ |
|
00:08:36,661 |
00:08:45,384 |
柯委員志恩 |
然後以前你只要標注幾年幾月、什麼時候、在什麼地方出版，但現在光是後面的參考資料，我看都需要重新定義。 |
|
00:08:45,384 |
00:08:52,647 |
柯委員志恩 |
中研院有這三個部分，但是我覺得目前為止還是……這都是在AI基本法之前你們就已經先做的。對。 |
|
00:08:53,187 |
00:09:00,872 |
柯委員志恩 |
國科會也是，但基本法公布之後，你們有沒有在參考指引上面做更細緻的分工、更細緻的分法？ |
|
00:09:01,733 |
00:09:08,757 |
陳副主任委員炳宇 |
跟委員報告，我們有根據生成式AI的進展，針對這些內容再做一些調整。 |
|
00:09:09,858 |
00:09:11,779 |
柯委員志恩 |
所以我們什麼時候可以在網站上看到？ |
|
00:09:11,858 |
00:09:14,339 |
陳副主任委員炳宇 |
我們應該是隨時調整完都會隨時公告在…… |
|
00:09:14,480 |
00:09:37,568 |
柯委員志恩 |
身為老師，我真的覺得馬上就會遭遇到這樣的問題，而且最重要的是，我也同意你們說未來只要用AI，它會有一些浮水印等等之類的，但是在學校裡面，不是每個人都可以像你們兩個單位做成這樣，所以你們這樣的技術是有辦法完全下放到所有的學術單位、任何公私立大學、168間所有的公私立大學都可以來做這樣的使用嗎？ |
|
00:09:38,568 |
00:09:39,489 |
柯委員志恩 |
否則你會造成這些老師…… |
|
00:09:39,489 |
00:09:44,553 |
彭副院長信坤 |
我們中研院的部分是要購買、要有版權、要有中研院的IP才可以使用。 |
|
00:09:44,614 |
00:09:46,295 |
柯委員志恩 |
是，那學校怎麼辦呢？ |
|
00:09:46,436 |
00:10:00,549 |
柯委員志恩 |
我們這些老師看學生報告的時候，以前看到學生寫出這樣的報告，我就會給他很高分，但現在看到學生寫報告寫得這麼完整，跟他平常的表現不一樣，我都要稍微質疑一下，這到底是用抄的還是他自己想的，這個就會造成我們很大的困擾，這部分怎麼辦？ |
|
00:10:01,168 |
00:10:02,369 |
柯委員志恩 |
不能只有在你們中研院啊！ |
|
00:10:02,869 |
00:10:09,275 |
柯委員志恩 |
包括國科會未來在審查的時候，包括五年創作的部分，都是我們審查的標準，你怎麼樣面對這個問題？ |
|
00:10:12,012 |
00:10:22,134 |
陳副主任委員炳宇 |
跟委員報告，這個還是要回到學術的本質上去做探究，我們的確會再透過很多的管道去讓老師們…… |
|
00:10:23,075 |
00:10:27,555 |
柯委員志恩 |
你就趕快拜託隔壁的中研院，他們要版權什麼的，你就拜託中研院，好不好？ |
|
00:10:27,915 |
00:10:40,999 |
柯委員志恩 |
請他們把這個技術給你們，到最後我們要申請中研院的學術獎勵或是個人的專案獎勵的時候，搞不好大家都先用中研院的系統掃過一遍，告訴我們這個部分……當然原創性還是非常重要，對不對？是。 |
|
00:10:41,578 |
00:11:04,625 |
柯委員志恩 |
但變成我馬上想到的第一個就是文獻探討的部分，以前大家覺得還要花很多時間，現在學生搞不好最後全部丟給AI生成，然後老師也搞不清楚，因為根本不知道，重點是對我們來說，一份寫這麼好的報告，以前都給他最高的肯定，現在第一個就馬上質疑到底是誰寫的，這才是我們現在面臨最大的問題！ |
|
00:11:05,888 |
00:11:09,430 |
彭副院長信坤 |
對我們來說，這部分不是問題，現在可以偵測到72%、68%。 |
|
00:11:12,913 |
00:11:16,174 |
柯委員志恩 |
好，既然你們已經有研發這個系統，就全部丟給老師。 |
|
00:11:16,634 |
00:11:26,601 |
柯委員志恩 |
最重要的還是一句話，AI的臺灣模式到底是要像美國比較放寬、不要那麼多的限制，還是要像歐盟一樣？ |
|
00:11:26,601 |
00:11:30,605 |
柯委員志恩 |
我們絕對要有臺灣的模式，趁最後時間告訴我們，你覺得在學術界來說，到底應該廣泛？ |
|
00:11:32,546 |
00:11:37,829 |
柯委員志恩 |
還是在學術界當中，反而是像歐盟一樣，要給相當大的限制範圍？ |
|
00:11:39,371 |
00:12:03,209 |
陳副主任委員炳宇 |
因為AI基本法在制定的時候，就經過很多次討論，基本上，我們希望AI基本法能夠衡平比較創新跟風險控管的機制，但是在學術界，我們是更加鼓勵創新，希望大家能夠利用AI工具進展到其他的研究當中。 |
|
00:12:03,209 ≈
|
00:12:30,967 |
柯委員志恩 |
是，如果進入到更大的研究工具，就應該在一些文獻、歷史資料允許這樣的原則，透過一些科技方法幫我們把歷史資料做一系列的統整，統整完之後，基於這個部分，再去做額外的創新，這樣應該才是……當70%可以偵測出來的時候，到底是偵測出他是抄襲，還是資料完整，這個界定恐怕又是另一方面的問題了，對不對？ |
|
00:12:30,967 |
00:12:38,973 |
彭副院長信坤 |
分成兩塊，它有寫AI生成的部分以及AI改寫的部分，我手上就有資料，我過去半年已經用得很熟悉了。 |
|
00:12:39,392 |
00:12:48,559 |
柯委員志恩 |
好，還是一句話，副院長不要只有你們中研院在用，我們也需要，不管是改寫還是生成，要讓大學也能用，否則我剛剛所提到的問題還是會繼續發生。 |
|
00:12:49,339 |
00:12:59,145 |
柯委員志恩 |
最重要的是到最後的參考書目當中，我真的認為應該有個準則，提供大家更好的方向，否則解決不了，好不好？ |
|
00:12:59,645 ≈
|
00:13:00,788 |
柯委員志恩 |
感謝，謝謝。 |
|
00:13:01,088 ≈
|
00:13:03,946 |
主席 |
謝謝柯志恩委員的質詢。 |
|
00:13:04,246 ≈
|
00:13:06,246 |
主席 |
請機關代表回座。 |
|
00:13:06,546 ≈
|
00:13:10,546 |
主席 |
接下來有請葛如鈞委員進行詢答。 |