| 00:00:02,497 |
00:00:04,125 |
謝謝主席 請主席邀請黃部長請部長 |
| 00:00:11,327 |
00:00:28,637 |
部長早安今天委員會是針對推動AI之產業發展政策邀請部長進行專題報告我們知道人工智慧AI產業的發展真的是日新月異而且速度非常快當然AI的運用 |
| 00:00:32,579 |
00:00:53,897 |
可以讓我們生活在各方面方方面面都可以更加的一個便利那也讓我們的社會真的是造成很大的一個變革當然如果說稍微不慎的話也是會造成很大的一個負面的一個影響那我們就是看到在禮拜一就是在司法法治委員會那個黃國昌委員他就是拿了這個一個徵訊的一個錄音帶來進行這個質詢 |
| 00:01:01,503 |
00:01:16,354 |
那當然最後他一直強調說那個是一個示範帶那可是這樣子的一個質詢事實上也引起了舉國嘩然那像我本席昨天在地方上拜訪的時候真的就是造成基層很大的一個討論了那有年輕的朋友告訴我他們 |
| 00:01:23,458 |
00:01:32,061 |
認為這個錄音帶是真的因為他們跟我說AI沒有辦法把這個人的情緒模仿得那麼真實所以他們認為那個是真的我不曉得部長那天的錄音帶你有聽嗎 |
| 00:01:38,465 |
00:01:52,990 |
報告委員我沒有聽不過看到一些報導你有看到一些報導啦那事實上就是說針對這個英黨喔如果是真的那個真的就是非常嚴重的違法因為法庭的偵訊的英黨是不能外流的嘛 |
| 00:01:53,820 |
00:02:08,978 |
那如果是假的我想這個也是更嚴重吧是不是部長如果用深層式AI製造假訊息或假的那個當然是不容許不過這件事情我想我們還是尊重法務部的 |
| 00:02:09,598 |
00:02:31,331 |
調查再聲明看看因為這真假或是怎麼樣我這邊不清楚所以沒辦法給意見不過我個人是說對深圳市AI的使用要我們要有些規範包括就是說製造所謂de-fake假的影音或假的照片或假的video這個來做一些散佈假訊息這個事實絕對不允許 |
| 00:02:34,413 |
00:02:51,379 |
絕對不允許嘛所以就是說以這樣子的一個質詢真的是一個非常大的不良示範那這樣子的一個陰黨那他也一直在強調說那個是一個示範帶可是這樣子的質詢真的也是造成了社會大眾對於這個司法的一個 |
| 00:02:52,519 |
00:03:17,998 |
信任 這個信任度的一個破壞然後也破壞司法的一個公正性所以我覺得不管是真或假真的都是對我們司法都是一個很大的一個傷害那剛剛部長有說針對這個深層式的AI要有一些規範那我們也知道就是說AI基本法現在也要正式就是正在進行討論當中那當然那天我們也就是在委員會就是聯席的會議 |
| 00:03:18,999 |
00:03:27,171 |
後來也是就是要再擇期再審嘛所以針對這樣子的一個基本法那請教部長就是說你所謂的規範你覺得應該要怎樣來做一個規範 |
| 00:03:31,206 |
00:03:44,670 |
就是我們規範有幾個重點當然就剛剛講就是說這個有一些是跟風險相關的那剛剛講就用深圳SAI確實在很多應用商會製造一些風險包括剛剛講假訊息這個這也是一種風險所以我們先有這樣的規範對於風險有一些 |
| 00:03:49,631 |
00:04:18,656 |
然後風險規範之後分類完以後就由各個事業目的做機關機關根據他們的業務去做一些分級那所以有些東西比如說不能用AI去做假的訊息這一定是在禁止對啊是絕對禁止啦所以這個我想是會從這邊去做一些要求法規去做要求但同時我們有一些機制比如說我們怎麼去判斷這個video是不是AI生成的在技術上有辦法判定嗎 |
| 00:04:19,096 |
00:04:44,236 |
現在有在發展這些技術我們資安院都有在發展這個技術可是我覺得你正在發展速度是不是太慢了應該是要我們已經有一些成果但是這種東西就是準確率的問題我們希望能夠提高準確率但是這個技術的確是我們一個發展的重點所以我們確實有針對相片或是影音的所謂的真假用AI去做判讀這個技術在發展中 |
| 00:04:46,761 |
00:05:08,572 |
是因為我們也看到其實在2023年總統大選期間那個柯文哲也曾經就是遭這個神秘的英黨假冒他就是批評這個賴總統所以當時他也表示了他說世上惡劣的事太多了所以當時看起來他對這一種偽造這個用AI生成假英黨這種 |
| 00:05:10,593 |
00:05:27,345 |
這種行為他也是覺得是一個非常惡劣的事情所以我們也希望針對這樣子的一個生成假的語音的這樣的狀況我們應該要有一個制止的方式或者是防範或者是處罰 |
| 00:05:28,254 |
00:05:30,336 |
我們希望可以全面同時來進行我們再回歸到詐騙的部分 |
| 00:05:44,009 |
00:05:46,811 |
這個深層式的AI真的是推陳出新也讓民眾防不勝防那我們也看到這個微軟它也有在一份報告裡面它有就是在這個網路威脅情報的研究報告裡面它也有提到就是說AI的出現降低了詐騙的技術門檻 |
| 00:06:03,124 |
00:06:07,988 |
因為它可以運用在電商的詐騙網站、求職面試的詐騙或者是技術資源的詐騙等等各方面尤其是AI語音的生成就是我們剛剛討論的那個狀況現在很多詐騙集團也就是用AI語音的生成來進行詐騙 |
| 00:06:25,501 |
00:06:41,715 |
那這樣子的就是說詐騙集團在這種技術上可以說是跟著上這個時代可是民眾在這方面好像還沒有辦法去因應那我們不曉得說在數位部這方面就是說有沒有什麼 |
| 00:06:43,496 |
00:07:02,250 |
目前或者是未來有沒有什麼樣的一個方法可以來遏止這樣子的一個詐騙我們現在對這種這個尤其是廣告方面我們是有一些我們一些這個工具可以每天去網路上去做掃描搜尋去搜尋掃描那每天可以找到五千到一萬個類似這樣的一個詐騙廣告 |
| 00:07:04,352 |
00:07:22,938 |
那當然技術上我剛剛講可以再更精進但我們也是用AI去做這樣判斷另外一個我們有要求這個廣告商如果要用AI生成是AI製造的廣告的那個影片必須註明這是AI生成不能就是說這是我們的這個一些這個這個要求所以就是說讓民眾知道說你看到廣告 |
| 00:07:23,758 |
00:07:47,919 |
不是說不能用生成AI去做廣告而是說你要看到廣告這個影片是來自生成AI必須要註明那所以我們當然從法規面從官方去要求另外從技術面我們可以去判斷這個廣告是不是AI或是這個任何的這樣的訊息是不是由AI生成但是當然就是說這個東西還在還不是100%的準確不過我們是持續在努力讓技術發展能夠更成熟 |
| 00:07:48,712 |
00:08:03,554 |
是那就是剛剛部長提到就是說用AI生成的廣告要註明那這方面我們只是就是要求那沒有入法就是說會入法嗎還是這個有入法大紀議防範那個條例裡面已經入法 |
| 00:08:04,655 |
00:08:23,528 |
要從那方面去入法啦好那就是說因為我們也知道真的這個科技的進步是日新月異那目前詐騙集團也透過利用這個AI更新他們的詐騙手法所以我們也希望就是速發部未來應該要善用也要結合這個AI的各方面的一個研發來進行這個打詐好謝謝主委謝謝 |