iVOD / 162568
陳素月 @ 第11屆第3會期交通委員會第16次全體委員會議
| Index | Text |
|---|---|
| 0 | 陳委員素月：（9時44分）謝謝主席，請主席邀請黃部長。 |
| 1 | 主席：請部長。 |
| 2 | 陳委員素月：部長早安。今天委員會是針對推動AI之產業發展政策，邀請部長進行專題報告，我們知道人工智慧（AI）產業發展真的是日新月異，而且速度非常地快，當然AI的運用讓我們生活在方方面面都可以更加的便利，也讓我們的社會真的是造成很大的一個變革，當然如果稍微不慎的話，也是會造成很大的負面影響。 |
| 3 | 我們看到禮拜一在司法及法制委員會黃國昌委員拿了一個偵訊錄音檔來進行質詢，當然最後他一直強調說，那個是一個示範帶。可是這樣子的一個質詢，事實上也引起了舉國嘩然，像本席昨天在地方上拜訪的時候，發覺真的造成基層很大的討論，有年輕朋友告訴我，他們認為這個錄音檔是真的，他們跟我說，因為AI沒有辦法把人的情緒模仿得那麼真實，所以他們認為那個是真的。我不曉得部長，那天的錄音檔你有聽嗎？ |
| 4 | 黃部長彥男：報告委員，我沒有聽，不過有看到一些報導。 |
| 5 | 陳委員素月：事實上針對那個音檔，如果是真的，就是非常嚴重的違法，因為法庭偵訊的音檔是不能外流的；如果是假的，我想這個也更嚴重吧，是不是？部長。 |
| 6 | 黃部長彥男：如果用生成式AI製造假訊息或假的音檔，當然是不容許…… |
| 7 | 陳委員素月：不容許。 |
| 8 | 黃部長彥男：對，不過這件事情我想我們還是尊重法務部的調查，因為這個真假或是怎麼樣，我這邊不清楚，所以沒辦法給意見，不過我個人覺得對生成式AI的使用我們要有些規範，包括運用所謂Deepfake製造假的影音、假的相片或假的video來散布假訊息，這是絕對不允許的。 |
| 9 | 陳委員素月：所以以這樣子的質詢，真的是一個非常大的不良示範，這樣子的音檔，他也一直在強調說是一個示範帶，可是這樣子的質詢，真的也是造成社會大眾對於司法信任度的破壞，然後也破壞司法的公正性，所以我覺得不管是真或假，真的對我們司法都是一個很大的傷害。剛剛部長有說，針對生成式AI要有一些規範，我們也知道AI基本法現在正在進行討論當中，當然那天我們在聯席會議後來也是決議要擇期再審，所以針對AI基本法，請教部長，所謂的規範，你覺得應該要怎樣來做一個規範？ |
| 10 | 黃部長彥男：我們規範有幾個重點，當然就剛剛講有一些是跟風險相關，生成式AI確實在很多應用上會製造一些風險，包括剛剛講的假訊息，這也是一種風險，所以我們對於風險先有一些分類，分類完以後就由各目的事業主管機關根據他們的業務去做一些分級，其中有些東西，比如不能用生成式AI去做假的訊息，這一定是禁止。 |
| 11 | 陳委員素月：對啊！是絕對禁止。 |
| 12 | 黃部長彥男：所以我想這個會從法規去做一些要求，同時我們有一些機制，比如我們怎麼去判斷這個video是不是AI生成的…… |
| 13 | 陳委員素月：這技術上有辦法判定嗎？ |
| 14 | 黃部長彥男：現在有在發展這些技術…… |
| 15 | 陳委員素月：正在發展？ |
| 16 | 黃部長彥男：對！資安院都有在發展這個技術。 |
| 17 | 陳委員素月：可是我覺得你正在發展的速度是不是太慢了？應該是要趕快…… |
| 18 | 黃部長彥男：我們已經有些成果，但是這種東西就是準確率的問題，我們希望能夠提高準確率，但是這個技術的確是我們發展的重點，所以我們確實有針對相片或影音的真假，用AI去做判讀，這個技術在發展中。 |
| 19 | 陳委員素月：因為我們也看到，其實在2023年總統大選期間，柯文哲也曾經遭神秘的音檔假冒他批評賴總統嘛，當時他也表示，世上惡劣的事太多了。所以看起來當時他對這種用AI生成偽造假音檔的行為也覺得是一個非常惡劣的事情，所以我們也希望針對這樣生成假語音的狀況應該要有一個制止的方式，或者是防範，或者是處罰。 |
| 20 | 黃部長彥男：對，報告委員，一個當然是剛剛講從法規面去處理，另外一個是從技術面去處理，所以我們是同時在進行的。 |
| 21 | 陳委員素月：好，我們希望可以全面同時來進行。我們再回歸到詐騙的部分，因為生成式AI真的是推陳出新，也讓民眾防不勝防，我們也看到微軟在一份網路威脅情報研究報告裡面提到，AI的出現，降低了詐騙的技術門檻。因為它可以運用在電商的詐騙網站、求職面試的詐騙，或者是技術支援的詐騙等等各方面，尤其是AI語音的生成，就是我們剛剛討論的那個狀況，現在很多詐騙集團也就是用AI語音的生成來進行詐騙，詐騙集團在這種技術上可以說是跟得上時代，可是民眾在這方面好像還沒有辦法去因應，我們不曉得數位部在這方面，目前或未來有沒有什麼樣的方法，可以來遏止這樣子的一個詐騙？ |
| 22 | 黃部長彥男：我們現在對這種，尤其是廣告方面，有一些工具可以每天在網路上去搜尋掃描，每天可以找到5,000到1萬個類似這樣的詐騙廣告，但技術上，我剛剛講可以再更精進，當然我們也是用AI去做判斷。另外一個，我們有要求廣告商如果要用生成式AI製造廣告的影片，必須註明這是AI生成，這是我們的一些要求，就是讓民眾知道所看到的廣告是來自生成式AI，不是說不能用生成式AI去做廣告，而是說你所看到的廣告影片是來自生成式AI必須要註明，所以我們當然從法規面、從各方面去要求，另外從技術面，我們可以去判斷這個廣告是不是AI生成，或任何的訊息是不是由AI生成，當然這個東西還不是100%的準確，不過我們還是持續在努力，讓技術發展能夠更成熟。 |
| 23 | 陳委員素月：是，剛剛部長提到用AI生成的廣告要註明，這方面我們只是要求，會入法嗎？還是…… |
| 24 | 黃部長彥男：這個有入法。 |
| 25 | 林署長俊秀：詐欺犯罪危害防制條例裡面已經入法。 |
| 26 | 陳委員素月：從那個方面去入法，好，因為我們也知道這個科技進步真的是日新月異，目前詐騙集團也利用AI更新他們的詐騙手法，所以我們也希望數發部未來應該要善用，也要結合AI的各方面研發來進行打詐。 |
| 27 | 黃部長彥男：好，謝謝委員。 |
| 28 | 陳委員素月：謝謝。 |
| 29 | 主席：現在請林俊憲委員。 |
公報詮釋資料
| page_end | 442 |
|---|---|
| meet_id | 委員會-11-3-23-16 |
| speakers | ["許智傑","洪孟楷","李昆澤","林國成","陳素月","林俊憲","徐富癸","邱若華","蔡其昌","葛如鈞","劉書彬","黃健豪","張雅琳","翁曉玲","鍾佳濱","葉元之","魯明哲","廖先翔","游顥","王鴻薇","何欣純","楊瓊瓔"] |
| page_start | 379 |
| meetingDate | ["2025-06-18"] |
| gazette_id | 1146001 |
| agenda_lcidc_ids | ["1146001_00012"] |
| meet_name | 立法院第11屆第3會期交通委員會第16次全體委員會議紀錄 |
| content | 邀請數位發展部部長黃彥男就「推動 AI 之產業發展政策」進行專題報告，並備質詢 |
| agenda_id | 1146001_00016 |