| 0 |
洪委員孟楷：（9時35分）謝謝主席。麻煩請吳主委、數發部葉次長。 |
| 1 |
主席：請官員備質詢，謝謝。 |
| 2 |
吳主任委員誠文：洪委員好。 |
| 3 |
洪委員孟楷：主委好。我先延續剛剛羅委員的議題。主委知不知道剛剛羅委員主要問的是什麼樣的問題？ |
| 4 |
吳主任委員誠文：他重視的是人才培育。有關人才培育，包含在實戰場合應用…… |
| 5 |
洪委員孟楷：還有更之前提到的心理諮商部分。 |
| 6 |
吳主任委員誠文：心理諮商也需要培養心理諮商人才，但我們要應用AI，不能讓AI獨立去做…… |
| 7 |
洪委員孟楷：主委，我想問題可能沒有那麼明確。最近有新聞提到，AI比朋友更懂你，因為現在年輕人改用app聊天，你有沒有看到這個新聞？ |
| 8 |
吳主任委員誠文：沒有。 |
| 9 |
洪委員孟楷：沒有看到這則新聞？你知道哪一款app讓現在的年輕人很愛用來聊天？ |
| 10 |
吳主任委員誠文：不曉得。 |
| 11 |
洪委員孟楷：不知道？在今年5月3號有新聞提到和ChatGPT聊天，現在有很多年輕人喜歡和ChatGPT聊天，因為AI可以給很多的情緒價值，某種程度上就衍生出剛剛羅委員所講的，很多的年輕人、學生，甚至未成年人在遇到一些心理因素、感情因素，覺得沒有地方可以傾訴時，就找AI來聊天。至於AI所提供的資料正確與否？有沒有心理諮商的專業？這是另外一個範疇，這也是我們認為人工智慧基本法非常重要的原因所在！訂立基本法之後未來才有作用法及相關範圍可規範，所以衛福部也要納進來，大家共同討論。 |
| 12 |
去年5月23日您首次來教育及文化委員會，那時候最多人問的議題是什麼？ |
| 13 |
吳主任委員誠文：AI基本法是其中一個。 |
| 14 |
洪委員孟楷：是，就是AI基本法什麼時候要出來？之前吳宗憲委員也講到，那時候歐盟才剛通過基本法草案，但一年過去，從去年5月23日到現在5月14日，快一年時間了，我們還在空中樓閣！當然，國科會有努力，並於去年10月送出案子，但行政院突然在今年2月轉交數發部，沒有講任何理由，不管是國科會還是數發部。請問主委，行政院版本到底什麼時候能夠送出來？ |
| 15 |
吳主任委員誠文：理由我剛剛有報告過，行政院現在正在作業當中，我相信應該很快就會送出來。 |
| 16 |
洪委員孟楷：您在去年5月23日答詢時說去年底會有版本…… |
| 17 |
吳主任委員誠文：我有完成我的承諾…… |
| 18 |
洪委員孟楷：你有完成你的承諾？請教數發部次長。 |
| 19 |
葉次長寧：如同剛才主委所說，今年2月行政院將相關的立法推動工作交給本部，我們也完成一些相關的文字調整。就像委員所說，其實…… |
| 20 |
洪委員孟楷：現在到底還有什麼流程要走？還是我們還要…… |
| 21 |
葉次長寧：我們必須要經過行政院院會審議通過之後才能夠…… |
| 22 |
洪委員孟楷：是，沒有錯。在行政院院會審議前，數發部送出版本了嗎？ |
| 23 |
葉次長寧：版本現在已經在行政院。 |
| 24 |
洪委員孟楷：已經在行政院？預計什麼時候能夠送出來？還要不要徵詢外界的意見？還是已經歸納相關意見了？ |
| 25 |
葉次長寧：我們會儘量含納大家的意見，包括今天委員在委員會的指教，至於行政院審議的流程就不是我所能回答的。但相信如同剛才主委所說，行政院會儘快完成程序，送請大院審議。 |
| 26 |
洪委員孟楷：還是可以push跟追蹤，畢竟這是國人、大家所關心的，而且各部會也都需要這個基本法，之後才能有相關的作用法與細則，對不對？ |
| 27 |
主委，我再請教，現在外界比較擔憂的地方是，數發部成立不到三年，但施政滿意民調卻一直敬陪末座。這項工作未來可能由數產署負責，甚至變成三級機關，不過很多人說其實國科會之前已經研究一、兩年時間，推動一、兩年時間了，現在基本法變成數發部主管，這樣未來會不會讓其他部會無法配合？ |
| 28 |
吳主任委員誠文：不會，我們在行政院…… |
| 29 |
洪委員孟楷：你自己怎麼看？國科會跟數發部最大的分歧點在哪裡？哪一個主管機關對於整體發展比較有幫助？ |
| 30 |
吳主任委員誠文：國科會跟數發部沒有分歧，我們一起協調、一起努力…… |
| 31 |
洪委員孟楷：現在的主管機關已經從國科會變成數發部了，不是嗎？ |
| 32 |
吳主任委員誠文：未來法令的解釋機關在數發部，因為將來的施政需要直接接觸人民、接觸產業、接觸各機關團體，這些主要是數發部的施政範圍…… |
| 33 |
洪委員孟楷：是嘛！那剛剛本席就講了，國人對於過去3年成立的數發部其實是不甚滿意，說實在話，不是我要給大家漏氣，我也知道有很多同仁是很用心、很努力，但是很多東西其實數發部過去真的讓國人很難信任。譬如打詐，主委，我相信你也可以認同，AI科技日新月異的情況下，很多詐騙其實都跟AI息息相關。我才在兩個禮拜前詢問數發部，現在內政部報數發部、我們開罰這些社群媒體平臺，到底有沒有？結果給我回答的居然是說，有廣告不實的情況15則，現在還在做研議。 |
| 34 |
我可不可以再請教一下次長？次長，4月25號你們給我的回復，當天本來是另外一位次長，我在詢答的時候，另外一位次長跟我說內政部沒有送來，他自己的回答是這樣子。後來改口了，書面報告給我的是有啦！4月25號有15則廣告出資者不明，所以送行政院，行政院5月1號交數發部。數發部目前處理的狀況是什麼？ |
| 35 |
葉次長寧：很抱歉，這個部分當然不是我的督導範圍，我所知的跟委員差不多是一樣，就是這個經過行政院跨部會審查，是有一部分的案件還需要進行調查。 |
| 36 |
洪委員孟楷：好，部分案件還需要進行調查，那現在5月13號了，所以從4月25號到5月13號，國人大家想一下、聽一下、看一下，姑且、即便相信說只有15個是你目前知道的出資不明的類似詐騙廣告，從425報行政院、行政院5月1號交數發部、數發部到5月13號了都還沒有相關的作業。次長也好，主委也好，可不可以想一下，一個詐騙廣告在那個社群媒體平臺上面一天會有多少人看到、會有多少國人受騙、會有多少詐騙金額？一個月我們的統計是將近百億詐騙金額，結果15則不明的廣告出資者，1個月過去了，到目前為止都還在踢皮球，也還沒有找Meta來談，還是讓Meta陳述意見中，那一個月的時間，多這一個月多放任了多少的詐騙，有多少受害者因而受害！主委、次長，這就是我們一直所關心的也擔憂的，當成立了一個數發部，國人大家對你們高度期待，結果你們現在一個基本法也是互相推，然後現在詐騙的廣告，我們去年通過打詐四法，結果給你們工具了，到現在，1個月了，即便是這個，更不要講內政部說他已經下架3萬8,000則詐騙廣告，但還有出資者不明的也沒有辦法處理，未來會是這樣子牛步嗎？ |
| 37 |
葉次長寧：跟委員報告，我們沒有互踢皮球的問題，我們是因為要開罰必須要有法律的依據、要證據，所以現在這個程序都在進行當中。 |
| 38 |
洪委員孟楷：我現在沒有講開罰不需要證據，沒有錯，但我指的是，光這1個月的時間，如果我們面對的樣體、群體那麼明顯，不要讓外界覺得你們不敢打老虎，只敢對個人、只敢對一些小用戶，真正是社群媒體平臺的Meta也好，YouTube也好，Google也好，國際公司我知道，我自己也是使用者啊！但如果他們獲利或賺錢的來源是來自於詐騙集團，那我們怎麼可能放任讓他們繼續賺錢？ |
| 39 |
葉次長寧：我們沒有放任…… |
| 40 |
洪委員孟楷：到目前為止有沒有開罰過？ |
| 41 |
葉次長寧：我們現在正在進行調查。 |
| 42 |
洪委員孟楷：進行調查，所以就是沒有開罰。 |
| 43 |
最後我想請教一下，主委或次長，我們還是討論一下AI基本法，我覺得有一個部分也是大家所關心的，就是隱私的問題。我不知道主委或次長最近有沒有看到，已故藝人豬哥亮有一個演出，最近的好像是前天的一個演出，用虛擬影像結合AI，變成是他跟現場的藝人對話。現在的技術已經成熟到他肢體上的挑眉、口氣、話語都跟豬哥亮生前一模一樣，幾乎可以講就好像是他拍的，我不知道你有沒有看到？主委。 |
| 44 |
吳主任委員誠文：我沒有看到，但是的確技術已經進步到這個階段。 |
| 45 |
洪委員孟楷：對，某種程度上，如果它用在正面上，當然因為它是一個公開演出，所以有獲得可能他後人的授權或同意，但另外一方面，如果它用在犯罪上，這就是深偽技術，可以把它想像成是深偽技術，或者說現在這個技術、虛擬已經成熟到是幾乎辨別不出來。那就分別有兩個問題，當然就深偽技術，之前我們討論了刑法，但另外一個部分，不管是我們講的，之前GPT的畫風，我們用照片可以轉換成什麼迪士尼風、卡通風、動漫風等等的部分，可能也會有AI侵權的疑慮，或者是現在用深偽技術，我仿照已故人士或者是別人，即便有後代的授權，但有沒有可能還是會有侵權的狀況？他要講什麼內容或是他要做什麼樣的動作，甚至如果大家的反應很好，或是大家真的很懷念豬大哥，我自己也覺得他的主持風格非常好，但懷念豬大哥，而未來如果用他的影像來做產品代言，行不行？這個我覺得都是我們目前法令沒有考慮到，但是技術上做得到，所以我們訂立基本法以及未來的作用法都應該要去考慮，對不對？ |
| 46 |
葉次長寧：是，沒有錯，委員講到的是非常重要的一個重點，就是AI訓練的結果產出必須不能夠侵害智慧財產權，所謂的模仿跟真正的侵害智慧財產權其實是有個案上的差距。舉例來說，他如果單純是模仿或者是某一種畫風，可能這個在成立上面會有一些不太一樣的地方，但是他如果以豬哥亮的名義來做的話，那就會侵害他的姓名或肖像權的使用。這個部分其實智慧財產權也不斷在演進當中，那我們也會跟經濟部智慧財產局保持密切聯繫，相關的個案，我相信包括智慧財產局來的也好，或是法院來的也好，在國際上面都是非常尖端的案例，是需要持續觀察、努力的。 |
| 47 |
洪委員孟楷：就因為是尖端案例，但已經發生了，所以本席才會提出來，我覺得這跟現在基本法以及未來各部會要訂立作用法的部分非常息息相關。還有基本法到底什麼時候出來？不確定，但是各委員的版本已經在這邊了，當然我們期待有行政院的版本，大家可以共同討論逐條審查，但如果沒有的話，我們也沒有辦法繼續等下去。以及本席現在就提出來，未來像針對這個部分，其實應該是各部會業務權責，沒有錯，您剛才也提到經濟部，但數位運用上面來講，我覺得數發部既然是主管機關，還是要有一定的主導性跟想法。我剛剛就說，如果豬大哥這個是後人覺得很好，然後大家的反應很熱烈，他能不能繼續接代言？商業利益、商業行為。那商業行為，譬如他用虛擬影像講這個產品很棒，那是他的後人授權決定，他後人可能有一些商業合約，但這樣子會不會有一些道德上的狀況？我覺得不只是這個，就是衍生，您懂我的意思嗎？ |
| 48 |
葉次長寧：是。 |
| 49 |
洪委員孟楷：因為這個是一連串我們應該要思考的，我相信應該也有國外的案例，甚至我們也查到美國的案例，美國法庭上面在做出庭陳述的時候，他就讓被槍殺身亡者，運用AI還原讓他在法庭上面做意見陳述，當然講的內容，可能他生前有講過這樣的概念，但是不是他當下之後還會講這樣的內容不得而知，因為他人已經離開了。可是這樣子的一個案例，未來會不會在臺灣發生？ |
| 50 |
葉次長寧：這是證據力的問題，在談刑事訴訟法。 |
| 51 |
洪委員孟楷：對不對？還有本席之前也提過，譬如像現在也有很多的新聞畫面，之前有一個新聞是用AI合成或虛擬地震的影片，NCC也開罰，但現在也有很多新聞是沒有拍到的畫面他用AI影片去生成，那是不是應該要加註警語，以及要怎麼樣加註警語讓民眾知道這一段是AI生成影片、哪一段是真的採訪影片？這一些可能是我們已經都接受到了，但是法令還沒有跟上的部分。 |
| 52 |
葉次長寧：據我所知，NCC已經訂定了指引，就如委員所說的，其實透明的義務是最基本的。 |
| 53 |
洪委員孟楷：再拉回來，主委，稍微笑一下啦！本席語重心長，過去1年都在教育及文化委員會，對國科會，我們就很多專業可以共同討論，AI人工智慧基本法，確實臺灣不能落後於世界，基本法也只是第一步，第二步是相關部會的溝通，既然主委已經在這個領域上面努力了一整年的時間，即便現在主管機關是數發部，我相信國科會的角色也很重要，能夠趕快push出來行政院的版本，讓我們可以充分討論，進一步完成立法，這才是我們大家共同關心的。謝謝！ |
| 54 |
主席：謝謝洪孟楷委員質詢。官員請回座。 |
| 55 |
接下來請柯志恩委員質詢。 |