| 00:00:02,079 |
00:00:03,906 |
好謝謝主席主席我們請黃部長請部長 |
| 00:00:14,533 |
00:00:32,512 |
上週我們有在交易委員會跟交易委員會聯繫的時候本來預計要來審查討論我們AI基本法的一些框架跟權責當然看來不管是三黨也好或是我們朝野之間大家對這件事情沒有共識包含說可能世界各國對這事情也沒有共識 |
| 00:00:33,413 |
00:00:53,324 |
那沒關係既然時間多出來了我想你們是預計說是要在兩個多月7月15號提出相關的版本然後想我們就利用今天的機會做個簡單的討論就是說第一個是說到底就我個人來說就我本人的立場來講我當然認為我這樣目前為止我還是覺得說AI基本法這種框架的東西 |
| 00:00:54,324 |
00:01:10,714 |
如果是要研發如果是要數據這部分應該是由國科會來主導我個人是這麼覺得那到底數學部的責任在哪裡就是我我試著用那個ChangeBTR我這個這張圖是用ChangeBTR畫出來就是一些討論我問AI我問他我問這個 |
| 00:01:13,433 |
00:01:36,672 |
你覺得我們中央各部會 各自應該針對這個AI的相關法令你應該負責什麼樣的功能 你會希望怎麼劃分他大概把我歸類這些東西 包含說制裁權是經濟部 經濟環境監測是環境部等等文化三層式的內容 這個由文化部來處理機管會負責金融科技管理等等的 |
| 00:01:38,346 |
00:01:58,818 |
數位部他講的其實在這個確診筆裡面我相信你回去自己試用看看就知道他對於國科會跟數位發展部在AI治理上的分工我覺得連他自己說AI本身他不知道怎麼去做明確的分工我做這樣這樣的一個有趣的實驗那我今天也是會提出來跟部長要討論說 |
| 00:02:00,560 |
00:02:14,879 |
部長未來到底數位發展部對整個AI的治理上面你們到底是要著重在產業端著重在執行端還是要著重在所謂現在討論的AI基本法這種上位原則你們對數位部的定位到底在哪裡這個事情上面 |
| 00:02:15,520 |
00:02:41,320 |
工作就是剛剛講那個框架那個精神精神裡面剛剛講就是以人為本就是我們不希望AI的去影響到我們人類不管是價值觀或者是我們的權利等等等或安全所以這個是一個那從這個框架之下就有幾個工作要做主要還是管理裡面因為AI的發展你不用去不用去立法它都在發展現在立法的目的是希望管理那管理分兩部分一部分就是風險 |
| 00:02:42,261 |
00:03:07,921 |
所以要把風險稍微講清楚什麼風險我們要注意那再來就是所謂的資料治理因為剛剛講的委員像你現在出來這些圖一定是當初訓練的資料有關所以資料如果是偏頗出來的結果就是偏頗所以就是說重點是你未給他什麼資料來做訓練所以資料治理很重要這會影響到AI的正確性所以就是說這個就是我們在風險在這個AI基本法裡面要去討論但是還是一樣 |
| 00:03:10,143 |
00:03:32,467 |
因為百工百業都需要AI所以每一個產業它的要求跟它的需求是不一樣所以我們才會講說先把框架弄出來跟你講你要注意什麼然後再由各個目的世界主管機關比如說衛武衛福交通有交通然後各式各樣像金融金融他們就要根據他們的需求去define它後面的作用法 |
| 00:03:33,347 |
00:03:55,309 |
確實就是說因為作用法是要等其實我講真的我們那時候大家上禮拜會想討論的原因是因為作用法要出來之前要一個上位的基本法出來那今天問題在於說我現在想跟部長請教說到底在你們的這個主管的業務裡面AI基本法這個上位到底是由國科會去做相關的研發整合比較適當 |
| 00:03:56,910 |
00:04:12,420 |
還是我們的基本法的未來是要走產業發展數位轉型產業應用的這件事情我想行政院當初分工給我們說有幾個考量因為我剛剛講基本法在這裡面現在講的比較還是在兩個重點一個就風險管理跟資料治理 |
| 00:04:13,180 |
00:04:36,138 |
那這個工作目前因為行政院在這個之前就把這兩項工作交給數化部來來來主責所以才根據這個分工認為說這個AI基本法應該由我們來主導好這樣我知道你的立場了但是我還是要表達一下我立場因為剛剛部長你也說是在這個治理跟這後續的這個數據等等的這對我來講它比較像作用啦就是我個人是這麼認定 |
| 00:04:37,739 |
00:04:56,173 |
我們想像中在討論這一切開始討論 包含去年AI開始發展的過程裡面大家對於AI基本法的理解包含我自己在內我不知道其他人怎麼想對於基本法的概念應該是後續就除了那個框架說這個東西AI本身它不能違背不要危害人類這是最大原則之外 |
| 00:04:56,894 |
00:05:22,968 |
他可能後續的很多的資料的整合跟研發我們我們的AI是要自己國家我們要研發呢還是我們要用現成的等等的那如果涉及到研發的問題涉及到跨部會或是跨學術資源整合的時候我們確定說數位部這不是你們的專業因為我一直認為認定當然這是我認定的數位部的就像部長剛剛所說的數位部的工作或數字的功能應該是在 |
| 00:05:24,403 |
00:05:52,614 |
作用上面包含說你剛剛提到的風險管理包含提到的數據的這個分析等等的應該是所謂的作用部分但是在上位的那種大腦的東西就整個跨部會跨這種學術單位整合理論上看起來比較像國科會沒關係這個我有機會再討論啦我是先把這個治理圖這是我認定的方向讓部長了解一下那我先今天很明確知道你部長的想法了好不好好那接下來我們進到一個實際的問題 |
| 00:05:54,738 |
00:06:22,486 |
一樣是這個AI詐騙的問題我想最近包含說我們自己國內很多的這種深層式的就是這種假的人假的人類假的語音假的影像來進行詐騙的行為來假冒警察警察官等等的來開視訊或甚至他可以生成一些相關文件來標求來配合說要來清查資金轉帳保管等等的然後我想不只在台灣去年9月英國的銀行這個Stalin Bank跟這個他們也發布了一個數據他說 |
| 00:06:24,387 |
00:06:41,089 |
這個利用AI進行生意複製的詐騙也在上升美國的Federal Trade Commission他們數據也顯示去年光是商業冒名的詐騙案件就達到將近8億美元的損失這大概是一些基本的數據那既然 |
| 00:06:42,642 |
00:07:02,604 |
面對到AI科技它現在已經可以做到這樣的程度的時候我不知道以數位部的角色因為這還是回答到問題大家期待數位部在打炸這事情上扮演一定的角色嘛那對於AI有這樣子的功能開始這樣的功能我們有什麼樣的防禦措施還是除了呼籲民眾提高警覺之外政府部門或數位部有沒有什麼防禦的工具或措施能夠做這個事情 |
| 00:07:02,884 |
00:07:26,041 |
我們也在開發一些工具來判斷剛講這個這個身為的低fake這種語音的這種訊息那這個但是從技術面去試著去我們去解決那這個確實有些進展但不是百分之一百波確實有些效果那我們用AI去網頁去到處掃描看到類似的比如說什麼叫類似比如說 |
| 00:07:26,941 |
00:07:55,588 |
照片照片當名人就你現在很多時候照片可能是照片是名人可是上面的名字不是他所以像這種東西我們也要做一些辨識所以那比如說以我為例我現在結合這張圖他當然是用張忠謀的臉張忠謀的談話張忠謀講話的畫面用他的各項談話的聲音整合成你也可以做到就是我張忠謀明明不在蔣介石頭來投資我的公司我投資的投資公司但是他可以把它做成 |
| 00:07:56,388 |
00:08:16,301 |
用張忠謀在各地方演講的就是技術上可行嘛都把它融合到這個畫面裡面然後下廣告做這個網站那當然一方面我們要去處理廣告的問題那同時我說對於這種他已經把影像跟人結合起來變成一個畫面變成一個影片然後四處傳播的時候 |
| 00:08:17,979 |
00:08:44,322 |
當代就是我們的技術面上能不能去克服這些事情去找出這個是假的或是把它設計出來說它是假的然後把它下架或怎麼樣處理剛剛這個在比如以委員這張照片這個有一個張忠謀但上面的名字如果不是張忠謀這個是可以判斷出來的所以有各式各樣技術可以看出來這整個東西是不是有問題這個我們就是要發展一些AI工具去做這些掃描 |
| 00:08:44,482 |
00:09:12,407 |
部長因為你是聰明人你當然分辨得出來我們現在他騙的不是我們這種人他騙的是這些很多包含說我下一張圖好了如果國在使用這個數據上面65歲以上甚至他的上網率他對AI的理解率跟我們這個年齡層是有很大的差距的那被騙的很多人也都是65歲以上或是退休人士那他可能對於這種科技已經走到今天這一步了他不理解他就被騙了所以我現在問說政府除了 |
| 00:09:13,087 |
00:09:33,124 |
去識別說這個名字跟這個人名是不太一樣之外我們是想發展AI工具去做自動辨識啦有在做嗎有在做什麼時候會有比較明顯的成效他可以真正的做到執行出來的成果是能夠阻擋這件事情發生是我們資安院 資安院院長可以簡單說一下 |
| 00:09:35,120 |
00:09:48,286 |
那個我們現在的詐騙廣告已經都變多模態也就是說他的圖片跟影音鑲在那個廣告裡面那我們現在掃出來的都可以掃出來也就是說我們可以把不管他是在 |
| 00:09:50,347 |
00:10:18,272 |
文字那個圖裡面有箱文字我們可以抓出文字那圖裡面有在頁面裡面有箱影音我們可以抓出來辨識那這個是這個部分的處理另外一個部分是說這個影片到底是深圍深圍那我們可以辨識得出來它是不是深圍合成的那目前都有掃出來到進去那個打炸通報網裡面 |
| 00:10:19,965 |
00:10:36,679 |
這個是這個部分好 謝謝院長的說明那最後我想就是希望幫院長 包含我們數位部我們把這相關的目前的成效提供一份給委會委員讓大家也了解像你們現在做的成果怎麼樣後續我們可以在經濟的地方讓民眾也比較安心好不好好 謝謝委員好 部長謝謝 |