|
00:00:06,895 |
00:00:18,947 |
羅委員廷瑋 |
謝謝主席，有請國科會陳炳宇副主委、中研院彭副院長、數發部侯宜秀次長，謝謝。 |
|
00:00:18,947 |
00:00:20,250 |
主席 |
請三個機關代表。 |
|
00:00:20,250 ≈
|
00:00:23,479 |
陳副主任委員炳宇 |
召委早。 |
|
00:00:23,479 |
00:00:23,980 |
彭副院長信坤 |
羅委員好。早安。 |
|
00:00:24,901 |
00:00:30,786 |
羅委員廷瑋 |
我首先要請教副主委，對於用AI生成的文字，國際期刊目前是否接受投稿？ |
|
00:00:32,628 |
00:00:34,770 |
陳副主任委員炳宇 |
跟委員回報，應該是不接受。好。 |
|
00:00:35,111 |
00:00:44,161 |
羅委員廷瑋 |
此外，國際間針對AI生成的內容用於學術研究論文發表是否已經有相關的規範或通行的標準？ |
|
00:00:47,267 |
00:00:49,269 |
陳副主任委員炳宇 |
目前應該是沒有相關的標準。 |
|
00:00:49,269 ≈
|
00:00:50,430 |
羅委員廷瑋 |
沒有嘛？對。 |
|
00:00:50,430 |
00:01:39,742 |
羅委員廷瑋 |
國科會今天所提書面報告的內容著重於說明推動AI的研發還有在科研上的應用效益，然而本次專案報告所聚焦的AI研究應用的倫理，中研院今日在書面報告第6頁對這個議題其實已有相當明確的說明，報告裡面寫：「針對運用AI從事學術研究及發表所生研究倫理與學術倫理問題，目前面臨的課題主要是，除了訂定『參考指引』等建議性的規範外，如何解釋及適用既有的相關倫理規範，例如在指引已要求落實揭露的基礎上，使用AI生成的文章是否應該揭露？ |
|
00:01:40,802 |
00:01:47,007 |
羅委員廷瑋 |
內容大量使用AI生成的研究成果是否構成『抄襲』或『造假』？ |
|
00:01:47,687 |
00:01:52,812 |
羅委員廷瑋 |
相關機關是否需要針對AI訂定新的行為規範，以供遵循？ |
|
00:01:55,756 |
00:01:59,660 |
羅委員廷瑋 |
」副院長，請問這裡寫的「相關機關」指的是哪些機關？ |
|
00:02:01,740 |
00:02:19,573 |
彭副院長信坤 |
跟羅委員報告，我們中研院已經在開始落實一個做法，就是任何一個研究計畫書送上來，我們都有辦法用AI目前的軟體去偵測到底有多少部分是AI生成的、多少部分是AI改寫的，我們都會進一步去追蹤。 |
|
00:02:20,134 |
00:02:20,454 |
羅委員廷瑋 |
對，有這樣的技術嘛！ |
|
00:02:20,454 |
00:02:20,615 |
彭副院長信坤 |
沒有問題。 |
|
00:02:22,816 |
00:02:28,923 |
羅委員廷瑋 |
你們說相關機關要針對AI制定新的規範，你認為是哪些機關？ |
|
00:02:30,644 |
00:02:40,553 |
彭副院長信坤 |
關於規範的話，目前我們中研院有自己要求自己，其他學界的部分，我想應該要科技部跟教育部共同來…… |
|
00:02:41,174 |
00:02:41,694 |
羅委員廷瑋 |
應該有國科會吧？對吧？ |
|
00:02:44,697 |
00:03:03,726 |
彭副院長信坤 |
對，羅委員，我們現在面對一個牽涉很多的問題，就要各個學門來形成共識，比如說，過去翻譯的文章算是一個研究成果，那上面只寫「譯著」，可是現在用AI翻譯的，到底它的authorship要怎麼去算、它的credit要怎麼去算，我想這個…… |
|
00:03:03,726 |
00:03:08,128 |
羅委員廷瑋 |
關於標準在哪裡，我覺得對這個部分要大量的討論，大家來研究。 |
|
00:03:08,128 ≈
|
00:03:09,227 |
彭副院長信坤 |
對，要討論。 |
|
00:03:09,227 |
00:03:11,249 |
羅委員廷瑋 |
沒有說一刀切就是一定可以或一定不行嘛！ |
|
00:03:11,990 |
00:03:16,371 |
羅委員廷瑋 |
我們透過討論來訂定一個標準，有跡可循嘛！ |
|
00:03:17,292 |
00:03:22,275 |
羅委員廷瑋 |
副主委，針對中研院的建議，請問是否需要對AI訂定新的行為規範？ |
|
00:03:22,275 |
00:03:30,098 |
陳副主任委員炳宇 |
跟委員回報，其實我們國科會一直都有在針對AI制定一些指引的規定。 |
|
00:03:32,543 |
00:03:49,259 |
羅委員廷瑋 |
好，我認同中研院報告所指出的，就是AI確實有助學術發展還有提升整個研究的效率、品質，對這件事情我們正面看待，也肯定國科會長期推動AI的研發以及科研應用的努力。 |
|
00:03:49,579 |
00:03:59,484 |
羅委員廷瑋 |
但是我認為現在AI在學術上的應用有許多混沌、曖昧的地方，我們也要把它拿出來好好的去做一個探討。 |
|
00:03:59,484 |
00:04:10,571 |
羅委員廷瑋 |
所以我們慢慢來討論，無論如何，將AI界定清楚，不論是對學者個人、甚至對整個學術端都是有幫助的，我想大家應該都認同吧？是的。 |
|
00:04:11,470 |
00:04:33,115 |
羅委員廷瑋 |
好，也因為現在大家都使用AI，關於怎麼樣使用AI是合情、合理、合法的，還有什麼樣的情形可能涉及學術倫理的風險，我覺得有必要跟大家說清楚、講明白，因為如果不講清楚，萬一誤觸了，學者的整個研究是不是也會付諸流水？ |
|
00:04:34,996 |
00:04:37,137 |
羅委員廷瑋 |
請問國科會，AI生成的內容怎麼界定？ |
|
00:04:38,615 |
00:04:39,696 |
羅委員廷瑋 |
有使用到AI就算嗎？ |
|
00:04:39,696 |
00:04:41,096 |
羅委員廷瑋 |
應該不是吧？ |
|
00:04:42,657 |
00:04:49,842 |
陳副主任委員炳宇 |
跟委員報告，其實還是要回到研究的本質，AI其實是一個工具，它只是輔助的工具，它不應該成為研究的……主體？ |
|
00:04:52,703 |
00:04:58,368 |
陳副主任委員炳宇 |
對，不能讓研究人員拿來做一些不當的使用然後藉此偷懶或卸責。 |
|
00:05:01,710 |
00:05:01,950 |
羅委員廷瑋 |
我知道。 |
|
00:05:02,269 |
00:05:12,236 |
陳副主任委員炳宇 |
所以我們還是會回到研究的本質，希望PI可以對他所提出的研究內容負責任。對。 |
|
00:05:13,276 |
00:05:19,539 |
陳副主任委員炳宇 |
就算他使用了AI工具產生圖片也好、文字也好，他最後還是要做確認、還是要負責。 |
|
00:05:19,539 |
00:05:23,022 |
羅委員廷瑋 |
所以AI生成是生成到什麼階段就不行？ |
|
00:05:23,903 |
00:05:27,005 |
羅委員廷瑋 |
我們基本上還是希望能夠界定清楚。 |
|
00:05:28,553 |
00:05:50,503 |
陳副主任委員炳宇 |
跟委員報告，也不能說AI生成到什麼程度不行，應該是說就算整篇都是AI生成的，但是核心的價值、核心的內容是他所提出來的原創性，然後他對整篇文章還是要負責任，就算他的文字是經過AI潤稿、潤飾，這個應該都還是屬於合理使用的範圍。 |
|
00:05:50,503 |
00:05:51,042 |
羅委員廷瑋 |
合情、合理？是。 |
|
00:05:51,622 |
00:06:00,707 |
羅委員廷瑋 |
我就是想要問你，如果用AI潤飾文章，把贅字拿掉，但是基本的核心還是他自己的，這個有沒有學理問題？ |
|
00:06:00,707 |
00:06:10,710 |
羅委員廷瑋 |
如果今天我們把它訂定清楚，沒有學理問題，基本上大家就會比較放心，因為怕會有誤觸或相關疑慮。 |
|
00:06:11,490 |
00:06:36,818 |
羅委員廷瑋 |
其實我今天也遇到一個滿尷尬的事情，我今天自拍，但是有一根頭髮翹起來了，我請AI幫我修掉，然後我就貼上去臉書，結果它就直接給我上一個AI標籤，好像說我沒有到那個地方，沒有在那個地點、時間出現，所以就造成一些誤會。 |
|
00:06:37,638 |
00:06:57,342 |
羅委員廷瑋 |
我趕快拿ChatGPT生成的過程跟大家報告，我在那個時間點人在那邊，只是我的頭髮翹起來了，我請AI幫我修掉以後，我就直接貼了這個圖片，這就是有所謂的誤解，但是這個都還好，這只是一個臉書貼文。 |
|
00:06:57,502 |
00:07:11,970 |
羅委員廷瑋 |
我們不希望學術研究的時候會有誤解、誤觸的問題，所以在學術倫理的訂定，我們希望能夠更加嚴謹，不是嚴苛，而是要有一定的步驟，有跡可循。 |
|
00:07:13,631 |
00:07:34,726 |
羅委員廷瑋 |
接下來如果研究成果大量使用AI生成內容，國科會如何認定是否抄襲或造假，這是我今天很關心的問題，關於揭露義務是否有一致標準，是否要採用全面揭露，還是有重大影響的才揭露，這個部分有沒有具體的指引？ |
|
00:07:35,927 |
00:07:37,989 |
陳副主任委員炳宇 |
跟委員報告，其實我們都是要求要全面揭露。 |
|
00:07:38,869 |
00:07:41,891 |
羅委員廷瑋 |
沒關係，你們訂定清楚，好不好？ |
|
00:07:42,173 |
00:07:51,242 |
羅委員廷瑋 |
我們要的是有跡可循，而不是現在我來指導你什麼樣是對、什麼樣是錯，因為實務上你們更清楚。是的。 |
|
00:07:53,163 |
00:07:59,326 |
羅委員廷瑋 |
是否有需要訂定新的AI行為規範？ |
|
00:08:00,048 |
00:08:19,459 |
陳副主任委員炳宇 |
跟委員報告，其實AI行為規範與我們一般學術倫理規範是一致的，所以還是回到研究人員需要有學術的原創性等等，就算使用AI工具，這跟我們以前使用其他工具是一樣的規範。 |
|
00:08:21,290 |
00:08:47,859 |
羅委員廷瑋 |
跟副主委討論一個我認為非常重要但目前相對被忽略的問題，AI在學術圈的使用已經相當普遍，政府除了鼓勵使用之外，有沒有清楚地告訴研究人員應該如何使用AI，使用AI的時候應該搭配哪些保護措施，以及哪些情況是高風險，有沒有去告誡他們，以及有沒有進行相對應的教育？ |
|
00:08:48,987 |
00:08:54,193 |
陳副主任委員炳宇 |
跟委員回報，我們應該是有提供AI指引，而且一直隨時在修正當中。 |
|
00:08:55,674 |
00:09:39,091 |
羅委員廷瑋 |
舉例來說，AI是自己去學習，你可能跟AI不斷地對話，在這個過程中不斷地訓練，讓AI從不懂到懂，也把自己尚未發表的創建、研究、設計、實驗數據與AI分享，這些想法是你獨創的，但是也可能在跟AI討論的過程中被AI學走，獨創的內容一旦系統留存再利用，甚至成為後續模型訓練或者是服務優化素材的時候，就有可能產生研究構想外洩、機密流失、智慧成果被擴散的風險，所以學術單位也說他們不喜歡雲端，他們喜歡地端，對吧？對。 |
|
00:09:39,091 |
00:09:50,155 |
羅委員廷瑋 |
所以這個部分不是不可能發生，而是AI進步太快，一不小心就洩漏，這個部分的教育以及如何使用，我覺得我們也要超前部署。 |
|
00:09:51,155 |
00:09:51,976 |
陳副主任委員炳宇 |
是，我們會做提醒。 |
|
00:09:53,336 |
00:10:00,920 |
羅委員廷瑋 |
請教副主委，將未發表的實驗數據初稿輸入AI進行校對分析的時候，這些敏感資訊的隱私歸屬為何？ |
|
00:10:06,596 |
00:10:11,285 |
陳副主任委員炳宇 |
這些應該都是我們研究人員自己要小心一點的。 |
|
00:10:11,464 |
00:10:17,615 |
羅委員廷瑋 |
自己要小心，所以作為主管機關、相關機關，我們也無法幫他？ |
|
00:10:19,838 |
00:10:38,938 |
陳副主任委員炳宇 |
對，因為我們很難去做實質上限制，就像在沒有AI的年代，我們也會要求你要把實驗數據等等資料，在實驗室當中做好一些控管，我們其實之前都有提醒、要求，AI時代也是一樣的做法。 |
|
00:10:40,121 |
00:11:19,535 |
羅委員廷瑋 |
現在是有AI的時代，大家也要有新的適應，新的自我審視的觀念，但是我們希望在品質建立的過程中，建立監督的機制也好，有相關的輔助功能也好，這個部分不是AI輔助，是我們要輔助使用者或學術研究過程有這樣的相關指引，當然有一部分是一般性應用及學術倫理的歸納，基本上大家都會有一個初步共識，但是我們還是希望後續能夠更加明確，因為我們還不知道AI未來的變化能夠有多少，大家一起加油，好嗎？ |
|
00:11:20,615 |
00:11:21,196 |
陳副主任委員炳宇 |
謝謝委員。 |
|
00:11:21,196 |
00:11:46,242 |
羅委員廷瑋 |
另外簡單問一個問題，訓練AI算力先要有高效能的設備，就是GPU，GPU的成本高達上千萬，學者如果要做這項技術，首先要有上千萬的資本額，這是入門的一個關鍵，政府可以具體協助業者什麼項目，請問數發部？ |
|
00:11:46,361 |
00:12:15,788 |
侯次長宜秀 |
跟委員報告，在算力上，數發部從去年開始就有建立算力讓業者能夠運用，現在已經有一百八十多家廠商來利用，去年比較可惜的狀況是因為預算刪減的關係，我們本來要增購100片GPU就沒有辦法購買，但是我們也另外去跟國網中心商借了一些算力，所以持續性的提供給業者使用。 |
|
00:12:15,947 |
00:12:19,092 |
羅委員廷瑋 |
只有購買GPU這一項方法嗎？ |
|
00:12:20,312 |
00:12:42,755 |
羅委員廷瑋 |
基本上，不管是借算力或者是其他業者在研究地端、在研究所謂大型語言模組的時候，其實不一定都是靠GPU，因為我們也有接觸到一些業者，他們有提供新穎方法，我希望提出這個問題，購買GPU當然固然重要，但是只有GPU不斷地購買是唯一走向嗎？ |
|
00:12:42,755 |
00:12:44,914 |
羅委員廷瑋 |
我覺得這個部分數發部是不是也應該多進行…… |
|
00:12:45,436 |
00:13:05,644 |
侯次長宜秀 |
我了解委員所提到的目前各種不同的、新的降低算力需求的做法，我知道也有硬體廠商提供新的架構，比如用其他的硬體設備來取代GPU，這個都是我們可以討論、合作。 |
|
00:13:06,763 |
00:13:19,638 |
侯次長宜秀 |
另外一個部分是在促參通過以後，我們也希望結合民間的力量、他們所興建的預算能夠提供部分給公共使用。 |
|
00:13:20,838 |
00:13:48,565 |
羅委員廷瑋 |
我最後再提這個問題，就是希望數發部能夠廣納意見，多了解一下廠商所提供的新穎計畫、技術，因為我們也有看到，我覺得不錯，GPU不再是購買的唯一選項，畢竟耗費的大量預算是人民的納稅錢，我們也希望有更切實際或者是花在刀口上的部分，我們能夠來參考，有必要需要我介紹，我們也都願意，只要能夠讓我們的環境、產業更好，我們大家一起努力，好嗎？ |
|
00:13:48,565 |
00:13:48,585 |
侯次長宜秀 |
謝謝委員。 |
|
00:13:49,085 ≈
|
00:13:53,370 |
主席 |
謝謝羅廷瑋召委的質詢，請官員回座。 |
|
00:13:53,670 ≈
|
00:13:57,670 |
主席 |
接下來有請鍾佳濱委員進行詢答。 |