iVOD / 159261

范雲 @ 第11屆第3會期教育及文化委員會第3次全體委員會議

Index Text
0 范委員雲：（11時47分）謝謝召委，有請主委。
1 主席：請主委備質詢，謝謝。
2 吳主任委員誠文：范委員好。
3 范委員雲：主委早。今天有兩題想跟您請教跟討論，第一個是關於我的預算提案，就是大型學術會議的無障礙配套，第二個是關於AI在學術應用上的角色跟規範。第一個部分我已經跟你們問了，就是我的預算提案，你們有正在準備，你們已經修正國科會補助國內舉辦國際學術研討會作業要點的第八點，未來的申請機構可以編列無障礙措施經費需求，我覺得這個非常好，這點我表示肯定，但是我的預算案其實講到的是要落實，因為我知道對機構來講這還是有點麻煩的事，你有經費補助，它能夠提出不代表它會做，我覺得一開始這個階段這樣是滿好的，所以想請國科會是不是可以參考衛福部2024年、去年10月修正的身心障礙者融合式會議及活動參考指引，訂一個時間表，譬如說你們認為多久內我們國內所有的大型學術會議都能夠有無障礙設施，好嗎？
4 吳主任委員誠文：好，謝謝委員，這個建議是很好，所以我們現在正在努力，因為學界是滿自由的，我們希望首先先透過引導，我們編預算，他們可以來申請，引導他們做，然後慢慢讓大家習慣以後，接下來下階段看看能不能變成是一個規定。
5 范委員雲：這個可能是需要1年、2年或者是更久，可以給我一個時間表，然後不同階段作法，能不能夠2個月內給我辦公室一個報告呢？
6 吳主任委員誠文：好，謝謝委員。
7 范委員雲：好，謝謝，謝謝主委的支持，我想這對大家來講就是我們國際化的重要指標。
8 第二個就是AI，我知道主委非常熟悉這個主題，也很關心，我想國科會應該對這個題目也非常有興趣，正在發展，因為我自己辦公室做了一些研究，2023年Nature的一篇文章就有指出，研究者其實早已開始用ChatGPT，譬如說改英文、改句子，包含總結文獻。這篇文章講到它甚至可以幫你做研究設計，以後甚至還可以幫忙審查論文，所以它的角色其實是越來越重要。我想問主委，你認為AI運用於學術研究哪些行為是可以接受的、哪些是不行，主委可不可以簡答一下？因為後面還有很多要問您，請教您的看法。
9 吳主任委員誠文：有關像ChatGPT這種工具、AI的工具應用在各種各樣的領域是一個趨勢，我們當然也希望它能夠變成一個好的工具，但是要怎麼樣去防止它變成一個規避人的創作，還有智慧財產權的議題等等，我們可能還需要一些配套措施，還需要再研議。我們傳統學術倫理定義的範圍，現在都依然存在，將來我們可能的作法是AI創作的部分要留下軌跡，讓我們可以辨識，這種規定將來可能會慢慢實施。
10 范委員雲：很好！就是留下軌跡可以辨識，或者是所謂的自我揭露，這可能會是基本的，我辦公室做了一些小的research，我們發現Nature 2023年跟Science 2024年就指出，因為AI的快速發展，它的技術其實可以被運用在偽造學術研究上，甚至有一些跡象指出它可以處理假資料，沒有驗證的學術假設，它可以幫你跑出怎麼樣資料是適合的，甚至已經有期刊出現大量的評論文章，譬如說Medical research這邊，commentary事實上是不用peer review，不用同儕審查，它比較容易刊登，某些南亞的機構大學可能會鼓勵他們的員工做這樣的部分，所以這部分已經有產生所謂的假評論。在AI時代下，學術評論投稿跟被撤回的論文暴增，已經有一些研究覺得這個有相關。譬如說我這邊引用Nature 2023年的一篇文章，文章中法國的一位電腦科學家就說有個期刊出版社叫Hindawi，它一年內就撤回了8,000篇，因為它旗下有好幾個期刊，裡面包含會故意用一些字句，避免被抄襲軟體發現，而且有跡象顯示其中的一些論文沒有揭露使用AI，但是這些已經被撤回的論文其實已經有引用過超過3萬5,000字，就整體而言。
11 另外是Science 2024年的文章也指出有個期刊叫做Neurosurgical Review，其編輯說他們暫時停止接受評論性的學術文章，就是commentary，因為他們發現這裡面大量增加的評論文章是由ChatGPT等AI工具撰寫的，仔細去看的話可能品質低落或者是完全沒有相關性，這些是重量級期刊裡面提到的現象。主委剛剛的回答聽起來是同意學術研究中的AI使用要揭露嗎？
12 吳主任委員誠文：是，我認為是這樣，這也是趨勢，但是AI創作不管是影像、影片、文字、藝術品等等，這些東西要留下軌跡有一個叫做浮水印的技術，這個還在發展當中。
13 范委員雲：您認為學術的圖片可不可以用AI？只要有自我揭露留下軌跡，就可以使用AI製作嗎？像ChatGPT很會做圖。
14 吳主任委員誠文：人的研究，他的成果、創造新的知識，這是我們要審定學術文章的重點，他要能夠讓人家相信這不是用工具自動做出來，而是他自己的，這種機制非常困難，還在發展當中，我們希望國科會將來也要慢慢去注意這件事。
15 范委員雲：您說慢慢，但我覺得好像不能慢慢了，要更快一點。
16 吳主任委員誠文：因為需要的工具還在發展當中。
17 范委員雲：對，這個真的是需要專業來討論，了解學術倫理跟了解AI，就是ChatGPT的，你們目前的學術倫理案件審議要點裡面並沒有包含AI這個部分，我想主委很知道，根據陽明交大周倩副校長網路上的公開研究，目前國際上多家學術期刊跟出版社，我就不唸了，它有一些基本的規定，第一個，生成式AI不能成為作者。第二個，有關AI寫作的部分，AI寫作國內我們也知道有蠻多會幫忙，尤其是英文的寫作，所以若使用AI寫作，應在研究方法或聲明等處進行揭露。第三個，作者還是應該對原創性、正確性、完整性負完全的責任。當然這只是一個國內學者的研究，我們辦公室也去查了您剛講到的圖像，非常有趣，我們指標性的Nature已經明確指出，他們不允許全部或部分使用生成式AI創作的影像、影片或插圖，在它的網站上都可以看到，理由是因為研究誠信、出於同意、保護智慧財產權、隱私等這些原因。當然我們未必完全需要跟Nature一樣，但是我想今天借這個機會跟主委討論，我們是不是應該要參考國際標準，國科會找相關的學者專家，開始來評估關於國內期刊的標準，就是我們研究計畫等等，是不是應該要有跟AI的相關規範？哪些是可以的行為，需不需要揭露，哪些是不行的，主委覺得呢？可以這樣做嗎？
18 吳主任委員誠文：好，謝謝委員的建議，這個方向我非常肯定，我們誠信辦公室接下來會努力，我們會把委員這個建議納進來，召集相關的學者，我們訂定相關的規範。
19 范委員雲：感謝主委承諾，您是不是可以在兩個月內給我們一個初步的報告跟方向？
20 吳主任委員誠文：兩個月可以。
21 范委員雲：可以？好，謝謝主委對無障礙的支持，還有對AI方向進一步的釐清跟規範，謝謝。
22 吳主任委員誠文：謝謝。
23 主席：謝謝范雲委員的質詢，主委請回座，謝謝。
24 我們接著繼續進行質詢，請陳培瑜委員質詢，因為是第1位外委會的，時間5分鐘。
公報詮釋資料
page_end 110
meet_id 委員會-11-3-22-3
speakers ["葛如鈞","羅廷瑋","柯志恩","林沛祥","陳秀寳","張雅琳","吳沛憶","林宜瑾","伍麗華Saidhai‧Tahovecahe","劉書彬","葉元之","郭昱晴","范雲","陳培瑜","萬美玲","翁曉玲","鍾佳濱","賴士葆","林倩綺"]
page_start 49
meetingDate ["2025-03-17"]
gazette_id 1142901
agenda_lcidc_ids ["1142901_00003"]
meet_name 立法院第11屆第3會期教育及文化委員會第3次全體委員會議紀錄
content 邀請國家科學及技術委員會主任委員吳誠文列席報告業務概況，並備質詢
agenda_id 1142901_00002