iVOD / 168957
本逐字稿內容由 AI 自動生成，可能包含錯誤、遺漏或誤譯之處。請使用者務必與原始影片音訊內容交叉比對，以確保資訊正確性。另可參考立法院日後釋出的正式公報以取得最終權威版本。
羅廷瑋 @ 第11屆第5會期教育及文化委員會第8次全體委員會議
| Start Time | End Time | Text |
|---|---|---|
| 00:00:00,489 | 00:00:22,052 | 請詢答好 謝謝主席有請國科會陳秉宇副主委中研院彭副院長速發部侯怡秀次長謝謝請三個接班代表各位好 |
| 00:00:23,479 | 00:00:44,181 | 好早安首先先請教副主委用AI生成的文字國際期刊目前是否接受投稿跟委員回報應該是不接受好此外國際間針對AI生成的內容用於學術研究論文發表是否已經有相關的規範或通行的標準 |
| 00:00:47,268 | 00:01:02,799 | 目前應該是沒有相關標準好 國科會今天的書面報告的內容著重於說明推動AI的研發還有這個科研上的應用效益然而就本次專案報告所聚焦的AI研究應用的一個倫理 |
| 00:01:03,880 | 00:01:27,873 | 我们这个议题啊中文院今日的书面报告第六页其实也有相当明确的说明报告写呢针对运用AI从事学术研究以及发表所生的研究伦理以及学术伦理的一个问题啊目前面临的主要课题就是除了定定参考指引等建议性的规范外如何研究适用 |
| 00:01:28,593 | 00:01:52,832 | 以及既有相关伦理的规范例如在指引以要求落实揭露的基础上使用AI生成的文章是否应该揭露内容大量使用AI生成的研究成果是否构成抄袭造假相关机关是否要针对AI定定新的行为规范以供遵循 |
| 00:01:54,076 | 00:02:20,615 | 我想這個部分副院長請問您這裡相關的機關指的是有誰我想跟羅恩報告我們中央醫院已經在開始落實任何一個研究計畫送上來我們都有辦法用AI目前的軟體去偵測到底是有多少部分是AI生成多少部分是AI改寫的那我們都會進一步去對嘛有這樣的技術嗎沒有問題 |
| 00:02:22,556 | 00:02:41,695 | 對 但是相關機關要針對AI制定新的規範你認為是哪個相關機關嘛對 規範的話目前我們眾院自己要求自己那其他學界的部分呢我想應該要科技部跟教育部也來共同應該有國科會吧對 |
| 00:02:43,597 | 00:03:06,027 | 比如說羅遠我們現在面對的一個很多的問題就要各個學門來形成共識比如說過去翻譯的文章算是一個研究成果那他只寫說益助那現在用AI翻譯的到底他的他的那個authorship怎麼去算他的quity怎麼去算我想這個標準在哪裡我覺得這個部分上 |
| 00:03:06,607 | 00:03:30,780 | 要大量的討論嘛大家來研究嘛我們沒有說一刀切一定可以一定不行嘛但是透過討論我們來訂定一個標準有機可循嘛所以副主委針對中研院的建議請問是否需要將AI訂定新的行為規範跟委員回報其實國會我們一直都有在針對AI制定一些指引的規定的部分 |
| 00:03:32,544 | 00:03:49,280 | 我認同中研院報告所指出AI確實有助學術發展提升整個研究的效率品質這件事情我們正面看待但是也肯定國科會長期推動AI的研發以及科研所應用的一個努力 |
| 00:03:49,580 | 00:04:10,591 | 但是現在AI在學術上的應用我認為有許多混沌曖昧的一個地方我們也要把它拿出來好好的去做一個探討所以我們慢慢來討論無論如何將AI界定清楚不論對學者個人而言甚至整個學術端都是有幫助的我想這應該大家都認同吧是的 |
| 00:04:11,211 | 00:04:37,157 | 所以也因為現在大家都使用AI怎麼樣使用AI是合情合理合法什麼樣的情形可能涉及學術倫理的一個風險我覺得有必要跟大家說清楚講明白因為如果不講清楚萬一誤觸了整個學者的研究是不是也會複製流水所以請問國科會AI生成的內容怎麼界定 |
| 00:04:38,615 | 00:05:01,970 | 有使用到AI就算嗎?應該不是吧?各位朋友,其實還是回到研究的本質啦那AI其實還是一個工具,它是輔助的工具它不應該成為一個研究的,就是說它不能讓研究人員拿來偷懶或者卸責啦,這一些的不當使用我知道我知道 |
| 00:05:02,270 | 00:05:27,025 | 所以這個我們還是會回到研究的本質那希望我們的PI就是可以對他所提出的研究的東西負責任他就算使用了AI工具生了圖片也好生了文字也好他最後還是要做確認還是要做負責所以AI生成生成到什麼階段是不行我們基本上還是希望能夠界定清楚 |
| 00:05:28,554 | 00:05:46,381 | 跟委員報告應該是說不能是說AI生成到什麼程度不行應該是說就算整篇都是AI生成的但是核心的價值核心的內容是它所提出來的原創性然後以及它整篇文章它還是有負責任就算它的文字是經過AI論稿認識 |
| 00:05:48,982 | 00:06:16,994 | 這應該都是還是屬於合理型的範圍合情合理對我就想問你嘛就是說他的AI請他論事啊文章啊罪誌啊拿掉但是基本的核心是他的這有沒有學理問題如果今天我們把它定清楚沒有學理問題那基本上大家就比較放心嘛就是怕會有誤觸或者是有這樣相關的疑慮嘛其實我今天我今天也遇到一個蠻尷尬的我今天大概就是自拍 |
| 00:06:18,186 | 00:06:22,517 | 然後我請AI說把我那個有一個頭髮翹起來幫我修掉 |
| 00:06:23,752 | 00:06:52,506 | 然後我就貼上去臉書結果他就直接給我上一個AI標籤好像說我沒有到那個地方然後沒有在那個那個地點時間出現就造成一些誤會啦啊實際上我就趕快拿CHAP GPT生成的過程跟大家報告我在那個時間點我人在那邊只是我的頭髮就翹起來我請他說修掉以後就直接貼了這一個圖片啊那就是有所謂的 |
| 00:06:53,653 | 00:06:53,936 | 誤解嘛 |
| 00:06:54,540 | 00:07:22,836 | 那我們這個都還好這只是一個臉書的貼文我們不希望是學術研究的時候會不會有誤解誤觸的一個問題所以在學術倫理的一個定定我們希望能夠更加的嚴謹不是說嚴苛啦而是說它有一定的步驟有跡可循所以接下來如果研究成果大量使用AI生成內容國科會如何認定是否抄襲跟造假的時候這是我今天很關心的 |
| 00:07:23,696 | 00:07:49,980 | 所以關於揭露的義務是否有一致的標準是否全面揭露要採用還是重大影響的才揭露這個有沒有具體的指引各位報告其實我們都是要求要全面揭露那沒關係啊你訂定清楚嘛是好不好我們要的是有機可循而不是現在我來指導你什麼樣是對什麼樣是錯因為實務上你們更清楚嘛 |
| 00:07:51,122 | 00:08:20,100 | 是的好那我想是否有需要将这个AI定定性的行为规范跟我们报告其实这个所谓的AI的行为规范跟我们一般的学术伦理的规范其实是一致的那所以我们那还是回到这个所研究人员他还是要需要有这个学术的原创性啊等等之类的那就算使用AI工具这跟我们以前这个我们使用其他的工具其实是一样的规范 |
| 00:08:21,291 | 00:08:47,880 | 跟副主委討論一個我認為非常重要但目前相對被忽略的一個問題AI在學術圈的使用已經相當普遍政府也除了鼓勵使用之外有沒有清楚的告訴研究人員應該如何使用AI使用AI的時候應該搭配哪些保護措施以及哪些情況是高風險有沒有去告誡有沒有去做一個相對應的教育 |
| 00:08:48,667 | 00:09:09,710 | 各位回報我們應該是有提供AI的指引而且一直在隨時在修正當中因為我想說舉例來說AI是自己去學習你可能跟AI不斷的對話在這個過程中不斷的訓練讓AI從不懂到懂也把自己尚未發表的創建研究設計實驗數據跟AI說這些想法是你獨創的 |
| 00:09:10,791 | 00:09:34,373 | 你可能在AI跟他討論的過程中被AI學走獨創的內容一旦系統留存再利用甚至成為後續模型訓練或者是服務優化的一個素材的時候就有可能產生研究構想外洩機密流失智慧成果被擴散的一個風險所以我們在學術單位的時候他們也說他們不喜歡雲端 |
| 00:09:35,970 | 00:10:00,940 | 他們喜歡地端耶是的是的對吧對所以這個部分上我也希望說不是不可能發生是AI進步太快一不小心洩漏這部分的一個教育跟如何使用我覺得我們也要超前部署是的我們會做提醒所以請教副主委將未發表的實驗數據出稿輸入AI進行校對分析的時候這些敏感的資訊他的隱私歸屬為何 |
| 00:10:06,597 | 00:10:17,635 | 這些應該都是我們研究人員自己要這個小心一點的自己要小心對對對所以作為主管機關相關機關我們也無法說幫他 |
| 00:10:19,839 | 00:10:39,180 | 對 因為這個我們很難去做所謂的實質上的限制就像說我們也會要求在沒有AI的年代我會要求說你要把你的實驗的數據等等的在實驗室當中做好一些控管等等這個我們其實之前都有做提醒做要求當然 我想其實AI時代也是一樣的我想 |
| 00:10:39,600 | 00:11:02,681 | 今天現在有AI的時代啦,大家也要有新的適應啦,新的自我的一個審視的觀念,但是我們希望說在這個品質建立的過程中,有監督的機制也好啊,可以有相關的輔助的一個功能也好,這部分上不是AI輔助它,是我們要輔助使用者或者是學術研究的一個過程,有這樣子的相關指引啦。 |
| 00:11:03,562 | 00:11:19,535 | 當然你說有一部分的一些一般性應用跟學術倫理的一個歸納基本上大家都會有一個初步的共識但是我們還是希望後續能夠更加明確因為我們還不知道AI未來變化還能夠有多少大家一起加油好嗎 |
| 00:11:20,616 | 00:11:40,045 | 謝謝委員另外簡單就問一個問題訓練AI算力先要有高效能的設備就是GPUGPU的成本高達上千萬學者如果要做這項技術首先要有上千萬的資本額這是入門的一個關鍵那政府可以具體的來協助業者什麼樣的一個項目我想問一下蘇發布 |
| 00:11:46,242 | 00:12:02,313 | 蘇發部在算力上面從去年開始就有建立這個算力讓業者能夠去運用那現在已經有180多家的廠商來利用那去年比較可惜的狀況是因為預算刪減的關係所以我們本來要增購的100片的GPU沒有辦法購買 |
| 00:12:03,394 | 00:12:16,369 | 那但是我們也另外去跟就是國防中心去商界了一些算力所以持續性的提供給這個就是這個業者來使用只有購買GPU這一項 |
| 00:12:18,311 | 00:12:40,313 | 方法嗎?我覺得其實基本上不管是借算力嘛或者是其他的業者在研究地端在研究所謂的大型語言模組的時候其實他不一定都是靠GPU啦因為我們也有接觸到一些業者他們所提供的信用方法我希望提出這個問題就是說購買GPU當然固然重要但是只有GPU不斷的購買 |
| 00:12:41,694 | 00:13:05,664 | 這唯一的走向嗎我覺得這個部分速發部是不是也要應該多提醒我了解委員所提到的這一種各種目前不同的新的降低算力需求的做法那我知道也有硬體廠商他們有新的架構來提供比如說用其他的硬體設備來取代GPU那這個都是我們可以討論合作 |
| 00:13:06,604 | 00:13:21,019 | 那另外一個部分是在初餐的這個通過以後我們也希望結合民間的力量來提供這個部分他們所興建的預算能夠提供部分給公共使用那我會這樣子 |
| 00:13:21,980 | 00:13:48,585 | 最後再提這個問題就是說希望速發部能夠廣大意見多了解一下廠商所提供的新型計畫技術因為我們也有看到我覺得不錯啊GPU不再是購買的唯一選項因為畢竟耗費是大量的人民的預算納稅錢我們也希望說有更切實際或者是花在刀口的一個部分我們能夠來參考有必要需要我介紹我們也都願意只要能夠讓我們這個環境產業更好我們大家一起努力好嗎謝謝委員 |
| 00:13:50,937 | 00:13:52,295 | 好 谢谢罗太太 |