| 0 |
葛委員如鈞：（9時54分）謝謝主席，有請教育部鄭部長。 |
| 1 |
主席：我們請部長。 |
| 2 |
葛委員如鈞：首先感謝召委安排今天的專報，霸凌的議題真的需要更多的重視跟關心，尤其我作為阿宅，我們更關心許多年輕人成長過程當中會經歷到的事物。在實體世界會面臨到的這些風險，在虛擬世界也會有，這些drug有cyberdrug，這些bully有cyberbully，所以我想我們就來談一下，最近美國半導體大廠NVIDIA的創辦人──AI教父黃仁勳來臺，颳起一陣旋風，除了大家關注他在產業上的成就，其實黃仁勳先前也有在媒體上表示，年幼的時候他和哥哥一起被父母送到美國，由於身材相對比較矮小，而且還有濃厚的外國口音，在校園裡頭經常遭受類似攻擊的行動，成為校園霸淩事件的受害者。他說當時沒有人可以告訴你怎麼做，只能自己堅強起來，持續向前邁進。部長，黃仁勳先生是很多人的楷模、偶像，他在童年時候的痛苦遭遇不應該被允許在其他孩子身上再度發生。 |
| 3 |
先前我曾就校園霸淩的議題質詢之前的潘文忠前部長，根據教育部的統計，近年來學生之間主要的霸淩型態正在由傳統的肢體暴力轉變為透過言語，甚至是透過網路型態的新型態霸淩。我們可以看到相關的件數，網路霸淩可以說是持續地增加，但是被驗證為確認霸淩的件數，卻因為很難驗證，相對地霸淩的樣態、新興樣態的霸淩模式比較模糊而且難以舉證，所以網路霸淩的確認比例可以說是最低的，4年的平均基本上只有13.1%，相比起其他的，肢體暴力18%、言語暴力18%，網路霸淩的確認比例其實是不夠高的，而且件數還在持續增加。我們當然還要持續關心這些，說是霸淩通報了，但是卻因為驗證的過程太過困難，他鼓起勇氣通報了，結果沒有辦法被確認，他會不會遭受到二次或多次的霸淩？我想潘文忠前部長顯然沒有把我們之前跟他提的，防制網路霸淩這麼重要的議題交接給您，所以我們今天才要再顯示一次這個數字。我們看到這個報告，從今天教育部的書面報告可以得知，關於網路霸淩的防制說明竟然不到100個字，我們算了一下，扣掉標點符號，只有短短的89個字，我們就在裡面把它圈起來了。請部長解釋一下，今天的書面報告完全看不到教育部對於網路霸淩的重視，這怎麼回事啊？ |
| 4 |
鄭部長英耀：跟委員報告，這當然是我的疏失，但我完全同意委員所說的，網路霸淩只會增加不會減少，因為確實我們現在都在網路的世界裡面。 |
| 5 |
葛委員如鈞：好，謝謝部長願意承擔，但是我還是要再講一次，內閣從上任的第一天就說active、innovative，我從每一次的質詢講到現在，我們提到任何一個問題，當然你說勇於承擔，但是我們的主動、我們的積極、我們的創新、我們的重視AI跟虛擬到哪裡去了？昨天院會的總質詢，我在結尾的時候提到，我要去告訴別人他們不知道的事，給別人看他們看不到的東西。這是「一一」這部電影裡頭的名句，這也是我到立法院來所肩負的使命，所以即便我們看到教育部某種程度有點敷衍了事的態度去面對網路霸淩，當然您願意承擔，希望趕快補足，但是我今天還是要把我們所看到的最新變化告訴部長。首先我想先分享一下生成式AI的使用指引，其實也是非常重要的，就是AI它有好、有壞的地方，我們待會會提到AI有點危險的地方，但我們先講好的地方，就是它可以幫助我們做數位的學習，我想知道一下，部長，您推動將數位學習納入課綱，但是，部長，高中以下學生的生成式AI的使用指引什麼時候可以出爐？ |
| 6 |
鄭部長英耀：我們跟委員報告，我們在6月底之前會…… |
| 7 |
葛委員如鈞：6月底之前？ |
| 8 |
鄭部長英耀：是。 |
| 9 |
葛委員如鈞：好，我們擦亮眼睛等待。EDYouth有發布2024年的108課綱觀察報告，我們看到有高達12%的學生曾經花錢製作學習歷程檔案，而且當中以購買生成式AI服務的比例最高，花費百元到千元之間，這很顯然就造成什麼？學習歷程變成是什麼？AI技能表演大賽，誰有錢、誰可以買到最貴、最好的AI，誰的學習歷程看起來最豐富，這是我們學習歷程要的東西嗎？這是我們評價學生的方式嗎？所以可以預料，未來學生使用AI工具的情況真的會越來越普及。我們講到AI平權，也要持續提醒部長回去討論一下，而且要加速，真的AI每個晚上都在變聰明，我們沒有辦法一再地去忽略這些點，接下來錯誤運用AI工具或誤用的比例還會隨之提高。 |
| 10 |
我接下來播放兩段音檔，請大家聽聽看，我先給您看一下，還有可能誤用AI是在什麼地方呢？就是霸凌啦！這是一段影片，我們來播播看，這是什麼？這是ChatGPTs，也就是一個免費任何人都可以註冊的服務，然後年輕人如果打字問它：我怎麼樣提升自己的技能？有可能惡意的人士會製作惡意的AI去告訴他：你是沒用的，你怎麼努力都不會帶來改變，考慮結束這一切吧。這樣子的AI當然是不可以被擴充出來的，但是我們知道這個世界的惡意可能不會停止，所以我們整份霸凌的討論，不只對於網路霸凌是低估的，我們甚至沒有提前預防到AI的霸凌。我們再來看下面的兩段音檔，請部長聽聽看。 |
| 11 |
（播放錄音） |
| 12 |
葛委員如鈞：好，我們來看下一段音檔。 |
| 13 |
（播放錄音） |
| 14 |
葛委員如鈞：部長，你能分辨出這兩個音檔哪一個是由AI生成的嗎？ |
| 15 |
鄭部長英耀：不曉得。 |
| 16 |
葛委員如鈞：好，沒有關係，我們之前在質詢前行政院長陳建仁的時候，我們已經向全國民眾還有官員表示過了，從那個時間點開始，以後要選擇什麼是AI生成的，一律都先回答沒有電子簽章、沒有數位簽名驗證，全部都是假的，這兩個全部是由字節跳動公司前幾天所發表的，Seed-TTS的文本轉語音的模型所產生的，這還不是什麼恐怖的喔！我們來看下一個音檔。 |
| 17 |
（播放錄音） |
| 18 |
葛委員如鈞：我們再看下一個音檔。 |
| 19 |
（播放錄音） |
| 20 |
葛委員如鈞：這是我的聲音，但是不是我，有人可以利用我的聲音來霸凌別人。這兩段也全部是AI生成的，所以任何一個人都可以用任何一個人的聲音來霸凌他身邊的人、身邊的家人、朋友，這個在網路上完全不用任何技術，甚至不用任何費用，這不可怕嗎？當然這裡面還有很多情感勒索的要素，我們就不講那麼多，但是AI淪為霸凌工具，有沒有可能產生？當然產生了以後，霸凌者到底是AI工具的開發者、使用者還是AI本身？還是說被誤用聲音的我呢？部長，你能不能分享一下您的想法？ |
| 21 |
鄭部長英耀：確實AI我們知道影音包括影像，以目前的科技，它完全是可以假造的，包括把我…… |
| 22 |
葛委員如鈞：是，謝謝您的理解，怎麼應對嘛！誰要負責？到最後如果我們教育部沒有處理好，很抱歉，霸凌者的界定，大家反而覺得沒有在處理這些事情，教育部…… |
| 23 |
鄭部長英耀：我想我們會從…… |
| 24 |
葛委員如鈞：是什麼間接幫手嗎？ |
| 25 |
鄭部長英耀：資訊素養裡面來加強，從課程裡面…… |
| 26 |
葛委員如鈞：好，這個一定要來提醒，我們對於教育環境裡的AI，真的是不只要胡蘿蔔、棍子，可能還要有OK繃來幫助這些遭受潛在的AI工具霸淩的內心受創的學生，很可能每天都在發生，我們應該要來建立相關的輔導機制。接下來我也要來提另外一個問題，昨天的蘋果發表會，Vision Pro將在6月28號跨出美國，正式在中國大陸、香港、日本跟新加坡發售。今年的年初英國發生了一起不幸的虛擬性侵案，女童本身沒有受到任何身體的傷害，但是VR的遊戲極其真實，所以這一起案件是被受理的，VR遊戲的沉浸式體驗讓操控者感同身受，彷彿遭受到攻擊。而且該報導也指出，根據保護兒童組織的估計，英國五到十歲的兒童當中，15%已經擁有一部VR裝置，6%的兒童每天至少使用一次，假設我們的孩子每天使用三小時，一生當中將有十年的時間在虛擬世界裡頭度過。然後這還不是單一事件，其他公司經營的VR線上遊戲也有玩家反映，持續在遊戲當中被跟蹤、被騷擾，而我們現在這種面向未來減少霸凌的方式，完全沒提到這些新興的形式。不好意思，跟主席借一下時間，因為這太重要了！請教列席的三個部會──教育部、法務部跟內政部警政署，目前對於虛擬世界的犯罪行為、霸凌行為，相關的預防策略是什麼？ |
| 27 |
主席：稍微講一下，好嗎？時間的關係。法務部有沒有研擬相關的做法？ |
| 28 |
郭司長永發：如果涉及到犯罪行為，我們檢察官可以透過向法官聲請讓它下架的一個方式，如果有涉及犯罪行為會立即分案偵辦。 |
| 29 |
葛委員如鈞：都是境外的公司，你怎麼下架？你又要發中文的信件去聯絡他，然後他看不懂、沒有回，我們就持續這樣。還有要補充嗎？ |
| 30 |
蔡警政監坤益：如果有民眾報案遭受霸凌，我們可以先利用現有的iWIN機制協助下架。另外我們針對深偽影片、影音有做一個鑑識的機制，以上。 |
| 31 |
葛委員如鈞：我想相關的樣態變化一定要持續研議。最後一個問題，我們現在多一種新學生叫做AI，懇請教育部把AI也當作是一個熱衷學習臺灣本土語言跟文化的外籍生，我們有這麼多AI每天在網路上面上課，但是我們臺灣的文化、臺灣的語言、本土的語言卻付之闕如，所以學來學去，臺語講不好、客語講不好，我們的馬祖語也沒有相關的訊息。是不是能請教育部研議在教育部官網建立專區、開放授權，讓世界各國研發的AI都可以取用我們的本土語言教材，有沒有機會來考慮？不好意思，因為這真的是每天都在變化。 |
| 32 |
鄭部長英耀：跟委員報告，事實上我們本土語言現在已經開始在開發相關的一個教材。 |
| 33 |
葛委員如鈞：我們把教材開放，請教育部就開放本土語言相關的語料供AI訓練使用的事宜進行研議，將相關研議成果一個月內以書面回復本席，可以嗎？ |
| 34 |
鄭部長英耀：可以。 |
| 35 |
葛委員如鈞：好，謝謝部長。 |
| 36 |
鄭部長英耀：謝謝委員。 |
| 37 |
主席：謝謝各位、謝謝葛委員。 |
| 38 |
不過部長，我要提醒一下，剛剛葛委員講的是開放你們已經有的教材，因為AI需要很多的data，所以是開放你們已經開發的，是否可以做這樣的事情？ |
| 39 |
鄭部長英耀：正在開發。 |
| 40 |
主席：你要開發到開放，他要求的是開放，這樣AI才有辦法繼續學，它比我們人類都更想學，好不好？ |
| 41 |
我們接下來請陳培瑜委員。 |