|
00:00:00,908 |
00:00:14,234 |
葉委員元之 |
謝謝主席，麻煩請數發部及國科會代表。 |
|
00:00:14,575 |
00:00:17,456 |
主席 |
有請數發部、國科會上備詢臺。 |
|
00:00:17,456 ≈
|
00:00:23,976 |
葉委員元之 |
兩位官員好。 |
|
00:00:23,976 |
00:00:35,762 |
葉委員元之 |
我們現在講AI，其實在臺灣大家都說臺灣的AI算還滿厲害，但是都是在講硬體啦，包括像我們現在股市漲那麼多，其實很多都AI的相關，但都是屬於硬體部分。 |
|
00:00:36,441 |
00:00:55,155 |
葉委員元之 |
但我覺得在軟體這一塊，明明臺灣有很好的條件，可是就臺灣的軟體，我不知道現在政府對於軟體的投入資料有多少，其實在上個世代，像電子支付這些的，臺灣的軟體好像有一些並沒有跟上啦，還有社群媒體等等。 |
|
00:00:56,076 |
00:01:02,523 |
葉委員元之 |
現在AI軟體好不容易又有一個新的機會，到底我們對於AI軟體的輔導或者是給予的資源，有沒有可能出現我們AI軟體的獨角獸？ |
|
00:01:08,407 |
00:01:10,911 |
葉委員元之 |
我覺得政府也應該要去重視這一塊。 |
|
00:01:11,230 |
00:01:30,069 |
葉委員元之 |
現在業界比較重視的東西，我要跟兩位講，最主要就是在算力，因為大部分商業的軟體，就是AI軟體，他們要做機器人的話，其實主要還是跟國外的三大雲租用AI算力，而這個費用是非常驚人的。 |
|
00:01:30,668 |
00:01:50,197 |
葉委員元之 |
他要做一個對話機器人，比如說，要放在大賣場，然後顧客去和機器人對話，可能是要找產品或是詢問要買的東西在哪裡，要問一些細節，可能只有5分鐘，但是算力就是非常可觀，我不知道數發部知道這個事嗎？ |
|
00:01:50,197 |
00:01:50,357 |
葉委員元之 |
應該知道嘛，對不對？ |
|
00:01:55,150 |
00:02:15,598 |
侯次長宜秀 |
我們知道業界現在在後端會去對接各個不同的大語言模型，但是在技術的發展中，我們數發部現在也在推進臺灣本土的小語言模型的開發。 |
|
00:02:15,598 |
00:02:17,440 |
葉委員元之 |
你不要答非所問，好不好？ |
|
00:02:18,841 |
00:02:30,312 |
葉委員元之 |
我現在只是在講說，現在我們從業界軟體的需求去探討這件事情，你不用去跟我扯到你有沒有去研發小語言模型，那個是另外一回事啦，不要答非所問。 |
|
00:02:33,135 |
00:02:59,839 |
葉委員元之 |
我們的無限的創意是在民間，如果今天政府能夠站在輔導的立場，知道他們缺什麼，然後來協助他們的話，我們可能就會出現非常多很厲害的AI軟體，甚至可以走向國際跟世界，所以你要去幫忙解決問題，大家現在最care的就是算力嘛，因為現在算力的費用非常可觀，那我想請教一下，我們政府一直在講說要建立算力中心嘛，對吧？ |
|
00:03:00,581 |
00:03:02,882 |
葉委員元之 |
那現在大概是要編列多少預算來做？ |
|
00:03:14,433 |
00:03:17,395 |
陳副主任委員炳宇 |
跟委員回報，我們在AI新十大建設裡面大概編列四十幾億…… |
|
00:03:17,496 |
00:03:17,496 |
葉委員元之 |
四十幾億？ |
|
00:03:17,736 |
00:03:19,338 |
葉委員元之 |
編了四十幾億做算力？ |
|
00:03:19,618 |
00:03:21,440 |
葉委員元之 |
你的終極目標是要花多少錢？ |
|
00:03:34,957 |
00:03:45,621 |
何副處長紀芳 |
報告委員，像我們在沙崙的AI data center的部分，目前在主機的部分大概有123億，為期4年，到117年。 |
|
00:03:46,542 |
00:03:46,923 |
葉委員元之 |
4年編了123億？ |
|
00:03:47,003 |
00:03:49,384 |
何副處長紀芳 |
123億，就是沙崙的這個AI data center。好。 |
|
00:03:49,944 |
00:03:50,463 |
葉委員元之 |
那除了這個之外還有嗎？ |
|
00:03:56,529 |
00:04:05,696 |
何副處長紀芳 |
剛剛講的是不包含土建的部分，另外還有包含在晶創那邊有相關的資源投入。 |
|
00:04:06,115 |
00:04:06,835 |
葉委員元之 |
所以總共多少嘛？ |
|
00:04:08,276 |
00:04:12,420 |
葉委員元之 |
你們知道馬斯克建立算力中心總共花了多少錢嗎？ |
|
00:04:12,420 |
00:04:12,740 |
葉委員元之 |
你們知道多少嗎？ |
|
00:04:16,397 |
00:04:23,819 |
葉委員元之 |
馬斯克建算力中心，總共花了50億美金，50億美金就是一千多億臺幣啊。 |
|
00:04:24,598 |
00:04:27,160 |
葉委員元之 |
那你現在是編一百多億？對。 |
|
00:04:27,160 |
00:04:29,480 |
葉委員元之 |
所以我們國家的資源投入是一百多億啊。 |
|
00:04:30,720 |
00:04:32,181 |
葉委員元之 |
那請問一下，你覺得夠嗎？ |
|
00:04:33,401 |
00:04:35,822 |
陳副主任委員炳宇 |
跟委員報告，我們還是會持續，我們會再做持續的…… |
|
00:04:35,983 |
00:04:39,963 |
葉委員元之 |
你已經編到117年了，4年的計畫也才這樣而已啊！ |
|
00:04:42,043 |
00:04:43,505 |
葉委員元之 |
而且這個算力只會越來越多，不是嗎？對。 |
|
00:04:45,854 |
00:04:50,036 |
陳副主任委員炳宇 |
所以我們現在是會採公私協力的方式，跟民間多多合作來去…… |
|
00:04:50,716 |
00:04:51,655 |
葉委員元之 |
跟民間合作？是。 |
|
00:04:52,816 |
00:05:03,460 |
葉委員元之 |
所以其實感覺上是遠遠不足，但是第二個問題就是，現在國家建置算力中心，如果軟體業者要來使用的話，是用什麼方式？ |
|
00:05:04,082 |
00:05:06,322 |
葉委員元之 |
租，然後補助？ |
|
00:05:07,203 |
00:05:08,924 |
葉委員元之 |
還是用什麼方式？ |
|
00:05:09,885 |
00:05:27,720 |
陳副主任委員炳宇 |
現在國網中心所擁有的算力中心有提供一個叫做AI RAP的平台，我們有大略規劃了三分之一的算力，是提供給新創的業者或中小企業，他們可以來申請，我們會有一些補助。 |
|
00:05:28,319 |
00:05:28,500 |
葉委員元之 |
是補助？對。 |
|
00:05:30,582 |
00:05:30,921 |
陳副主任委員炳宇 |
我們會有一些優惠。 |
|
00:05:31,242 |
00:05:31,903 |
葉委員元之 |
是怎麼樣的優惠？ |
|
00:05:32,882 |
00:05:39,546 |
葉委員元之 |
價格跟一般比，比如說，去租三大雲的話，會差到多少？ |
|
00:05:40,747 |
00:05:42,328 |
姚副主任志民 |
一定比他們便宜啦，只是說…… |
|
00:05:43,128 |
00:05:46,611 |
葉委員元之 |
一定比較便宜，我知道啊，難道你比較貴，人家會跟你租嗎？對。 |
|
00:05:47,131 |
00:05:47,411 |
姚副主任志民 |
基本上……對啊。 |
|
00:05:47,512 |
00:05:48,552 |
葉委員元之 |
那大概是便宜多少？ |
|
00:05:49,173 |
00:05:50,753 |
葉委員元之 |
為什麼今天你們回答問題都…… |
|
00:05:51,253 |
00:05:53,415 |
姚副主任志民 |
我們都有定價啦，至於說…… |
|
00:05:53,415 |
00:05:54,276 |
葉委員元之 |
是便宜多少嘛？ |
|
00:05:56,697 |
00:05:58,759 |
葉委員元之 |
你已經花納稅人的錢建置了，對不對？是。 |
|
00:05:59,319 |
00:06:00,960 |
葉委員元之 |
為什麼要花納稅人的錢建置？ |
|
00:06:01,400 |
00:06:10,345 |
葉委員元之 |
就是希望能夠透過一些方式去輔導我們產業的發展，因為它可能是未來的下一顆新星啊，你們不是都強調自己是AI內閣嗎？是。 |
|
00:06:10,345 |
00:06:13,565 |
葉委員元之 |
所以你的租金當然比外國便宜啊，不然誰要跟你租？ |
|
00:06:14,085 |
00:06:16,267 |
葉委員元之 |
我現在問的是你租金大概便宜多少。 |
|
00:06:18,319 |
00:06:25,967 |
姚副主任志民 |
這個我回去查，因為他們的價格一直在變，因為這個變化很快，那我們的定價都出來了。 |
|
00:06:26,108 |
00:06:35,377 |
葉委員元之 |
你們制定一個政策，做了一件事情，制定了一個政策，都沒有去思考價格大概定到多少能幫助得了產業，都沒有去想這個問題。 |
|
00:06:35,796 |
00:06:39,220 |
葉委員元之 |
我現在問，理論上這個東西你應該對答如流了，還要回去查喔？ |
|
00:06:40,686 |
00:06:47,834 |
侯次長宜秀 |
跟委員報告，數發部這邊有算力的支持，那個部分是透過審查流程，是免費的。 |
|
00:06:48,535 |
00:06:52,459 |
葉委員元之 |
所以這個是新創來跟數發部申請都免費，是不是？是。 |
|
00:06:53,000 |
00:06:54,321 |
葉委員元之 |
那審查要件是什麼？ |
|
00:06:54,321 |
00:06:56,944 |
侯次長宜秀 |
審查要件我請數產署的同仁跟您補充。 |
|
00:06:59,002 |
00:07:09,615 |
巫副組長建恒 |
報告委員，我們審查要件就是它的新穎性，還有可以產品化等等，這些對於AI產業發展比較多助益的一些要件。好。 |
|
00:07:09,795 |
00:07:11,637 |
葉委員元之 |
那請問一下，他們申請算力有上限嗎？ |
|
00:07:13,341 |
00:07:13,941 |
巫副組長建恒 |
我們還是要看…… |
|
00:07:14,903 |
00:07:15,362 |
葉委員元之 |
有上限嗎？ |
|
00:07:15,362 |
00:07:16,444 |
葉委員元之 |
上限是多少？ |
|
00:07:17,085 |
00:07:20,088 |
巫副組長建恒 |
我們大概是用點數來算，大概10,000點、20,000點。 |
|
00:07:21,588 |
00:07:22,170 |
葉委員元之 |
10,000點、20,000點是指什麼？ |
|
00:07:22,170 |
00:07:23,351 |
葉委員元之 |
一個月10,000點、20,000點？ |
|
00:07:23,351 |
00:07:24,651 |
巫副組長建恒 |
不是，就是一個週期。 |
|
00:07:25,052 |
00:07:31,739 |
巫副組長建恒 |
一個週期大概大概1個月，一個點數我們大概是算10萬tokens。 |
|
00:07:32,559 |
00:07:33,000 |
葉委員元之 |
10萬tokens？ |
|
00:07:33,960 |
00:07:34,280 |
巫副組長建恒 |
類似這樣子。 |
|
00:07:34,440 |
00:07:35,260 |
巫副組長建恒 |
就是有一個定量。 |
|
00:07:35,720 |
00:07:40,844 |
巫副組長建恒 |
因為我們的算力不足，所以我們就是用排隊的方式。排隊？對。 |
|
00:07:40,844 |
00:07:42,365 |
葉委員元之 |
所以就是很有限嘛！ |
|
00:07:42,884 |
00:07:52,410 |
葉委員元之 |
就講得好像很厲害，什麼AI內閣講了一大堆，然後業界真正需要的算力就是很有限嘛，然後問個價格也講不太清楚。好啦。 |
|
00:07:53,450 |
00:08:17,967 |
葉委員元之 |
我知道政府一直在講主權AI、主權AI，但是說實在的，政府當然有發展AI的需求，可是其實業界對於主權AI期望不高，大家都認為這個跟他們比較沒有關係，其實算力才是最相關的，假設想要輔導我們的AI軟體的話，比起主權AI，算力這一塊真的應該要多投入一些資源。 |
|
00:08:20,108 |
00:08:24,102 |
葉委員元之 |
那我想問一下，你們講的主權AI是指大語言模型嗎？ |
|
00:08:26,005 |
00:08:29,805 |
侯次長宜秀 |
跟委員報告，主權AI其實不只是大語言…… |
|
00:08:29,805 ≈
|
00:08:30,805 |
葉委員元之 |
有沒有？ |
|
00:08:30,805 ≈
|
00:08:31,805 |
葉委員元之 |
是不是大語言？ |
|
00:08:30,305 |
00:08:31,607 |
葉委員元之 |
有沒有包括？ |
|
00:08:32,607 |
00:08:39,950 |
侯次長宜秀 |
會包括大語言模型，但是更重要的是人才、資料、算力整合，能夠訓練AI的一個能力。 |
|
00:08:40,109 |
00:08:43,451 |
葉委員元之 |
當然啊，當然都需要，因為這個是一個整體嘛！ |
|
00:08:44,252 |
00:08:51,434 |
葉委員元之 |
那我想請教一下，我們現在要建置自己的大語言模型，那現在有趕上兩年前的OpenAI嗎？ |
|
00:08:56,157 |
00:08:56,398 |
葉委員元之 |
誰可以回答？ |
|
00:08:58,921 |
00:09:00,161 |
葉委員元之 |
數發部不能回答嗎？ |
|
00:09:00,161 |
00:09:03,926 |
葉委員元之 |
你們不是輔導軟體的嗎？ |
|
00:09:03,926 |
00:09:07,108 |
葉委員元之 |
我們現在的主權AI大語言模型有沒有趕上兩年前的OpenAI？ |
|
00:09:07,759 |
00:09:10,861 |
侯次長宜秀 |
委員指的主權AI是指哪一個模型？ |
|
00:09:10,961 |
00:09:13,664 |
葉委員元之 |
就是大語言模型，我們現在政府要發展的大語言模型。 |
|
00:09:13,825 |
00:09:26,058 |
侯次長宜秀 |
在策略上面，數發部並不著重於大語言模型的開發，我們著重的是特用型的模型，並不是要去開發一個像OpenAI那樣子的frontier模型…… |
|
00:09:26,217 |
00:09:29,020 |
葉委員元之 |
所以我們的主權AI不是大語言模型，是特用模型？ |
|
00:09:29,941 |
00:09:51,321 |
侯次長宜秀 |
應該是說，如果委員說的主權AI的話，我們數發部應該不是專注在您所定義的這個模型上面，而是在建構整個臺灣主權AI能力，包括您剛剛所提到的人才、資料、資金、算力這些能力上面。 |
|
00:09:53,163 |
00:09:57,226 |
侯次長宜秀 |
委員剛剛講的主權AI的大語言模型是不是專門指TAIDE？ |
|
00:09:59,088 |
00:09:59,969 |
侯次長宜秀 |
可能要請中研院來跟您說明。好。 |
|
00:10:00,168 |
00:10:00,188 |
葉委員元之 |
那請中研院。 |
|
00:10:05,917 |
00:10:32,984 |
黃副研究員瀚萱 |
向委員報告，您剛剛提到的OpenAI的模型，我們確實有拿一個OpenAI的模型做為參考的基準，去年有一顆叫做OSS 20B的模型，我們拿它來當作一個參考，我們的模型在一些公務系統的應用上面的服務，對於臺灣的知識、臺灣的認知能力是有超越原版的OpenAI的OSS的模型。 |
|
00:10:33,226 |
00:10:38,492 |
葉委員元之 |
所以我們現在已經超過了OpenAI、ChatGPT？對。 |
|
00:10:39,835 |
00:10:43,039 |
黃副研究員瀚萱 |
其中一顆比較小的模型已經超過了。 |
|
00:10:43,361 |
00:10:44,924 |
葉委員元之 |
有超過一顆比較小的模型？對。 |
|
00:10:45,966 |
00:10:47,487 |
葉委員元之 |
那我講的大語言模型呢？ |
|
00:10:49,562 |
00:10:52,184 |
黃副研究員瀚萱 |
它是比較小的大語言模型。 |
|
00:10:55,266 |
00:10:56,727 |
葉委員元之 |
好，那加油啦。加油。 |
|
00:10:57,848 |
00:11:16,242 |
廖所長弘源 |
委員，我是中研院資訊所的所長，我也是TAIDE計畫裡面的一員，剛剛您講的那個東西，大語言模型，以我們臺灣人口的規模，我們沒有辦法跟Google或OpenAI這種大公司來匹敵這種general的LLM，是沒有辦法的。 |
|
00:11:16,601 |
00:11:51,786 |
廖所長弘源 |
我們能做的就是把它的東西當作一個foundation model，經過supervised fine-tuning或pre-training來帶到中游，讓我們的百工百業……因為在中游有比較大的軟體公司，或是由中研院或國科會這樣的政府機構來幫助我們的中小企業，把上面那種大型語言模型想辦法帶到中游來，然後讓中游做一個平台，來support我們臺灣的百工百業，所以我們沒有能力，因為就像剛剛講的算力部分…… |
|
00:11:52,665 |
00:12:04,348 |
葉委員元之 |
我問這個問題，最主要是這樣啦，就是說，我們大家講AI，講得很大，方向很大，但是真正落實到大家真正的需求，有沒有真的具體地照顧得到？ |
|
00:12:05,927 |
00:12:13,289 |
葉委員元之 |
就像主權AI，喊得很大聲，因為每個國家都要主權AI啊，但是實際上做出來的東西大家真的用不用得到？ |
|
00:12:13,609 |
00:12:23,770 |
葉委員元之 |
還是說，其實大部分的人還是會去用，比如說Google或其他的AI，這個是大家關切的問題，所以不要喊太多口號。是。 |
|
00:12:23,770 |
00:13:25,407 |
廖所長弘源 |
我跟委員報告一下，是有實際用到的，比如說，我們最近用了一個影像的部分，我們就是在上游的部分就用YOLOv7、YOLOv9，就是我們臺灣中研院自己發展出來的世界級的物件偵測系統，新竹的上市公司義隆電子把它加工以後，結合聯發科跟聯詠的12奈米晶片，還有NVIDIA的Orin晶片，合在一起，軟硬體結合以後，訓練一個中游的平台，放在CCTV上面，因為以前我們的六都的CCTV，比如說交通中心的話，都只是看到video，但是都沒有做任何的處理，但是現在義隆電的這個系統等於結合剛剛講的軟體跟硬體，用臺灣本土的帶到中游去，現在這個CCTV是用在高雄捷運的車廂裡面，就可以觀察車廂裡面的狀態，這是實際的用途。 |
|
00:13:25,586 |
00:13:31,947 |
葉委員元之 |
OK，好，謝謝。好。 |
|
00:13:32,447 ≈
|
00:13:35,304 |
主席 |
謝謝葉元之委員的質詢。 |
|
00:13:35,604 ≈
|
00:13:37,032 |
主席 |
請官員回座。 |
|
00:13:37,332 ≈
|
00:13:42,189 |
主席 |
蔡易餘委員、蔡易餘委員，蔡易餘委員不到。 |
|
00:13:42,489 ≈
|
00:13:47,918 |
主席 |
今天登記質詢的委員均已發言完畢，詢答結束。 |
|
00:13:48,218 ≈
|
00:13:50,218 |
主席 |
報告及詢答完畢。 |
|
00:13:50,518 ≈
|
00:13:56,804 |
主席 |
委員所提書面質詢或相關資料，均列入紀錄，刊登公報。 |
|
00:13:57,104 ≈
|
00:14:07,389 |
主席 |
對於委員質詢時要求提供的相關資料或未及答復的部分，請相關機關儘速以書面答復。 |
|
00:14:07,689 ≈
|
00:14:15,118 |
主席 |
報告委員會，今日議程全部處理完畢，大家辛苦了，現在休息，散會。 |
|
00:14:15,418 ≈
|
00:14:16,561 |
主席 |
休息（12時53分） |