有人問我再過個 5年、10年後AI技術更成熟的的世界,還需要那麼多寫程式的工程師嗎?
我回答他,有些全新的程式是AI寫不來的,例如:矛與盾的對決,加密vs解密,攻擊vs防禦,仿真vs識別,在AI的訓練資料裡沒有的程式,也沒辦法透過AI來產生。
現在即使對語言一無所知,把使用者的需求餵給 Copilot、Cursor、ChatGPT、Claude,就可以取得程式碼,而且 AI 對 Python 格外的精通,正確率特別高,可能會產生出錯誤的程式。雖然不下苦功也能寫出 Python,何必認真從頭學?問題在產生的程式碼出錯或需要與其他功能整合時,看不懂程式碼要如何除錯?
目前台灣的升學制度是想讀分數高的學校,還是只能乖乖刷題,增加解題能力。
要學有用的東西,什麼才是有用的東西?會不會我覺得有用,別人覺得無用?
洪士灝分享心得關於許秉倫在美國留學就業後創立的Liger Kernel開源軟體專案的演講:
https://www.facebook.com/shihhaohung/posts/pfbid02q9DiPofC1PPfK8SWxN3jxdYYkRQWRj7r5xGnaEEnWCXzMKP9JRU9eygZfbzQMT2el
很多學生從小為了考試而一路刷題到現在,還要繼續花時間刷題,我也管不著,只能建議各位趁著在校時多充實素養、學一些有用的東西。
在科舉時代,熟背經史詩文的人可以上位當官,但不見得能做大事、解決問題。要知道,現在的AI比絕大多數人都要會刷題、會作刻板文章、寫程式,於是有人說學生們不用再學寫程式了。
的確,很可能不用再寫一些別人寫過的程式,但如果不學寫程式的話,如何懂得電腦科學中所蘊藏的道理(運算思維)呢?如果遇到未曾碰觸過的新領域,光靠嘴砲指揮AI就能研發程式來解決問題嗎?AI最可能淘汰的是只會照本宣科、依樣畫葫蘆的人,奉勸各位不要一昧從眾,而喪失個人的特色。
演講內容: Liger Kernel 深度解說 – 台大資工專題演講
https://www.youtube.com/watch?v=lhfH1xVEzYU
演講的簡介:
大型語言模型很耗費算力,對其技術發展和應用上造成相當大的負擔。從系統層級進行效能優化工程,降低存放語言模型參數所需的記憶體空間、提高存取語言模型參數的效率,才能充分發揮GPU的算力,大幅節省系統建置的成本以及運作的負擔。
我們請到目前在LinkedIn工作的許秉倫(Byron Hsu),12/23下午在台大資工系演講他前一陣子發佈的Liger Kernel開源專案,深度解說這個專案的技術如何幫使用者省下大把鈔票,歡迎對技術有興趣的朋友來聽。請注意,這場並非常見的科普演講,聽者須對大型語言模型和計算機系統具備一定的基礎才好聽懂。
Liger Kernel已經有很多人在使用了,不必我在這裡鼓吹。我想在此特別推的是系統層級、效能優化類的開源系統軟體開發,這是我向來認為國內產學界應該多注重的事業。當年秉倫就讀台大電機系的時候,曾經跟我做過專題,對這類開源軟體特別感興趣。後來他留學取得碩士學位的UC Berkeley,更是開源軟體專案的先驅和搖籃。以台灣在系統產業上的根基,如果有心耕耘開源系統軟體的話,可以多跟國外接軌,做出有影響力的專案。
這次秉倫來演講,他本人對台灣的產學界也有一些想法,包含:
- 促進台灣學界對於LLM System的重視與研究
- 促進台灣業界對LLM system的投入
- 增加對不同hardware vendor的support (e.g. made in taiwan的accelerators)
- 增加community中的台灣勢力