2024/12/31
Google 不是省油的燈, Veo2 將出OpenAI的Sora要小心了
2024回顧及展望2025與新希望
- 個人職涯:身兼二職,也正式帶領團隊完成重大專案。
- AI應用:長期訂閱及關注AI發展。也建立自己的YouTube 影音頻道,雖然是整合影片生成,圖片生成及音樂生成,也用iMove 簡單製作影片。上傳了短影片及長影片。真的體會到AI 工具的生成威力。
- 自我成長:今年工作績效雖然不錯,長官也給予肯定。但明年在帶領團隊上仍有進步空間。
- 持續學習AI 知識和工具應用在生活及工作上。
- 投資理財:2024年果達標,2025年許多預測都是不確定性高。但是我個人目標仍是10%的報酬率。重心仍在 ETF 0050,至於台積電則是拉回再買。
- 學習泰語:持續在口說上有進步,也在閱讀上有成長。對2025年泰國新聞多接觸,全面性的認識泰國。
- Copilot : 工作上會加強對 copilot 的學習及應用。
- Gemini : Google 畢竟是強大的公司,雖沒有OpenAI 在AI 上有熱度,但其 Veo 2 是讓我對 Sora 失望後的期待。
- 拍照及攝影:這是我的生活樂趣之一。不管是上傳至Instagram 或是Thread /YouTube 都是今年要新嚐試的方向
- 書法:最近在YouTube 上找到許多書法學習及深度鑑賞的影片,會持續下去。偶爾會練練硬筆字
- 造型:找到一付好眼鏡及新的休閒鞋
- 多涉獵不同領域
2024/12/24
Sora 產生影片心得(三)中文提示詞及不同風格嘗試
Prompt :
在細雨霏霏的傍晚,一位撐著透明傘的女子在石板街道上緩步前行,街燈倒映在濕漉漉的地面上。
Prompt:
夜晚的漁村港口,一位老漁夫在小木船上整理漁網,遠處燈塔微微閃爍,海浪輕輕拍打岸邊,夜空繁星點點。
2024/12/22
生成式 AI(Generative AI)應用所衍生的各項發展方向
一、生成式 AI 對算力需求的推動
1. 模型規模持續增長
• 近年來生成式 AI(如 GPT 系列、PaLM、Llama 等)不斷擴張模型參數規模,從過去數億參數成長到數千億、甚至兆級參數。
• 大模型對硬體資源的需求極其龐大,包含 GPU/TPU 等專業加速器、超高頻寬記憶體以及高速網路互連。
• 在研發與推廣過程中,模型不只在訓練時需要大量算力,在推論(Inference)階段,如 ChatGPT 這類應用需要持續提供大量的線上推論服務,也對算力形成大規模且常態性的需求。
2. 資料中心(Data Center)升級與擴建
• 由於生成式 AI 的應用極度依賴雲端資料中心,未來幾年各大超大型雲服務業者(Hyperscalers)如 Amazon、Google、Microsoft、Meta 以及其他專門供應 AI 基礎設施的業者都將持續擴建 GPU/TPU 叢集。
• 相較於傳統 CPU 為主的伺服器,GPU/TPU 伺服器在機架內密度更高,功耗也相對更大;同時還需要冷卻、配電及網路互連的大幅升級。
3. AI 專用晶片與客製化解決方案
• 除了通用 GPU(如 Nvidia、AMD)外,各大企業也積極開發或採用客製化 AI 加速晶片(ASIC、FPGA 甚至 RISC-V 方案),以應對大規模推論的延遲與成本問題。
• 這些客製化解決方案亦仰賴先進製程來降低功耗並提高運算效率。
二、電力需求與能源挑戰
1. 資料中心能耗快速提升
• AI 伺服器高密度部署會造成資料中心整體能耗飆升,未來幾年隨著生成式 AI 普及度提高,對全球資料中心電力需求將持續攀升。
• 目前已有多家機構預測,隨著 AI 工作負載增加,資料中心能耗在短期內(3-5年)將翻倍,部分關鍵數據中心甚至會出現電力供應瓶頸。
2. 冷卻與散熱方案的重要性
• 為應對高功耗晶片及機櫃密度的上升,液冷、浸沒式冷卻等更有效率的散熱技術獲得關注。
• 資料中心選址逐漸考量水資源可近性、電力基礎建設穩定度,以及當地電價與環境法規。未來將出現更多位於高緯度或鄰近再生能源基地的超大規模數據中心。
3. 再生能源與綠色供電壓力
• 全球各地政府與大型科技企業紛紛承諾達成碳中和(Net Zero),對資料中心的能源使用提出更嚴苛的綠電採購與節能要求。
• 由於 AI 推廣需要巨量電力,如何確保綠電供應以支撐算力成長,將是未來幾年重要議題。
三、半導體先進製程的發展
1. 摩爾定律仍在進展,但難度遞增
• 從 7nm、5nm、3nm,再到規劃中的 2nm、1.Xnm,半導體製程每往前推進一代,其研發與製造成本皆大幅上揚,曝光、蝕刻、量測等每個步驟都需要最尖端的設備與技術。
• TSMC(台積電)、三星、英特爾皆在競逐先進製程領先地位,尤其為滿足 HPC(High Performance Computing)與 AI 晶片需求,3nm 及 2nm 製程會被優先分配給高附加價值的客戶(例如蘋果、Nvidia、AMD 及超大型雲服務商的客製晶片等)。
2. Chiplet 與先進封裝技術
• 當單一硅晶圓上繼續微縮變得越來越困難與昂貴,透過 Chiplet(小晶片模組化)與先進封裝技術,將不同功能(CPU、GPU、NPU、IO Die)整合在同一封裝中成為趨勢。
• TSMC CoWoS、Intel EMIB、三星 X-Cube 等先進封裝方案,能在減少整體尺寸的同時,改善延遲與功耗,滿足 AI 需要的大規模運算與高速資料傳輸。
3. 先進製程與運算效率
• AI 晶片對運算效率(TOPS/W, FLOPS/W)非常敏感,先進製程可有效降低功耗並提升時脈、封裝整合度,對大模型訓練與推論極具吸引力。
• 後摩爾時代,除了微縮以外,也將更多著眼於晶體管結構創新(GAA、Forksheet、CFET 等)以及材料突破(如新型絕緣材料、低介電常數介面等),以維持性能增長。
四、綜合展望與趨勢
1. AI 算力需求持續高速成長
• 生成式 AI 將成為企業數位轉型與雲端運算的關鍵驅動力,預計在接下來的 3-5 年,AI 訓練與推論工作負載在整體資料中心比重中顯著提高。
• 結合多領域應用(醫療、製造、語音影像、文本生成等),更會推升 AI 所需的晶片銷量與雲端運算規模。
2. 電力與節能挑戰日益嚴峻
• 數據中心能耗上升帶來的問題,將倒逼各大廠持續研發更高效率的硬體(先進製程 + 先進封裝 + 硬體加速器)與更有效率的冷卻技術,同時也增加對綠電的需求。
• 政府面臨電力基礎建設規劃與碳排放政策的挑戰,企業亦需在高效能運算與環保節能之間取得平衡。
3. 半導體先進製程高度集中化
• 由於先進製程門檻超高,未來頂尖的先進製程將持續集中在少數廠商手上(台積電、三星、英特爾),且市場需求多半來自 HPC、AI、手機旗艦 SoC。
• 半導體供應鏈仍存在地緣政治風險,主要先進製程廠積極在多地布局(美國、歐洲、日本等)以降低風險,也會推升整體製造成本。
4. 軟硬體協同設計與新架構興起
• 生成式 AI 驅動下,硬體廠商與雲服務業者將更緊密合作,共同優化軟硬體體系架構(例如 AI 專用指令集、分散式訓練架構、混合精度運算等)。
• 量子運算、光子運算、記憶體計算(In-Memory Computing)等新型態技術,也在測試階段嘗試解決傳統架構瓶頸。這些技術能否在 5-10 年內商業化,仍需關注技術成熟度與成本效益。
結論
•生成式 AI 的爆發 帶動大模型訓練與推論需求,使 AI 算力需求在未來數年持續快速增長,進而推升資料中心的電力需求與冷卻難度。
•半導體先進製程 在硬體性能與能耗比的提升上扮演關鍵角色;然而,隨製程演進,投資成本、技術門檻與地緣政治風險同步升高,將使先進製程高度集中化與全球供應鏈緊張並存。
•面對龐大的用電量與環保節能挑戰,各大科技廠、雲服務商與政府必須在 高效能運算、綠電供應 與 技術創新 之間取得平衡。預料未來幾年,圍繞著 AI 晶片研發、先進封裝技術以及資料中心能源效率提升的投資與技術突破仍將持續加速。
AI 產業無疑是未來全球經濟與科技發展的核心驅動力之一,從硬體晶片到軟體服務、再到各垂直應用,皆蘊藏著豐富的成長機會。但投資人應同時認知到該產業的快速變革與競爭風險,並配合全球經濟、產業週期、公司財報表現進行綜合判斷。最終,能否在 AI 股市題材中獲得長期且穩健的報酬,關鍵在於對公司基本面、技術與估值的深度分析,以及合宜的投資組合與風險控管。
2024/12/18
Sora 產生影片心得(二)
Three elegant and vibrant koi fish, each with unique patterns of red, white, and gold, gracefully swimming in a serene pond. The water is crystal clear, reflecting the sunlight and casting soft ripples as the koi move. Lily pads float gently on the surface, surrounded by blooming lotus flowers. The scene is tranquil, with a hint of soft shadows from overhanging trees and subtle bubbles rising to the surface.