2024/12/31

Google 不是省油的燈, Veo2 將出OpenAI的Sora要小心了

  這一兩週以來利用工作以外的時間都在把玩OpenAI 的Sora影片生成功能。也利用Christmas 無流量限制期間大量生成影片,但結果真的是不滿意,最主要還是人物或是動物或是物理的動作或移動上種種不合理現象。想要用它來製作影片還有一大段路要走。

        Google 的Veo 2 雖然還沒正式推出,但對它已經是充滿期待了。因為它的物理動作比較正確,不會像Sora 常出現不合理動作的問題。只是比較可惜,它還在實驗階段,沒有像Sora一樣可以讓大家使用。


2024回顧及展望2025與新希望

  2024在今天12/29即將接近結束,依照慣例要來回顧一下今年的各種經歷及工作成果。另外,也要展望2025年不管是自己的工作或是未來世界的發展。

2024 工作成果:
  • 個人職涯:身兼二職,也正式帶領團隊完成重大專案。
  • AI應用:長期訂閱及關注AI發展。也建立自己的YouTube 影音頻道,雖然是整合影片生成,圖片生成及音樂生成,也用iMove 簡單製作影片。上傳了短影片及長影片。真的體會到AI 工具的生成威力。
2025 展望:
  • 自我成長:今年工作績效雖然不錯,長官也給予肯定。但明年在帶領團隊上仍有進步空間。
  • 持續學習AI 知識和工具應用在生活及工作上。
  • 投資理財:2024年果達標,2025年許多預測都是不確定性高。但是我個人目標仍是10%的報酬率。重心仍在 ETF 0050,至於台積電則是拉回再買。
  • 學習泰語:持續在口說上有進步,也在閱讀上有成長。對2025年泰國新聞多接觸,全面性的認識泰國。
  • Copilot : 工作上會加強對 copilot 的學習及應用。
  • Gemini : Google 畢竟是強大的公司,雖沒有OpenAI 在AI 上有熱度,但其 Veo 2 是讓我對 Sora 失望後的期待。
2025 新希望:
  • 拍照及攝影:這是我的生活樂趣之一。不管是上傳至Instagram 或是Thread /YouTube 都是今年要新嚐試的方向
  • 書法:最近在YouTube 上找到許多書法學習及深度鑑賞的影片,會持續下去。偶爾會練練硬筆字
  • 造型:找到一付好眼鏡及新的休閒鞋
  • 多涉獵不同領域

2024/12/24

Sora 產生影片心得(三)中文提示詞及不同風格嘗試

  OpenAI宣布ChatGPT Plus用戶可在聖誕假期間,無上限使用影片生成服務Sora。上週我一下子就將每個月的額度用完了,剛好可以利用此段時間多生成不同風格影片來試試。

        這次不走真實風格,想來個皮克斯 Pixel stye ,結果Sora 給我生成像素風格。


Boxing 這個字加上 Baby 曾經被違反暴力政策給擋下,它就不幫我生成影片。

顯然OpenAI 低估了使用量,以為Christmas 假期 Sora 流量減少,放開流量限制一下子就遇到算力瓶頸了。我每次生成影片都容易遇到排隊等待。只有有耐心的等待了... "限量是殘酷的 !!!"

這幾天看了一些YouTuber 的Sora 使用心得,他們多半建議使用英文提示詞,我不信邪,因為ChatGPT 中文理解能力那麼強,這沒有道理啊!

我就直接問ChatGPT 如何建立良好的 Sora prompt :

它給我詳細的說明,也提供不少範例,我就用其中一個試著生成影片:

Prompt : 

在細雨霏霏的傍晚,一位撐著透明傘的女子在石板街道上緩步前行,街燈倒映在濕漉漉的地面上。




Prompt: 

夜晚的漁村港口,一位老漁夫在小木船上整理漁網,遠處燈塔微微閃爍,海浪輕輕拍打岸邊,夜空繁星點點。







結論: Prompt 能力會大大影響成果,多參考其它人影片的提示詞,多多練習才是王道。


2024/12/22

生成式 AI(Generative AI)應用所衍生的各項發展方向

  目前生成式 AI(Generative AI)應用的發展快速,對未來幾年 AI 算力、電力需求與半導體先進製程發展的可能影響,個人提供一個整體的展望。


一、生成式 AI 對算力需求的推動

1. 模型規模持續增長

近年來生成式 AI(如 GPT 系列、PaLM、Llama 等)不斷擴張模型參數規模,從過去數億參數成長到數千億、甚至兆級參數。

大模型對硬體資源的需求極其龐大,包含 GPU/TPU 等專業加速器、超高頻寬記憶體以及高速網路互連。

在研發與推廣過程中,模型不只在訓練時需要大量算力,在推論(Inference)階段,如 ChatGPT 這類應用需要持續提供大量的線上推論服務,也對算力形成大規模且常態性的需求。

2. 資料中心(Data Center)升級與擴建

由於生成式 AI 的應用極度依賴雲端資料中心,未來幾年各大超大型雲服務業者(Hyperscalers)如 Amazon、Google、Microsoft、Meta 以及其他專門供應 AI 基礎設施的業者都將持續擴建 GPU/TPU 叢集。

相較於傳統 CPU 為主的伺服器,GPU/TPU 伺服器在機架內密度更高,功耗也相對更大;同時還需要冷卻、配電及網路互連的大幅升級。

3. AI 專用晶片與客製化解決方案

除了通用 GPU(如 Nvidia、AMD)外,各大企業也積極開發或採用客製化 AI 加速晶片(ASIC、FPGA 甚至 RISC-V 方案),以應對大規模推論的延遲與成本問題。

這些客製化解決方案亦仰賴先進製程來降低功耗並提高運算效率。


二、電力需求與能源挑戰

1. 資料中心能耗快速提升

AI 伺服器高密度部署會造成資料中心整體能耗飆升,未來幾年隨著生成式 AI 普及度提高,對全球資料中心電力需求將持續攀升。

目前已有多家機構預測,隨著 AI 工作負載增加,資料中心能耗在短期內(3-5年)將翻倍,部分關鍵數據中心甚至會出現電力供應瓶頸。

2. 冷卻與散熱方案的重要性

為應對高功耗晶片及機櫃密度的上升,液冷、浸沒式冷卻等更有效率的散熱技術獲得關注。

資料中心選址逐漸考量水資源可近性、電力基礎建設穩定度,以及當地電價與環境法規。未來將出現更多位於高緯度或鄰近再生能源基地的超大規模數據中心。

3. 再生能源與綠色供電壓力

全球各地政府與大型科技企業紛紛承諾達成碳中和(Net Zero),對資料中心的能源使用提出更嚴苛的綠電採購與節能要求。

由於 AI 推廣需要巨量電力,如何確保綠電供應以支撐算力成長,將是未來幾年重要議題。


三、半導體先進製程的發展

1. 摩爾定律仍在進展,但難度遞增

從 7nm、5nm、3nm,再到規劃中的 2nm、1.Xnm,半導體製程每往前推進一代,其研發與製造成本皆大幅上揚,曝光、蝕刻、量測等每個步驟都需要最尖端的設備與技術。

TSMC(台積電)、三星、英特爾皆在競逐先進製程領先地位,尤其為滿足 HPC(High Performance Computing)與 AI 晶片需求,3nm 及 2nm 製程會被優先分配給高附加價值的客戶(例如蘋果、Nvidia、AMD 及超大型雲服務商的客製晶片等)。

2. Chiplet 與先進封裝技術

當單一硅晶圓上繼續微縮變得越來越困難與昂貴,透過 Chiplet(小晶片模組化)與先進封裝技術,將不同功能(CPU、GPU、NPU、IO Die)整合在同一封裝中成為趨勢。

TSMC CoWoS、Intel EMIB、三星 X-Cube 等先進封裝方案,能在減少整體尺寸的同時,改善延遲與功耗,滿足 AI 需要的大規模運算與高速資料傳輸。

3. 先進製程與運算效率

AI 晶片對運算效率(TOPS/W, FLOPS/W)非常敏感,先進製程可有效降低功耗並提升時脈、封裝整合度,對大模型訓練與推論極具吸引力。

後摩爾時代,除了微縮以外,也將更多著眼於晶體管結構創新(GAA、Forksheet、CFET 等)以及材料突破(如新型絕緣材料、低介電常數介面等),以維持性能增長。


四、綜合展望與趨勢

1. AI 算力需求持續高速成長

生成式 AI 將成為企業數位轉型與雲端運算的關鍵驅動力,預計在接下來的 3-5 年,AI 訓練與推論工作負載在整體資料中心比重中顯著提高。

結合多領域應用(醫療、製造、語音影像、文本生成等),更會推升 AI 所需的晶片銷量與雲端運算規模。

2. 電力與節能挑戰日益嚴峻

數據中心能耗上升帶來的問題,將倒逼各大廠持續研發更高效率的硬體(先進製程 + 先進封裝 + 硬體加速器)與更有效率的冷卻技術,同時也增加對綠電的需求。

政府面臨電力基礎建設規劃與碳排放政策的挑戰,企業亦需在高效能運算與環保節能之間取得平衡。

3. 半導體先進製程高度集中化

由於先進製程門檻超高,未來頂尖的先進製程將持續集中在少數廠商手上(台積電、三星、英特爾),且市場需求多半來自 HPC、AI、手機旗艦 SoC。

半導體供應鏈仍存在地緣政治風險,主要先進製程廠積極在多地布局(美國、歐洲、日本等)以降低風險,也會推升整體製造成本。

4. 軟硬體協同設計與新架構興起

生成式 AI 驅動下,硬體廠商與雲服務業者將更緊密合作,共同優化軟硬體體系架構(例如 AI 專用指令集、分散式訓練架構、混合精度運算等)。

量子運算、光子運算、記憶體計算(In-Memory Computing)等新型態技術,也在測試階段嘗試解決傳統架構瓶頸。這些技術能否在 5-10 年內商業化,仍需關注技術成熟度與成本效益。


結論

生成式 AI 的爆發 帶動大模型訓練與推論需求,使 AI 算力需求在未來數年持續快速增長,進而推升資料中心的電力需求冷卻難度

半導體先進製程 在硬體性能與能耗比的提升上扮演關鍵角色;然而,隨製程演進,投資成本、技術門檻與地緣政治風險同步升高,將使先進製程高度集中化與全球供應鏈緊張並存。

•面對龐大的用電量環保節能挑戰,各大科技廠、雲服務商與政府必須在 高效能運算綠電供應技術創新 之間取得平衡。預料未來幾年,圍繞著 AI 晶片研發、先進封裝技術以及資料中心能源效率提升的投資與技術突破仍將持續加速。


AI 產業無疑是未來全球經濟與科技發展的核心驅動力之一,從硬體晶片到軟體服務、再到各垂直應用,皆蘊藏著豐富的成長機會。但投資人應同時認知到該產業的快速變革與競爭風險,並配合全球經濟、產業週期、公司財報表現進行綜合判斷。最終,能否在 AI 股市題材中獲得長期且穩健的報酬,關鍵在於對公司基本面、技術與估值的深度分析,以及合宜的投資組合與風險控管。

2024/12/18

Sora 產生影片心得(二)

  今天第二次來用Sora 生成影片,先用中文提示詞在ChatGPT 讓它先產生好的英文提示詞:

Three elegant and vibrant koi fish, each with unique patterns of red, white, and gold, gracefully swimming in a serene pond. The water is crystal clear, reflecting the sunlight and casting soft ripples as the koi move. Lily pads float gently on the surface, surrounded by blooming lotus flowers. The scene is tranquil, with a hint of soft shadows from overhanging trees and subtle bubbles rising to the surface.





產生出來效果很逼真,但還是怪怪的!

和我第一篇心得一樣,一些物理上的動作不合理,像是這部錦鯉的影片,其中條看起來就像飄在水面上,很不自然。







以上兩影片的光線及質感都很好,就是動作上還是不太自然。這是Sora接下來要克服的。另外,使用ChatGPT 幫你優化 prompt 是要注意的,太多的細節描述及長度是無法產生你預期的效果。

結論:ChatGPT Plus 生成 Sora 影片點數實在不夠用,剛好OpenAI Christmas 期間因為算力需求較少,開放無限制使用。接下來會利用這段時間再多試試。