2023/09/30

Draw Things/Diffusionbee 在 MacBook Air M2上初體驗

  上過AI 課體驗過 Leooardo.ai 和 Midjourney 的 Stable Diffusion 生成圖片魅力之後,就想到這些要免費的有限制使用點數,或是每月付費對荷包很傷。就開始想起有沒有AI 落地方案?就是直接在筆電上進行AI 運算。最後找到 Draw Things  ,確實可以在我的 MacBook Air M2 上執行。載下來也確實可以執行,我的筆電規格如下:

MacBook Air M2 16GB RAM

8 核心 CPU 配備 4 個效能核心與 4 個節能核心
10 核心 GPU
16 核心神經網路引擎
100GB/s 記憶體頻寬

GPU / CPU 使用比率 : CPU 10~20% ,GPU 80% ~ 94%

執行生圖中筆電底部溫度,在冷氣房25度C中,溫溫的。這是放在大腿上沒有隔著褲子時的體感。

Draw Things : 生成一張960x640圖片,只要120秒左右。

Diffusionbee : 
      這也是一款可以下載MacBook Air M2 運用Apple Silicon 晶片的軟體。生成一張512x512圖片,只要50秒左右。

結論:MacBook Air M2 用來落地跑 Stable Diffusion model 生圖是沒問題,也可以善用GPU。重點是速度是差強人意,好處是不用像其它Windows 電競筆電配有Nvidia GPU 重量大到可練重訓。想想,這可是在一台輕薄筆電上就可做到。但是,若你是AI 研究或開發人員,建議使用Mac Studio 配備128GB RAM,或是MacBook Pro 16吋,配置64GB 以上的記憶體。

運用 Draw Things APP 來進行AI 生成圖片,需要先對 Stable Diffusion ControlNet LoRa 三者間有點基本認識:

Stable diffusion、ControlNet 和 LoRa 三者之間的關聯主要體現在以下幾個方面:

技術層面:Stable diffusion 和 ControlNet 都是基於神經網路的圖像生成模型,而 LoRa 是一種低功耗廣域網技術。
應用場景:Stable diffusion 和 ControlNet 可以用於生成各種圖像,而 LoRa 可以用於傳輸圖像數據。
數據傳輸:Stable diffusion 和 ControlNet 生成的圖像數據可以通過 LoRa 進行傳輸。

具體來說,Stable diffusion 和 ControlNet 可以用來生成各種圖像,例如人像、風景、物體等。這些圖像數據可以通過 LoRa 進行傳輸,從而實現圖像的遠距離傳輸。

例如,在智慧城市中,可以使用 Stable diffusion 和 ControlNet 生成城市的實時圖像,然後通過 LoRa 將這些圖像數據傳輸到雲端。雲端可以對圖像數據進行分析,從而為城市管理提供支持。

此外,Stable diffusion 和 ControlNet 也可以用來生成虛擬圖像,例如遊戲中的地圖、場景等。這些虛擬圖像數據也可以通過 LoRa 進行傳輸,從而實現虛擬世界中的遠距離互動。


Stable diffusion、ControlNet 和 LoRa 三者結合應用的示例:

智慧城市:在智慧城市中,可以使用 Stable diffusion 和 ControlNet 生成城市的實時圖像,然後通過 LoRa 將這些圖像數據傳輸到雲端。雲端可以對圖像數據進行分析,從而為城市管理提供支持,例如交通流量監控、環境監測等。
工業物聯網:在工業物聯網中,可以使用 Stable diffusion 和 ControlNet 生成工廠的虛擬模型,然後通過 LoRa 將這些模型數據傳輸到雲端。雲端可以對模型數據進行分析,從而為工廠管理提供支持,例如故障診斷、生產優化等。
娛樂:在娛樂領域,可以使用 Stable diffusion 和 ControlNet 生成虛擬遊戲場景,然後通過 LoRa 將這些場景數據傳輸到用戶的設備。用戶可以通過設備在虛擬世界中進行互動,從而獲得更身臨其境的遊戲體驗。

總體而言,Stable diffusion、ControlNet 和 LoRa 三者結合可以為不同領域的應用提供新的解決方案。

以下是一些具體的應用場景:

智慧城市:
    使用 Stable diffusion 和 ControlNet 生成城市的實時圖像,然後通過 LoRa 將這些圖像數據傳輸到雲端,從而實現城市管理中的交通流量監控、環境監測等。
    使用 Stable diffusion 和 ControlNet 生成城市的虛擬模型,然後通過 LoRa 將這些模型數據傳輸到雲端,從而實現城市管理中的故障診斷、生產優化等。
工業物聯網:
    使用 Stable diffusion 和 ControlNet 生成工廠的虛擬模型,然後通過 LoRa 將這些模型數據傳輸到雲端,從而實現工業物聯網中的故障診斷、生產優化等。
    使用 Stable diffusion 和 ControlNet 生成工廠的實時圖像,然後通過 LoRa 將這些圖像數據傳輸到雲端,從而實現工業物聯網中的質量檢測、安全監控等。
娛樂:
    使用 Stable diffusion 和 ControlNet 生成虛擬遊戲場景,然後通過 LoRa 將這些場景數據傳輸到用戶的設備,從而實現虛擬遊戲中的遠距離互動。
    使用 Stable diffusion 和 ControlNet 生成虛擬人物,然後通過 LoRa 將這些人物數據傳輸到用戶的設備,從而實現虛擬交互中的更身臨其境的體驗。

以上只是一些示例,Stable diffusion、ControlNet 和 LoRa 三者結合的應用場景還可以有很多。隨著技術的發展,我們可以期待看到更多創新的應用出現。



2023/09/28

Google 25 年了!

  Google 25週年了! 也沒什麼大事,只是平時依賴它搜尋,看到它自己將Google 換成G25gle,來聊聊而已。點下去G25gle會撒花,有點宅男工程師的小創意!

      身為一個搜尋引擎覇主,25年來還是找不到對手,但因為OpenAI ChatGPT的出現,微軟將Bing 搜尋引擎加入ChatGPT ,似乎有那麼一點想挑戰老大哥地位的味道,但大哥仍有其優勢,AI 方面Google 也是經營及研究的很深。Bard 雖仍在BETA 階段,但和ChatGPT 相比仍然有一些強項。至於後面發展會怎麼樣,我們身為使用者的,都能兩邊受益。畢竟,科技在進步,有競爭有比較才會活絡,跟上就對了。

macOS Sonoma 更新正式釋出及使用心得

  從Beta版時一堆YouTuber就已經在使用了,有那些功能早就知道了。

Apple Music : 不再是 Intel 轉譯了,這是我最在意的,功能上看不出什麼明顯變化。但原生支持Apple Silicon ,不用再轉譯Intel 指令集是多麼地重要。

輸入法: 輸入時會顯示,特別是在切換時。在輸入游標會一個藍色小圖,很清楚知道切到什麼輸入法,另外,輸入文字時聯想字詞也在一旁顯示的更清楚。這個改變我喜歡,實用。

提醒事項:「雜貨列表」會自動將商品分類,使購物更加輕鬆。你也可更改商品的分類方式,列表就會記住你的偏好。全新的「直欄顯示方式」將不同部分的內容整理成橫跨螢幕的直欄顯示,讓你輕鬆一覽大小事。

動態桌布:是很炫,但個人覺得不實用。

Safari : 網片變成APP,這有意思。常用的網站值得這樣用。

AirPods : 多了"適應性模式"可以說,切換模式也有可愛的提示音。自動切換」功能更新後,現在 AirPods 在 Apple 裝置間切換的速度顯著加快7。此外,通話時,按下 AirPods 的耳機柄還可快速將自己靜音或取消靜音。

聽寫:簡單測試一下,說話內容夾雜中文和英文也辨識得不錯。

還有一堆,桌面加入小工具/郵件/輔助使用/螢幕共享/備忘錄.... 等等等的改進。Sonoma 這版真的值得更新!用了兩天,還沒試完這一大堆新更功能。


2023/09/24

iPhone 15 Pro MAX 來了,初體驗心得

  昨天為了去買個256GB USB來備份自己的MacBook Air,跑了一燦坤3C。等待他人結帳時,先去Apple 展區玩了一下MacBook Air 15吋及iPhone 15 Pro MAX。比較好奇的是,9/22才開始交機,9/23我在店面就可以把玩試用,真的是動作很快。

      自己手上的iPhone 8 Plus還很好用,完全沒有要換機,重點是想了解一下,iPhone 15 Pro MAX 有什麼大差異。再來評估明年是否要換iPhone 16.
所以接下來都是以老用戶差了很多代的舊機使用者來看待新機

  • 螢幕:真的是有夠亮,又夠順滑,畫質好是一定的,但畫面變換及內容上下滑動真的有夠絲滑。畫面夠大。讓我有下次要換更大螢幕的念頭。
  • 拍照:對一個目前只有兩個拍照鏡頭的用戶來說,多了一個鏡頭,可以拍更遠,這真的實用。
  • 動態島:有趣,個人看法是可以掩飾螢幕挖孔的缺點,真絕!
  • 音量:相比我的舊機,真的有夠大聲,音質又較好。這很實用。
  • 自訂按鍵:彈性,實用。
其實,自己希望在電力續航上有多個2到3小時的長度,對一個工作上重度使用手機的人來說,不想要常充電,只要回家充一次,隔日放心上班使用。
價格上實在難以入手,不是沒錢,而是花這樣一筆前都可以買一台Windows 筆電了,沒有功能性及需求上的重大吸引力出現,舊手機可以繼續撐,不必要像那些YouTuber一樣每年換手機,他們可是有廣告收入及業配收入的。一般小老百姓,物價上漲,收入沒有明顯增加,錢還省著點花,寧可拿去投資,用來打敗通膨,也不要花在這種CP值很低的消費性3C產品上,這是個人的花錢思維,提供大家參考。


      

2023/09/23

Google逐步蒸餾AI技術,小資料小模型也能打敗LLM的個人看法

  Google發展了一種AI新技術,名為「逐步蒸餾」,以更少的資料訓練專用的小型模型,但效能卻能優於其他方法。

- 發展背景
  - 部署大型語言模型需要大量GPU記憶體。
  - 小型專用模型通常有兩種訓練方法:微調和蒸餾。
  - 蒸餾是將大型模型的知識轉移至小型模型,效能可接近或超越大型模型。

- 逐步蒸餾
  - 是一種簡單機制,使用較少的訓練資料訓練小型模型。
  - 小型模型的效能可能優於少樣本提示語言模型。
  - 主要從大型語言模型擷取自然語言解釋,用於更有效地訓練小型模型。

- 實驗結果
  - 使用逐步蒸餾法的T5模型在多個NLP任務中均超越了其他方法。
  - 2.2億參數的T5模型在e-SNLI資料集上甚至超越了5,400億參數的PaLM模型。
  - 7.7億參數的T5模型在ANLI資料集使用80%資料就超越了PaLM模型。

看來,若可以有小模型,很多人想要落地運用模型就很方便,特別是那些想訓練出專用模型,但訓練資料不方便放到雲端,屬於機密性質的機構。這也可能導致OpenAI 及微軟的AI收入沒有那麼樂觀,反而是落地所需的AI GPU TPU 等硬體需求大增。
另外,語言模型的發展看來是要每幾個月就有大進展,也不用急著去導入,只要先觀察及使用後再來評估對自己企業是否有幫助即可,因為光是一邊評估當紅的技術,就發現又有另一個新技術冒出來!它們只是工具,怎麼運用工具對企業產生效益才是重點。