2023/10/31

全家土司,可以啊!

  在全家便利商店買土司來吃?這不可能是我會做的事。平時都會去全聯買一整條土司,真的便宜多。

    只有兩片,不便宜! 再買一顆茶葉蛋,中餐就搞定了。

    晚上回家,再買一包回去給家人當明天早餐。

品名不一樣。但都有一樣的標章。口感差不多,也算是好吃。
 

2023/10/26

Mazda 3 換普利司通T005A輪胎

  家裡的馬自達3 (Mazda 3) 開了超過6.8萬公里,剛好被刺破輪胎,心想也磨的差不多了,再加上已是第三次被刺破輪胎了,順便一次全換新胎。
      那知到了朋友介紹的輪胎行,也指明了普利司通T005這款,價格也合理。舊胎四顆都換下來時,老板特別指著溝槽中的記號,表示其實早該換了,只是因為不時都是開短程,安全性上還可以撐到現在。自己決心想換也主要是一直覺得上高速公路很吵雜,明明新車買來時很安靜的。



      老板特別說明,BRIDGESTONE 205/60R/16 T005A 這款是亞洲款,18吋以上才有原廠胎。所以型號末一碼為A,表示Asia 。我是不知道是真是假。反正,換好後再進行輪胎定位及底盤調整,老板再開出去試車,看看調的如何。最後,自己開走後發現一般市區道路有明顯的感受是有安靜一點點,路上的感覺是也偏硬的路面回饋。當天是週六,特地晚上走國道3,到關西休息區,進行來回試車。確實,在高速下也明顯安靜多了。

       為了行車安全,請注意輪胎磨損狀況,錢不能省。安全最重要,再加上老胎容易被路上尖銳物刺破,該換就換。



2023/10/15

JONNIE WALKER GOLD LABEL RESERVE 金牌珍藏初體驗+汽泡飲

  今年回老家,親友送了兩瓶威士忌,這也是他們收到朋友送的,自己也不喝,放了許多年,在無法推辭之下就收下了。印象中在電視廣告中看過JONNIE WALKER這個牌子,就是一個紳士拿著手杖在走路的樣子。個人對酒其實沒什麼愛好,偶爾會喝點啤酒,有水果味的那種。另外,有一陣子發神經,也喝了幾瓶紅酒。都沒有上癮,也沒有習慣性的喝。有一次回南部,基於好玩,也買了小瓶的噶瑪蘭威士忌來嚐鮮,但就是沒有人家說的那麼地神,品不出有多麼迷人及豐富的滋味,也許是自己味覺沒那麼靈敏。

      今天天氣涼了,開了其中一瓶GOLD LABEL RESERVE JOHNNIE WALKER來喝一下。而另一瓶,不知道也不想了解的牌子,一開軟木塞就爛在瓶裡,也沒喝成,就塞回去蓋起來,看來真的放了很多年。這瓶打開後,軟木塞還是完好的,外觀如下:


瓶身
外包裝背面,有風味及飲用建議

紙盒正面

  酒精濃度: 40%
  風味: 順滑細膩蜂蜜味和溫和的煙燻味。

  多種享用方式:可加入碎冰和一片橙片或純飲。這是紙盒背面說明中的人飲用方式建議。

  自己喝起來感覺它的風味如其說明,但是風味十分清淡,特別是煙燻味。就算是未加冰塊,原味就很淡,這是我比較之前噶瑪蘭威士忌的結果。單喝或是加冰塊都行,但自己喝不習慣,只好去全聯買了一瓶MORE+維他命水汽泡飲來加。


   本來想說只要單純無調味的汽泡水來調配威士忌。但之前的經驗是不好喝,只好找這款。以香橙葡柚風味汽泡水為主,威士忌只佔不到15%的比例,這就好入口了。本來想買百香果口味汽泡飲來調配,但是想要不全部蓋掉酒味,怕百香果味太強烈,只好改選這款。反正,一大瓶Jonny Walker 威士忌可以喝很久,接下來可以再找不同款汽泡水來試試,再來分享。








Midjournery 訂閱使用心得及與Leonardo.ai的比較

  最近一個月訂閱了Midjourney ,使用它玩了AI生成圖片。確實有些樂趣在裡面。也去免費使用 Leonardo.ai 試玩了一陣子,兩個AI 生成式出圖工具各有優缺,要先學習給出提示詞(prompt),就可以讓一些沒有繪圖能力的小白,憑著想像力及提示詞還有網路上一些已經訓練好分享出來的AI模型,自由自在發揮。
奇幻風格,Cheese Cake城堡

柴犬自拍,使用101大樓當背景

天竺鼠載墨鏡,海邊日光浴

Midjourney 個人覺得要先學會使用Discord及下指令。自己以前也沒用過Discord ,為了使用Midjourney才下載及申請帳號使用。Midjourney現在已經沒有免費使用,最低每月訂閱也要10美金左右。功能強大,較不適合初學者。



Leonardo.ai 每天有150點的免費額度,很夠用了。介面也比較直覺友善。

直接點Launch APP 就可以使用


作品欣賞:AI 生圖結果是沒有版權






2023/10/09

Apple MacBook 及iMac AI 運算(機器學習)需求規格建議

  最近個人一直在學習及探索AI的應用,也一直想將一堆Open Source 的AI model 落地執竹,但又不想要買桌機插上一張到多張NVidia GPU。上網找資料及評估的結果是,Apple Silicon M2 系列的MacBook 或 iMac 是非常合適的選擇。許多model 打包好可以本地執行的多半支援Apple Silicon M2 晶片。

      問題來了,要買什麼樣的配置規格呢?自己總結了一下,分兩個建議如下:

  • RAM : 24 GB以上,SSD : 1TB 以上
    • 這是給MacBook Air 或 Mac mini / MacBook Pro 最低的建議
    • 7B, 13B 的LLM都可以執行
  • RAM : 64 GB以上,SSD  :  1TB 以上
    • MacBook Pro 取建議這個配置起跳,推上96GB 頂規 13.4萬台幣
    • 7B, 13B 的LLM都可以執行,也比較不吃力
    • Stable Diffusion 可以出圖比較快
  • Mac Studio : RAM 128 GB以上, SSD 2 TB
    • 7B, 13B, 30B, 65B 的LLM都可以執行
    • RAM 192 GB 就可以任何模型都落地,頂規 20.8萬
    • Stable Diffusion 可以快速出圖,也可以同時多出幾張圖
    大家可以試算一下,一張 nVidia RTX 4090 也只有24GB 的RAM。一次給它買三張串接,RAM 也只有 72GB。Windows 主機+三張 RTX 4090也差不多是一台 Mac Studio 192GB RAM 的價錢了,但是耗電量及產生的電費帳單真的會夠你受的。

    至於SSD 空間為何 1T 起跳?因為,不管是LLM或Stable Diffusion 相關的model 每個都是3GB 以上,自己的MacBook Air M2 512GB SSD 空間目前雖然夠用,但長期下去也是很緊。

   如果,你仍堅持使用Windows 筆電,以下微星筆電競筆電可以參考,至於重量及攜帶性就真的無法另人接受了。

MSI微星 Titan GT77 12UHS-012TW
i9-12900HX ∥ 64G ∥ RTX3080 Ti ∥ 8T SSD

     這款筆電配的 RTX 3080Ti 是 16GB,也是可以做中小型LLM運算。

    所以,個人觀點仍是建議,如果有移動需求,直接MacBook Pro 到頂。因為,CPU 和 GPU 共用記憶體。沒有的話,M2 Mac Studio Ultra 192GB配置,這一台可抵8張 RTX 4090,C/P 值破表。不信的話你可以參考以下YouTube。



《M2 Ultra:干翻英伟达!决战AI之巅》


我目前使用的是一台MacBook Air M2 13吋輕薄筆電,這台筆電具備了16GB的RAM和512GB的SSD儲存空間。令人驚訝的是,即使在不插電的情況下,它也能流暢地執行llama 7B和13B這種大型機器學習模型。相較之下,大多數配置了nVidia顯卡的Windows筆電在沒有插電的情況下,往往無法達到這樣的性能表現。

然而,我有一點後悔,那就是當初購買時沒有選擇將RAM加滿到24GB。網上有很多文章和評測都說MacBook Air的16GB RAM已經“非常足夠”,但隨著AI和機器學習日益普及,我認為在Mac上的RAM是“有多少就加多少,多多益善”的。特別是在進行大規模數據處理或模型訓練時,更多的RAM絕對會有所幫助。

不過,我還是要提醒大家,儘管MacBook Air能勉強運行一些較大的模型,但因為它沒有內建風扇,所以在進行高度運算負荷的生成式AI計算時,可能會遇到散熱問題。當溫度達到一定程度,系統會自動降低CPU和GPU的頻率,以避免因過熱而導致硬件損壞或系統當機。因此,如果您是專門從事AI或機器學習的工作,我會更推薦您購買配有風扇的MacBook Pro。

如果您不打算使用筆電,那麼Mac Studio M2會是一個更好的選擇。對於影音創作者來說,其效能已經非常出色,甚至可以說是“過剩”。但對於AI學習和模型微調,它仍然有一些局限性。我個人非常期待下一代的Apple Silicon M3處理器,尤其是如果它能支持192GB或更多的RAM,那麼將會是功耗和性價比非常高的選擇。

最後,我最近去了Studio A體驗了一下不同的Mac機型。令我印象深刻的是,除了硬件規格和價格外,標價牌上還會特別加上一句“機器學習”字樣。這顯然表明,Apple自己也非常清楚,他們的產品不僅僅適用於影音創作,同時也非常適合機器學習和AI開發。

2023/10/04

Bard 新功能圖片及語音辨識都很棒!

  Bard 一直是我拿來和OpenAI ChatGPT 比較的大型語言模型應用。現在它也能辨識圖片,不再只能用文字對話。所以,第一個測試,先來一個Midjourney 生成的天竺鼠圖片。它能正確辨試出來,也知道它戴著太陽眼鏡,坐在沙灘上,體色是棕色。也長的很可愛,背景有山,還有藍色的海水。不錯哦!


接下來,測試輸入文字框中右邊的麥克風,它用來做語音輸入。按下後,說了句"告訴我這圖片中有什麼動物",也是能正確辨識出。

再測一句: "告訴我明天颱風到底會不會來"。也是完全正確,速度也很快!

除了語音辨識沒問題外,它把我問的颱風會不會來的問題,也善用Google 搜尋引擎的優勢,把“2023/10/04" 小犬颱風對台灣的影響新聞資料整理出來,真的是很強!完全不讓 Bing 專美於前,人家可是Google 呢!論搜尋能力,Bing 還是得尊敬一點才是。


2023/10/03

LM Studio 在MacBook Air M2 上執行 LLama 大語言模型

  一般人在現階段想要不在雲端服務下使用大語言AI模型,第一個想到的就是買台PC或筆電,上面裝有nVidia 顯示卡,記憶體還不能太小。現在可以在MacBook Air M2上執行,且不用裝一堆Python 相關套件。
    你只要下載 LM Studio。它有 Windows 和Mac 版本。為了測試我的MacBook Air M2 (16GB RAM) 上是否可以善用GPU,當然是載MacOS 版。 官網: https://lmstudio.ai
下載安裝成功後,啟動畫面:

一開始沒有 AI model ,請先輸入 taiwan llama 來找出台大博士生有特地用中文資料訓練過的,你可以找 13B 的 Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf , 請準備 10 GB 以上硬碟空間,因為光是模型就快 8GB。如果怕跑不動,或跑很慢可以找 7B 這種較小的。
載完就可載入模型,然後開始問它問題,這時你會發現 CPU, GPU 都處於高負載的狀態。在MacBook Air M2 上問問題的 速度還可以接受,比ChatGPT回應再慢一點點。主要是確定可以善用 GPU,也確實跑得動。

但是,問題來了!這只能做簡單的測試及練習。要當Server 運用這個模型是有點力不從心,跑沒幾句對話,就發現筆電底部份發熱了,這台我都用了快十個月了,還沒遇到過。

所以,很認份的再去下載一個7B的 model 。看來13B的模式要用MacBook Pro 64GB 以上的機種來跑。
7B model 跑起來就比較順,可是這model 用中文問,只會用英文回答。看來是載錯了,改用 chinese 7B 關鍵字找到中文相關模型。
執行前,先到右邊去將 Context Length 加大成2倍以上,不然對話沒幾句就出現錯誤了。如下畫面:紅字部份
改動 Context Length 會自動重新載入模型。接下來,就可以好好對話了!



有時還會亂亂答。看來想要落地,還選llama 2 13B的模型比較OK。差的就只是硬體的算力了,不!應該是鈔能力!

才使用 LM Studio 試用 llama 2 7B 模型沒幾天,台灣中研院就釋出以此為基礎的 CKIP-Llama-2-7b-chat model ,這是針對繁體中文再優化,可以參考以下網址:

   https://huggingface.co/ckiplab/CKIP-Llama-2-7b-chat

如果不喜歡 LM Studio 可以建議試試 Text Generation WebUI 。


2023/10/02

ChatGPT 和Bard 推理能力比較-買菜篇

  針對ChatGPT 3.5, GPT-4 和 Bard 比較一些推理計算能力,題目如下:

小明去幫媽媽買菜,媽媽給他150元, 他買了 30 元的蘿蔔,25元的䓤,又買75元的雞腿,賣雞肉的老板送了價值5元的一支雞腳。請問他花了多少錢?

GPT3.5 回: 
小明去幫媽媽買菜,他總共收到150元,然後花了以下的費用:

蘿蔔:30元
䓤:25元
雞腿:75元
賣雞肉的老板送了一支價值5元的雞腳。
總花費 = 30元 + 25元 + 75元 - 5元 = 125元。

所以,小明花了125元。

GPT-4 回答: 
小明購買的物品分別是:

30元的蘿蔔
25元的蔥
75元的雞腿
他一共花了 
30+25+75=130
30+25+75=130 元。

雖然賣雞肉的老板送了價值5元的一支雞腳,但這不影響小明實際花費的金額,所以他一共花了 130 元。

Bard 回答: 
小明買蘿蔔花了30元,買䓤花了25元,買雞腿花了75元,總共花了30+25+75=130元。

賣雞肉的老闆送了一支價值5元的雞腳,因此小明實際花了130-5=125元。

答案是125元。

解析:

小明買蘿蔔、䓤、雞腿的總價為130元。

賣雞肉的老闆送了一支價值5元的雞腳,因此小明實際花了130-5=125元。

因此,小明花了125元。

看來 GPT3.5/Bard 都回答錯誤,GPT-4 是正確,也主動說明5元送的雞腳不算錢。

2023/09/30

Draw Things/Diffusionbee 在 MacBook Air M2上初體驗

  上過AI 課體驗過 Leooardo.ai 和 Midjourney 的 Stable Diffusion 生成圖片魅力之後,就想到這些要免費的有限制使用點數,或是每月付費對荷包很傷。就開始想起有沒有AI 落地方案?就是直接在筆電上進行AI 運算。最後找到 Draw Things  ,確實可以在我的 MacBook Air M2 上執行。載下來也確實可以執行,我的筆電規格如下:

MacBook Air M2 16GB RAM

8 核心 CPU 配備 4 個效能核心與 4 個節能核心
10 核心 GPU
16 核心神經網路引擎
100GB/s 記憶體頻寬

GPU / CPU 使用比率 : CPU 10~20% ,GPU 80% ~ 94%

執行生圖中筆電底部溫度,在冷氣房25度C中,溫溫的。這是放在大腿上沒有隔著褲子時的體感。

Draw Things : 生成一張960x640圖片,只要120秒左右。

Diffusionbee : 
      這也是一款可以下載MacBook Air M2 運用Apple Silicon 晶片的軟體。生成一張512x512圖片,只要50秒左右。

結論:MacBook Air M2 用來落地跑 Stable Diffusion model 生圖是沒問題,也可以善用GPU。重點是速度是差強人意,好處是不用像其它Windows 電競筆電配有Nvidia GPU 重量大到可練重訓。想想,這可是在一台輕薄筆電上就可做到。但是,若你是AI 研究或開發人員,建議使用Mac Studio 配備128GB RAM,或是MacBook Pro 16吋,配置64GB 以上的記憶體。

運用 Draw Things APP 來進行AI 生成圖片,需要先對 Stable Diffusion ControlNet LoRa 三者間有點基本認識:

Stable diffusion、ControlNet 和 LoRa 三者之間的關聯主要體現在以下幾個方面:

技術層面:Stable diffusion 和 ControlNet 都是基於神經網路的圖像生成模型,而 LoRa 是一種低功耗廣域網技術。
應用場景:Stable diffusion 和 ControlNet 可以用於生成各種圖像,而 LoRa 可以用於傳輸圖像數據。
數據傳輸:Stable diffusion 和 ControlNet 生成的圖像數據可以通過 LoRa 進行傳輸。

具體來說,Stable diffusion 和 ControlNet 可以用來生成各種圖像,例如人像、風景、物體等。這些圖像數據可以通過 LoRa 進行傳輸,從而實現圖像的遠距離傳輸。

例如,在智慧城市中,可以使用 Stable diffusion 和 ControlNet 生成城市的實時圖像,然後通過 LoRa 將這些圖像數據傳輸到雲端。雲端可以對圖像數據進行分析,從而為城市管理提供支持。

此外,Stable diffusion 和 ControlNet 也可以用來生成虛擬圖像,例如遊戲中的地圖、場景等。這些虛擬圖像數據也可以通過 LoRa 進行傳輸,從而實現虛擬世界中的遠距離互動。


Stable diffusion、ControlNet 和 LoRa 三者結合應用的示例:

智慧城市:在智慧城市中,可以使用 Stable diffusion 和 ControlNet 生成城市的實時圖像,然後通過 LoRa 將這些圖像數據傳輸到雲端。雲端可以對圖像數據進行分析,從而為城市管理提供支持,例如交通流量監控、環境監測等。
工業物聯網:在工業物聯網中,可以使用 Stable diffusion 和 ControlNet 生成工廠的虛擬模型,然後通過 LoRa 將這些模型數據傳輸到雲端。雲端可以對模型數據進行分析,從而為工廠管理提供支持,例如故障診斷、生產優化等。
娛樂:在娛樂領域,可以使用 Stable diffusion 和 ControlNet 生成虛擬遊戲場景,然後通過 LoRa 將這些場景數據傳輸到用戶的設備。用戶可以通過設備在虛擬世界中進行互動,從而獲得更身臨其境的遊戲體驗。

總體而言,Stable diffusion、ControlNet 和 LoRa 三者結合可以為不同領域的應用提供新的解決方案。

以下是一些具體的應用場景:

智慧城市:
    使用 Stable diffusion 和 ControlNet 生成城市的實時圖像,然後通過 LoRa 將這些圖像數據傳輸到雲端,從而實現城市管理中的交通流量監控、環境監測等。
    使用 Stable diffusion 和 ControlNet 生成城市的虛擬模型,然後通過 LoRa 將這些模型數據傳輸到雲端,從而實現城市管理中的故障診斷、生產優化等。
工業物聯網:
    使用 Stable diffusion 和 ControlNet 生成工廠的虛擬模型,然後通過 LoRa 將這些模型數據傳輸到雲端,從而實現工業物聯網中的故障診斷、生產優化等。
    使用 Stable diffusion 和 ControlNet 生成工廠的實時圖像,然後通過 LoRa 將這些圖像數據傳輸到雲端,從而實現工業物聯網中的質量檢測、安全監控等。
娛樂:
    使用 Stable diffusion 和 ControlNet 生成虛擬遊戲場景,然後通過 LoRa 將這些場景數據傳輸到用戶的設備,從而實現虛擬遊戲中的遠距離互動。
    使用 Stable diffusion 和 ControlNet 生成虛擬人物,然後通過 LoRa 將這些人物數據傳輸到用戶的設備,從而實現虛擬交互中的更身臨其境的體驗。

以上只是一些示例,Stable diffusion、ControlNet 和 LoRa 三者結合的應用場景還可以有很多。隨著技術的發展,我們可以期待看到更多創新的應用出現。



2023/09/28

Google 25 年了!

  Google 25週年了! 也沒什麼大事,只是平時依賴它搜尋,看到它自己將Google 換成G25gle,來聊聊而已。點下去G25gle會撒花,有點宅男工程師的小創意!

      身為一個搜尋引擎覇主,25年來還是找不到對手,但因為OpenAI ChatGPT的出現,微軟將Bing 搜尋引擎加入ChatGPT ,似乎有那麼一點想挑戰老大哥地位的味道,但大哥仍有其優勢,AI 方面Google 也是經營及研究的很深。Bard 雖仍在BETA 階段,但和ChatGPT 相比仍然有一些強項。至於後面發展會怎麼樣,我們身為使用者的,都能兩邊受益。畢竟,科技在進步,有競爭有比較才會活絡,跟上就對了。

macOS Sonoma 更新正式釋出及使用心得

  從Beta版時一堆YouTuber就已經在使用了,有那些功能早就知道了。

Apple Music : 不再是 Intel 轉譯了,這是我最在意的,功能上看不出什麼明顯變化。但原生支持Apple Silicon ,不用再轉譯Intel 指令集是多麼地重要。

輸入法: 輸入時會顯示,特別是在切換時。在輸入游標會一個藍色小圖,很清楚知道切到什麼輸入法,另外,輸入文字時聯想字詞也在一旁顯示的更清楚。這個改變我喜歡,實用。

提醒事項:「雜貨列表」會自動將商品分類,使購物更加輕鬆。你也可更改商品的分類方式,列表就會記住你的偏好。全新的「直欄顯示方式」將不同部分的內容整理成橫跨螢幕的直欄顯示,讓你輕鬆一覽大小事。

動態桌布:是很炫,但個人覺得不實用。

Safari : 網片變成APP,這有意思。常用的網站值得這樣用。

AirPods : 多了"適應性模式"可以說,切換模式也有可愛的提示音。自動切換」功能更新後,現在 AirPods 在 Apple 裝置間切換的速度顯著加快7。此外,通話時,按下 AirPods 的耳機柄還可快速將自己靜音或取消靜音。

聽寫:簡單測試一下,說話內容夾雜中文和英文也辨識得不錯。

還有一堆,桌面加入小工具/郵件/輔助使用/螢幕共享/備忘錄.... 等等等的改進。Sonoma 這版真的值得更新!用了兩天,還沒試完這一大堆新更功能。


2023/09/24

iPhone 15 Pro MAX 來了,初體驗心得

  昨天為了去買個256GB USB來備份自己的MacBook Air,跑了一燦坤3C。等待他人結帳時,先去Apple 展區玩了一下MacBook Air 15吋及iPhone 15 Pro MAX。比較好奇的是,9/22才開始交機,9/23我在店面就可以把玩試用,真的是動作很快。

      自己手上的iPhone 8 Plus還很好用,完全沒有要換機,重點是想了解一下,iPhone 15 Pro MAX 有什麼大差異。再來評估明年是否要換iPhone 16.
所以接下來都是以老用戶差了很多代的舊機使用者來看待新機

  • 螢幕:真的是有夠亮,又夠順滑,畫質好是一定的,但畫面變換及內容上下滑動真的有夠絲滑。畫面夠大。讓我有下次要換更大螢幕的念頭。
  • 拍照:對一個目前只有兩個拍照鏡頭的用戶來說,多了一個鏡頭,可以拍更遠,這真的實用。
  • 動態島:有趣,個人看法是可以掩飾螢幕挖孔的缺點,真絕!
  • 音量:相比我的舊機,真的有夠大聲,音質又較好。這很實用。
  • 自訂按鍵:彈性,實用。
其實,自己希望在電力續航上有多個2到3小時的長度,對一個工作上重度使用手機的人來說,不想要常充電,只要回家充一次,隔日放心上班使用。
價格上實在難以入手,不是沒錢,而是花這樣一筆前都可以買一台Windows 筆電了,沒有功能性及需求上的重大吸引力出現,舊手機可以繼續撐,不必要像那些YouTuber一樣每年換手機,他們可是有廣告收入及業配收入的。一般小老百姓,物價上漲,收入沒有明顯增加,錢還省著點花,寧可拿去投資,用來打敗通膨,也不要花在這種CP值很低的消費性3C產品上,這是個人的花錢思維,提供大家參考。


      

2023/09/23

Google逐步蒸餾AI技術,小資料小模型也能打敗LLM的個人看法

  Google發展了一種AI新技術,名為「逐步蒸餾」,以更少的資料訓練專用的小型模型,但效能卻能優於其他方法。

- 發展背景
  - 部署大型語言模型需要大量GPU記憶體。
  - 小型專用模型通常有兩種訓練方法:微調和蒸餾。
  - 蒸餾是將大型模型的知識轉移至小型模型,效能可接近或超越大型模型。

- 逐步蒸餾
  - 是一種簡單機制,使用較少的訓練資料訓練小型模型。
  - 小型模型的效能可能優於少樣本提示語言模型。
  - 主要從大型語言模型擷取自然語言解釋,用於更有效地訓練小型模型。

- 實驗結果
  - 使用逐步蒸餾法的T5模型在多個NLP任務中均超越了其他方法。
  - 2.2億參數的T5模型在e-SNLI資料集上甚至超越了5,400億參數的PaLM模型。
  - 7.7億參數的T5模型在ANLI資料集使用80%資料就超越了PaLM模型。

看來,若可以有小模型,很多人想要落地運用模型就很方便,特別是那些想訓練出專用模型,但訓練資料不方便放到雲端,屬於機密性質的機構。這也可能導致OpenAI 及微軟的AI收入沒有那麼樂觀,反而是落地所需的AI GPU TPU 等硬體需求大增。
另外,語言模型的發展看來是要每幾個月就有大進展,也不用急著去導入,只要先觀察及使用後再來評估對自己企業是否有幫助即可,因為光是一邊評估當紅的技術,就發現又有另一個新技術冒出來!它們只是工具,怎麼運用工具對企業產生效益才是重點。

2023/09/22

潤泰新減資暫停交易

     股票投資第一次買到公司減資的潤泰新:股票代號9945。現金減資換發股票。按減資換股基準日股東名簿記載之股東持有股份比例每壹仟股減少100股(即每股退還
股款1元)及每壹仟股換發新股票900股。手上3張共3000股,最後會減為2700股。拿到現金3000元。新股上市後才能再交易。接下來就看新股會不會漲,若跌就虧大了,也沒拿到什麼好處。

     2023/10/13(五)收盤35.40,技術線型週線如下:


看來股價仍維持在打底階段,仍需要再幾個月將均線拉平。最後翻揚向上,目前不加碼。

macOS 13.6 和 iOS 16.7 更新

  macOS Sonoma 還沒推出,Ventura 13.6 迎來了安全修正13.6版。同時iOS 16.6 也出了 16.7更年新。手上的iPhone 8 Plus 還要陪我戰到明年,等iPhone 16 呢。但Apple 已經不再支援功能更新,只能推出安全性更新。但是,為了安全起見,仍是要第一時間給它更新下去。

    用了半天,也沒遇到什麼問題,但似乎有問題也不能怎樣。

    AirPods Pro 2 也更新韌體:6A301 版,官網說明如下,但是我的iPhone 8 Plus似乎用不到。我的macOS Ventura 也用不到。只能等更新到 Sonoma時再來看看有什麼不同了。
    

版本 6A300/6A301 版本附註

搭配 iOS 17 和 macOS Sonoma 使用時,AirPods 韌體更新 6A300/6A301 將為 AirPods Pro(第 2 代)帶來「適應性音訊」、「對話感知」和「個人化音量」功能,讓聆聽體驗提升至新境界。此更新也為 AirPods(第 3 代)、AirPods Pro(第 1 代和第 2 代)以及 AirPods Max 加入按一下以靜音及解除靜音的便利性及通話控制功能,並透過最新軟體更新大幅改善所有可用 AirPods 在 Apple 裝置上的自動切換功能體驗。

2023/09/19

GPT-3.5-Turbo 還在試用,GPT-3.5-Turbo-instruct model 就來了

  AI model 的進步真的是計畫趕不上變代。當我們還花不起大錢使用GPT-4,先考慮及評估GPT-3.5-Turbo model 時,GPT-3.5-Turbo-instruct 就推出了。

GPT-3.5-Turbo-instruct 是基於 GPT-3.5-Turbo 模型的一種變體,它使用了指示學習(instruction learning)技術。指示學習是一種機器學習技術,它允許模型根據人類的指示進行訓練。在 GPT-3.5-Turbo-instruct 的情況下,指示是用自然語言編寫的。

GPT-3.5-Turbo-instruct 的優點是它可以更有效地學習特定任務。例如,可以使用指示來告訴模型如何生成創意內容或翻譯語言。

GPT-3.5-Turbo-instruct 的缺點是它需要大量的人工標記數據。指示需要由人類編寫和驗證,這可能是一個耗時和昂貴的過程。

GPT-3.5-Turbo-instruct 和 GPT-3.5-Turbo 都是強大的大型語言模型,具有不同的優缺點。用戶需要根據自己的需求選擇合適的模型。

如果您需要一個可以更有效地學習特定任務的模型,GPT-3.5-Turbo-instruct 是一個不錯的選擇。但是,您需要準備好投入大量的人工標記數據。

如果您不需要一個可以學習特定任務的模型,GPT-3.5-Turbo 是一個不錯的選擇。它不需要大量的人工標記數據,並且可以用於各種任務。

以目前各行各業的運用來看,多半會是特定任務的運用。所以GPT-3.5-Turbo-instruct model 看來會在未來較受歡迎,特別是有法規管制的行業。
 

AI小模型及邊緣運算未來看好

  最近半年全世界都因為生成式AI ChatGPT 瘋狂。AI 以目前這種進度步度推進下去,半年及一年後又有新鮮事,也沒什麼好大驚小怪的了。但以ChatGPT 這種高度依賴Server 端GPU運算能力的應用來看,速度慢是很正常的,因為算力應付不來暴量式成長。

     反而,移動裝置端例如:手機,筆電或是電動車本身的運算力要即時的要求也愈來愈重要。

行動裝置上的 AI 運算力對未來應用的發展具有巨大的潛力,將對各個領域產生深遠影響。以下是對行動裝置AI運算力未來發展的看法:

1. 智能助手和個性化體驗:行動裝置上的 AI 運算力可以使智能助手(如Siri、Google Assistant)更強大和智慧化。未來,這些助手將能夠更好地理解用戶需求,提供更精準的回答和建議,並為每位用戶提供個性化的體驗。

2. 擴增實境和虛擬實境:行動裝置上的AI能力可以改善擴增實境(AR)和虛擬實境(VR)體驗。這將開啟全新的娛樂、教育和商業應用,從遊戲到教育工具再到虛擬商店。

3. 自動化和自動駕駛:AI 在行動裝置上的應用對於自動化和自動駕駛的發展至關重要。它能夠提供精確的感測和決策能力,使得汽車、機器人和運輸工具能夠更安全和有效地運行。

4. 醫療保健:行動裝置上的 AI 能夠用於健康監測、疾病診斷和治療建議。這將有助於提高醫療保健的效率,並使醫療資源更廣泛地可用。

5. NLP 自然語言處理:AI 可以在行動裝置上用於自然語言處理,從而改進語音識別、翻譯、機器翻譯和自動回答等應用。

6. 安全性和隱私:隨著AI應用的增加,保護用戶隱私和資料安全變得更加重要。未來,AI將在行動裝置上用於增強安全性,例如面部識別、指紋識別和聲紋識別等。

Apple 的 Core ML 就是一個很好的例子,Apple Silicon 晶片的進步,未來新機種能善用此功能,在AI應用上絕對會有令人耳目一新的功能。只是Apple 這家公司不會重點放在這種技術詞彙上。他們會強調對使用者的體驗,然而,Google 在這方面也沒有偷懶,AI當然也是他們的強項。

總之,行動裝置AI運算力將在未來幾年中快速發展,帶來許多創新和改進,從而改變我們的生活方式、工作方式和娛樂方式。然而,同時也需要考慮隱私問題,確保AI技術的使用是安全且負責任的。這是一個快速變化且具有挑戰性的科技領域,值得持續關注。

2023/09/17

Nara Thai 二度用餐

  週末和家人外出用餐,先到中港大排散步,再走到宏匯廣場。選定了Nara Thai 泰式餐廳吃飯,因為沒有事先訂位,先到門口掃條碼預約,預約後去廣場先逛逛。大約過了二十分鐘就入場點菜,服務生先拿來菜單及可手機點菜的條碼,也提醒若有本月壽星,可以下載Ocard APP來登記,再送一杯飲品。

每個人的餐具,已經忘了它是紫色系

有人注意到筷子兩支分別是不同的筷尾,一么一凸。不知道是何用意,知道的人留言一下。有特別再檢查,每個人都是這種情形!




前三道點的菜:蝦餅 金沙花枝 腰果雞肉。這三道都還行,配白飯能吃飽。
但是,可能服務員看到其有兩位是女性,給的飯量不是很足,導致要加飯三次,也夠她們忙的。



還點了蝦醬高麗菜 及 泰式糖醋魚

單價最高的是泰式糖醋魚,份量也很足,吃起來也不錯,也下飯。


甜點: 摩摩渣渣 中規中矩

椰子冰沙 : 好喝

酸仔旺梅沙沙

四個一頓飯吃下來,加10%服務費,花了$2420 ,四個人點了五道菜再加甜點及飲料,吃的很飽。全員一致認為甜點及飲火料可以更好,只能說不合口味。因此,飯後我們再去吃了一碗鮮芋仙



2023/09/15

關西一日遊

  週六晚起床,省掉早餐,全家上車直奔關西,先去吃牛肉麵,再去牛瀾河畔走走,去關西鎮上逛逛,喝源式仙草茶。再到關西囍冰室吃冰。


重點是點兩盤小菜,牛肉麵已經不是重點。這兩大盤小菜荷包大失血。




吃飽了,先到關西鎮上源式仙茶買杯仙草茶帶著。再到東安古橋下乘涼

吹吹風,拍拍照。欣賞東安古橋及來往路人。


離開關西鎮之前,再去關西囍冰室吃冰,真的是便宜又大碗。三大球冰淇淋,你猜多少錢,真的是良心價,一堆飲料店那種不合理的價錢面對它,你真的會汗顏。紅茶或紅茶牛月奶冰也值得一試,也是便宜到你會說有良心。


回台北前已到黃昏,先去國道3關西休息區,可以涼爽地休息,上個廁所。



2023/09/13

iPhone 15 來了,iPhone 8 Plus 都用6年了,你要換新機了嗎?

  昨晚不睡,看完 了Apple Event發表新產品,特別是iPhone 15 Pro。看完後好後悔,早知道就不看了,因為發表前早就被爆料光了。A17 Pro CPU台積電3奈米製程晶片,應該不是只拿來現遊戲,更應在影像處理上有更大的發揮。但我好奇的是,Vision Pro 2024年才會推出,iPhone 15 Pro 的發表功能中就已先支援空間影像拍攝。這才是我對它的期待,有夠強大。產品間相互搭配才是Apple 的高招,把用綁的牢牢的。

     看了一些YouTuber在Apple現場展示機試用過,以下兩點是我無法接受的點:
  • 電力續航:如果還是停留在18小時,何必呢?至少再增加1到2時才有進步。
  • 鏡頭鬼影:這點不解決,真的不值得花這麼多錢就為了點拍攝進步。


     自己還在使用iPhone 8 Plus,我會換新機嗎?哈哈!今年不會,明年有更好的iPhone 16,不急著換。你的手機多少年才換新機呢?今年我比較想換15吋的 MacBook Air M2 。

    自己手上的iPhone 8 Plus 是2018年購入的,使用到現在2023年9月,都快用6年了。不僅沒有任何損壞及維修記錄,電池健康度還有79%。看來是可以挑戰使用7年的記錄。等明年的iPhone 16 Pro了!!!

    另一個技術角度來看,台積電3奈米製程的A17 Proa晶片沒有我預期的跳躍性成長,看來要把希望寄託在筆電或是桌機的CPU M3晶片上,它才是未來AI 落地應用的利器。

    今天特地再去Studio A試用M2 CPU 的MacBook Air 15吋機種,一切都很滿意。就差一顆可以接近MacBook Pro 效能的CPU。希望明年2024就可以出現。



ChatGPT出現後,你周遭的人是否都出現AI焦慮現象?

  ChatGPT的出現,這半年來在生活中不斷出現周遭的人在討論著它,現在連我每天上班途中在聽的 WNYC Radio 也連續出現好幾天在討論著AI。
工作上,連主管們也開始出現各種疑問與想法,似乎不了解及認識AI或是趕快在工作上用上AI 會被淘汰似的。

以下是一些幫助您應對 AI 焦慮的方法:

  • 了解AI:了解人工智能的發展及其可能的影響,可以幫助您減輕對人工智能的焦慮。
  • 積極面對AI:人工智能可以帶來許多好處,例如提高生產力、改善醫療保健和提高生活質量。專注於人工智能的積極面可以幫助您克服對人工智能的恐懼。
  • 尋求支持:與家人、朋友或心理健康專業人員談論您的感受可以幫助您應對 AI 焦慮。
  • AI 焦慮是一種正常的情緒,但如果不加以控制,可能會對您的心理健康產生負面影響。通過了解人工智能、積極面對人工智能和尋求支持,您可以克服 AI 焦慮,在人工智能時代茁壯成長。
AI 是一種科技產物,未來還會有量子電腦及機器人等更進步的技術出現,此時我們是否更應該思考我們本身?身為一個人,我們和這些科技產物有何不同?我們的價值在那裡?怎麼善用它們,而不是被它們所取代。科技的進步永遠不會停下腳步。現在有GPT 3.5, GPT-4,IBM 也來個Watsonx, Meta 也來個 LLaMA,光是AI model 每幾個月就有一堆會出現,永遠也不用擔心沒有新玩意。

2023/09/12

MacBook 作為遊戲電腦的看法

  MacBook 作為遊戲電腦,有以下優缺點:

優點

  • 外觀設計精美,可攜性高。
  • 操作系統 macOS 流暢穩定,易於使用。
  • 應用程式生態系統豐富,包括眾多優秀的遊戲。

缺點

  • 硬體配置相對較低,尤其是顯卡性能。
  • 遊戲兼容性不如 Windows 電腦。
  • 價格較高。
  • 缺乏3A大作
  • 總體而言,MacBook 作為遊戲電腦,適合輕度遊戲玩家。對於追求高畫質、高幀率的玩家,MacBook 可能無法滿足需求。

如果您正在尋找一款兼顧遊戲和其他用途的筆記型電腦,MacBook Pro是一個不錯的選擇。但是,如果您是專業遊戲玩家,建議您選擇 Windows 電腦。相對於Windows 電腦,儲存空間所需付出的購買代價,MacBook 是很高的,而且沒有增加的彈性,特別是配備 M1/M2 CPU 的MacBook 系統,因為記憶體是沒有擴充性,連GPU 也是整個與CPU做在一起,在你購買時就已選定了,沒有Windows 電腦在週邊上的擴充彈性。但是,這個不便在未來隨著M3 之後的版本會因為效能提升而不再那麼重要。

若是你沒有移動的需求,建議可以買Mac 電腦,可以用來工作,也可以用來玩遊戲,因為散熱性更好,你可以玩一些小遊戲更可以工作。至於要玩3A大作,那還得再等等,再過一,二年就不能再小看Apple ,M3晶片上市後絕對是會在遊戲表現上有更明顯的進步,也會造成市場上更大的佔手率。




2023/09/09

ChatGPT Plus 訂閱後心得分享-軟體開發篇

  身為一個資訊從業人員,雖然現在開發軟體及寫程式的工作已不佔工作中的最重要部份。但軟體技術發展仍然是我關注的重點,因為我想了解它能對我的團隊帶來什麼影響?

ChatGPT 2022/11月出現之後,我就對它高度重視,第一次感受到人工智慧有如此快速的進步。

除了對話能力外,對編碼能力的潛力更令我著迷。試過一陣子之後有以下感想:
上下文記憶能力,便於迭代
不能替你編碼,但可以輔助編碼,節省大量時間精力。

需要你引導它
     需要的不只是基礎編程還需要經驗 
     不過我認為人類只要多學習就可以順利運用它。

代替人力編寫程式這方面個人認為資深開發人員可以善用它來加快生產力
    但真的遇到特殊問題及演算法上的問題,暫時還是得人去突破解決

資淺人員可以運用它來快速學習,少走一些彎路

至於AI產生出來的程式碼,你也不能全信它,有可能是錯誤的,有bug。這還是要你有能加看懂它快速產出的大量程式碼,找出去錯誤才行!

2023阿里山旅行及嘉義市區美食心得感想

  行程安排,住宿預約訂房,台灣住宿很貴,五天四夜花費。停車費
    卡努颱風來臨下雨,中斷行程早早下下往嘉義市區。

Day 1
    05:30 起床,06:00 開車出發
    08:10 台中 后里 薩克斯風 后里馬場 月眉糖廠 7-Eleven 后糖門市
    08:50 台中 昇平街 光焙若蔬食 
        窯烤烘蛋三明治 起司班尼迪克蛋  美式咖啡 

    嘉義 市區 

Day 2
    06:00 雲林開車到阿里山森林遊樂區 08:30抵達
    阿里山火車站 坐小火車沼平站

森林遊樂區及民宿風景


Day 3
    08:00 湘庭觀景民宿早餐,在露台悠閒喝咖啡
    09:00 民宿主人泡茶聊天
    09:30 隙頂二延坪步道 (茶林山步道)起霧
    12:30 鄒族文化部落 下午沒表演,改次日再來
    13:40 街角永豐苦茶油雞 午餐 好吃
    17:00 民宿露台 欣賞近黃昏的山景光影變幻,18:00再移師到吳鳳廟前

此次三天在阿里山最大的感想是,天氣真的是變幻莫測,但對夏日旅遊來說,真的是涼爽的好去處。

因為颱風要來,早早下山去嘉義,第一站去花磚博物館,再去市區吃雞肉飯。最後在市區逛逛後回台北。花磚博物館是最滿意的點,可以欣賞到舊時代花磚之美,讓這趟旅程不是只有風景及美食。













二樓也值得一逛




離開前再回味一下門口地磚



嘉義市區:分享幾家可以再去的店
   御香屋 葡萄柚綠茶 排隊飲料名店

  七彩冰果室 老派冰果室 值得一試,在御香屋的附近


  北楓彎豆冰 便宜又大碗