來看看本週的新聞吧!
(1)TCL 砸 754 億日圓結盟索尼 挑戰三星電視霸主地位(原文點此)
中國電視廠商TCL與Sony合資成立新公司「Bravia」,並取得多數股權。 新公司是由Sony的電視業務剝離出來,TCL擁有51%股權、Sony擁有49%股權。
短評:
面板、太陽能...等產業目前已面臨中國產能過剩所帶來的價格競爭壓力,傳統強勢公司亦陸續退出。 隨著中國廠商的供給持續擴張,未來,電動車、成熟製程邏輯晶片...等產業亦可能面臨類似的價格壓力,導致重新洗牌或分化。
(2)KV 快取記憶體省 6 倍!Google 新壓縮技術 TurboQuant 是什麼?為何說顛覆 AI 技術曲線?(原文點此)
Google推出新壓縮技術,將Inference(推理)階段會儲存在KV Cache的資料進行壓縮,最高可達6倍。
編按:
AI運算主要分為:Training(訓練)、Inference(推理)。 Training是為了習得各個答案的機率;在問問題時,則是透過Inference的機制,選出機率最大的答案。
短評:
[a]AI的Inference運算中,目前的瓶頸在記憶體,不論是用量大小還有速度都是,也導致記憶體產業嚴重的供不應求。 有瓶頸之處,就會是各路人馬努力的方向,所以可預期未來有越來越多解決記憶體瓶頸的方案提出。
[b]至於AI記憶體的「總」用量是否會下降,很可能仍會遵循Jevons悖論,也就是說,雖然技術進步使單位所需資源減少,但因成本降低帶動的需求成長,最終反而可能使整體資源消耗不減反增。 所以記憶體的供需問題,大機率還是要靠供給上升來解決。
留言
張貼留言