先來看看Meta的新聞。
(1)遭控社群媒體使青少年成癮，Meta 以 180 億美元與美國多州和解(原文點此)
Meta以180億美元以及相關的改善措施和美國多州就青少年成癮一案和解。
編按:
[a]此案源自於2023年，當時美國多州控告Meta明知部分產品設計可能讓青少年持續使用，仍刻意使用這些設計提高青少年使用率，造成青少年成癮以及後續的身心傷害。
[b]Meta對於此案的和解，除了180億美元賠償之外，還需加強青少年身分認證，以及限制青少年使用時間..等措施。
短評:
自由主義認為只要不侵害他人的權利，每個人都有自由選擇的權利，但要對自己的選擇負責。 青少年不僅選擇的能力尚未成熟，而且沒有辦法對自己的選擇負責，所以施加部分的限制我覺得是合理的。 不過隨著現在科技進步的速度越來越快，哪天快到連成年人都還不知道怎麼選擇，或是怎麼對其選擇負責，那這種規範是不是要往成年人延伸，值得深思。
(2)OpenAI發布自研AI推論晶片「Jalapeno」，稱效能優於輝達 GB300(原文點此)
OpenAI發布自研AI Inference(推論)晶片「Jalapeno」，聲稱其Inference效能優於Nvidia GB300。
編按:
LLM在回答使用者問題時，是經由Inference運算達成。
短評:
隨著AI使用量越來越大，若每次AI都能節省一點Inferece成本，最後能省下來的總成本會非常的驚人。 這也是為什麼現在許多AI廠商都會研發自己的Inferecne晶片。
Apple本週發表多項新品。
(3)Apple 全新晶片 M6 發表！一文了解 Apple 首款 2 奈米晶片(原文點此)
(4)Mac mini 大更新！2 奈米 M6 款來了，首見 3 種核心類型架構、儲存讀寫速度翻倍(原文點此)
(5)AI 運算力暴增 4.5 倍！Apple 全新 M5 Ultra 發表，一文了解 80 核 GPU 「怪獸級晶片」(原文點此)
(6)Apple 發表新款 Mac Studio！AI 運算力較上代暴增 4.5 倍(原文點此)
Apple本週發表多項新品，重點摘要如下:
[a]推出效能加強版「Apple Silicon 」 CPU晶片「M5 Ultra」。 M5 Ultra是將2顆「M5 Max」 die(裸晶)相連，擁有最高512GB記憶體，適合部署大型本地LLM，並且能使用一般插座供電。 M5系列晶片依效能低至高為:「M5」、「M5 Pro」(2顆M5組成)、「M5 Max」(2顆M5組成)、「M5 Ultra」(2顆M5 Max組成)。
[b]推出新版「Apple Silicon 」 CPU晶片「M6」。 M6是Apple首顆採用台積電2nm製程的晶片，和前一代M5相比，CPU增加2 core達到12 core、GPU增加2 core達到12 core、NPU Engine增加1組達到2組(每組16 core)。
[c]推出新款Mac電腦，效能由低至高為:Mac mini M6(899美元起)、Mac mini M5 Pro(1699美元起)、Mac Studio M5 Max(2499美元起)、Mac Studio M5 Ultra(5499美元起)。
短評:
Apple Silicon採用Unified Memory架構，讓CPU與GPU能共享同一個記憶體池，不僅提高記憶體使用效率(不須在CPU、GPU記憶體間頻繁的搬運資料)，也讓GPU能直接存取更大容量的共享記憶體，所以在需要大量GPU記憶體的工作負載上具有明顯優勢，這是傳統PC無法達到的。 Apple雖然在LLM模型發展上落後，但是在能部署本地LLM的終端裝置上，是屬於領先梯隊的，值得期待。
留言
張貼留言