蘋果終於亮出了人工智慧的底牌啦！這次蘋果釋出了蘋果智慧（Apple Intelligence），據說能從根本上改變我們使用蘋果產品的方式。雖然說還有待實際套用驗證，但這次釋出會確實讓我這個小白使用者眼前一亮！蘋果在消費者層面的UI/UX級人工智慧方面，可謂是和谷歌、微軟這些對手不分伯仲啊！
但是，昨天的釋出會也從側面承認了一些失敗的地方。更重要的是，蘋果似乎有點兒背棄了他們一直以來強調的數據私密原則。這不，一些大佬已經威脅要在公司禁用蘋果產品了！
蘋果智慧，究竟是什麽鬼？
如果讓我用一句話來總結蘋果智慧，那就是"厲害是厲害，但沒那麽厲害，還有些槽點"。
蘋果智慧，有啥功能？
首先，我來給大家捋一捋蘋果釋出會上的內容，雖然你們可能都已經知道啦~
這次蘋果宣布了一大波人工智慧驅動的功能和更新，涵蓋了iOS、macOS和iPadOS全產品線。iOS 18系統會推出自訂表情包功能，叫"Genmoji"，就是根據你的描述生成專屬表情包，酷炫酷炫的！
還有基於命令的照片編輯、音訊轉文字、Safari智慧內容摘要，以及對我們最最最最最最最最最最（重要的事情說三遍！）討厭的Siri進行期待已久的升級！不過，關於這個對話助手，我們後面再說。macOS Sequoia系統會用人工智慧來增強寫作和影像編輯功能，還有更智慧的系統設定和遊戲功能。
iPad也沒閑著，他們展示了新的小算盤App（這個有啥好說的？）、高級筆記功能和眼球追蹤等輔助功能。最酷的是Math Notes功能，你可以用Apple Pencil做數學運算，人工智慧會自動計算並匹配你的書寫風格。這個功能真的是"誰要誰要誰要"，但還是很厲害的！
蘋果智慧是怎麽實作的？
好啦，現在我們來聊聊更有趣的部份——蘋果智慧是怎麽實作的。
一直以來，蘋果都很註重保護使用者私密，但處理大型語言模型（LLM）是個大問題。LLM對裝置的硬體要求很高，尤其是處理數據時對記憶體的要求。以一個很小的語言模型為例，只有70億個參數（這在現在不算啥），占用的記憶體就有14GB之多！而蘋果最新的iPhone 15系列手機，記憶體只有8GB，甚至不夠用啊！
據說LLM不能儲存在快閃記憶體裏，因為處理器和權重檔必須一直互動，否則延遲會很嚴重。蘋果之前有個研究叫"Flash LLM"，提出可以每個標記預測負載，在快閃記憶體和記憶體之間切換，但這次釋出會沒提到有沒有用這個技術。
根據蘋果的說法，他們似乎是直接把模型部署在記憶體裏，然後根據使用者需求用LoRA介面卡微調。不過，這部份內容有點復雜，我會在本周晚些時候發一篇部落格詳細講講。
蘋果在釋出會上展示的演示很酷，他們似乎是完全致力於"裝置內"範式，也就是說，模型會在你的裝置裏執行，數據不會被傳到雲端。這聽起來不錯，但其實也有缺點。
裝置內模型的局限
"裝置內"模型必須很小，所以不會是最先進的那種。
考慮到相容蘋果智慧的手機只有iPhone 15 Pro和Max機型，而這些手機只有8GB記憶體，不僅模型本身空間受限，用來儲存計算結果的KV緩存也受影響。
啥是KV緩存？簡單說，就是模型在處理數據時避免重新計算相同的部份，這樣可以提高效率和速度。但如果數據量大，KV緩存也會不夠用。
模型的大小取決於參數數量和精度。如果蘋果訓練了很小的模型，考慮到記憶體限制，參數數量不會超過30億個。我猜他們沒把模型存到快閃記憶體裏，所以模型大小不會超過30億個參數，甚至可能更小。蘋果之前在10億參數範圍內釋出了OpenELM系列，所以他們這次可能也差不多是這個量級。如果他們用了訓練後量化的技術，就可以訓練一個很大的模型，然後壓縮到適合記憶體的大小。比如，一個120億參數的模型，把每個參數的精度從16位元減少到3.5位，大小就能從24GB壓縮到7GB。我猜他們可能兩招都用了。
蘋果把他們的模型和微軟的Phi-3系列做了比較，所以我們可以猜測模型大小差不多。他們在部落格裏也提到，裝置內模型和KV緩存都用了3.5位精度。
總的來說，蘋果演示了如何在小裝置上執行LLM，這很厲害。但有些功能還是需要更強大的模型和計算能力。
蘋果的私有雲端運算
所以，蘋果還推出了私有雲端運算，這是一個基於蘋果矽（Apple Silicon）的新雲解決方案。蘋果伺服器上會部署另一套人工智慧模型，用來處理裝置無法處理的復雜請求。也就是說，如果你的請求太復雜，數據就會被發送到雲端處理。蘋果說他們會請獨立專家來驗證數據的安全性，確保蘋果或其他第三方都無法存取這些數據。
但安全風險還是存在的，尤其是當數據離開裝置時。一位密碼學教授在推特上詳細分析了蘋果為建立安全雲所做的努力。他說，你的資訊還是會進入互聯網，這就是現實。
蘋果和OpenAI的合作
最後，蘋果還給我們爆了一個大料：和OpenAI合作！
蘋果宣布，對於蘋果伺服器模型無法處理的復雜請求，他們會嵌入ChatGPT（也就是GPT-4o版本）到Siri裏，並透過授權系統提供服務。這意味著，你可以選擇是否把請求發送到OpenAI的伺服器。
這其實說明了蘋果的人工智慧技術還不夠成熟，連ChatGPT都比不上。再加上ChatGPT的爭議，蘋果在模型品質方面確實有點落後。
我必須要說，蘋果的營收是輝達今年預計營收的4倍，上個月還回購了歷史上最大規模的股票，這麽有錢的蘋果，在人工智慧方面卻這麽落後，真是讓人無法理解！
好啦，抱怨就到這裏，我們繼續說ChatGPT。
蘋果私密的新時代？
不要把這次的公告和你的ChatGPT App搞混了。你現在的ChatGPT App不能存取你的iPhone數據，但蘋果這次的模型可以。
具體來說，除了接受數據傳輸的麻煩之外，在使用ChatGPT之前必須獲得批準，這似乎是蘋果賦予使用者選擇權的一種很好的方式，但實際上，他們在轉移媒體的註意力，讓他們忽略這樣一個事實：數據確實進入了OpenAI的伺服器。雖然蘋果和OpenAI都保證數據不會被用於訓練未來的OpenAI模型，但這一說法現在取決於兩個行為者的誠實，而不僅僅是一個。
換句話說，蘋果現在必須相信OpenAI會一直遵守承諾。簡而言之，蘋果首次必須將你的所有個人數據托付給第三方。
蘋果曾經允許人們與元宇宙等公司共享他們的資訊，直到2022年蘋果收回了這種可能性。但這是蘋果首次在高度私密敏感的話題（例如使用者的所有私人數據）上與第三方分享責任。
對於許多人認為蘋果未經授權就使用版權數據來訓練其模型的公司來說，這無疑將使更多的人不信任這家人工智慧公司。例如，埃隆·馬斯克聲稱他甚至可以禁止在自己的公司使用iPhone。
對於註重私密的人來說，這是一個噩夢，但說實話，這對蘋果來說顯然是一個公關勝利。
蘋果的人工智慧之路
很長一段時間以來，自從我寫了關於他們的研究，例如Flash LLM或Ferret-UI以來，我一直認為蘋果不會玩人工智慧前沿遊戲。
他們的目標只是透過邊緣裝置來實作人工智慧的完全可存取性，這是他們獲勝所要做的一切。
人工智慧在邊緣裝置或端裝置上執行的能力，是實作這些模型民主化存取的最有前景的方式之一。不幸的是，除了戰爭以及最近微軟的AI Copilot PC之外，在小型裝置上執行前沿人工智慧的夢想只是一個夢想。
現在，蘋果，敘事和品牌之王，已經將自己定位為"裝置內"人工智慧公司，考慮到谷歌和微軟已經透過谷歌Pixel智慧型手機和微軟的PC在幾個月內玩這個遊戲，這將是非常不公平的。
然而，我敢肯定，這正是投資者想要定價的，他們迫切希望投資一家在近一年來一直落後於其他七大股票（除了特斯拉）的公司。
今天（6月11日）價上漲了6%，接近微軟，成為世界上最有價值的公司。
此外，蘋果一直很擅長於不開創一個行業，但最終搶走早期采用者的市場，就像在手機和耳機行業一樣。
消費者端的人工智慧，會成為蘋果的下一個午餐嗎？你們怎麽看？歡迎在評論區討論哦！
好啦，今天的分享就到這裏，感謝大家的觀看！記得點贊關註，下期再見！愛你們！
