Tag: Private Cloud Compute

Google宣布推出名為「Private AI Compute」的全新雲端服務架構，將讓使用者在確保數據隱私的前提下，也能在裝置上使用高度複雜的AI運算功能。此平台結合雲端高階Gemini模型的強大運算力，以及使用者對裝置端處理 (On-device) 所期待的安全與隱私保證。 而此技術架構與蘋果去年在WWDC 2024發表的「Private Cloud Compute」概念極為相似，後者強調利用Apple Silicon處理器運算，同時在雲端與裝置端提供更具隱私安全性的「Apple Intelligence」服務 。 採用TPU與TIE架構，打造「密封」雲端環境 Private AI Compute運作於Google自有客製化晶片TPU (Tensor Processing Units) 之上，並且基於無縫整合的單一Google堆疊 (single Google stack) 運作。 其核心安全機制在於整合了名為「Titanium Intelligence Enclaves」 (TIE)架構，以此實現高度的隱私與安全性。透過遠端認證 (remote authentication) ...

隨著先前在beta版本加入測試，蘋果在稍早正式推出的iOS 26.1版本更新，於Apple Intelligence功能新增支援繁體中文在內8種語言，並且能在橫跨iPhone、iPad及Mac裝置使用深度整合的AI功能，包含「即時翻譯」、「書寫工具」、視覺智慧、「照片」中的「清除」功能，以及「影像樂園」等。 蘋果強調，Apple Intelligence在AI隱私保護有顯著躍進，其核心為裝置端處理 (on-device processing)，意味許多驅動Apple Intelligence的模型完全在裝置端運作。而針對需要更大模型的複雜指令，則會透過「私密雲端運算」 (Private Cloud Compute)技術，將裝置端的隱私與安全延伸至雲端，確保在雲端協同運算資料也能確保相同安全性。 「即時翻譯」支援AirPods Pro 3等裝置，「視覺智慧」可辨識畫面內容 此次更新帶來多項原本已在英文版中預覽的AI功能，並且正式支援繁體中文： • 即時翻譯 (Live Translation)： 可在「訊息」、FaceTime 與「電話」App 中無縫整合，協助使用者在選定語言間來回溝通。 搭配 AirPods Pro 3 (或 AirPods Pro 2) ...

蘋果執行長Tim Cook日前宣布，其位於美國德州休士頓的新工廠，已經正式開始出貨「美國製造」的AI伺服器。Tim Cook強調，這些伺服器是蘋果承諾以6000億美元美國投資計畫的一部分，將用於支援其在美國境內的Private Cloud Compute基礎設施，以及「Apple Intelligence」相關服務。 響應製造回流，投資額加碼至6000億 蘋果此舉被視為積極響應美國總統川普任內強力推動的製造業回流美國政策，該公司於今年初宣布擴大其「美國進階製造基金」 (Advanced Manufacturing Fund)，初期投資5000億美元，隨後在今年8月更將總投資金額加碼至6000億美元，用於支持在美國13個州生產其產品的供應鏈。 Apple’s American-made advanced servers are now shipping from our new Houston facility to Apple data centers! These servers will ...

日經新聞引述消息指稱，蘋果正與富士康進行洽談，準備在明年升級「Apple Intelligence」服務背後的雲端伺服器，預計將其更換為新推出的M4處理器架構配置，藉此對應更高運算效能。 而目前蘋果在「Apple Intelligence」服務背後的雲端伺服器採用M2 Ultra處理器規格，因此相關看法認為蘋果接下來應該會將伺服器升級為尚未公布的「M4 Ultra」。 「Apple Intelligence」服務主要運作模式，雖然都還是強調以裝置端運作為主，但超出裝置端運算能力部分就會轉為雲端協同運算方式，而此過程就會以蘋果提出的「Private Cloud Compute」雲端運算環境架構執行，透過Apple Silicon處理器硬體環境運作，並且以規模更大的自然語言模型執行運算結果，最終將執行結果透過安全網路連接方式回傳至用戶裝置端呈現。 另外，蘋果也說明「Apple Intelligence」整體運作結構會先以裝置端運算為主，當算力不夠時才會尋求雲端協同運算，而透過蘋果自有獨立雲端伺服器運算內容也不會備份、永久留存用戶上傳資料，蘋果更不會利用這些資料作為後續訓練，或是知曉資料內容細節。 目前「Apple Intelligence」服務僅先在美國境內提供使用，預計年底時會擴展到更多國家地區，並且計畫在2025年增加支援更多語言，同時開放更多國家地區使用，因此接下來更需要因應龐大使用需求強化「Apple Intelligence」服務背後伺服運算架構。

今年在WWDC 2024揭曉「Apple Intelligence」服務時，蘋果曾在深度學習研究報告解釋「Apple Intelligence」服務背後整合30億組參數規模的小型自然語言模型，並且在「Private Cloud Compute」雲端運算部分加入規模更大的自然語言模型，同時以配合Apple Silicon處理器硬體環境運作，藉此對應特定蘋果應用服務使用。 而在稍早時候，蘋果宣布將向安全及隱私研究人員公開「Private Cloud Compute」雲端運算環境架構，甚至公布部分組成原始編碼內容，讓研究人員可深入研究此雲端環境運作方式。 同時，蘋果也宣布最高達100萬美元的獎勵金額，藉此吸引研究人員、安全技術人員可以挖掘「Private Cloud Compute」雲端運算環境架構是否存有漏洞問題，藉此讓蘋果即將推行的「Apple Intelligence」服務可以更加安全。 除了透過高額獎金吸引研究人員協助找出雲端運算環境架構漏洞問題，蘋果也將針對協助通報涉及機敏資訊隱私相關漏洞的人員提供最高25萬美元獎金，若是發現能從特定網路位址存取用戶機敏資料的漏洞，最高則可獲得15萬美元作為獎勵。 以蘋果自建系統運作的「Private Cloud Compute」雲端運算環境架構，目前是「Apple Intelligence」服務重要運作環節，主要擔任接手裝置端無法執行運作的工作項目，透過規模更大的自然語言模型，並且配合Apple Silicon處理器硬體環境運作，後續則可將執行結果透過安全網路連接方式回傳至用戶裝置端呈現 另外，蘋果也說明「Apple Intelligence」整體運作結構會先以裝置端運算為主，當算力不夠時才會尋求雲端協同運算，而透過蘋果自有獨立雲端伺服器運算內容也不會備份、永久留存用戶上傳資料，蘋果更不會利用這些資料作為後續訓練，或是知曉資料內容細節。 而在運算過程中，蘋果也會比對發出協同運算請求的裝置，與後續將完成運算結果回傳時也會比對是否為相同裝置，避免用戶資料有外洩疑慮。 此次宣布公開「Private Cloud Compute」雲端運算環境架構、公布部分組成原始編碼內容，並且配合漏洞挖掘獎勵，蘋果希望讓「Apple Intelligence」服務能以更安全形式對外提供使用，並且確保用戶隱私安全。

針對在WWDC 2024主題演講介紹「Apple Intelligence」時，提及一旦必須透過雲端協同運算完成人工智慧相關應用需求的話，蘋果依然會將資料送往自有獨立伺服器進行後續運算，蘋果軟體工程資料副總裁Craig Federighi在後續受訪時表示，蘋果以相當謹慎心態設計此運算結構，同時也透露其背後運作原理與iCloud Private Relay採相同網路IP遮蔽技術。 ▲蘋果透過「Private Cloud Compute」雲端協同運算架構，藉此彌補裝置端算力不足情況 Craig Federighi說明，此項名為「Private Cloud Compute」、透過蘋果自有獨立伺服器進行人工智慧協同運算過程中，用戶會上傳至雲端的資料僅包含特定內容，而非將所有資訊都上傳至雲端，同時也藉由網路IP遮蔽技術隱匿用戶在網路上的資訊，藉此讓用戶能以去識別性方式完成雲端協同運算。 此外，在此運算流程中，用戶所有資料將不會被蘋果伺服器另外備存，或是擁有存在蘋果伺服器內，所有上傳至雲端伺服器的資料都僅作單次運算，同時上傳資料也僅能用於用戶請求協同運算範圍，不能用於資料分析、人工智慧模型學習等額外運算。 而所有完成運算、進行回傳資料也必須比對用戶裝置是否與原本上傳資料的裝置相同，藉此確保資料使用安全性。 ▲強調所有資料都不會存放在蘋果自有獨立伺服器，同時所有運算也僅對應用戶請求範圍，並且透過嚴格驗證確保用戶身分正確性 同時，蘋果也透露「Private Cloud Compute」的運作基礎建立在Apple Silicon處理器，意味此運算架構僅適用於蘋果自有處理器應用裝置，如同目前「Apple Intelligence」功能必須搭配A17 Pro處理器、M1以上規格處理器的裝置使用。