Tag: re:Invent 2024

AWS在此次re:Invent 2024活動上宣布在其資料中心導入全新設計，藉此因應人工智慧運算發展背後帶動效能與節能之間平衡需求，另外也透過進一步簡化資料中心架構設計降低整體碳排放量。 過去18年以來，AWS持續精進其資料中心設計，並且在其中13年內推動搭載GPU加速的人工智慧工作負載伺服器，進而在全球累積達數百萬名活躍用戶，同時也有數十萬名用戶藉由AWS雲端平台建構人工智慧與機器學習服務，更以Bedrock服務建構自動生成式人工智慧應用內容，使得AWS也必須持續更新其資料中心設計。 而在此次re:Invent 2024期間提出設計，AWS表示將在新資料中心設計導入簡化配電與機械結構，並且使其使用可靠性達99.9999%，同時也讓機架可能因配電問題影響運作的數量減少89%。 另一方面，AWS也透過簡化配電降低過往因電力轉換、分配系統等節點造成耗電、故障等問題，同時也減少機架備用電源與散熱風扇配置數量，並且利用負壓等方式排散伺服器運作產生熱氣，進而降低整體耗電問題。 為了配合AWS新推出的客製化人工智慧推論處理器Trainium2，以及諸如NVIDIA以Blackwell顯示架構打造的GB200 NVL72運算方案，AWS也提出全新結合氣冷與水冷散熱設計，使其人工智慧推論系統能更穩定運作，同時也能以最大限度使用電力推動運算效能，並且能使AWS減少原本必須預留電力，讓電力使用效率可大幅提升。 配合新散熱設計，AWS預期可在未來2年內讓伺服器機架執行功率密度提高6倍，並且在後續進一步提高3倍。而在此設計調整之後，AWS預期可讓每個運算節點的工作負載額外提高12%執行效能，並且以更少伺服器即可實現相同執行算力。 其他更新，則包含採用全新控制系統，並且能透過即時分析、自動故障排除，讓伺服器能維持最佳運作表現，使得其可靠性維持達99.9999%。而藉由減少機械複雜結構，更可讓資料中心整體運作能耗降低46%，同時也透過調整資料中心建築使用混凝土成分與低碳鋼材質，並且使用再生柴油驅動備用發電設施，使其整體潛藏碳排放量可降低35%。 因應新資料中心設計，AWS更與透過人工智慧技術開發先進材料的Orbital Materials達成多年合作協議，預計在2025年底協助AWS建造更低碳排放的數據中心，而本身也會採用Amazon SageMaker HyperPod訓練人工智慧模型，並且在AWS雲端平台對外開源提供使用，讓更多業者能以此研究電池、半導體相關先進材料與製程技術。

AWS宣布推出安全事件回應服務，藉此加快企業發現網路安全攻擊問題，並且縮減從攻擊中恢復所需時間。 此服務主要防範帳號竊取、資料外洩、勒索等入侵攻擊行為，將自動針對亞馬遜威脅偵測服務Amazon GuardDuty，以及相容支援的第三方網路安全工具的偵測結果進行分類，並且透過AWS Security Hub平台彙整資訊，讓企業能更快察覺網路攻擊行為，同時確認攻擊活動情形、回顧歷史攻擊紀錄，更可藉由AWS客戶事件回應小組提供24小時全年無休服務協助解決問題。 企業可針對攻擊行為設定自動回應功能，並且可依照需求建立不同處理權限，藉此讓自動回應功能處理不同攻擊情況，同時進行自動系統修復。若是出現無法修復情形，此服務將自動建立安全回報，並且通知企業內相應管理者進行後續處理。 目前此服務將在AWS全球12個雲端服務區域提供，包含美國東部 (北維吉尼亞、俄亥俄州)、西部 (俄勒岡州)，以及加拿大中部、亞太地區 (南韓首爾、新加坡、澳洲雪梨、日本東京)與德國法蘭克福、愛爾蘭、英國倫敦、瑞典斯德哥爾摩等歐洲地區提供。 雖然市場上已經有不少類似服務，但AWS強調此服務能與其雲端平台高度整合，對於使用AWS服務的企業將能簡化安全攻擊回應佈署流程，同時也能更快識別安全攻擊行為，並且縮減處理問題所需時間，讓服務能更快從攻擊中恢復運作。 隨著市場諸多服務逐漸與網路服務平台深度整合，因此對於網路攻擊主動識別防禦的需求也逐年增加，因此投入此服務佈局預期將使AWS帶來更多發展機會。而AWS更說明美國美國職業高爾夫球系列賽事PGA巡迴賽已經率先採用此服務，藉此阻止大量網路安全攻擊行為。

過去在re:Invent大會活動曾提出移動式儲存伺服器Snowball，以及藉由大型卡車運送伺服器的Snowmobile等大量資料移動解決方案之後，亞馬遜在此次re:Invent 2024再次向AWS服務用戶提供全新資料傳輸解決方案，透過建置在各地區建築大樓內的AWS Data Transfer Terminals服務，讓用戶能將重要資料快速上傳至AWS雲端服務存放。 此項服務自然不是針對小量資料上傳需求設計，而是針對動輒TB容量規模以上，甚至在PB容量規模的資料上傳需求打造，主要目的是加快AWS服務用戶將資料上傳至Amazon S3或Amazon EFS等雲端位置存放的速度。 畢竟許多客戶要將大量資料上傳至雲端時，往往會受限自身租用、架設網路頻寬，可能需要花費不少時間才能將資料全數上傳，而此項服務標榜能以高達400Gbps傳輸速度，讓客戶能更快將資料上傳至雲端使用或備存。 目前此服務僅先在美國紐約及洛杉磯提供，而確保用戶資料隱私安全，此服務僅能透過AWS管理控制台申請預約日期時段，屆時將由AWS方面安排相關作業流程與提供技術協助的資料傳輸專家，並且在指定日期時段由大樓工作人員帶領至相應大樓樓層的房間，即可透過房間內提供設備 (包含用於確認資料傳輸情形的PC)進行資料上傳作業。 而提供此服務的建築大樓與房間將不會配置任何有關亞馬遜或AWS標誌，主要希望惡意人士不會因為此類識別方式將建築大樓列為鎖定攻擊目標，或是避免其他非必要問題產生。 至於使用此項服務，將會針對各個傳輸連接埠以每小時計費，即使在預約時段內未傳輸任何資料也必須支付相關費用。而目前在美國境內進行資料傳輸 (上傳至美國境內的AWS資料中心)，每個傳輸連接埠使用費為300美元，若是從美國傳輸到歐洲地區的話，則會針對每個傳輸連接埠收取500美元費用，但目前並未公布傳輸到其他國家地區所需費用。

亞馬遜稍早公布截至今年9月底的2024財年第三季財報，其中敬收達1589億美元，相較去年同期成長11%，營收則達174億美元，而淨利則達153億美元，而可自由使用的現金流更增加至477億美元。 亞馬遜執行長Andy Jassy更透露，將針對接下來的年底購物節做好準備，同時也預期日前對外揭曉的全新Kindle系列將吸引更多消費族群使用，並且帶動亞馬遜內容服務成長。 此外，Andy Jassy更預告接下來將於美國拉斯維加斯舉辦的AWS re:Invent活動上，將會公布超過100個雲端基礎設施與人工智慧應用功能更新，藉此強化亞馬遜在人工智慧應用發展。 而先前藉由Prime Big Deal Days購物活動，亞馬遜強調在銷售額、商品售出數量，以及Prime會員參與度均創歷史新高，加入折扣促銷品牌更首度包含AllSaints、Beats x Kim、雅詩蘭黛、Kate Spade等，更為Prime會員節省超過10億美元的折扣金額，同時此次折扣優惠更首度向Prime會員提供燃油折扣優惠。 亞馬遜更宣布計劃在2025年底前在美國其他20個城市加速開設新藥房，並且在2025年內使亞馬遜藥房當日送達服務擴展到美國近一半的地區。 在自動生成式人工智慧發展部分，亞馬遜也宣布其人工智慧購物助理服務Rufus已經在加拿大、法國、德國、印度、義大利、西班牙和英國推出，另外也針對賣家推出Project Amelia服務，讓賣家更容易掌握銷售機會，並且向廣告主提供自動生成影片、影像的工具，藉此製作更吸引人關注的廣告內容。 在AWS業務發展方面，亞馬遜也宣布在Amazon Bedrock及Amazon SageMaker服務增加更多基礎模型，包含AI21 Labs的Jamba 1.5 系列、Anthropic的升級版Claude 3.5 Sonnet、Meta的Llama 3.2、Mistral Large 2與多個Stability AI模型，另外更針對用於AWS雲端服務的Graviton4處理器進行記憶體最佳化、運算最佳化，使其相比前一代設計在記憶體頻寬增加75%，運算效能提高30%。 目前更與甲骨文、Databricks達成合作，使其客戶能更容易將工作負載、自訂模型能在AWS基礎建設環境運作，並且與澳盛銀行、Booking.com、第一資本、Datadog、Epic Games、日本迅銷 ...