從『只有科技巨頭負擔得起』到『中型企業也能訓練大型模型』:AWS Trainium3 如何改變 AI 訓練的遊戲規則?
來源:https://www.aboutamazon.com/news/aws/trainium-3-ultraserver-faster-ai-training-lower-cost訓練一個 Frontier Model (前沿模型) 需要多少錢?OpenAI 的 GPT-4 訓練成本估計超過 1 億美元,Google 的 Gemini 和 Anthropic 的 Claude 也都在相似量級。這些數字背後是數千張 GPU (Graphics Processing Unit,圖形處理器)、數月的運算時間,以及龐大的電力和冷卻基礎設施投資。過去,只有 FAANG (Facebook、Apple
10 個月前
亞馬遜 CEO:自研 AI 晶片 Trainium 已成數 10 億美元業務 Anthropic 就採用超過 50 萬顆 Trainium 2 晶片
AWS 自研 AI 晶片 Trainium 已達數十億美元業務規模。其性價比為關鍵,吸引 Anthropic 採用逾 50 萬顆晶片訓練新一代 Claude 模型,展現其於 AI 晶片市場的競爭力。
10 個月前
AWS 推出另一款針對 AI 推論需求打造的客製化處理器 Trainium 提升 30% 資料處理吞吐量
AWS新款客製化處理器Trainium可讓執行個體比先前藉由GPU加速的版本,提升30%的資料處理吞吐量,同時在每次推論運算所需花費成本約可降低45%。 同時也與Intel合作Habana Gaudi人工智慧處理器 AWS在以線上形式舉辦的re:Invent活動中,宣布推出新款針對機器學習應用的客製化處理器Trainium,另外也與Intel合作導入Intel的Habana Gaudi人工智慧處理器,藉此讓旗下EC2執行個體能對應更豐富的人工智慧技術應用。 依照AWS說明,新款客製化處理器Trainium將可佈署於旗下EC2執行個體,或是套用在旗下雲端機器學習平台Amazon SageMake
5 年前
友站推薦
改一行程式碼就能脫離 NVIDIA?Amazon 的 Trainium 野心不只是晶片
INSIDE - INSIDE 硬塞的網路趨勢觀察
從『只有科技巨頭負擔得起』到『中型企業也能訓練大型模型』:AWS Trainium3 如何改變 AI 訓練的遊戲規則?
INSIDE - 廣編企劃
從『只有科技巨頭負擔得起』到『中型企業也能訓練大型模型』:AWS Trainium3 如何改變 AI 訓練的遊戲規則?
關鍵評論 - 廣編企劃
與魏哲家「見面必擁抱」!AWS 晶片掌門人 Nafea Bshara 揭台鏈深厚關係
INSIDE - Chris
AI革命點燃競爭對手雄心,輝達仍穩坐晶片霸主地位
關鍵評論 - 中央通訊社
Apple 押注 AI 晶片新布局!選擇 AWS 客製化 AI 加速器
INSIDE - 廣編企劃
亞馬遜加入 AI 晶片戰局!AWS 推新一代 AI 訓練晶片,效能提升更具成本效益
INSIDE - 廣編企劃
AWS 推出三款由自行研發晶片支援的新 Amazon EC2 執行個體
運動視界 - 廣編企劃
亞馬遜加入AI 晶片戰局!AWS 推新一代 AI 訓練晶片,效能提升更具成本效益
關鍵評論 - 廣編企劃

相關文章