.jpg)
簡介 GPU 與 數據中心
概述核心硬件 GPU
→ 簡介 CPU 與 GPU
CPU 中心處理器 (central processing unit )
擅於按時序專注精確計算
(就像1名博士生, 可以計算複雜的方程, 但假如需要計算100組簡單加減乘除, 卻不如100位小學生同時分別計算 )
數核配合, 多數用于處理電腦普遍操作
GPU 圖像處理器 (Graphics Processing Unit)
擅於並行計算大量數據
(就像100位小學生同時分別計算, 100組簡單加減乘除, 會快過 1名博士生)
多核幷行, 擅於圖像處理 (同時計算大量像素的生成)、AI 運算 (不斷分別大量對、錯)
詳細影片解釋_3D動畫揭秘顯卡的GPU是如何工作的:
https://www.youtube.com/watch?v=6RFTS340tkk
→ GPU DGX H100
概念結構圖:
實體結構圖:
DGX H100 簡介:
DGX H100 專爲性能而設計，具有用于計算和存儲結構的獨立連接
用于AI訓練
→ (英偉達) GPU 各型號簡介
主流型號演進
英偉達 GPU 在2008-2022 年內，架構迭代調整了 8 次。擁有 Tensor 核心的 V100 相比于 P100 其混合精度運算速度提高了 9 倍，而英偉達推出的第四代 Tensor 核心，其 FP8 性能較 Ampere 提高 16 倍，在 AI 大型語言模型推理方面，性能比 Ampere 高出 30 倍。
各類型 GPU 性價比計算
各類型 GPU 能力比較
800型是100型的國産輕微閹割版
H20是H200國産重度閹割版
H800 = 2.5 A800 A800 = 2.5 V100
→ 簡介數據中心
定義 和 應用
超級計算機
定義:
指一類擁有强大計算能力和高度幷行處理能力的計算機系統。
它通常由大量處理器、高速網絡連接和大容量存儲器組成。
主要特點：能够快速處理大規模數據和複雜計算任務。它在科學研究、工程模擬和商業應用中發揮著重要作用。
功能與行業應用:
科學研究領域：天氣預報、氣候模擬、宇宙模擬等。處理大量的氣象數據，模擬地球氣候系統，模擬宇宙的演化和結構形成過程。
工程領域：航空航天、汽車設計、材料科學等方面。空氣動力學模擬，流體力學模擬，模擬材料的結構和性質等。
商業領域：廣泛應用于金融風險管理、供應鏈優化、數據分析等。風險模擬和高頻交易，模擬和優化供應鏈的運作等。
人工智能計算
定義:
智算是指利用人工智能技術進行計算和分析的過程。
涵蓋了機器學習、深度學習、自然語言處理等技術。
核心思想：模擬人類智能的過程，使計算機能够處理和解析複雜的數據和問題。
功能與行業應用:
在圖像識別、語音識別、自然語言處理、推薦系統等領域：智算可以通過深度學習算法，識別和分類圖像中的對象和特徵，轉化和理解人類語音，分析用戶行爲和喜好。
在智能駕駛、醫療診斷、金融預測等領域：智能駕駛利用智算技術進行環境感知和决策；醫療診斷中，智算可以對醫學影像進行分析和診斷；金融預測方面，智算可以輔助金融决策和風險管理。
普通算力服務器
定義:
普算服務器是用于執行通用計算任務的服務器設備。
它通常具備一定的處理能力、內存和存儲容量，幷能够提供穩定的網絡連接。
主要作用：用于運行和管理各種計算程序和應用，包括辦公應用、網頁瀏覽、多媒體播放等。
功能與行業應用:
企業應用：普通計算服務器廣泛應用于企業環境中，用于支持各種企業級應用程序，如ERP、CRM、HRM等。
虛擬化環境：作爲虛擬化環境的基礎設施，提供虛擬機和容器等服務，實現資源的靈活分配和管理。
網絡服務：網站托管、電子郵件服務、文件傳輸服務等。它們可以處理大量的網絡請求，幷提供穩定和可靠的服務。
應用比例
超級計算機 (大約10%)
主要包括科研機構、大學、國家實驗室、企業研發部門等需要處理大規模科學計算和工程模擬的機構和企業。
人工智能計算（預計35%）
大企業客戶群體，包括互聯網公司、金融機構、製造業、醫療健康等各個行業：利用智能計算來提高業務效率、優化决策和創新産品。
科研院所：例如中國科學院香港創新研究院、香港應用紡織院、香港應用科技研究院等，通過科研項目的開發與合作，推動人工智能能力發展及普惠。
本地大學院校：例如香港八大院校等，發揮本地大學强大的科研技術實力和學術帶動能力，開發及進行人工智能及大模型的行業研究。
普通算力服務器（約55%）
普算的客戶群體廣泛，包括個人用戶、中小型企業、政府機構等，用于一般的計算任務和辦公應用。
Comments