㈠ 樹莓派大小的40T算力還只是入門級，Jetson Orin Nano開發套件評測
NVIDIA在GTC 2023上發布了面向邊緣AI的入門級開發套件，即Jetson Orin Nano Developer Kit。盡管定位為入門級，但性能提升高達80倍，讓人眼前一亮。本文將深入探討這款開發套件的詳細信息，包括技術規格、開箱體驗、性能測試以及AI應用案例。
開箱技術規格
Jetson Orin Nano搭載了8GB內存的Orin Nano模組，同時有4GB版本的模組單獨出售。Orin SoC基於Cortex-A78AE架構，專為自動駕駛優化，具有更高的安全性。其CPU包含6個核心，最大頻率1.5 GHz，SPECint_rate 2006測試得分為106分。GPU採用Ampere架構的GA10B，集成1024個CUDA核心和32個Tensor Cores，最大頻率達到625MHz。從規格上看，Orin Nano 8GB與Orin NX 8GB版在計算資源上基本一致，但性能與功率更低。
AI性能測試
NVIDIA提供了一套AI推理性能測試工具，展示出Orin Nano在所有模型上與Jetson Nano相比，性能提升數十倍，甚至在某些模型上超越Xavier NX。在實際測試中，結果優於官方數據，可能是因為刷入了正式發布的JetPack 5.1.1。
Demo展示
基於Transformer架構的行人檢測是AI應用的一個重要領域，使用Jetson Orin Nano實現的Deformable DETR模型，以FP16精度達到8 FPS的性能。此外，通過合成數據生成和使用TAO工具套件對模型進行微調，提高了行人分割模型的准確性。
Jetson與機器人
作為機器人開發者，Jetson Orin系列為智能機器人提供了強大的計算平台。除了高性能的硬體，NVIDIA還提供了針對不同領域的軟體框架，如視頻分析的DeepStream、對話式AI的Riva、以及機器人領域的Isaac。這些框架使得Jetson平台在機器人應用領域具有廣泛適用性。
結語
Jetson Orin Nano開發套件的官方定價為499美元，提供了一個極具性價比的選擇。對於已有Orin系列設備的用戶，可以通過軟體模擬Jetson Nano的性能。Orin系列模組的算力范圍從20TOPs到275TOPs，為開發者提供了靈活的選型方案。隨著JetPack 6的發布，預計會帶來與ROS 2 Humble版本的更好整合，為開發者帶來更多的創新機會。
㈡ 聯想智能邊緣雲引領邊緣計算新篇章 打造邊緣超融合一體機讓邊緣雲「開箱即用」
聯想智能邊緣雲和邊緣超融合一體機確實引領了邊緣計算的新篇章，通過打造邊緣超融合一體機，實現了邊緣雲的「開箱即用」。具體來說：
技術創新與新品發布：
智能邊緣雲V3.1的增強：
邊緣超融合一體機的特點：
「開箱即用」的便捷性：
對智能化轉型的支持：
㈢ ai綆楀姏鏄浠涔圓I綆楀姏鏄浠涔
銆銆AI綆楀姏鎸囩殑鏄璁＄畻鏈虹郴緇熼拡瀵逛漢宸ユ櫤鑳戒換鍔″勭悊鍜岃＄畻鐨勮兘鍔涘拰鏁堢巼銆傚湪榪涜屼漢宸ユ櫤鑳芥柟闈㈢殑浠誨姟鏃訛紝闇瑕佸ぇ閲忕殑璁＄畻璧勬簮鍜岄珮鏁堢殑璁＄畻鑳藉姏鏉ュ勭悊澶ч噺鐨勬暟鎹鍜岀箒閲嶇殑璁＄畻璐熻嵎銆
銆銆AI綆楀姏渚濊禆浜庤＄畻鏈虹‖浠訛紝鍖呮嫭澶勭悊鍣(CPU鎴朑PU)銆佸瓨鍌ㄥ櫒(RAM鎴栫‖鐩)鍜岀綉緇滅瓑銆傝繖浜涚‖浠跺皢浼氭牴鎹涓嶅悓鐨凙I浠誨姟鑰屾湁鎵涓嶅悓錛屼緥濡傚勭悊鑷鐒惰璦澶勭悊(NLP)浠誨姟鐨勭畻娉曢渶瑕佹洿澶氱殑鍐呭瓨錛屽勭悊鍥懼儚璇嗗埆浠誨姟鏃跺垯鏇撮渶瑕侀珮鏁堢殑鍥懼艦澶勭悊鍣(GPU)銆
銆銆鐜頒唬璁＄畻鏈虹郴緇熼氬父閰嶅囦簡澶氫釜澶勭悊鍣錛屽傚氭牳蹇僀PU鎴栧氫釜GPU銆傚悓鏃訛紝浜戣＄畻鎻愪緵鍟嗕篃鎻愪緵鍚勭嶈勬ā鍜屽畾浠風殑AI綆楀姏璧勬簮錛屽府鍔╃敤鎴鋒弧瓚充笉鍚岃勬ā鍜屽嶆潅搴︾殑AI欏圭洰鐨勯渶奼傘
銆銆AI綆楀姏鐨勬彁鍗囧彲浠ユ敼鍠勪漢宸ユ櫤鑳芥妧鏈鐨勬ц兘鍜屽簲鐢錛屼緥濡傚湪鑷鐒惰璦澶勭悊銆佸浘鍍忓拰澹伴煶璇嗗埆絳夐嗗煙銆傚悓鏃訛紝AI綆楀姏鐨勬垚鏈鍜岃兘婧愭秷鑰椾篃鏄鍊煎緱鑰冭檻鐨勯棶棰樸
銆銆AI綆楀姏鎸囩殑鏄浜哄伐鏅鴻兘緋葷粺榪涜岃繍綆楀拰璁＄畻鏃舵墍闇瑕佺殑璁＄畻鑳藉姏銆傚畠鍖呮嫭紜浠惰懼囧拰杞浠剁畻娉曚袱涓鏂歸潰銆傜‖浠惰懼囧寘鎷楂樻ц兘鐨勫勭悊鍣ㄣ佹樉鍗°佸瓨鍌ㄥ櫒絳夛紝杞浠剁畻娉曞垯鏄浜哄伐鏅鴻兘鎶鏈鐨勬牳蹇冿紝閫氳繃涓嶆柇浼樺寲鍜屾敼榪涳紝鎻愰珮浜哄伐鏅鴻兘緋葷粺鐨勮繍綆楁晥鐜囧拰綺懼害銆
銆銆AI綆楀姏鏄鎸囨寚鐢ㄨ＄畻鏈鴻繘琛屽嶆潅鐨勪漢宸ユ櫤鑳借＄畻銆佸垎鏋愬拰澶勭悊鐨勮兘鍔涖傞氬父鏄閫氳繃楂樻ц兘璁＄畻銆佷簯璁＄畻絳夋妧鏈鎻愪緵鏀鎸侊紝鍒╃敤澶ч噺鐨勭畻鍔涙敮鎸佸ぇ瑙勬ā鐨勬暟鎹澶勭悊鍜岃＄畻錛屽苟鍒╃敤綆楁硶鎺㈢儲寤虹珛閫傜敤浜庝漢宸ユ櫤鑳藉簲鐢ㄧ殑鏂版ā鍨嬨
銆銆鍦ㄤ漢宸ユ櫤鑳介嗗煙涓錛岀畻鍔涚殑鏁伴噺鍜岃川閲忓瑰疄鐜板嶆潅浠誨姟鐨勬垚鍔熶笌鍚﹀叿鏈夎嚦鍏抽噸瑕佺殑浣滅敤銆備粠鐩鍓嶇殑鎶鏈鍙戝睍瓚嬪娍鍜岄渶奼傛潵鐪嬶紝AI綆楀姏鍦ㄦ湭鏉ュ皢闇瑕佷笉鏂鎻愰珮鍜屼紭鍖栵紝鎵嶈兘鏇村ソ鍦版敮鎸佷漢宸ユ櫤鑳芥妧_
銆銆1銆乤i綆楀姏鏄綆楁硶鍜屾暟鎹鐨勫熀紜璁炬柦錛屾敮鎾戠潃綆楁硶鍜屾暟鎹錛岃繘鑰屽獎鍝嶇潃AI鐨勫彂灞曪紝綆楀姏鐨勫ぇ灝忎唬琛ㄧ潃瀵規暟鎹澶勭悊鑳藉姏鐨勫己寮便
銆銆2銆佺畻鍔涙簮浜庤姱鐗囷紝閫氳繃鍩虹杞浠剁殑鏈夋晥緇勭粐錛屾渶緇堥噴鏀懼埌緇堢搴旂敤涓婏紝浣滀負綆楀姏鐨勫叧閿鍩虹錛岃姱鐗囩殑鎬ц兘鍐沖畾鐫AI浜т笟鐨勫彂灞曘
銆銆鏄疉i綆楁硶錛屾槸浜哄伐鏅鴻兘鐨勬剰鎬濓紝鏄鐮旂┒涓跺紑鍙戠敤浜庢ā鎷熷拰寤朵幾鎵╁睍浜虹殑鏅鴻兘鐞嗚轟付鏂規硶涓舵妧鏈涓庡強搴旂敤緋葷粺鐨勪竴闂ㄦ柊鐨勫︾戙傛渶鍙鑳芥帴瑙﹀埌鐨勫氨鏄鎵嬫満鐩告満鎴愬儚錛屽畠灝變笌Ai綆楁硶鏈夊叧銆
㈣ ai綆楀姏鍜屽摢浜涙ц兘鏈夊叧ai綆楀姏鍜屽摢浜涙ц兘鏈夊叧鑱
銆銆AI綆楀姏鍜岃稿氬洜緔犳湁鍏籌紝浠ヤ笅鏄涓浜涙渶閲嶈佺殑鎬ц兘鎸囨爣錛
銆銆1. GPU錛氬浘褰㈠勭悊鍣ㄦ槸AI璁緇冨拰鎺ㄧ悊涓鏈閲嶈佺殑緇勪歡涔嬩竴銆傚畠浠鏄涓洪珮騫跺彂璁＄畻鑰岃捐＄殑錛屽叿鏈夋瘮浼犵粺涓澶澶勭悊鍣ㄦ洿楂樼殑騫惰屾э紝榪欎嬌寰桮PU鍙浠ユ洿蹇鍦拌繘琛屽悜閲忓拰鐭╅樀璁＄畻錛屼粠鑰屽姞閫烝I妯″瀷鐨勮緇冨拰棰勬祴銆
銆銆2. CPU錛氳櫧鐒禛PU闈炲父閲嶈侊紝浣咰PU涔熸壆婕旂潃鑷沖叧閲嶈佺殑瑙掕壊銆侰PU涓昏佺敤浜庢帶鍒禛PU鎵ц屼換鍔★紝騫剁＄悊瀛樺偍鍣ㄣ佺綉緇溿佽緭鍏/杈撳嚭絳夊叾浠栧瓙緋葷粺銆
銆銆3. 鏄懼瓨錛欰I搴旂敤闇瑕佸ぇ閲忕殑鏄懼瓨鏉ュ瓨鍌ㄦ潈閲嶇煩闃點佹縺媧誨煎拰鍏朵粬鏁版嵁錛屼互鍙婅繘琛岀壒寰佹彁鍙栧拰紲炵粡緗戠粶璁＄畻銆傚洜姝わ紝鏄懼瓨瀹歸噺鎴愪負浜嗚瘎浼癆I綆楀姏鐨勪竴涓閲嶈佹寚鏍囥
銆銆4. 綆楁硶鍜屼紭鍖栵細闄や簡紜浠舵柟闈錛孉I綆楁硶鍜屼紭鍖栦篃鍗佸垎閲嶈併備笉鍚岀殑綆楁硶鍙浠ュ湪鐩稿悓紜浠朵笂瀹炵幇涓嶅悓紼嬪害鐨勬ц兘鎻愬崌銆傛ゅ栵紝浼樺寲鎶鏈濡傛販鍚堢簿搴﹁＄畻銆佸紓姝ユ搴︿笅闄嶇瓑涔熷彲浠ュ姞閫熻緇冩垨鎺ㄧ悊榪囩▼銆
銆銆5. 緗戠粶鎷撴墤緇撴瀯錛氱炵粡緗戠粶鏋舵瀯鍙浠ュ獎鍝嶆ā鍨嬪ぇ灝忋佸嶆潅搴﹀拰璁緇冩椂闂淬備竴浜涚綉緇滃俆ransformer銆丷esNet絳夌粨鏋勬洿閫傚悎鍦ㄨ秴澶ц勬ā鏈虹兢涓婅緇冿紝鑰屽叾浠栧侻obileNetV2銆丒fficientNet絳夌綉緇滅粨鏋勫彲鑳芥洿閫傚悎鍦ㄨ竟緙樿懼囦笂榪涜屾帹鐞嗐
銆銆6. 鏁版嵁闆嗗ぇ灝忥細鏁版嵁鏀鎸佹槸AI綆楁硶鐨勫熀紜銆傚傛灉娌℃湁瓚沖熺殑璁緇冩暟鎹錛屾ā鍨嬪氨鏃犳硶瀛︿範鍒版湁鐢ㄧ殑淇℃伅錛屼粠鑰岄檺鍒朵簡鍏舵ц兘鍜屽噯紜鎬с
銆銆緇間笂鎵榪幫紝AI綆楀姏涓庣‖浠惰懼囥佺畻娉曞拰浼樺寲鎶鏈銆佺炵粡緗戠粶鎷撴墤緇撴瀯浠ュ強鏁版嵁閲忕瓑閮藉瘑鍒囩浉鍏熾
㈤ 中國算力的定義是什麼
算力是數據中心伺服器處理數據並輸出結果的能力。《中國算力白皮書（2022年）》中提出，算力主要分為通用算力、智能算力、超算算力和邊緣算力四大類。通用算力主要依賴CPU晶元；智能算力則由GPU、FPGA、AI晶元等支持；超算算力源自超級計算機；邊緣算力則側重於提供實時計算服務，以減少網路延遲。盡管邊緣算力有時被視為獨立的一類，但其實它是前述三種算力的綜合應用。算力作為數字經濟的驅動力，其服務通過雲計算實現普惠化。國家政策倡導綠色算力發展，強調效率、可再生資源、能源節約和管理優化。諧雲算力雲團隊基於多年的技術研發，開發了多款算力雲產品和解決方案。其中一款產品已在某大型集團成功實施，實現了算力資源的有效管理和調度，提高了閑置算力的利用率，並確保了業務穩定運行。此外，該產品還探索了算力交易，以激活和利用閑置算力資源。