㈠ 树莓派大小的40T算力还只是入门级，Jetson Orin Nano开发套件评测
NVIDIA在GTC 2023上发布了面向边缘AI的入门级开发套件，即Jetson Orin Nano Developer Kit。尽管定位为入门级，但性能提升高达80倍，让人眼前一亮。本文将深入探讨这款开发套件的详细信息，包括技术规格、开箱体验、性能测试以及AI应用案例。
开箱技术规格
Jetson Orin Nano搭载了8GB内存的Orin Nano模组，同时有4GB版本的模组单独出售。Orin SoC基于Cortex-A78AE架构，专为自动驾驶优化，具有更高的安全性。其CPU包含6个核心，最大频率1.5 GHz，SPECint_rate 2006测试得分为106分。GPU采用Ampere架构的GA10B，集成1024个CUDA核心和32个Tensor Cores，最大频率达到625MHz。从规格上看，Orin Nano 8GB与Orin NX 8GB版在计算资源上基本一致，但性能与功率更低。
AI性能测试
NVIDIA提供了一套AI推理性能测试工具，展示出Orin Nano在所有模型上与Jetson Nano相比，性能提升数十倍，甚至在某些模型上超越Xavier NX。在实际测试中，结果优于官方数据，可能是因为刷入了正式发布的JetPack 5.1.1。
Demo展示
基于Transformer架构的行人检测是AI应用的一个重要领域，使用Jetson Orin Nano实现的Deformable DETR模型，以FP16精度达到8 FPS的性能。此外，通过合成数据生成和使用TAO工具套件对模型进行微调，提高了行人分割模型的准确性。
Jetson与机器人
作为机器人开发者，Jetson Orin系列为智能机器人提供了强大的计算平台。除了高性能的硬件，NVIDIA还提供了针对不同领域的软件框架，如视频分析的DeepStream、对话式AI的Riva、以及机器人领域的Isaac。这些框架使得Jetson平台在机器人应用领域具有广泛适用性。
结语
Jetson Orin Nano开发套件的官方定价为499美元，提供了一个极具性价比的选择。对于已有Orin系列设备的用户，可以通过软件模拟Jetson Nano的性能。Orin系列模组的算力范围从20TOPs到275TOPs，为开发者提供了灵活的选型方案。随着JetPack 6的发布，预计会带来与ROS 2 Humble版本的更好整合，为开发者带来更多的创新机会。
㈡ 联想智能边缘云引领边缘计算新篇章 打造边缘超融合一体机让边缘云“开箱即用”
联想智能边缘云和边缘超融合一体机确实引领了边缘计算的新篇章，通过打造边缘超融合一体机，实现了边缘云的“开箱即用”。具体来说：
技术创新与新品发布：
智能边缘云V3.1的增强：
边缘超融合一体机的特点：
“开箱即用”的便捷性：
对智能化转型的支持：
㈢ ai绠楀姏鏄浠涔圓I绠楀姏鏄浠涔
銆銆AI绠楀姏鎸囩殑鏄璁＄畻鏈虹郴缁熼拡瀵逛汉宸ユ櫤鑳戒换鍔″勭悊鍜岃＄畻鐨勮兘鍔涘拰鏁堢巼銆傚湪杩涜屼汉宸ユ櫤鑳芥柟闈㈢殑浠诲姟鏃讹紝闇瑕佸ぇ閲忕殑璁＄畻璧勬簮鍜岄珮鏁堢殑璁＄畻鑳藉姏鏉ュ勭悊澶ч噺鐨勬暟鎹鍜岀箒閲嶇殑璁＄畻璐熻嵎銆
銆銆AI绠楀姏渚濊禆浜庤＄畻鏈虹‖浠讹紝鍖呮嫭澶勭悊鍣(CPU鎴朑PU)銆佸瓨鍌ㄥ櫒(RAM鎴栫‖鐩)鍜岀綉缁滅瓑銆傝繖浜涚‖浠跺皢浼氭牴鎹涓嶅悓鐨凙I浠诲姟鑰屾湁鎵涓嶅悓锛屼緥濡傚勭悊鑷鐒惰瑷澶勭悊(NLP)浠诲姟鐨勭畻娉曢渶瑕佹洿澶氱殑鍐呭瓨锛屽勭悊鍥惧儚璇嗗埆浠诲姟鏃跺垯鏇撮渶瑕侀珮鏁堢殑鍥惧舰澶勭悊鍣(GPU)銆
銆銆鐜颁唬璁＄畻鏈虹郴缁熼氬父閰嶅囦簡澶氫釜澶勭悊鍣锛屽傚氭牳蹇僀PU鎴栧氫釜GPU銆傚悓鏃讹紝浜戣＄畻鎻愪緵鍟嗕篃鎻愪緵鍚勭嶈勬ā鍜屽畾浠风殑AI绠楀姏璧勬簮锛屽府鍔╃敤鎴锋弧瓒充笉鍚岃勬ā鍜屽嶆潅搴︾殑AI椤圭洰鐨勯渶姹傘
銆銆AI绠楀姏鐨勬彁鍗囧彲浠ユ敼鍠勪汉宸ユ櫤鑳芥妧鏈鐨勬ц兘鍜屽簲鐢锛屼緥濡傚湪鑷鐒惰瑷澶勭悊銆佸浘鍍忓拰澹伴煶璇嗗埆绛夐嗗煙銆傚悓鏃讹紝AI绠楀姏鐨勬垚鏈鍜岃兘婧愭秷鑰椾篃鏄鍊煎緱鑰冭檻鐨勯棶棰樸
銆銆AI绠楀姏鎸囩殑鏄浜哄伐鏅鸿兘绯荤粺杩涜岃繍绠楀拰璁＄畻鏃舵墍闇瑕佺殑璁＄畻鑳藉姏銆傚畠鍖呮嫭纭浠惰惧囧拰杞浠剁畻娉曚袱涓鏂归潰銆傜‖浠惰惧囧寘鎷楂樻ц兘鐨勫勭悊鍣ㄣ佹樉鍗°佸瓨鍌ㄥ櫒绛夛紝杞浠剁畻娉曞垯鏄浜哄伐鏅鸿兘鎶鏈鐨勬牳蹇冿紝閫氳繃涓嶆柇浼樺寲鍜屾敼杩涳紝鎻愰珮浜哄伐鏅鸿兘绯荤粺鐨勮繍绠楁晥鐜囧拰绮惧害銆
銆銆AI绠楀姏鏄鎸囨寚鐢ㄨ＄畻鏈鸿繘琛屽嶆潅鐨勪汉宸ユ櫤鑳借＄畻銆佸垎鏋愬拰澶勭悊鐨勮兘鍔涖傞氬父鏄閫氳繃楂樻ц兘璁＄畻銆佷簯璁＄畻绛夋妧鏈鎻愪緵鏀鎸侊紝鍒╃敤澶ч噺鐨勭畻鍔涙敮鎸佸ぇ瑙勬ā鐨勬暟鎹澶勭悊鍜岃＄畻锛屽苟鍒╃敤绠楁硶鎺㈢储寤虹珛閫傜敤浜庝汉宸ユ櫤鑳藉簲鐢ㄧ殑鏂版ā鍨嬨
銆銆鍦ㄤ汉宸ユ櫤鑳介嗗煙涓锛岀畻鍔涚殑鏁伴噺鍜岃川閲忓瑰疄鐜板嶆潅浠诲姟鐨勬垚鍔熶笌鍚﹀叿鏈夎嚦鍏抽噸瑕佺殑浣滅敤銆備粠鐩鍓嶇殑鎶鏈鍙戝睍瓒嬪娍鍜岄渶姹傛潵鐪嬶紝AI绠楀姏鍦ㄦ湭鏉ュ皢闇瑕佷笉鏂鎻愰珮鍜屼紭鍖栵紝鎵嶈兘鏇村ソ鍦版敮鎸佷汉宸ユ櫤鑳芥妧_
銆銆1銆乤i绠楀姏鏄绠楁硶鍜屾暟鎹鐨勫熀纭璁炬柦锛屾敮鎾戠潃绠楁硶鍜屾暟鎹锛岃繘鑰屽奖鍝嶇潃AI鐨勫彂灞曪紝绠楀姏鐨勫ぇ灏忎唬琛ㄧ潃瀵规暟鎹澶勭悊鑳藉姏鐨勫己寮便
銆銆2銆佺畻鍔涙簮浜庤姱鐗囷紝閫氳繃鍩虹杞浠剁殑鏈夋晥缁勭粐锛屾渶缁堥噴鏀惧埌缁堢搴旂敤涓婏紝浣滀负绠楀姏鐨勫叧閿鍩虹锛岃姱鐗囩殑鎬ц兘鍐冲畾鐫AI浜т笟鐨勫彂灞曘
銆銆鏄疉i绠楁硶锛屾槸浜哄伐鏅鸿兘鐨勬剰鎬濓紝鏄鐮旂┒涓跺紑鍙戠敤浜庢ā鎷熷拰寤朵几鎵╁睍浜虹殑鏅鸿兘鐞嗚轰付鏂规硶涓舵妧鏈涓庡強搴旂敤绯荤粺鐨勪竴闂ㄦ柊鐨勫︾戙傛渶鍙鑳芥帴瑙﹀埌鐨勫氨鏄鎵嬫満鐩告満鎴愬儚锛屽畠灏变笌Ai绠楁硶鏈夊叧銆
㈣ ai绠楀姏鍜屽摢浜涙ц兘鏈夊叧ai绠楀姏鍜屽摢浜涙ц兘鏈夊叧鑱
銆銆AI绠楀姏鍜岃稿氬洜绱犳湁鍏筹紝浠ヤ笅鏄涓浜涙渶閲嶈佺殑鎬ц兘鎸囨爣锛
銆銆1. GPU锛氬浘褰㈠勭悊鍣ㄦ槸AI璁缁冨拰鎺ㄧ悊涓鏈閲嶈佺殑缁勪欢涔嬩竴銆傚畠浠鏄涓洪珮骞跺彂璁＄畻鑰岃捐＄殑锛屽叿鏈夋瘮浼犵粺涓澶澶勭悊鍣ㄦ洿楂樼殑骞惰屾э紝杩欎娇寰桮PU鍙浠ユ洿蹇鍦拌繘琛屽悜閲忓拰鐭╅樀璁＄畻锛屼粠鑰屽姞閫烝I妯″瀷鐨勮缁冨拰棰勬祴銆
銆銆2. CPU锛氳櫧鐒禛PU闈炲父閲嶈侊紝浣咰PU涔熸壆婕旂潃鑷冲叧閲嶈佺殑瑙掕壊銆侰PU涓昏佺敤浜庢帶鍒禛PU鎵ц屼换鍔★紝骞剁＄悊瀛樺偍鍣ㄣ佺綉缁溿佽緭鍏/杈撳嚭绛夊叾浠栧瓙绯荤粺銆
銆銆3. 鏄惧瓨锛欰I搴旂敤闇瑕佸ぇ閲忕殑鏄惧瓨鏉ュ瓨鍌ㄦ潈閲嶇煩闃点佹縺娲诲煎拰鍏朵粬鏁版嵁锛屼互鍙婅繘琛岀壒寰佹彁鍙栧拰绁炵粡缃戠粶璁＄畻銆傚洜姝わ紝鏄惧瓨瀹归噺鎴愪负浜嗚瘎浼癆I绠楀姏鐨勪竴涓閲嶈佹寚鏍囥
銆銆4. 绠楁硶鍜屼紭鍖栵細闄や簡纭浠舵柟闈锛孉I绠楁硶鍜屼紭鍖栦篃鍗佸垎閲嶈併備笉鍚岀殑绠楁硶鍙浠ュ湪鐩稿悓纭浠朵笂瀹炵幇涓嶅悓绋嬪害鐨勬ц兘鎻愬崌銆傛ゅ栵紝浼樺寲鎶鏈濡傛贩鍚堢簿搴﹁＄畻銆佸紓姝ユ搴︿笅闄嶇瓑涔熷彲浠ュ姞閫熻缁冩垨鎺ㄧ悊杩囩▼銆
銆銆5. 缃戠粶鎷撴墤缁撴瀯锛氱炵粡缃戠粶鏋舵瀯鍙浠ュ奖鍝嶆ā鍨嬪ぇ灏忋佸嶆潅搴﹀拰璁缁冩椂闂淬備竴浜涚綉缁滃俆ransformer銆丷esNet绛夌粨鏋勬洿閫傚悎鍦ㄨ秴澶ц勬ā鏈虹兢涓婅缁冿紝鑰屽叾浠栧侻obileNetV2銆丒fficientNet绛夌綉缁滅粨鏋勫彲鑳芥洿閫傚悎鍦ㄨ竟缂樿惧囦笂杩涜屾帹鐞嗐
銆銆6. 鏁版嵁闆嗗ぇ灏忥細鏁版嵁鏀鎸佹槸AI绠楁硶鐨勫熀纭銆傚傛灉娌℃湁瓒冲熺殑璁缁冩暟鎹锛屾ā鍨嬪氨鏃犳硶瀛︿範鍒版湁鐢ㄧ殑淇℃伅锛屼粠鑰岄檺鍒朵簡鍏舵ц兘鍜屽噯纭鎬с
銆銆缁间笂鎵杩帮紝AI绠楀姏涓庣‖浠惰惧囥佺畻娉曞拰浼樺寲鎶鏈銆佺炵粡缃戠粶鎷撴墤缁撴瀯浠ュ強鏁版嵁閲忕瓑閮藉瘑鍒囩浉鍏炽
㈤ 中国算力的定义是什么
算力是数据中心服务器处理数据并输出结果的能力。《中国算力白皮书（2022年）》中提出，算力主要分为通用算力、智能算力、超算算力和边缘算力四大类。通用算力主要依赖CPU芯片；智能算力则由GPU、FPGA、AI芯片等支持；超算算力源自超级计算机；边缘算力则侧重于提供实时计算服务，以减少网络延迟。尽管边缘算力有时被视为独立的一类，但其实它是前述三种算力的综合应用。算力作为数字经济的驱动力，其服务通过云计算实现普惠化。国家政策倡导绿色算力发展，强调效率、可再生资源、能源节约和管理优化。谐云算力云团队基于多年的技术研发，开发了多款算力云产品和解决方案。其中一款产品已在某大型集团成功实施，实现了算力资源的有效管理和调度，提高了闲置算力的利用率，并确保了业务稳定运行。此外，该产品还探索了算力交易，以激活和利用闲置算力资源。