第二,持续探索尺度定律边界(Scaling laws)。随着大模型的参数量朝向万亿以上级别激增,稳定、高效的超大规模算力调度和训推引擎成为核心基石。
商汤是中国最早一批投入人工智能基础设施建设的公司之一,在公司成立的第10个年头,2023年商汤迎来了生成式AI业务的“爆发式增长”。
第三,建设面向开发者友好的AI基础设施。面对愈发高频次、高效率的模型迭代需求,SenseCore商汤大装置拥有领先的AI原生云算力产品体系,为客户打造0门槛、一站式的极致开发体验,缩短大模型开发周期。
更通俗地理解,如今我们在办公场景、购物、聊天、社交、游戏等领域享受的生成式AI技术服务,很多都依托SenseCore商汤大装置提供算力。比如,京东、金山办公等,都调用了商汤的算力和模型。
盛世伟表示,站在AI 2.0的最前沿,商汤进一步推出“模型即服务”商业模式,使客户能够轻松微调和使用各类生成式AI功能,无需承担建设和管理底层基础设施的负担,这也为商汤在市场中带来众多正面评价。
与此同时,2022年,作为商汤大装置重要载体的人工智能计算中心(AIDC)在上海临港正式投入运营,这里也成为亚洲最大人工智能计算中心之一。
得益于大装置算力和数据规模的支持,商汤研发的底座大模型“日日新”得以持续优化。以“日日新”4.0版本为例,目前其在代码编写、数据分析和医疗问答等多个场景中展现的能力,已超过ChatGPT-3.5。
目前,SenseCore商汤大装置管理的算力,已实现全国联网的统一调度,在上海、深圳、广州、福州、济南、重庆等地都拓展了新的计算节点,总算力规模已高达12000 petaFLOPS。
第一,加速国产算力布局。通过与众多国产算力厂商合作,商汤与上下游产业伙伴共同推动国产生态建设,完成多款芯片与框架适配,落地多个千卡级别的国产算力集群,积极推进芯片评价标准和体系的完善,加速整个国产算力商业化进程。
也就是说,生成式AI业务已成为商汤从无到有并超过10亿元收入体量的核心业务。而在这背后,SenseCore商汤大装置的贡献至为关键。
经过5年的努力和发展,目前商汤大装置的总算力规模已突破性地增长至12,000 petaFLOPS,上线GPU数量高达45,000卡,这在国内大模型基础设施中非常稀缺。
目前,SenseCore 商汤大装置沉淀了整套大模型基础设施能力,不仅可服务于众多企业和科研院所的开发者,很快也会向个人开发者全面开放。
“在即将到来的4月下旬,我们会有一个技术交流日,届时将展示我们更新的‘日日新’5.0大模型的能力。”盛世伟提前预告,预计4月份发布“日日新5.0”版本,性能全面对标GPT4-Turbo。
这个大装置的算力,在支持商汤自身大模型研发的同时,也支持外部客户训练大模型和应用部署。专业地说,SenseCore商汤大装置的强大算力,可支撑超过20个千亿超大模型同时训练,并支持万亿参数大模型的全生命周期生成。
上海有这样一支团队,打造了亚洲最大的人工智能计算中心之一——商汤临港AIDC。它背后的SenseCore商汤大装置团队,由400余名多领域人才所组成,分布在上海、北京和深圳等地。
SenseCore商汤大装置的首席科学家为林达华教授,在深度学习和神经网络领域具有很高的学术地位和成就。林达华师从汤晓鸥教授,也是商汤联合创始人,香港中文大学信息工程硕士、美国麻省理工学院计算机科学博士。林达华在AI开源社区有显著贡献,主导了商汤的多个开源项目,同时也是大模型研发的牵头人。
根据国际知名调研机构弗若斯特沙利文(Frost & Sullivan)联合头豹研究院发布的《2023年中国AI开发平台市场报告》,商汤大装置已成为AI开发平台的领军者,市场综合竞争表现位居国内第一、全球第二,仅次于亚马逊云。
此外,在推理侧,商汤的自研的推理引擎在大语言、多模态模型上的性能表现提升了2倍,资源利用率提升了40%,为用户提供极致性价比服务。
商汤科技董秘办董事总经理盛世伟介绍,2018年前后,商汤开始每年投入到专为AI原生打造的智算云服务平台——SenseCore商汤大装置,并建设上海临港超算中心。
目前,商汤大装置已最大实现了万卡的超大集群互联,并保持90%的加速效率。在训练稳定性上,这个大装置实现了超30天稳定训练不间断的能力,而出现训练间断时的诊断恢复时长也优化到了半小时。
2024年3月下旬,商汤披露了其2023年业绩。财报显示,2023年商汤实现总收入34亿元,借助“大装置+大模型”的协同布局,其生成式AI业务创造了11.8亿元的收入,收入增长率达200%,占该集团总收入的35%。
值得关注的是,商汤推出的“日日新”4.0,于2024年2月在代码编写、数据分析和医疗问答等多场景中达到了与GPT-4相匹配的能力,同时开源了7B和20B两种参数规格的基模型,性能超Llama2和Gemma。
“现在大家都知道,模型的参数都是动辄几千亿、上万亿,如果没有一个大的集群,根本没有办法做这件事情,所以能够把这些卡连起来是一个非常硬的功夫。”盛世伟说,目前商汤的工程化能力做到了国内领先。
“在大装置团队当中,不乏身怀艺术细胞、音乐天赋,但又拥有对学术执着的科学家,”盛世伟说,他们能够以独特的视角和激情,为商汤大装置的发展注入创新活力。
盛世伟表示,SenseCore商汤大装置是国内训练大模型最为先进的基础设施之一,2023年实现了对万亿参数大模型的生产支持,还在互联规模、加速效率和稳定性上保持业界领先水平。
乐发ivAI大模型是当前全球最热的产业,中国大模型企业正飞速发展。而“大模型”离不开“大装置”,如果没有以算力为核心的基础设施作为支撑,大模型根本就跑不起来。
754.66MB
查看736.63MB
查看79.4MB
查看209.85MB
查看705.79MB
查看376.50MB
查看783.51MB
查看230.38MB
查看912.71MB
查看845.71MB
查看487.28MB
查看347.20MB
查看598.83MB
查看872.52MB
查看847.60MB
查看811.45MB
查看973.46MB
查看396.92MB
查看966.85MB
查看646.86MB
查看638.18MB
查看199.79MB
查看822.21MB
查看611.50MB
查看753.27MB
查看731.78MB
查看956.51MB
查看489.17MB
查看215.72MB
查看707.95MB
查看973.13MB
查看931.93MB
查看895.97MB
查看188.61MB
查看248.50MB
查看221.25MB
查看711.48MB
查看891.18MB
查看140.20MB
查看478.15MB
查看585.88MB
查看274.30MB
查看575.17MB
查看904.66MB
查看321.58MB
查看223.58MB
查看269.17MB
查看228.97MB
查看167.45MB
查看262.72MB
查看977.43MB
查看520.97MB
查看106.81MB
查看681.40MB
查看785.80MB
查看806.55MB
查看410.58MB
查看475.92MB
查看127.58MB
查看164.51MB
查看387.96MB
查看635.51MB
查看513.52MB
查看945.96MB
查看839.48MB
查看541.98MB
查看606.87MB
查看412.69MB
查看675.89MB
查看651.63MB
查看557.30MB
查看396.65MB
查看361.23MB
查看946.14MB
查看667.41MB
查看433.97MB
查看452.36MB
查看165.71MB
查看544.35MB
查看466.60MB
查看354.96MB
查看642.60MB
查看365.49MB
查看421.75MB
查看577.46MB
查看719.52MB
查看807.21MB
查看803.71MB
查看639.82MB
查看310.22MB
查看896.71MB
查看500.64MB
查看636.63MB
查看397.13MB
查看916.23MB
查看925.80MB
查看191.42MB
查看478.96MB
查看832.20MB
查看460.73MB
查看525.32MB
查看537.77MB
查看489.35MB
查看795.75MB
查看
982清镇vo
离线休息权入法的提案已立案📆
2025-07-07 19:47:21 推荐
796188****7392
西班牙将正式承认巴勒斯坦国📊
2025-07-09 10:12:18 不推荐
123152****1273
招弟们经历了怎样的人生📎
2025-07-08 15:38:36 推荐
76追赶生化机器人
何超琼当模特推广贵州苗绣📑
2025-07-08 05:27:21 推荐