精彩文章
了解商汤AI大装置最新技术动向,感受研发团队硬核实力
商汤科技联合中国信通院云计算与大数据研究所发布《大模型可信赖研究报告》
新闻资讯
发布于 2023-12-08 15:57:00

近日,中国人工智能产业发展联盟(AIIA)第十次全体会议暨2023年通用人工智能创新发展论坛在重庆召开。


会上,商汤科技联合中国信息通信研究院云计算与大数据研究所(中国信通院云大所)共同发布行业第一个《大模型可信赖研究报告》,系统化分析阐释了人工智能大模型发展风险要素及治理建议,具体包括:


1、重点梳理大模型发展现状,点明大模型风险来源。


2、从大模型涉及的关键要素和可信维度出发,全面分析大模型面临的各项风险并进行整理归纳,形成大模型风险全景视图。


3、针对大模型在框架、数据、模型和生成内容等层面风险,系统梳理产业界保障大模型可信赖的关键举措。


4、指出当前大模型可信赖发展面临的问题及挑战,从多个维度提出参考建议。




该《报告》为人工智能大模型的可信发展提供了重要的方向参考。同时,也对大模型风险管理体系化建设提供了框架依据。


此外,《报告》还对如何实现大模型的可信赖目标给出一系列实践方案,从技术、管理、监管等维度对大模型的可信赖目标实现进行了分析研究。


一、商汤SenseTrust可信AI基础设施,入选《报告》可信赖实践案例


今年7月,为迎接大模型全新挑战,基于“日日新SenseNova”大模型体系,商汤SenseCore科技快速推出可信AI基础设施SenseTrust,构建更好的解决方案,推动大模型开发训练和应用治理可靠、可信。




 “SenseTrust” 商汤可信AI基础设施


数据层面,商汤SenseTrust能够提供从数据脱敏、数据去毒、数据合规审查及偏见评估等治理工具。


模型层面,商汤SenseTrust基于自研模型体检系列平台,能够针对传统“小模型”、生成式“大模型”,以及基础模型提供标准化和定制化的模型评测能力。


应用层面,借助商汤在数据保护、数字取证及伪造检测等技术领域的深厚积累,逐步开发了基于生成、鉴伪和溯源三位一体的综合解决方案。


目前,商汤SenseTrust相关技术已服务于“商汤秒画SenseMirage”文生图平台、“商汤如影SenseAvatar”数字人等多个产品,以及内容创作、大数据客户,以及银行安全系统。


商汤也将持续通过“商汤AI安全治理开放平台”等多种形式,为行业提供AI治理公益技术服务,推动建设安全可信的人工智能产业生态。