顶尖财经网(www.58188.com)2024-3-14 14:01:44讯：
3月13日，华创证券“算力赋能，应用无限”论坛在京举办，AI算力、网络和数据安全等50余家上市公司就人工智能技术创新应用进行深度交流。永信至诚集团CTO、智能永信总经理张凯受邀出席，发表《AI大模型安全测评数字风洞》主题演讲，提出AI大模型急需常态化测试评估，永信至诚“数字风洞”产品体系双管齐下，全面支撑AI大模型基础设施安全与内容风险测评，为AI数字健康提供强有力保障。
永信至诚集团CTO、智能永信总经理张凯发表主题演讲 图片来源：永信至诚集团
随着AI技术的发展和广泛应用，特别是AI大模型的兴起，推动着社会生产力的不断创新与变革，也带来了前所未有的安全风险和挑战。张凯提出，“百模大战”时代下，一些实际存在的AI大模型安全问题引发公众的深切担忧，一是AI大模型作为复杂的软件系统，面临基础设施和软件安全风险，如系统漏洞、数据泄露、模型篡改等；二是AI大模型虽然提高了内容产出质量，但同时生成的内容可能包含误导信息或偏见内容，被用于不良目的，如钓鱼邮件和恶意软件的编写，降低网络攻击等犯罪门槛。
据了解，2022年，我国人工智能核心产业规模已达5000亿元。据沙利文咨询预测，2024年我国人工智能市场规模将突破7993亿元。这也意味着，随着AI技术的广泛应用，AI大模型安全测试评估赛道拥有巨大的市场潜力和发展空间。
张凯认为，AI发展的大体历程可以分为三个阶段：AI助手、AI工具以及AI智能体。在AI智能体阶段，“数字风洞”作为AI大模型的安全基座，持续支撑AI大模型常态化安全测试评估，为AI技术在千行百业的安全应用保驾护航，保障AI“数字健康”，带给世界安全感。