10月15日,在由中国计算机学会主办的“第41次全国计算机安全学术交流会”上,山石网科副总裁、首席AI官(CAIO)贾宇发表了题为《从概率到确定:让AI的每一次决策都可信、可溯》的主题演讲,系统阐述了山石网科对 AI 时代安全命题的思考与实践。
本届大会以“十五五开局之年的网络安全新战略与学术创新”为主题,汇聚了院士专家及主管部门、科研院所、国内头部网安企业、知名高校的师生代表等1000余人,围绕关键信息基础设施防护、人工智能安全、密码创新、云安全等前沿议题展开研讨。
图注:山石网科副总裁、首席AI官(CAIO)贾宇
一、最“会猜”的系统,遇见最“不能错”的场景
概率是 AI 的底层基因,而智能体单步95%的准确率,在十步链式执行后仅剩约60%,误差以指数级累积。而在能源、金融、交通等关键信息基础设施行业,一次 AI 误判就意味着生产中断甚至安全事故:AI 出错不是质量问题,而是事故。
但拒绝 AI 从来不是选项。当漏洞从披露到被武器化利用的时间大幅缩短,当对手已经开始用 AI 发起攻击,“坚守人工”不是稳健,而是“裸奔”。驾驭 AI,才是这个时代真正的命题。
二、可信不是模型的属性,是系统的属性
自1956年冯·诺依曼提出“用不可靠元件合成可靠系统”以来,历史反复证明:可靠的答案从来不在元件,而在结构。
山石网科的解法是“收敛”与“兜底”双管齐下:锚定事实、分步校验,让系统少犯错;授权链定责、常态分析监控,让系统错得起。构建起“事实有据×过程可控×责任可溯×行为可审×结果可验”的可信决策体系。
三、两大落地抓手:从理念到工程化实践
①统一AI网关:所有 AI 调用的唯一安全收口
当企业内部的模型、应用、智能体数量爆发式增长,分散、无序、不可见的 AI 调用正在成为最大的安全盲区。山石网科统一 AI 网关将全员、全应用、全模型的调用汇聚于一个出口,让“收敛”与“兜底”都从这个关口开始执行:
资源统一运营:统一接入各类模型,实现身份管控、用量管控,让 AI 资源和 Tokens 像“水电煤”一样可运营、可度量;
精细权限与配额:按组织、用户、密钥、Agent 与 MCP 精细化控制访问和用量;例如,财务岗位调用不到会将数据用于训练的模型;
网关级双向内容安全:请求方向检测提示词注入与越权指令,响应方向拦截敏感数据泄露,把防线建在流量的必经之路上;
全链路运营审计:用量、成本、性能与安全事件统一观测,每个请求都可回溯到自然人,让“责任可溯”从口号变成现实。
同时,统一 AI 网关与 NGFW、EDR、CNAPP 等安全产品分层协同:授权调用经网关安全通行,未授权调用由边界与终端安全产品阻断封堵,形成完整的纵深防御体系。
②WOI 平台:内部先行的 AI 原生组织转型实践
可信体系不是纸面设计,山石网科选择先在自己身上,把“收敛”跑成一门工程:WOI 企业级AI赋能平台。作为面向“AI 原生组织”的转型赋能平台,WOI 将“锚定事实”与“分步校验”从方法论沉淀为可复制的日常机制:以企业知识库等构建语义层,让AI的每一个回答都锚定在企业自己的事实上;以 Harness 工程驾驭“数字员工”,把开放式生成约束为有据可依的闭域任务,把长链推理拆解为可独立判定的节点,逐步校验。让“可信”不再是少数项目的定制成果,而是覆盖全员、全流程的组织能力。
AI 原生时代,山石网科愿与各行业客户共建共治,让不确定性停留在模型内部,让确定性呈现在系统边界,守护每一次AI决策全程可信、可溯。
第41次全国计算机安全学术交流会|山石网科获评“突出贡献单位”
山石方案|某银行数据中心ASIC防火墙替换案例
AI账单越来越贵,钱花哪儿了?企业急需一套“看清账”的机制
山石网科是中国网络安全行业的技术创新领导厂商,由一批知名网络安全技术骨干于2007年创立,并以首批网络安全企业的身份,于2019年9月登陆科创板(股票简称:山石网科,股票代码:688030)。
现阶段,山石网科掌握30项自主研发核心技术,申请540多项国内外专利。山石网科于2019年起,积极布局信创领域,致力于推动国内信息技术创新,并于2021年正式启动安全芯片战略。2023年进行自研ASIC安全芯片的技术研发,旨在通过自主创新,为用户提供更高效、更安全的网络安全保障。目前,山石网科已形成了具备“全息、量化、智能、协同”四大技术特点的涉及基础设施安全、云安全、数据安全、应用安全、安全运营、工业互联网安全、信息技术应用创新、AI安全、安全服务、安全教育等10大类产品及服务,50余个行业和场景的完整解决方案。