2024网络安全行业最热的两个词,一个是“数据安全”,另一个就是“AI”。2024年举办的各大行业会议,关键词几乎都离不开“AI”:
RSAC 2024 大会主题为“可能的艺术”(the Art of Possible),AI已连续二年成为展示重点,大会上引人关注的创新产品几乎都与AI相关,如趋势科技零信任安全访问AI网关、Bugcrowd AI渗透测试工具、Semperis基于ML的身份威胁检测和响应等;
ISC 2024在延续安全基因的同时,全面升级为ISC.AI,数字安全与AI双域盛会;
BCS 2024以“AI驱动安全”为主题;
……
网络安全行业因为AI正在发生巨大变革,很多厂商都在大力投入AI智能化,未来一定会拉开差距,甚至会因AI发生行业洗牌。除了安全垂域大模型带给行业、厂商的影响外,一些AI工具,在提高工作效率的同时,也在影响着从业者的饭碗…
01
—
行业视角:AI提升安全运营效率
AI赋能网络安全,说了很多年,2024年才真正看到成效。过去为了辅助安全运维人员分析研判,产品功能上会做很多辅助功能,如自定义查询,安全运维人员在产品界面上输入SQL语句实现关联查询,现在有了安全大模型,一个问答就解决了。
网络安全运营最大的痛点之一就是告警疲劳,成百上千万的海量告警,上万的告警量也是很大的。威胁检测方面,现在规则检测、AI小模型、大模型,多维协同检测,显著提升对隐匿攻击检出率的同时,也提升了威胁告警的准确率,降低了告警噪声,缓解了告警疲劳,为客户提供更精准的告警,而不是一堆误报。
攻防方面,AI降低攻防门槛,提高攻防效能,识别安全漏洞和弱点,在攻防博弈中模拟各种复杂的攻击手法,AI助力渗透测试从自动化走向智能化。
脆弱性方面,原来扫描之后的结果就是一堆漏洞列表,但是当前AI结合漏洞知识库和图谱后,可以智能分析这些脆弱性资产上面是否有威胁攻击的风险,是否存在勒索的风险,对安全风险进行综合评估。同时给出修补方案,优先修补哪些漏洞,漏洞修补完后,带来的风险值的较低到底有多少?将安全风险评估及安全价值量化。
研判分析方面,过去研判人工投入分析,AI目前已部分实现智能研判。
数据安全方面,AI技术能应用于数据分类分级,驱动智能数据分类分级早日真落地,让数据分类分级不再是一场人工服务。
AI和安全合规融合,通过AI,提高效率,提高准确率,安全合规目前做这块的不太多。海量合规文件,人工解读费时费力,AI智能解读,输出合规测试用例,针对备案过程中的各种安全问题,并给出修补建议。
……
AI在多源日志解析、安全事件研判、情报挖掘整合,安全知识智能问答,AI代码审计及漏洞挖掘,安全报告自动生产,智能安全运营助手,安全处置辅助决策等方面已初见成效,当然安全垂域大模型除了现在已经取得成就外,接下来还有漫漫长路要走。
安全大模型需要较高的计算资源,但并不是每个客户都能连接云端大模型,大模型服务,需要能够轻量化私有化部署,满足部分客户场景需求,如客户本地大模型定制、企业数据微调、已有系统协作等。同时,大模型需要安全专家级的能力,不只是问答和知识交互。
02
—
厂商视角:AI将洗牌安全厂商
网络安全产品化同质化一直比较严重,未来AI会让产品安全能力拉开差距,继而会让厂商拉开差距。头部大型安全厂商都在如火如荼地加大AI投入,相继推出了各自的安全大模型,如网安一哥的QAX-GPT,巨人背后的专家的风云卫等。
和大厂顺势而为,奋力狂奔的景象不同,小厂没有资源,资本市场寒冷,融资困难,自身造血能力不足,活下去都成问题,通常以项目做产品,在产品上都不再投入,四两很难拨千斤,根本没有米和人能干大模型这事,有种无能为力的无奈感,只能眼睁睁看着别人越跑越远。
合规推动安全走了这么多年,安全建设大多已经满足合规要求了,未来必定要考虑AI。
AI时代,小厂如何打赢这场战,未来是否还在牌桌上,情况不容乐观。
03
—
个体视角:AI提高效率,但影响饭碗
除了安全垂域大模型,对行业及厂商的影响外,从个体视角看,工具型AI能力,也在影响变革着每个从业者的日常工作。
以研发举例来说,AI工具已经具备了初级程序员,甚至中级程序员的代码能力,可以直接基于产品原型写代码,再过几年他会越来越强大,一些CTRL+C,CTRL+V的SQL业务研发的饭碗肉眼可见的不稳了。
再如渗透测试岗位,攻防大模型已经具备辅助渗透测试的能力,AI红队,助力攻防演练。
随着这些工具AI的成长成熟,会极大提高产出效率。行业链条的每个岗位,都将深受AI影响。面对行业大势,我们只能拥抱变化,顺势而为。
张一鸣有个思维模式其实也可以用在我们个体自身:
创业者最重要的两大能力:一是对事情的判断能力,二是构建组织的能力,其他能力都可以弥补。
未来我们不仅面对同行的竞争,还要面对机器的竞争,如何跑赢机器,我们需要思考哪些事情是机器做不了的事情,哪些是机器短期或较长期做不了的事情、做不好的事情,构筑自身核心不可替代的能力。
04
—
思想视角:AI价值观
安全大模型是能力,不是产品,技术能力需要结合应用场景,才能实现价值。利用AI技术解决实际安全问题,提供面向安全行业的智能化解决方案。
AI是个双刃剑,AI自身也有很大的安全隐患,如数据投毒等,未来或许只能用魔法打败魔法。