“人工智能算法模型存在‘三不可’的基因缺陷，即不可解释性、不可判识性以及不可推论性。”11月1日，2024绿盟科技TechWorld智慧安全大会在京召开，中国工程院院士邬江兴在会上表示，AI赋能技术有着极其丰富的应用空间，也带来了前所未有的安全挑战。

　　“人工智能已经成为网络空间安全发展的关键变量。”中国科学院院士冯登国也表示，人工智能技术已经从较为单一的算法发展阶段跨越到了软件、硬件与应用场景相结合的全方位、一体化的发展阶段，应对网络空间安全形势变化，需要更坚实、富有弹性的网络空间安全保障体系。

　　人工智能广泛应用会带来哪些安全隐患？如何应对人工智能带来的安全挑战？大会设置1场主论坛和2场专题论坛，院士专家、行业大咖围绕网络安全前沿科技、数智赋能发展路径展开研讨。

　　“在一些情况下，大模型生成的文本虽在语义或句法层面看起来合乎逻辑，但实际内容可能是错误的或无意义的。这类‘幻觉问题’是所有大模型共同的固有问题，”冯登国表示，大模型的“幻觉”缺陷导致大量错误信息涌现也是大模型带来的主要安全风险之一。

　　此外，针对关键信息基础设施的网络攻击变得更加自动化和智能化；AI算法的更新迭代也使得传统安全分析技术无法适应人工智能领域出现的新算法和新模型。

　　“普遍的数字化转型加剧了网络生态系统的脆弱性，安全威胁的暴露面愈加复杂。”绿盟科技CTO叶晓虎表示，攻击手段多样化、相关技术战法演变要求安全行业不断适应和应对新的安全挑战。为此，绿盟科技在提供传统安全产品及安全服务的基础上，逐步服务安全运营转化，推出AI大模型应用、蓝军体系等多个领域解决方案。

　　与此同时，数据作为数字经济时代的关键新兴生产要素，保障数据安全已成为星空体育在线入口事关国家安全与经济社会发展的重大问题。国家工业信息安全发展研究中心首席专家、数据安全所所长李俊表示，工业企业数字化、网络化、智能化加速推进，也使得工业数据载体漏洞和后门、非受控运维等数据安全风险日益突出。在此形势下，行业主管部门已构建工信领域数据安全“1+5”政策体系，加快数据安全监管技术能力建设与实践落地。

　　AI的应用具有双面性，既会带来新品种“漏洞”，也可用于应对安全挑战。AI系统在安全保障方面的应用已经得到了广泛认可。许多专家和院士在讨论中提到，AI在安全领域的支撑作用日益增强。

　　“人工智能可以自动化许多网络安全任务，如威胁检测、事件响应和漏洞分析。这种自动化不仅提高了工作效率，还减少了人为错误的可能性，使得网络安全团队能够更有效地应对大量的安全告警。”绿盟科技天枢实验室主任研究员顾杜娟博士表示，AI还可以帮助识别新型攻击手段和策略，尤其是利用机器学习和深度学习技术来检测和应对复杂的网络攻击。绿盟科技通过AI创新推出了一系列创新成果和方案，如风云卫AI安全能力平台集成了机器学习研究经验、攻防知识、威胁情报积累、实战化专家能力等要素可进一步助力网络安全实现智能化。

　　“AI赋能网络空间安全，为安全工作提供新工具、新源泉。”冯登国指出，针对AI赋能攻击技术、恶意代码生成、僵尸网络攻击等新形势新挑战，AI赋能防御技术可大幅提升防御的能力和水平，也可有效提高威胁检测与响应能力。