日前,Fortinet中国区技术总监张略向网易科技表示,安全领域以有利AI对抗有害AI”已经成为必然。
5月底,据AI安全公司Palisade Research披露,OpenAI开发的高级AI模型“o3”在接收到明确的关机指令后,拒绝执行并主动干预其自动关机机制。此事引发了对AI安全的担忧,也让AI更受关注。
作为安全技术专家,在与网易科技沟通时,张略在谈到之前大模型拒绝关机指令时表示,o3拒绝执行关机指令存在多种可能性,例如系统错误或者有人诱导的原因,所以并不能认为AI已经突破安全、产生意识。
在AI广泛被应用之际,AI的安全问题以及来自AI的安全威胁问题均已不可忽视;面对AI带来的全新网络安全问题,Fortinet已经开始通过统一操作系统(FortiOS)整合自研ASIC芯片,构建覆盖网络边界、云、OT的Fortinet Security Fabric安全平台,以“网络融合安全”战略应对企业碎片化防御挑战。
根据Fortinet的资料显示,其已推出三大“AI安全智能体”应用:FortiAI-Protect、FortiAI-Assist和FortiAI-SecureAI,并通过AI技术实现了威胁情报的自动化收集和分析,为企业提供了更加准确、及时的威胁情报支持。
张略向媒体深入剖析了AI给网络安全领域带来的具体挑战,并将其概括为三个层面,而应对之策的核心在于“以AI对抗AI”:
AI能够自主迭代,生成前所未见的零日攻击;同时,它能深度分析个人社交媒体信息,制作出极具针对性和欺骗性的钓鱼邮件。防御此类威胁,需要依赖AI驱动的威胁情报库和自学习能力,实时识别最新攻击模式、病毒变种和钓鱼邮件。
更精密的AI攻击者能在网络中自动运行、试探、潜伏,并在最佳时机激活进行破坏或窃密。完全依赖人工监控海量告警已不现实。解决方案是构建7*24小时不间断运行、具备高准确度(低误报率)的AI自动化识别与响应系统。
AI生成的攻击在速度和规模上呈指数级增长(从亿级跃升至十亿甚至百亿级)。需要同样强大的AI加持的清洗系统,将海量噪音过滤,聚焦到最关键、最需要人类关注的少数攻击和事件上。
“未来网络安全战争一定是机器对机器的形式,已经超出人类的反应速度和处理速度,”张略强调,“以AI对抗AI”是应对这种新型威胁态势的必然选择。
针对AI自身可能带来的风险,如数据投毒导致模型错误(幻觉)、模型本身被攻击等,张略阐述了Fortinet FortiAI的防护逻辑:
通过数据分级分类技术,严格过滤输入训练数据的质量,阻止含有病毒、恶意脚本、敏感信息(如个人隐私)的有害数据进入模型。这是保障模型输出质量(防幻觉)的第一道防线。
严格管控“谁”能将数据输入到AI训练系统中。采用零信任网络接入策略,对上传者身份、设备安全状态、上传代码及数据进行严格认证和合规性检查,确保“合适的人、在合适的时间、用合适的设备、上传合适的数据”,防止数据投毒。
这是应对风险的核心原则。张略强调,在关键操作节点(如是否执行某项高风险动作),必须保留人类专家的最终判断权。“智能体会帮助分析并呈现结果,但这个结果是否正确,最终需要人类专家进行Double Check,确认后再决定是否让AI执行。”
张略表示,FortiAI的设计中,管理员可以在关键环节进行人工复核和干预。此外,建立验证体系(如预设答案的问题库测试AI输出准确性)并定期评估AI表现也至关重要。
谈及FortiAI智能体的构建,张略透露其核心在于高质量的行业数据与专家经验。
“我们今天演示的内容背后,是多年积累的高质量文档、排错手册。这些经过专家调校的、多角度的数据输入到模型中,再经过AI工程师的监督学习,才能输出高质量的结果。”他强调,仅靠单一手册训练,结果必然错误。构建可靠的AI智能体需要大量精确、多视角的数据和持续的人工专家调优过程。
张略也承认,目前及可预见的未来,信任AI的输出结果仍是最大挑战。“在关键节点,我们依然需要有经验的管理员进行监督确认。这个过程虽然耗时,但对于2B客户负责任的态度是必要的。”
他认为,随着高质量数据的持续输入和模型的不断迭代,AI在安全运营中的自主性和可靠性将逐步提升。
像是九天上的惊雷响起,震的群山乱颤,它迅若一道金色的闪电,扑杀向那两头称尊一方的兽王。
同学们,我觉得我们会有短暂的偷懒、偶尔的放纵,但不能总浑浑噩噩、得过且过。我现在是高一,现在很多的人是我的学长,单我们都有很多快乐的时光来创造,有那么多的未知题由我们来解答。同学们,我相信我们只要不忘初心,便能做一个优秀的人。
06月12日,菲律宾一海军直升机紧急迫降致5人受伤 桑莱岬机场暂停运营,
“击它胸口!”石毅再次断喝,眸光更炽盛了,如两轮神灯点燃,流动出的气息让很多人阵阵心悸,感觉恐惧。
06月12日,国家统计局:2023年12月份规模以上工业增加值增长6.8%,
一个高大威猛的老人出现,瞳孔成淡金色,有闪电飞出,惊的每一个人都双股战战,这个老者太强大了。
“呀,我想起来了,你是阿蛮姐,给我讲过很多故事,还说要带我去看赤羽鹤,对我可好了。”小不点突然想起了小女孩是谁。
我个人认为学生会要贴近学生,依靠学生,团结学生。俗话说“长江后浪推前浪,一代新人胜旧人”,我相信只要我们在吸收同学长处的基础上,与时俱进、大胆创新、锐意进取、全心全意为大家提供优质服务,学生会的各项工作将会干得更好、更出色。
新闻信息服务许可证音像制品出版许可证广播电视节目制作经营许可证网络视听许可证网络文化经营许可证