〓【球友会】分享IT计算机各类电子书,包括各类编程语言,人工智能,机器学习、深度学习以及各类大数据、算法等内容的电子书
天空卫士RSAC大会第一视角:如何使用AI辅助下一代安全技术
天空卫士RSAC大会第一视角:如何使用AI辅助下一代安全技术

天空卫士RSAC大会第一视角:如何使用AI辅助下一代安全技术

美国时间4月24日,全球网络安全行业盛会RSA Conference在旧金山隆重开幕。,议程包含:2023主要安全风险、数据分类及其重要性、混合世界的现代数据保护等主题演讲。来自全球的500多家网络安全厂商汇聚于此,围绕25个主题深度展开探讨,从经济形式、法律法规、安全技术等多个维度探讨网络安全产业的发展趋势与新机遇。

本次大会最热的议题有哪些?天空卫士合伙人、高级技术总监杨明非亲临现场,从数据安全的角度为大家发来“报道”。

内容集中在如何使用AI辅助下一代安全技术。在各个行业、应用中AI被大量使用,风险与机遇并存,因为初期不完善的AI系统可能会存在更多的安全风险。

要说2023年最火热的领域,必然是以ChatGPT为代表的生成式人工智能。将网络安全和人工智能相结合,也一直是行业期望的目标。但是“风光无限”中也蕴含着重重危机。

今年发生的三星公司的泄密事件,在三星半导体部门开始允许工程师使用ChatGPT后不久,工作人员至少三次向ChatGPT泄露秘密信息。据报道,一名员工要求聊天机器人检查敏感的数据库源代码是否有错误,另一名员工要求代码优化,第三名员工将录制的会议输入 ChatGPT 并要求其生成会议记录。

由此可以看到,人工智能的应用,在业务增强的同时,安全尤其是数据安全将会逐步成为导致数字化“高楼”轰然倒塌的触发点。根据Gartner的报告,每5个企业中就有2个企业存在AI的安全问题或者隐私泄露,其中1/4是恶意攻击导致。因此,AI的安全形势不容忽视, AI带来的数据类型与数据价值增加的同时,产生的问题也是企业需要高度关注的部分。

在AI的应用过程中同样存在大量的用户端风险。我们如何让AI的使用更安全呢?对于安全行业而言,一方面需要利用人工智能来增强安全的防护能力,另一方面还需要对人工智能的应用提供安全保护。不再是对传统安全中的入侵、病毒、木马等的防护,而是更高级别的算法与算法的对抗,数据与数据的对抗,同时,还有人的恶意攻击、疏忽参杂在其中,这都将导致人工智能的安全问题变得更为复杂。

天空卫士“以人为本“的数据安全体系围绕整个AI系统,对训练样本、学习样本以及业务数据等出入AI平台的数据进行多层次的安全核查,包括病毒、文件格式、文件内容等,实现多层次立体安全防护。同时对系统管理员、数据分析师等终端提供数据安全保护,通过平台统一管理模型为AI系统提供全方位的数据保护。在三星的案例中,我们可以植入天空卫士数据安全体系,对员工的失误进行有效的阻止和报警,有效阻断使用AI系统时的泄密风险。

新的人工智能时代已真正到来,但如同每一次技术变革,新的AI应用场景也带来新的数据隐私安全挑战。ChatGPT 2个月用户破亿成为现象级应用后,商业机密泄密与用户隐私数据跨境、出境与合规问题,迅速引起广泛关注。国家监管层面,4月11日,国家网信办正式发布《生成式人工智能服务管理办法(征求意见稿)》,明确强调 “通过提供可编程接口等方式支持他人自行生成文本、图像、声音等,承担该产品生成内容生产者的责任;涉及个人信息的,承担个人信息处理者的法定责任,履行个人信息保护义务。”

数据安全技术应该适应技术迭代,与时俱进,新的AI应用更需要新一代基于AI的技术体系解决数据安全问题,让新技术能够促进而非阻碍业务发展。天空卫士ITP内部威胁防护体系,基于大数据及人工智能技术对各类数据与行为进行分析,将异常用户风险评分结果与统一内容安全策略集成联动,实现实时风险控制和精准的策略控制,将数据安全保护能力的边界从传统IT扩展到新型AI等业务应用数据,达到动态自适应调整数据安全。

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注