程序员人生 网站导航

美国国防部战略:大规模、分布式,构建数字化防御体系

栏目:互联网时间:2014-10-19 08:00:00

【编者按】Ely Kahn曾任职于NSA,在国家安全领域有十年以上的工作经历,后在Boston创立Sqrrl,提供基于Apache Accumulo的产品,2013年Sqrrl被CRN评为“年度最cool供应商”。Accumulo作为一种可靠、可伸缩、高性能排序分布式的键值存储解决方案,逐渐成为美国政府级应用,Hadoop供应商Cloudera和Hortonworks也加大了对Accumulo的支持,著名GigaOM分析师Derrick Harris为我们做了详细分析。


CSDN推荐:欢迎免费订阅《Hadoop与大数据周刊》获取更多Hadoop技术文献、大数据技术分析、企业实战经验,生态圈发展趋势。

以下为译文:

Sqrrl联合创始人兼业务发展副总裁Ely Kahn在Structure Show详细介绍了美国国防部的网络安全状态和数据分析的尖端技术。

Ely Kahn在国家安全领域已有十年以上的工作经历,包括在交通安全管理、国土安全部和总统行政办公室,那时他是网络安全部门的负责人。2012年,他加入了一个由前国家安全局工程师组成的团队,一起创建了Sqrrl(一个基于开源Accumulo技术的数据库公司)。Kahn在Structure Show上谈论了信息技术在国家安全领域的一些问题,包括信息技术的作用、信息技术的使用者,以及在国家安全领域用到了哪些数据和技术。

这次让人印象深刻的采访涵盖了软件实现到基础设施各个方面,其中有一些亮点,包括强化Accumulo的安全性,以及此类基于Hadoop的技术、对关键基础设施故障的应对、用先进分析技术改善网络安全、用大数据打击网络犯罪等。

棱镜?其实它只是个数据库

Kahn说:“Accumulo是NSA企业架构的核心。NSA的大部分分析应用程序都运行在Accumulo上,我不可能对每一个应用都做详细介绍,因为那样可能三天三夜也说不完,但最重要的部分,也是人们都已经了解的那些部分都应用Accumulo作为后端。”

Accumulo作为NSA企业架构的核心部分,甚至可以说是国家安全战略的关键。虽然检测可疑行为并定位目标、检查网络中已知疑犯这些在技术上很容易实现,不过对Kahn所说的“生命分析模式”(patterns of life analysis),NSA还有更大胆的想法:

这些被归结为异常检测,也是我们关注的一个重点。如何去建立一种常规模式然后从正常状态基线检测异常数据?那确实需要大量的用例......

目前我们在做的很多事情都围绕着图分析,建立大量的数据图使其看起来像特定的用例,然后寻找随时间变化正常行为模式中的偏差。

更多关于Accumulo和NSA的图分析功能,请参看以下链接:

  •  Here’s how the NSA analyzes all the call data
  • Under the cover’s of the NSA’s big data effort

整个国防部都在改革

Accumulo不仅应用于NSA,而且整个国防部都将使用它。NSA的使命是构建多用途云计算和数据基础设施以整合整个机构的资源,Accumulo是该使命的一部分。国防部想要将大量的数据资源整合到一个单独的数据分析系统,包括了从无人机视频到医疗信息各个方面的数据。

Kahn解释:“国防部正投入大量精力建设联合信息环境(Joint Information Environment),在整个国防部为大量用例集发展多功能云和数据云基础设施,这些用例包括从网络安全到战场情报领域各个方面,甚至还包括医疗用例。”


Sqrrl联合创始人兼业务发展副总裁Ely Kahn

企业可能不喜欢NSA,但要尊重它的技术

Kahn在被问及NSA的背景对Sqrrl发展是否有帮助时回答:“无论人们对于NSA的政策有什么样看法,我认为人们都应该认识到NSA在大数据技术应用和数据安全领域一直走在最前列,所以从这个意义上说,NSA对推动技术发展起到了很好的作用,当然,我还要和Pandora、Facebook的人或web应用的用户见个面,底层群众可能也会对我们过去的一些做法有疑问,但我认为决策者会把这当作一件好事。”

决策者关心的Sqrrl安全方面进展得怎么样呢?Kahn说:“20强企业中已有三家安装了我们的系统、50强企业中也有5家,其他大大小小的企业还有几十家。”后来提到了Hadoop供应商Cloudera和Hortonworks对Accumulo加大了支持力度,Kahn又补充道:“我觉得一些大的Hadoop供应商如果想要在政府中有所作为,它们必须支持Accumulo。”

网络安全的状态:目前很糟糕,但未来会越来越好

首先,告诉大家一些好消息,也就是刚刚过去几个星期取得的新成果:

通过行政命令......美国国土安全部和国家标准化和技术研究所合作努力创建一个网络安全框架,可以用来提高网络安全性,至少在开始阶段建立在自愿的基础上。所以,现在确实是第一次,对于这样一份公文,人们可以说:“这是每一个利用这些关键基础设施的人都应遵守的标准。”可能听起来简单,但对于复杂的网络安全领域,确实是迈出了一大步。

然而,Kahn又补充说,“迈出的一大步”还不够好,“仅仅坚持底线是远远不够的”。

他还指出,“有一些关于别国探查我们电网的报告,纽约时报也报告过,目前是没有发生什么灾难性事件,但我认为这给我们国家埋下来一颗定时炸弹,我们还是祈祷不要发生吧。”

原文链接:The Defense Department’s data strategy: Huge, massive and distributed(编译/毛梦琪 审校/魏伟)

------分隔线----------------------------
------分隔线----------------------------

最新技术推荐