【发布时间】:2015-02-02 21:52:45
【问题描述】:
伙计们。 我需要开发一些在工作中使用的东西,但我有一些疑问,所以我希望有人可以帮助我:)
情况: 我在一家公司的信息安全领域工作。我们使用 QualysGuard 工具来搜索客户服务器中的漏洞。我的职能之一是管理关键绩效指标 (KPI),以跟踪我们在几周内应用了多少补丁。我以 CSV 格式下载数据,然后在 Excel 中制作了很多东西来组织所有内容,按客户名称、操作系统和漏洞严重性排序。
问题: 下载的 CSV 文件中有大量数据(每个文件有 35MB 和 80000 多行),我必须做很多重复的工作才能最终使这些文件看起来很好(创建数据透视表,按资产排序,操作系统和严重性,不同数据量的不同组(例如,一些客户拥有 100 多台服务器,这意味着他们的服务器中的漏洞比只有 2 台服务器的客户要多得多。我每周都必须这样做. 在月底,我必须为每个客户和每个操作系统列出前 10 个最易受攻击的服务器。并且还要绘制这些数据。
我需要什么: 我的老板问我是否可以创建一个系统(最好是基于 Web 的)来读取这些 CSV 文件并显示它们的数据,也许还可以用它们绘制一些图表。
问题: 最好的方法是什么?我想到了使用 PHP,我在解析 CSV 文件数据和使用它们方面有一些经验,但是,由于 PHP 是一种服务器端语言,我认为我将无法动态显示数据。 所以我想知道在这种情况下哪种编程语言是最好的? Javascript会处理它吗?或者使用 python 或 ruby 的东西?或者也许是一些带有 Java 的网络应用程序?甚至 PHP,如果与 MySQL 查询结合使用? (我不确定是否可以使用公司的数据库,所以,MySQL 解决方案不是我的首选 XD) 有没有人遇到过这样的问题? 我不是要任何人给我写程序,我只是需要一些提示。 感谢所有回答问题的人:) 如果没有答案,感谢您至少阅读:)
【问题讨论】:
-
坏主意。不要处理 csv 文件,至少不要重复。将它们加载到数据库中并从中工作。这样你就可以一次解析它们,然后可以在数据库中尽可能多地对数据进行切片/切块。将它们保留为 csv 格式会非常低效和浪费。
标签: java javascript csv plot bigdata