数据科学家：21世纪尤其脏的工作

在大数据世界里，数据科学家受到人们的尊敬，他们采用人工智能或深度学习的方法，提出宝贵的商业见解，造福社会。

《哈佛商业评论》曾这样描述数据科学家——“数据科学家从事着21世纪最时尚的工作”。

对我来说，虽然过去五年拥有着“数据科学家”这个头衔，但我仍然没有完全弄清楚工作的哪个部分很时尚。可能是我新烫的头发使我看起来像韩国欧巴。

确实，云端的出现以及企业朝着互联网方向的发展，带来了数据的爆炸。这推动了某些部门对数据科学家的需求以及该岗位的短缺。

但是，数据科学家每天要做什么工作呢?

通过分析领英上发布的职位信息，可以找到此问题的答案。以下总结了一些热门的岗位要求：

• 了解业务和客户，验证假设理论
• 建立预测模型和机器学习流水线，进行A/ B测试
• 对业务相关者进行概念化分析
• 开发算法以赋能商业决策
• 试验并研究新技术和方法，提高技术能力。

这些听起来很时尚/高大上，不是吗?

除非工作还包括处理Kaggle数据集，否则这些工作描述只是数据科学家工作的一小部分。

以下调查结果由CrowdFlower发布，总结了数据科学家的日常活动：

数据科学家花费时间最多的事情。[摘自CrowdFlower]

从上表可以看出，数据科学家大部分时间都在收集数据集，清理和组织数据。

21世纪的高性能数据真空

数据湖是一个集中存储库，存储着公司的所有数据。公司得以使用该数据构建机器学习模型和仪表板。遗憾的是，有些人仅仅把数据湖当作数据转储的场所，或者超大硬盘。

许多公司开始实施数据湖时，对如何处理收集到的数据一无所知。这些公司会说：“让我们收集所有的数据吧。”虽然数据湖的重点是将公司的所有数据集中在一个地方，但仍然需要根据特定的项目需求进行设计。如果不进行任何计划，你就像创建了一个新的“无标题文件夹”，然后在其中复制并粘贴公司的全部数据。

如果把台式机视为数据转储场

从历史的角度看，糟糕的计划会带来杂乱无章的元数据，这让任何人都很难搜索或查找所需的数据。数据科学家经常需要与不同部门联系以获取数据。他们可能需要从不同的数据所有者中获取有关数据的信息。仅存储数据而不进行分类是一个很大的错误。建立有效数据湖的关键就是要确保元数据有良好的归类。

由于数据治理问题或数据所有者过于忙碌，且他们往往是不同部门的利益相关者，因此获取重要数据可能需要数周的时间。观察一段时间后，数据科学家可能最终会发现数据不相关或存在严重的质量问题。

当数据科学家最终收集到数据时，他们需要花费大量时间来探索和熟悉这些数据，必须将这些混乱的数据块重组为符合项目需求的新表。

21世纪里高需求的数据管理员

来源：data.lovedata

每个处理数据的专业人员都应该听说过“脏数据”一词。脏数据影响了数据集的完整性。脏数据的特征有：不完整、不准确、不一致和重复。

不完整的数据是指当某些基本功能为空时，例如，假设任务是预测房价。假设“房子的位置”对于做出良好的预测至关重要，但是这一数据却没有。这可能会变得具有挑战性，并且模型的效果也不佳。

不正确的数据和不一致的数据是指该值在技术上是正确的，但在语境下是错误的。例如，一名员工更改了地址，但数据却未更新，或者当数据有很多副本，而数据科学家得到的版本却已过时。

数据重复也是一个常见问题。在此分享一个我在电子商务公司工作时发生的故事。按照设计，当访问者单击“收集优惠券”按钮时，网站将响应发送到服务器。这使我们能够衡量已收集到优惠券的用户数量。

该网站一直运行良好，直到有一天出现了一些变化，而我对此一无所知。前端开发人员在有人成功收集优惠券时添加了另一个响应，理由是某些优惠券可能缺货了。数据科学家想跟踪单击该按钮的访问者，以及已经收集了优惠券的访问者。

这时，两个响应发送到同一日志表。看看我的报告工具，优惠券的数量似乎在一夜之间翻了一番!在前一天部署模型时，我以为新模型是很成功的。我记得曾为这个小模型欢呼鼓掌，但后来意识到这只是在重复计算。

另外，在过去五年里，作为数据科学家，我收集到的一些数据是公司员工手动输入的。在Excel电子表格中，许多数据是不准确、不完整且不一致的。

无论数据是人工输入还是机器日志，数据整理在现实世界中应用广泛。数据科学家必须处理这些数据。为了使监督学习有效，我们需要可靠的、分类好的数据。除非正确标记数据，否则无法建立预测模型。但是没有人喜欢标记数据。

许多人将其描述为二八规则。数据科学家仅花了20%的时间构建模型，而其他80%的时间用于收集、分析、清理和重组数据。处理脏数据是数据科学家日常工作中最耗时的。

来源：Pexels

有必要说明的是，数据清理至关重要，混乱的数据不会带来良好的结果，你可能听过“垃圾进，垃圾出”这句话。

数据科学家在浏览数据时确实会有所发现，但是在数据科学家可以开始训练任何模型之前，必须首先成为数据管理员。数据需要清理，也需要标记。

所以，将数据科学家称为大数据世界的清洁工，应该也挺合适吧……

本文转载自网络，原文链接：http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw==&mid=2247492740&idx=2&sn=4787069a2e0c57ee82a560e02e3236e3&chksm=ea841c52ddf39544431365964757103e94cf21d1f8d987da1d898b89cd348212379941189d7e&mpshare=1&s
本站部分内容转载于网络，版权归原作者所有，转载之目的在于传播更多优秀技术内容，如有侵权请联系QQ/微信：153890879删除，谢谢！