大数据
数据科学家访谈录
The Data Science Handbook: Advice and Insights from 25 Amazing Data Scientists Douban
Carl Shan(单研) / William Chen(陈子蔚) … translator: 田原 / 刘奕 publishing house: 人民邮电出版社 2018 - 2
本书选取世界知名的25位数据科学家进行了深度的访谈,从不同的视角和维度,将他们的智慧、经验、指导和建议凝聚成册。每一篇访谈都是一次深度的交流,涵盖了这些数据科学家最初从菜鸟起步,运用各种知识武装和充实自己,一直到最终成为一名卓有成效的数据科学家的全过程。通过阅读本书中的访谈,读者可以形成对数据科学的宏观认识和了解,更深刻地认识和体验数据科学家的角色,并且从这些前辈的过往经历中学到宝贵的知识和经验以应用于自身的成长和事业中。 本书适合有志于成为数据科学家的人、正在从事数据科学相关工作的人、数据科学团队的领导者和企业家以及商业人士参考,也适合对数据感兴趣的普通读者阅读。
语言探秘
Douban
李斌 publishing house: 南京师范大学出版社 2018
迷惘于繁多的语言学术语?纠结于不知道看哪本语言学的着作?论着期刊多如牛毛,思路混乱,头脑发麻,欲登堂而不知门径?研究选题毫无头绪?来瞧瞧这本书吧,帮你理清思路,一起来讨论语言的基本理论与现实问题:语言从哪里来,将来会怎样,我们的汉语为什么和英语不同,为什么要学英语,为什么要使用汉语拼音,为什么汉语里同音字特别多,为什么会有那么多种汉字的字体,为什么要用计算机研究语言,修辞手法能不能计算,为什么语言研究那么难,为什么语言研究有那么多禁区,为什么语言信息产业如此红火…… 本书在语言大数据和人工智能的知识体系下,将语言学和汉语的基本问题,用对话的形式来讨论,步步推进,深入浅出地揭示语言的神奇与奥妙。对语言学、现代汉语、词汇语义学、计算语言学等方向的科研人员、本科生、研究生具有较高参考价值。
Greenplum:从大数据战略到实现
Douban
冯雷 / 姚延栋 … publishing house: 机械工业出版社 2019 - 7
数字原生 2010年11月,在Greenplum创始人的支持下,我们在北京建立了Greenplum中国研发体系。2013年4月,随着Pivotal公司的建立,我们在Greenplum中国研发的基础上合并了部分VMWare中国研发集团的P层云资产,建立了Pivotal中国办公室。截至本书完稿的时候,我们的中国核心研发团队和全球研发团队一起奋斗了8年,打造的Cloud Foundry产品和Greenplum产品成为Pivotal公司在纽约证券交易所上市荣登PaaS第一股的基础。作为Pivotal中国办公室的创始团队,我们一直在审视和提升Pivotal中国办公室的使命和愿景。高尚的使命和愿景是促使一个机构达到世界一流水平的必要条件,因为使命和愿景比战略更高一层。一个机构在前进的过程中,其战略不可避免地需要调整。在面对战略调整时,如果组织成员缺乏共同的使命和愿景,就很难在变化中存活下来。以PC行业为例,苹果公司由最初的苹果电脑公司(Apple Computers)发展到今天苹果(Apple)公司,业务也从以PC为重心迁移到以移动和云服务为重心。苹果公司的转型一路颠簸但最终成功,这与它们坚持艺术和科技的融合并提供一流的用户体验的使命是分不开的。对于不少没有完成转型的PC企业,仔细观察一下,会发现它们通常不能清楚地表达自己的使命。 那么Pivotal中国办公室的使命是什么?简单地说,是支持全球Pivotal产品和商业战略的成功。但是,这个回答显然不能说服和召集一批学霸把Pivotal中国办公室变成世界一流的创新机构。作者有幸参与Pivotal公司在EMC和VMWare内部的启动倡议(Pivotal Initiative),聆听到董事长Paul Maritz先生对Pivotal宣言(Manifesto)的解读。中国读者可能还不熟悉Maritz先生,根据维基百科的介绍,他是微软Windows平台的主要执行团队成员,负责过Windows 95和Windows NT等关键产品。在创建Pivotal之前,Maritz先生是VMWare公司的CEO,奠定了VMWare在虚拟化和I层云的行业领导地位。鉴于Maritz先生在业内的声望,作者仔仔细细阅读了他撰写的三页纸篇幅的Pivotal宣言,并且思考了Pivotal中国办公室如何既能拥抱Pivotal宣言又能在自己专注的领域成为国内意见领袖。今天,Pivotal的使命用一句话描述就是“The Way The Future Gets Built”,用中文直接翻译过来就是“构建未来的方式”。这句话显得有些抽象,所以在Pivotal中国办公室的日常事务中,我们会针对不同的团队来细化这句话:对于面向数字化转型客户的Pivotal Lab团队,这句话被表述为“交付一流的数字化转型体验”;对于云研发团队,这句话被表达为“通过Cloud Foundry云平台成为云原生平台的行业标杆”;对于数据库研发团队,这句话被阐述为“通过Greenplum成为大数据平台和机器学习的意见领袖”。这些使命背后的共同愿景就是提供“数字原生”世界的新产能,以及企业建立数字化所需要的软件平台和方法论。 数字原生就是从由物理世界为重心向数字世界为中心迁移时思考问题的方式。数字计算机发明之前,我们几乎没有什么数字资产和技术。数字计算机发明至今,我们对于数字资产的积累呈指数级增长,在我国更是呈现出跨越式发展的态势。举个例子,今天,如果我们出门不带手机,就会感觉寸步难行,本质上是因为手机已经成为我们进入数字世界的入口。通过手机,我们可以向数字世界发出各种请求,调度物理世界的资源为我们所用。Pivotal公司喜欢以“ask+综合部门@pivotal.io”的邮件方式来获得综合部门的支持。早期行政部门的同事刚加入Pivotal公司的时候常问我:“为什么不面对面请求,或者打个电话,又或者开个单子?”我的回答是这几种方式看似差别不大,但反映了思考问题方式的差别。Pivotal公司作为数字化的领导者,把软件和数据平台看作数字世界的入口。我们获取资源的方式是向这个数字世界发出请求。数字世界可能通过它的计算找到最优执行路径。有些工作的执行可能还需要转发给人进行人工处理,例如安装一台打印机。但是,有些请求则可以直接通过软件方式解决,例如申请一台云服务器。对于某些请求,虽然我们今天还无法完全以全数字化、无人干预的方式完成,但是,我们可以先把数字原生的框架奠定起来,为以后的进一步对接和持续改进做好准备。在作者看来,数字原生的持续改进过程分为三个阶段: 1)软件公司:通过数字应用实现数字世界和物理世界的无缝交互。 2)数据公司:通过大数据平台实现数据积累和数学模型运行支撑。 3)数学公司:通过数学模型的持续改进来最优化数字世界和物理世界资源。 因此,作者和团队希望能够以三部对应的著作(下面简称为“数字化三部曲”)在数字原生的征程上为读者提供战略参考和对应的软件平台及工具指导。 第一部曲:《Cloud Foundry:从数字化战略到实现》—这本书的主要目标是阐述企业如何实现数字原生第一阶段:实现数字化应用。该书讨论了云计算作为第三代技术平台带来的商业模式变更。在云计算的技术栈中,P层云带动了企业数字化浪潮。传统企业通过P层云可以迅速获得顶级互联网公司的软件迭代和发布速度,把与客户的交互通过消费级的应用数字化。书中例举福特公司通过FordPass建立了以汽车实体产品为核心的一系列用户数字化体验:汽车金融、远程监控车辆、停车位预留、旅途产品和服务推荐等。这个阶段也是一个持续改进的过程。以共享出行为例,今天用户通过手机平台进入数字世界,在打车应用中发送订单。打车平台通过选择最优执行路径,把订单发送给打车平台的司机。然后,司机在物理世界中驱车到达用户起点。随着有辅助的无人驾驶技术的成熟,这个数字世界的运行链条会继续延长,数字平台可以直接把无人车派送到用户起点。在其他的行业,数字应用的链条同样也在持续延长。 第二部曲:《Greenplum:从大数据战略到实现》(也就是本书)—我们的主要目的是阐述企业如何实现数字原生的第二阶段:大数据平台。随着数字应用的链条不断延长,企业需要一个大数据平台来积累应用生成的数据。这个工作听上去很容易,因为人们很早以前就使用磁带来存储数据,之后,存储媒介发生了巨大的变化,能够便捷地存储大量数据。那么为何还需要Greenplum这样一个大数据和机器学习平台?原因有两个:1)量大;2)快速计算。说到大,当数据量达到PB级别(相当于16000个64GB的iPhone中存储的数据)时,企业利用廉价但是可靠的存储来备份和管理是非常困难的。说到快,想象让用户从16000个iPhone的数据中寻找一张5年前的照片就可以感受到大海捞针般的困难;更何况企业的数据平台要支撑的机器学习和人工智能的数学模型的复杂度要比寻找一张照片的复杂度高几十到几万倍。可见,要想用极快的速度处理如此海量的数据是极其困难的。这也是企业在构建大数据平台时步履维艰的原因。Greenplum团队的优秀专家用企业积累了15年的知识和创新来解决这些难题:如何利用低价的存储设备来实现高可靠的数据存储?数据的存储如何为今天模型的计算做准备?如何给模型提供简单但又标准的接口?数据管理如何在“便于存储”和“便于日后查找”之间取得平衡?如何利用现在的I层云计算资源?如何访问文本和地理位置信息等各种数据源?如何访问和计算存储在其他系统(例如Hadoop)的数据?如何支撑今天主流的人工智能和机器学习模型?我们在创新过程中触碰到了很多计算机科学本身的极限。希望这本著作能给读者呈现一个解决了上述问题并可以实操的大数据平台和战略。 我们还在酝酿的第三部著作希望能帮助读者更好地实现数字原生的第三阶段:机器学习和人工智能。企业通过第一阶段和第二阶段的努力捕获和存储了大量的数据。为了更好地理解用户的需求,不少企业进入了更高阶的数字化战略:大数据驱动的机器学习和人工智能。在这个阶段的竞争中,企业会增设一个新的岗位:数据科学家。数据科学家会在大数据平台上创造和优化数学模型,以期待改进数字世界和物理世界的运作来更好地为人服务。前两部曲提供了软件工具和方法论以帮助企业成为基于大数据的人工智能和机器学习战略的数学公司,不少企业在实践过程中希望作者能够分享实践案例并就企业领导力转变提供咨询。考虑到这样一本著作的出版需要两年以上的时间,碰巧出版社和作者看到了顶级大数据咨询公司Booz Allen Hamilton的两位高管收集了大量实际案例的著作《The Mathematical Corporation: Where Machine Intelligence and Human Ingenuity Achieve the Impossible》,其中关于“数学公司”的提法和作者的观点不谋而合。通过出版社的努力,作者和团队把这部著作翻译成中文著作,可以作为第二部曲的伴侣著作来阅读。 虽然数字原生第三阶段的探讨还在创新者和早期用户者群体中进行,但是第二阶段大数据平台的建设已经在中国如火如荼地展开。大数据平台在数字原生三部曲中扮演了承上启下的关键角色,中大型的公司已经将大数据纳入信息平台的建设方案中。Greenplum因为开源生态和杰出的创新能力被列为方案的候选技术选项,这也使Pivotal中国办公室的同事们倍感欣慰。伴随Greenplum生态的持续发展壮大,希望这部著作能给企业高层制定战略提供建议和参考,既帮助工程团队开发应用,又能指导运营团队运维和保障。 本书内容组织方式 Greenplum经过15年的精心打磨,成为出色的开源MPP数据库和数据处理基础平台,已应用于银行、保险、证券、电信、物流、安保、零售、能源和广告等行业。我们希望本书能给已经建立或者准备建立大数据平台的企业决策者、架构师、开发人员、数据工程师、数据科学家和数据库管理员带来帮助,也希望从事大数据科研工作的教育工作者和学生能从中受益。 本书分为四个部分。 第一部分介绍大数据战略。其中,第1章将分享作者对于ABC(人工智能、大数据和云计算)之间关系的理解以及对人和人工智能的思考。第2章将介绍进取型企业为什么需要大数据战略以及如何建立大数据战略。 第二部分介绍大数据平台。其中,第3章将以数据平台演进历史和未来趋势为主题,描述三次整合的背景及影响,介绍选择大数据平台需要考虑的因素,以及为什么Greenplum是理想的大数据平台。第4章为Greenplum数据库快速入门指南。第5章将介绍Greenplum架构的主要特点和核心引擎。第6章将介绍数据加载、数据联邦和数据虚拟化。第7章将介绍Greenplum的资源管理以及对混合负载的支持。 第三部分介绍机器学习与数据分析。其中,第8章介绍Greenplum的各种过程化编程语言(用户自定义函数),用户可以使用Python、R、Java等语言实现用户自定义函数,还可以通过容器化技术实现自定义函数的安全性和隔离性。第9章将介绍Greenplum内建的机器学习库MADlib,数据科学家可以使用内建的50多种机器学习算法基于SQL对数据进行高级分析,并介绍如何扩展MADlib以实现新算法。第10章和第11章将分别介绍Greenplum如何对文本数据和时空数据(GIS)进行存储、计算和分析。第12章将介绍Greenplum丰富的图计算能力。 第四部分介绍运维管理和数据迁移。其中,第13章将介绍各种监控和管理工具及相关企业级产品。第14章介绍数据库备份、恢复和迁移。第15章和第16章将分别介绍如何从Oracle和Teradata迁移到Greenplum。 限于作者学识,本书难免有疏漏之处,恳请同行和各位读者批判指正,我们将不胜感激。您可以通过数字化三部曲的官网(DigitX.cn)或Greenplum中文官方社区(greenplum.cn)给我们留言并了解Greenplum的技术信息、获得著作的相关学习资源。
Hadoop权威指南:大数据的存储与分析(第4版)(修订版)(升级版)
Hadoop:the Definitive Guide Storage and Analysis At Internet Scale Douban
Tom White translator: 王海 / 华东 … publishing house: 清华大学出版社 2017 - 7
本书结合理论和实践,由浅入深,全方位介绍了Hadoop 这一高性能的海量数据处理和分析平台。全书5部分24 章,第Ⅰ部分介绍Hadoop 基础知识,第Ⅱ部分介绍MapReduce,第Ⅲ部分介绍Hadoop 的运维,第Ⅳ部分介绍Hadoop 相关开源项目,第Ⅴ部分提供了三个案例,分别来自医疗卫生信息技术服务商塞纳(Cerner)、微软的人工智能项目ADAM(一种大规模分布式深度学习框架)和开源项目Cascading(一个新的针对MapReduce 的数据处理API)。本书是一本专业、全面的Hadoop 参考书和工具书,阐述了Hadoop 生态圈的新发展和应用,程序员可以从中探索海量数据集的存储和分析,管理员可以从中了解Hadoop 集群的安装和运维。
大数据技术原理与应用
Douban
林子雨 publishing house: 人民邮电出版社 2015 - 8
大数据作为继云计算、物联网之后IT行业又一颠覆性的技术,备受关注。大数据处不在,包括金融、汽车、零售、餐饮、电信、能源、政务、医疗、体育、娱乐等在内的社会各行各业,都融入了大数据的印迹,大数据对人类的社会生产和生活必将产生重大而深远的影响。 大数据时代的到来,迫切需要高校及时建立大数据技术课程体系,为社会培养和输送一大批具备大数据专业素养的高级人才,满足社会对大数据人才日益旺盛的需求。本书定位为大数据技术入门教材,为读者搭建起通向“大数据知识空间”的桥梁和纽带。本书将系统梳理总结大数据相关技术,介绍大数据技术的基本原理和大数据主要应用,帮助读者形成对大数据知识体系及其应用领域的轮廓性认识,为读者在大数据领域“深耕细作”奠定基础、指明方向。在本书的基础上,感兴趣的读者可以通过其他诸如《Hadoop权威指南》等工具书,继续深入学习和实践大数据相关技术。
统计思维
統計学が最強の学問である[実践編] Douban
[日] 西内启 translator: 李晨 publishing house: 后浪丨浙江人民出版社 2017
在充满不确定性的世界中 发现能一锤定音的相关性和赢利点 ................... ※编辑推荐※ ★统计学能证明“天下乌鸦一般黑”吗?重新装修店面和销售额增长之间存在因果关系吗?想招聘具有多种能力的员工,怎样选择才科学?怎样用回归分析找出商业数据之间难以被发现的关联性?……在数据为王的时代,要在职场站稳脚跟,分析数据的能力不可或缺。 ★本书着力讲解统计学在商务实践中的应用,它用分属不同领域的商业案例帮助读者打通统计思维的脉络,让读者在理解统计原理的同时也能掌握统计技术的实践技巧。从事商业管理、财务会计、市场营销、人力资源等工作的职场人士都能从中汲取营养、精进业务。 ★作者西内启曾出版多部统计类畅销书,尤擅用案例和图表解析统计学的概念和用法,不懂数学的读者也可以轻松读懂,学会用统计思维看问题。 ................... ※内容简介※ 举办抽奖活动就能增加营业额,改变供应策略就能减少库存,改进招聘政策就能提升人才质量……无论是要降低成本、增加利润,还是招聘人才,把握因果关系都是做出商业决策、提升业绩的基础。 想提升业绩就不能靠撞大运!大数据时代信息繁杂,随之涌现的千头万绪常常令人不知所措。如何才能迅速、行之有效地解决问题?统计学正是一件不可多得的利器,帮你发掘有价值的因果关系,透视隐于数据背后的商业真相。 本书专为在职场打拼的商务人士量身定制,用实实在在的案例和清晰易懂的图表解析假设检验、随机对照实验、回归分析、因子分析、聚类分析等常见统计方法在商务实战中的应用,没有统计基础的读者也不用因不懂数学而发愁。 大数据时代,解剖数据已成为我们的职场基本功。翻开本书,你就能学会用统计思维武装自己,在商场上披荆斩棘。
Designing Data-Intensive Applications
Douban Goodreads Skybridge
★ 9.4 22 ratings
Martin Kleppmann publishing house: O'Reilly Media 2017 - 4 other title: Designing Data-Intensive Applications: The Big Ideas Behind Reliable, Scalable, and Maintainable Systems
Data is at the center of many challenges in system design today. Difficult issues need to be figured out, such as scalability, consistency, reliability, efficiency, and maintainability. In addition, we have an overwhelming variety of tools, including relational databases, NoSQL datastores, stream or batch processors, and message brokers. What are the right choices for your application? How do you make sense of all these buzzwords? In this practical and comprehensive guide, author Martin Kleppmann helps you navigate this diverse landscape by examining the pros and cons of various technologies for processing and storing data. Software keeps changing, but the fundamental principles remain the same. With this book, software engineers and architects will learn how to apply those ideas in practice, and how to make full use of data in modern applications. Peer under the hood of the systems you already use, and learn how to use and operate them more effectively Make informed decisions by identifying the strengths and weaknesses of different tools Navigate the trade-offs around consistency, scalability, fault tolerance, and complexity Understand the distributed systems research upon which modern databases are built Peek behind the scenes of major online services, and learn from their architectures
知识的边界
Too Big to Know Douban
★ 6.8 8 ratings
[美] 戴维·温伯格 translator: 胡泳 / 高美 publishing house: 山西人民出版社 2014
大数据时代反思知识 因为事实不再是事实,专家随处可见 所有确定性都被连根拔起,话题再无边界,没有人对任何事情能达成一致。 在互联网的引领下,知识现在已经具有了社交性,流动且开放。温伯格向我们展示了这些特点如何可以为我们所用。 ——马克•贝尼奥夫(云计算之父,著有《云攻略》) 这本富有洞见的著作,奠定了温伯格作为数字时代最重要的思想家之一的地位。如果你想要理解信息洪流涌动对于我们的生活到底意味着什么,那么这本书就是你一直在寻找的指南。 ——丹尼尔•H.平克(全球最具影响力的50大思想家之一,著有《驱动力》和《全新思维》) 《知识的边界》是温伯格的力作,他将无数微小的争论——信息过载、回声室效应、大众的智慧——整合成了如何在知识网络化时代生活和工作的一种洞见。 ——克莱•舍基(互联网革命的伟大思考者,著有《人人时代》和《认知盈余》) 《知识的边界》(现今最了解互联网信息结构的学者戴维•温伯格最强力作,告诉你互联网让你更聪明了还是更笨了?) 曾经,我们知道怎么去获取知识。我们的答案来自于书籍或者专家。我们会确定事实,继续前进。而在网络时代,知识已经进入了网络中,出现了史上最多的知识,但这些知识是不同的。所有确定性都被连根拔起,话题再无边界,没有人对任何事情能达成一致。 然而,对于知识的捕猎者而言,这是最好的时期——如果你知道如何获取知识的话。作者在本书中向我们展示了网络化的知识(networked knowledge)如何增进对商界、科学界、教育界和政府的理解,并且,和人们不得不依赖传统专业知识来源的时代相比,它又怎样做到令人们可以做出更明智的决策。 这本开创性的著作,动摇了我们知识观的基础——从事实的作用到书籍的价值到专家的权威性——为知识在互联世界的未来提供了具有说服力的愿景。