本套视频教程从数据仓库的架构搭建入手,穿插数据仓库的重要理论知识,包括数仓建模、范式理论和同步策略等,让你知其然更知其所以然。 内容立足数据仓库项目,循序渐进,强调基础,注重应用,涵盖数据仓库建模理论介绍、电商业务理论介绍、数据抽取同步策略理论介绍、数仓分层详解、电商需求详解、使用Azkaban实现作业周期性执行、三种即席查询系统探讨研究、Superset实现数据大屏展示等。讲解遵循真实项目开发的全流程:分析项目需求、敲定项目架构、打通数据流、实现具体分析需求、进行可视化展示、完善数据治理方面功能…… 教程从服务器选型到需求实现思路讲解、框架安装、工具使用、内核介绍,内容无所不包,技术点覆盖全面。整套项目的业务指标近100个、Shell脚本40多个、用户行为原始表11张,业务原始表24张、数仓总表近100张!Superset、Kylin、Druid、Presto、Atlas等前沿技术打包讲解,紧跟技术潮流。 本套教程适合具有一定编程基础的大数据初学者,以及想深入了解数据仓库理论知识与搭建实现的大数据从业人员,跟随本套教程学习可以完整搭建一套数据仓库,获得从0到1搭建数据仓库的全部技能点!
视频目录 01.尚硅谷_课程介绍02.尚硅谷_数仓概念-业务数据03.尚硅谷_数仓概念-用户行为数据04.尚硅谷_数仓概念-数仓概述05.尚硅谷_数仓架构-项目需求06.尚硅谷_数仓架构-技术选型考虑因素07.尚硅谷_数仓架构-技术选型08.尚硅谷_数仓架构-数仓架构09.尚硅谷_数仓架构-框架版本选型10.尚硅谷_数仓架构-服务器选型11.尚硅谷_数仓架构-集群规模12.尚硅谷_数仓架构-集群具体规划13.尚硅谷_用户行为采集-公共字段格式14.尚硅谷_用户行为采集-事件字段格式15.尚硅谷_用户行为采集-事件日志(上)16.尚硅谷_用户行为采集-事件日志(下)17.尚硅谷_用户行为采集-启动日志18.尚硅谷_用户行为采集-日志生成-分析19.尚硅谷_用户行为采集-日志生成-代码说明20.尚硅谷_用户行为采集-日志生成-LogBack配置21.尚硅谷_用户行为采集-虚拟机克隆22.尚硅谷_用户行为采集-虚拟机配置23.尚硅谷_用户行为采集-JDK安装24.尚硅谷_用户行为采集-Hadoop安装及配置前准备25.尚硅谷_用户行为采集-Hadoop集群配置26.尚硅谷_用户行为采集-项目经验-HDFS多目录27.尚硅谷_用户行为采集-项目经验-节点间数据均衡28.尚硅谷_用户行为采集-项目经验-配置LZO压缩29.尚硅谷_用户行为采集-项目经验-LZO创建索引30.尚硅谷_用户行为采集-项目经验-基准测试31.尚硅谷_用户行为采集-项目经验-HDFS参数调优32.尚硅谷_用户行为采集-项目经验-Yarn参数调优33.尚硅谷_用户行为采集-Zookeeper安装34.尚硅谷_用户行为采集-Zookeeper启动停止脚本35.尚硅谷_用户行为采集-项目经验-登录式Shell和非登录式Shell36.尚硅谷_用户行为采集-日志生成(上)37.尚硅谷_用户行为采集-日志生成(下)38.尚硅谷_用户行为采集-集群日志生成启动脚本39.尚硅谷_用户行为采集-集群时间同步修改脚本40.尚硅谷_用户行为采集-集群所有进程查看脚本41.尚硅谷_用户行为采集-Flume安装42.尚硅谷_用户行为采集-项目经验-Flume组成43.尚硅谷_用户行为采集-Flume采集配置(上)44.尚硅谷_用户行为采集-Flume采集配置(下)45.尚硅谷_用户行为采集-Flume拦截器-回顾46.尚硅谷_用户行为采集-Flume拦截器-单Event47.尚硅谷_用户行为采集-Flume拦截器-启动日志校验48.尚硅谷_用户行为采集-Flume拦截器-事件日志校验49.尚硅谷_用户行为采集-Flume拦截器-多Event50.尚硅谷_用户行为采集-Flume拦截器-分类型拦截器51.尚硅谷_用户行为采集-Flume手动启动52.尚硅谷_用户行为采集-Flume脚本启动53.尚硅谷_用户行为采集-Flume脚本停止54.尚硅谷_用户行为采集-Kafka安装55.尚硅谷_用户行为采集-Kafka启动停止脚本56.尚硅谷_用户行为采集-Flume-Kafka通道打通57.尚硅谷_用户行为采集-项目经验-Kafka压力测试58.尚硅谷_用户行为采集-项目经验-Kafka机器数量计算59.尚硅谷_用户行为采集-消费Flume-组件选型60.尚硅谷_用户行为采集-消费Flume-配置文件说明61.尚硅谷_用户行为采集-消费Flume-启动脚本小文件演示62.尚硅谷_用户行为采集-消费Flume-小文件解决63.尚硅谷_用户行为采集-项目经验-内存优化64.尚硅谷_用户行为采集-采集通道脚本65.尚硅谷_用户行为采集-生成测试数据66.尚硅谷_业务数据采集-简介67.尚硅谷_业务数据采集-电商理论-电商业务流程68.尚硅谷_业务数据采集-电商理论-Spu-Sku69.尚硅谷_业务数据采集-电商理论-电商表结构70.尚硅谷_业务数据采集-电商理论-电商表详解71.尚硅谷_业务数据采集-MySQL安装72.尚硅谷_业务数据采集-Sqoop官网说明73.尚硅谷_业务数据采集-Sqoop安装74.尚硅谷_业务数据采集-MySQL中初始化表75.尚硅谷_业务数据采集-业务数据生成-配置文件说明76.尚硅谷_业务数据采集-生成2天业务数据77.尚硅谷_业务数据采集-同步策略(上)78.尚硅谷_业务数据采集-同步策略(下)79.尚硅谷_业务数据采集-分析表同步策略80.尚硅谷_业务数据采集-脚本中前一天时间获取81.尚硅谷_业务数据采集-Sqoop参数说明82.尚硅谷_业务数据采集-Sqoop参数说明-回顾83.尚硅谷_业务数据采集-Sqoop脚本-具体表同步策略84.尚硅谷_业务数据采集-Sqoop脚本完成85.尚硅谷_业务数据采集-Sqoop脚本执行86.尚硅谷_业务数据采集-20200310数据导入过程87.尚硅谷_业务数据采集-20200311数据导入过程88.尚硅谷_业务数据采集-数据导入成功后查看89.尚硅谷_业务数据采集-Hive安装90.尚硅谷_业务数据采集-Tez框架原理91.尚硅谷_业务数据采集-Tez解压安装92.尚硅谷_业务数据采集-Tez集成Hive93.尚硅谷_业务数据采集-Tez注意事项94.尚硅谷_数仓理论-课程介绍95.尚硅谷_数仓理论-数仓分层及好处(上)96.尚硅谷_数仓理论-数仓分层及好处(下)97.尚硅谷_数仓理论-数据集市与数据仓库概念98.尚硅谷_数仓理论-命名规范99.尚硅谷_数仓理论-范式概念100.尚硅谷_数仓理论-函数依赖100.尚硅谷_数仓理论-函数依赖101.尚硅谷_数仓理论-三范式102.尚硅谷_数仓理论-关系建模和维度建模103.尚硅谷_数仓理论-维度表104.尚硅谷_数仓理论-事实表105.尚硅谷_数仓建模-ODS层.mp4106.尚硅谷_数仓建模-DWD层-选择业务过程.mp4107.尚硅谷_数仓建模-DWD层-声明粒度108.尚硅谷_数仓建模-DWD层-确定维度.mp4109.尚硅谷_数仓建模-DWD层-确定事实.mp4110.尚硅谷_数仓建模-DWS层-DWT层-ADS层.mp4111.尚硅谷_数仓建模-总结112.尚硅谷_数仓搭建-ODS层-要做哪些事113.尚硅谷_数仓搭建-ODS层-创建数据库114.尚硅谷_数仓搭建-ODS层-启动日志处理分析115.尚硅谷_数仓搭建-ODS层-启动日志处理实现116.尚硅谷_数仓搭建-ODS层-事件日志处理117.尚硅谷_数仓搭建-ODS层-单引号和双引号区别118.尚硅谷_数仓搭建-ODS层-用户行为数据脚本编写119.尚硅谷_数仓搭建-ODS层-脚本问题解决120.尚硅谷_数仓搭建-ODS层-业务数据创建表121.尚硅谷_数仓搭建-ODS层-业务数据脚本编写122.尚硅谷_数仓搭建-DWD层-启动日志表123.尚硅谷_数仓搭建-DWD层-启动日志表脚本124.尚硅谷_数仓搭建-DWD层-事件日志表解析分析125.尚硅谷_数仓搭建-DWD层-事件日志表建表126.尚硅谷_数仓搭建-DWD层-自定义UDF函数分析127.尚硅谷_数仓搭建-DWD层-自定义UDF函数-创建工程128.尚硅谷_数仓搭建-DWD层-自定义UDF函数-代码编写129.尚硅谷_数仓搭建-DWD层-自定义UDTF函数-分析130.尚硅谷_数仓搭建-DWD层-自定义UDTF函数-实现(上)131.尚硅谷_数仓搭建-DWD层-自定义UDTF函数-实现(下)132.尚硅谷_数仓搭建-DWD层-解析事件日志133.尚硅谷_数仓搭建-DWD层-解析脚本134.尚硅谷_数仓搭建-DWD层-事件日志(135.尚硅谷_数仓搭建-DWD层-事件日志脚本136.尚硅谷_数仓搭建-DWD层-业务-商品维度(上)137.尚硅谷_数仓搭建-DWD层-业务-商品维度(下)138.尚硅谷_数仓搭建-DWD层-业务-优惠卷维度139.尚硅谷_数仓搭建-DWD层-业务-活动维度140.尚硅谷_数仓搭建-DWD层-回顾141.尚硅谷_数仓搭建-DWD层-地区维度142.尚硅谷_数仓搭建-DWD层-时间维度143.尚硅谷_数仓搭建-DWD层-订单明细事实表144.尚硅谷_数仓搭建-DWD层-支付事实表145.尚硅谷_数仓搭建-DWD层-退款事实表146.尚硅谷_数仓搭建-DWD层-评论事实表147.尚硅谷_数仓搭建-DWD层-加购事实表148.尚硅谷_数仓搭建-DWD层-收藏事实表149.尚硅谷_数仓搭建-DWD层-优惠卷事实表分析150.尚硅谷_数仓搭建-DWD层-优惠卷事实表完成151.尚硅谷_数仓搭建-DWD层-基本函数152.尚硅谷_数仓搭建-DWD层-订单事实表分析153.尚硅谷_数仓搭建-DWD层-订单事实表完成154.尚硅谷_数仓搭建-DWD层-拉链表理论155.尚硅谷_数仓搭建-DWD层-拉链表实操156.尚硅谷_数仓搭建-DWD层-脚本编写157.尚硅谷_数仓搭建-DWS层-业务术语(上)158.尚硅谷_数仓搭建-DWS层-业务术语(下)159.尚硅谷_数仓搭建-DWS层-基本函数160.尚硅谷_数仓搭建-DWS层-DWS-DWT-ADS介绍161.尚硅谷_数仓搭建-DWS层-每日设备行为宽表162.尚硅谷_数仓搭建-DWT层-设备主题-分析163.尚硅谷_数仓搭建-DWT层-设备主题-实现164.尚硅谷_数仓搭建-DWS层-会员行为宽表165.尚硅谷_数仓搭建-DWT层-会员主题宽表166.尚硅谷_数仓搭建-DWS层-商品主题宽表167.尚硅谷_数仓搭建-DWT层-商品主题168.尚硅谷_数仓搭建-DWS层-优惠卷及活动宽表169.尚硅谷_数仓搭建-DWS层-每日购买行为宽表170.尚硅谷_数仓搭建-数仓架构回顾171.尚硅谷_数仓搭建-ADS-活跃设备数172.尚硅谷_数仓搭建-ADS-新增设备数173.尚硅谷_数仓搭建-ADS-沉默用户174.尚硅谷_数仓搭建-ADS-活跃设备讲解175.尚硅谷_数仓搭建-ADS-新增设备讲解176.尚硅谷_数仓搭建-ADS-沉默设备讲解177.尚硅谷_数仓搭建-ADS-本周回流设备需求分析178.尚硅谷_数仓搭建-ADS-流失设备需求分析179.尚硅谷_数仓搭建-ADS-留存率需求分析180.尚硅谷_数仓搭建-ADS-连续需求分析181.尚硅谷_数仓搭建-ADS-dwt-sku-topic-纠错182.尚硅谷_数仓搭建-ADS-本周回流用户183.尚硅谷_数仓搭建-ADS-流失用户184.尚硅谷_数仓搭建-ADS-留存率-思路分析185.尚硅谷_数仓搭建-ADS-留存率-编码186.尚硅谷_数仓搭建-ADS-连续三周活跃187.尚硅谷_数仓搭建-ADS-本周回流-补充188.尚硅谷_数仓搭建-ADS-最近7天连续3天-思路一189.尚硅谷_数仓搭建-ADS-最近7天连续3天-思路二190.尚硅谷_数仓搭建-ADS-会员主题信息-需求分析191.尚硅谷_数仓搭建-ADS-漏斗分析-需求分析192.尚硅谷_数仓搭建-ADS-商品销量TopN-需求分析193.尚硅谷_数仓搭建-ADS-商品收藏TopN-需求分析194.尚硅谷_数仓搭建-ADS-会员信息统计195.尚硅谷_数仓搭建-ADS-漏斗分析196.尚硅谷_数仓搭建-ADS-商品个数统计197.尚硅谷_数仓搭建-ADS-销量-收藏-TopN198.尚硅谷_数仓搭建-ADS-商品加购-需求分析199.尚硅谷_数仓搭建-ADS-商品退款率-需求分析200.尚硅谷_数仓搭建-ADS-商品差评率-需求分析201.尚硅谷_数仓搭建-ADS-下单数目统计-需求分析202.尚硅谷_数仓搭建-ADS-支付信息统计-需求分析203.尚硅谷_数仓搭建-ADS-复购率-需求分析204.尚硅谷_数仓搭建-ADS-画图软件205.尚硅谷_数仓搭建-ADS-商品加购排行206.尚硅谷_数仓搭建-ADS-商品退款率排行207.尚硅谷_数仓搭建-ADS-商品差评率排行208.尚硅谷_数仓搭建-ADS-下单信息统计209.尚硅谷_数仓搭建-ADS-支付信息统计210.尚硅谷_数仓搭建-ADS-复购率211.尚硅谷_任务调度-Azkaban-工作流程分析212.尚硅谷_任务调度-Azkaban-部署-准备213.尚硅谷_任务调度-Azkaban-部署-配置214.尚硅谷_任务调度-Azkaban-MySQL建库建表215.尚硅谷_任务调度-Azkaban-Sqoop导出脚本216.尚硅谷_任务调度-Azkaban-数据准备217.尚硅谷_任务调度-Azkaban-Job文件218.尚硅谷_任务调度-Azkaban-Shell脚本准备219.尚硅谷_任务调度-Azkaban-定时调度220.尚硅谷_任务调度-Azkaban-调度结果221.尚硅谷_任务调度-Azkaban-拉链表复习222.尚硅谷_任务调度-Azkaban-商品主题宽表纠错223.尚硅谷_任务调度-Azkaban-任务重跑问题224.尚硅谷_数据可视化-Superset225.尚硅谷_数据可视化-Superset-miniconda介绍226.尚硅谷_数据可视化-Superset-miniconda安装227.尚硅谷_数据可视化-Superset-Python环境创建228.尚硅谷_数据可视化-Superset-安装229.尚硅谷_数据可视化-Superset-配置230.尚硅谷_数据可视化-Superset-启停231.尚硅谷_数据可视化-Superset-对接MySQL安装依赖232.尚硅谷_数据可视化-Superset-对接MySQL数据源配置233.尚硅谷_数据可视化-Superset-对接MySQL配置仪表盘-图形234.尚硅谷_数据可视化-Superset-对接MySQL配置仪表盘235.尚硅谷_数据可视化-Superset-补充236.尚硅谷_即席查询-概述237.尚硅谷_即席查询-Kylin-概述238.尚硅谷_即席查询-Kylin-前置知识239.尚硅谷_即席查询-Kylin-架构-特点240.尚硅谷_即席查询-Kylin-部署-HBase241.尚硅谷_即席查询-Kylin-部署-解压242.尚硅谷_即席查询-Kylin-部署-环境变量243.尚硅谷_即席查询-Kylin-部署-启动准备244.尚硅谷_即席查询-Kylin-部署-启动245.尚硅谷_即席查询-Kylin-部署-启动错误-解决方案246.尚硅谷_即席查询-Kylin-使用-定义model247.尚硅谷_即席查询-Kylin-使用-定义cube248.尚硅谷_即席查询-Kylin-使用-重复key问题解决249.尚硅谷_即席查询-Kylin-Hadoop历史服务器问题原因250.尚硅谷_即席查询-Kylin-查询251.尚硅谷_即席查询-Kylin-定时调度脚本252.尚硅谷_即席查询-Kylin-cube存储原理253.尚硅谷_即席查询-Kylin-cube构建原理254.尚硅谷_即席查询-Kylin-cube-优化-聚合组255.尚硅谷_即席查询-Kylin-cube-优化-衍生维度256.尚硅谷_即席查询-Kylin-cube-优化-Rowkey设计257.尚硅谷_即席查询-Kylin-cube-优化-并发粒度优化258.尚硅谷_即席查询-Kylin-cube-BI对接-JDBC259.尚硅谷_即席查询-Kylin-cube-BI对接-Zeppelin260.尚硅谷_即席查询-Presto-概念261.尚硅谷_即席查询-Presto-部署-Server262.尚硅谷_即席查询-Presto-启动-Server263.尚硅谷_即席查询-Presto-部署-命令行客户端264.尚硅谷_即席查询-Presto-部署-可视化客户端265.尚硅谷_即席查询-Presto-使用注意事项266.尚硅谷_即席查询-Druid-概述267.尚硅谷_即席查询-Druid-对比268.尚硅谷_即席查询-Druid-架构269.尚硅谷_即席查询-Druid-数据结构270.尚硅谷_即席查询-Druid-部署271.尚硅谷_即席查询-Druid-使用272.尚硅谷_集群监控-Zabbix-概述273.尚硅谷_集群监控-Zabbix-架构274.尚硅谷_集群监控-Zabbix-部署-说明275.尚硅谷_集群监控-Zabbix-部署-Server节点-准备276.尚硅谷_集群监控-Zabbix-部署-Server节点-创建用户-建库建表277.尚硅谷_集群监控-Zabbix-部署-Server节点-编译环境准备278.尚硅谷_集群监控-Zabbix-部署-Server节点-编译及安装279.尚硅谷_集群监控-Zabbix-部署-Server节点-配置280.尚硅谷_集群监控-Zabbix-部署-Server节点-系统服务脚本编写281.尚硅谷_集群监控-Zabbix-部署-Server节点-web部署282.尚硅谷_集群监控-Zabbix-部署-Server节点-启动283.尚硅谷_集群监控-Zabbix-部署-Server节点-web284.尚硅谷_集群监控-Zabbix-部署-Agent-节点部署285.尚硅谷_集群监控-Zabbix-使用-术语286.尚硅谷_集群监控-Zabbix-使用-创建主机287.尚硅谷_集群监控-Zabbix-使用-创建监控项288.尚硅谷_集群监控-Zabbix-使用-创建触发器289.尚硅谷_集群监控-Zabbix-使用-创建动作290.尚硅谷_集群监控-Zabbix-使用-通知媒介配置291.尚硅谷_集群监控-Zabbix-使用-全流程测试292.尚硅谷_集群监控-Zabbix-使用-创建模板293.尚硅谷_元数据管理-Atlas-课程背景294.尚硅谷_元数据管理-Atlas-课程介绍295.尚硅谷_元数据管理-Atlas-架构原理296.尚硅谷_元数据管理-Atlas-辅助框架安装297.尚硅谷_元数据管理-Atlas-登录后配置298.尚硅谷_元数据管理-Atlas-配置并启动299.尚硅谷_元数据管理-Atlas-执行效果