- 课程概览
- 授课讲师
- 课程大纲
- 实验列表
- 课程概览
- 授课讲师
- 课程大纲
- 实验列表
Python预处理课程是为初学者设计的实践性课程,旨在教授使用Python进行数据预处理和清洗的基本技巧。学员将学习如何加载数据、处理缺失值、去除异常数据、标准化、归一化等常用技术。通过本课程,学员将掌握Python中常用的数据处理库,如Numpy、Pandas等,从而为数据分析、机器学习和人工智能领域打下坚实基础。
课程概览
数据预处理是数据分析和机器学习中至关重要的步骤,它涉及对原始数据进行清洗、转换和整理,以便让数据能够更好地适应后续的分析和建模过程。
-
数据加载与观察:
- 导入必要的Python库(如NumPy、Pandas等)。
- 读取不同格式的数据文件(如CSV、Excel等)。
- 使用Pandas DataFrame查看数据的基本信息(前几行、数据类型、缺失值等)。
-
数据清洗:
- 处理缺失值:检测缺失值并选择适当的方法进行处理,例如删除、插值或填充。
- 处理重复值:检测数据集中的重复记录并予以处理。
- 处理异常值:识别可能的异常值,并选择适当的方法进行处理(例如截断或替换)。
-
数据转换:
- 特征缩放:将数值特征缩放到一个统一的范围,常见的方法包括MinMax Scaling和Standard Scaling。
- 独热编码:将分类变量转换成二进制形式,便于算法处理。
- 特征选择:选择对问题有意义的特征,以减少计算复杂度和提高模型性能。
- 特征构造:根据领域知识或数据特点,创建新的特征以增强模型的表现。
-
数据整理:
- 数据合并:将多个数据集按照一定的规则进行合并,如连接、堆叠等。
- 数据重塑:将数据从一种形式转换为另一种形式,如透视表、长宽表转换等。
-
数据预处理流水线:
- 将上述的数据预处理步骤整合到一个流水线中,以便在实际应用中方便地使用。
-
实际案例与练习:
- 基于真实数据集进行实际的数据预处理案例演示,加深学习效果。
- 练习学员通过指导的实验和项目,巩固所学的数据预处理技能。
授课讲师
专业成就: 拥有华为双IE专家资格认证,在云计算与云服务领域具有专业权威。 技术文章《云上主机安全设计》获得业界认可,阅读量达1700次。 教学风格: 授课方式通俗易懂,强调互动,营造生动有趣的课堂氛围。 通过课后讨论,加深学生对技术的理解,提升学习热情。 学术地位: 作为高校客座教授,享有学术界和业界的广泛认可。 擅长技术领域: 精通云计算架构设计、云服务管理与优化。 擅长云主机安全策略规划与实施。 熟练掌握虚拟化技术、容器化部署和自动化运维。
课程大纲
- 第1章数据预处理概述
-
    第1节 什么是数据预处理
-
    第2节 常见的数据问题与数据预处理的流程
-
    第3节 常用的数据预处理库
-
    第4节 开发工具与环境
- 第2章科学计算库---Numpy
-
    第1节 数组对象
-
    第2节 创建数组
-
    第3节 访问数组元素
-
    第4节 数组运算
-
    第5节 数组操作
-
    第6节 数组的转置
- 第3章pandas库基础
-
    第1节 数据结构
-
    第2节 索引操作
-
    第3节 数据排序
-
    第4节 统计计算与统计描述
-
    第5节 描绘图表
- 第4章数据获取
-
    第1节 从CSV和TXT文件读取数据
-
    第2节 从EXCEL文件读取数据
-
    第3节 从JSON文件读取数据
-
    第4节 从HTML文件读取数据
-
    第5节 从数据库读取数据
-
    第6节 从Word文件读取数据
- 第5章数据清理
-
    第1节 数据清理概述
-
    第2节 缺失值的检测与处理
-
    第3节 重复值的检测与处理
-
    第4节 异常值的检测与处理
-
    第5节 案例---成都某地区二手房数据
- 第6章数据集成、变换与规约
-
    第1节 数据集成
-
    第2节 数据变换
-
    第3节 数据规约
-
    第4节 案例---中国篮球运动员的基本信息分析
- 第7章数据清理工具---OpenRefine
-
    第1节 OpenRefine介绍、下载与安装
-
    第2节 OpenRefine的基本操作
-
    第3节 OpenRefine的进阶操作
-
    第4节 案例---多伦多市建筑许可数据
- 第8章实战演练---数据分析师岗位分析
-
    第1节 知识精讲
-
    第2节 分析目标与思路
-
    第3节 数据收集
-
    第4节 数据预处理
-
    第5节 数据分析与展现
实验列表
- 实验名称Numpy基础实验 - 数组操作和运算
- 实验描述本实验旨在让学生熟悉Numpy库的基础操作,包括创建一维和二维数组、数组属性与操作、数组运算,以及Numpy函数的使用。学生需要导入Numpy库,创建指定数组,并进行形状调整、运算和函数调用。最后,学生需输出实验结果和代码解释整理成实验报告。
- 实验名称Pandas库基础实验 - 数据预处理
- 实验描述本实验旨在帮助学生熟悉Pandas库的基础操作。学生将使用Pandas导入和处理学生成绩的数据,学习数据结构如Series和DataFrame,并掌握数据的索引操作和切片。实验中涵盖了数据排序和常用的统计计算,如均值、中位数、标准差等,并学习处理缺失值。最后,学生将利用Matplotlib库绘制学生成绩的柱状图,以可视化展示不同学科的平均成绩。实验报告中应包含实验目标、步骤、结果、代码解释和心得体会。
- 实验名称Excel 数据获取与分析
- 实验描述本实验使用 Python 中的 Pandas 库,从给定的超市销售数据的 Excel(XLSX)文件中提取季度销售额数据,并进行基本的数据分析,如显示前几行数据和按分部统计总销售额。
- 实验名称数据清洗
- 实验描述现有一份保存了1000个值的number.xlsx文件。 按照要求操作上述文件中的数据。
- 实验名称数据集成、变换与规约
- 实验描述现有一张保存了学生信息的表格,按要求操作表格中的数据
节数 | 上课时间 | 星期一 | 星期二 | 星期三 | 星期四 | 星期五 | 星期六 | 星期天 |
---|---|---|---|---|---|---|---|---|
第1节 | 08:00 - 08:40 | |||||||
第2节 | 09:00 - 09:40 | |||||||
第3节 | 10:00 - 10:40 | |||||||
第4节 | 11:00 - 11:40 | |||||||
第5节 | 14:00 - 14:40 | |||||||
第6节 | 15:00 - 15:40 | |||||||
第7节 | 16:00 - 16:40 | |||||||
第8节 | 17:00 - 17:40 |
天数 | 上课日期 | 上课时间 | 内容 |
---|
相关课件 更多
-
pptx
第1章 数据预处理概述_1210
大小:956.29KB
2023-08-28
-
pptx
第2章 科学计算库——numpy_1214
大小:759.08KB
2023-08-28
-
pptx
第3章 pandas库基础_1215
大小:626.2KB
2023-08-28
-
pptx
第4章 数据获取_1217
大小:700.03KB
2023-08-28
-
pptx
第5章 数据清理_1218
大小:1.01MB
2023-08-28
-
pptx
第6章 数据集成、变换与规约_1218
大小:1.05MB
2023-08-28