010-82661221客服热线:

| | |
当前位置:首页 > 课程信息

Python网络爬虫及数据采集技术

Python是一种面向对象、解释型计算机程序设计语言,Python是纯粹的自由软件,源代码和解释器CPython遵循 GPL协议。是一个用于统计计算和统计制图的优秀工具,也是GNU的一个免费、源代码开放的软件。
Python语法简洁清晰,具有丰富和强大的库,能够把用其他语言制作的各种模块(尤其是C/C++)很轻松地联结在一起。 Python爬虫包括一套完整的数据采集、处理、计算系统,简便而强大的编程语言,可操纵数据的输入和输入,可实现分支、循环,用户可自定义功能。
本培训将对基于Python爬虫进行数据采集、处理、数据分析的方法深度剖析,并对Python爬虫原理及实现进行讲解。

培训对象

1、系统架构师、系统分析师、高级程序员、资深开发人员。
2、牵涉到网络采集、处理和规划的负责人、设计人员。
3、政府机关,金融保险、移动等以互联网信息为数据来源单位的负责人。
4、高校、科研院所牵涉到网络数据采集与数据处理的项目负责人。

学员基础

1、对IT系统设计有一定的理论与实践经验。
2、具备信息检索IR和大数据处理的基础知识。
3、有一定的python基础知识和开发经验。

师资

由业界知名云计算专家亲自授课:
杨老师 主要研究网络信息分析以及云计算相关技术,长期从事通信网管系统、网络信息处理、商务智能(BI)以及电信决策支持系统的研究开发工作,主持和参与了多个国家和省部级基金项目,具有丰富的工程实践及软件研发经验。

培训要点

培训内容

第一讲 网络爬虫基础
1.什么是网络爬虫
2.浏览网页的过程
3.URL的含义
4.环境的配置
第二讲 Python爬虫基础知识
1.Python爬虫基础学习
2.Pythonurllib和urllib2库的用法
3.Python正则表达式
4.BeautifulSoup简介
5.爬虫框架Scrapy
第三讲 Urllib库的基本使用
1.网页爬取示例
2.网页爬取方法
3.构造Requset
4.POST和GET数据传送
第四讲 Urllib库的高级用法
1.设置Headers
2.Proxy(代理)的设置
3.Timeout设置
4.HTTP的PUT和DELETE方法
5.使用DebugLog
第五讲 正则表达式
1.了解正则表达式
2.正则表达式的语法规则
3.正则表达式相关注解
4.PythonRe模块
第六讲 BeautifulSoup的用法
1.BeautifulSoup的简介
2.BeautifulSoup安装
3.创建BeautifulSoup对象
4.BeautifulSoup对象种类
5.遍历文档树
第七讲 开始采集
1.遍历单个域名
2.采集整个网站
3.通过互联网采集
4.用Scrapy采集
5.几个示例
第八讲 存储数据和读取文档
1.媒体文件
2.把数据存储到CSV
3.MySQL与Python整合
4.读取纯文本和CSV文档
5.读取Word和.docx
第九讲 自然语言处理基础
1.概括数据
2.马尔可夫模型
3.自然语言工具包
4.用NLTK做统计分析
5.用NLTK做词性分析
第十讲 用爬虫测试网站
1.测试简介
2.Python单元测试
3.Selenium单元测试
4.Python单元测试与Selenium单元测试的选择

培训目标

培训时间、地点

时间:2018-03-30 到 2018-03-31 地点:北京

证 书

颁发中科院计算所职业培训中心“Python网络爬虫及数据采集技术”结业证书。

费 用

5500元/人(含教材、证书、午餐、学习用具等)。

支付账号

名 称:北京市海淀区中科院计算所职业技能培训学校
开户行:北京银行中关村支行
帐 号:01090302900120105445661
收缩