web抓取 web站点是由HTML语言编写,这意味着每个网页都是结构化文档。有时,我们可利用当前结构获取所需数据并保留数据格式,但通常都不能以合适的结构获取数据(不像csv和json)。 web抓取适...
【张亚楠】Python读取大文件
1. 前言 前几天在做日志分析系统,需要处理几十G的文件,我尝试用原来的for line in open(filepath).readlines()处理,但停顿好久也没变化,可见占用不小的内存。在网上...
【张亚楠】django-crontab实现Django定时任务
1. 前言 为了做一些报表,最近需要每日从爱站上抓取竞争对手的百度流量和移动流量,从我能实现的技术来看,大致有三种实现形式: 火车头定时抓取; python+crontab定时抓取,保存在txt或ca...
【张亚楠】用Python简单实现Google Analytics API
SEO需要经常看网站各种数据,如Visits,Keywords,landing page等,但总要登录Google Analytics(之后简称GA)查看,而且无法与其他系统数据结合。这时,就需要GA...
【亲测好用!】Centos6.5安装Sublime text 3
Centos大多数情况下是用来做服务器的,但是由于各种原因我现在要用Centos做开发机,所以当然要安装开发神奇Sublime textle. 注意:安装目录因人而异,我的安装目录是/opt/subl...
【阿里云ECS安装桌面成功!】CentOS6.5安装vncserver实现图形界面操作
一. 安装gnome图形化桌面 #yum groupinstall -y "X Window System" #yum groupinstall -y "Desktop" #yum groupinst...
【北京SEO招聘】跟谁学12K招聘SEO主管
很久没发SEO招聘相关的文章了,有朋友问题我怎么最近没有SEO工作了呢?刚好昨天有朋友让帮发一个新鲜出炉的SEO招聘信息,内容如下,有意向的,请把简历发我QQ邮箱。 职位信息: 【SEO主管】 薪水:...
30多条mysql数据库优化方法,千万级数据库记录查询轻松解决
1.对查询进行优化,应尽量避免全表扫描,首先应考虑在 where 及 order by 涉及的列上建立索引。 2.应尽量避免在 where 子句中对字段进行 null 值判断,否则将导致引擎放弃使用索...
Mysql数据库基础 | 岭南六少 – 一朵在LAMP架构下挣扎的云
1.数据库概述 简而言之,数据库(DataBase)就是一个存储数据的仓库。为了方便数据的存储和管理,将数据按照特定的规律存储在磁盘上。通过数据库管理系统,可以有效的组织和管理存储在数据库中的数据。如...
mysql大数据高并发处理 | 岭南六少 – 一朵在LAMP架构下挣扎的云
一、数据库结构的设计 如果不能设计一个合理的数据库模型,不仅会增加客户端和服务器段程序的编程和维护的难度,而且将会影响系统实际运行的性能。所以,在一个系统开始实施之前,完备的数据库模型的设计是必须的。...

