当前位置:首页 » 编程语言 » 安装sippython

安装sippython

发布时间: 2025-09-09 03:07:00

‘壹’ 如何用python抓取动态页面信息

很早之前,学习Python web编程的时候,就涉及一个Python的urllib。可以用urllib.urlopen("url").read()可以轻松读取页面上面的静态信息。但是,随着时代的发展,也来越多的网页中更多的使用javascript、jQuery、PHP等语言动态生成页面信息。因此,用urllib再去抓取页面HTML就不足以达到我们想要的效果。

解决思路:
有一个思路最为简单的思路可以动态解析页面信息。urllib不可以解析动态信息,但是浏览器可以。在浏览器上展现处理的信息其实是处理好的HTML文档。这为我们抓取动态页面信息提供了很好的思路。在Python中有一个很有名的图形库——PyQt。PyQt虽然是图形库,但是他里面 QtWebkit。这个很实用。谷歌的Chrome和苹果的Safari都是基于WebKit内核开发的,所以我们可以通过PyQt中得QtWebKit 把页面中的信息读取加载到HTML文档中,再解析HTML文档,从HTML文档中提取我们想用得信息。

作者本人实用Mac OS X。应该在Windows和Linux平台也可以采用相同的办法。

1、Qt4 library
Library,而不是Creator。Library在Mac的默认安装路径下,应该是/home/username/Developor/,不要改变Qt4的默认安装路径。否则可能安装失败。

官方网址:http://qt-project.org/downloads2、SIP、PyQt4
这两个软件可以在在PyQt的官网找到。下载的是它的源码。Mac和Linux需要自己编译

下载地址是:http://www.riverbankcomputing.co.uk/software/pyqt/download

在终端切换到文件解压后的目录中。

在终端中输入

python configure.py

make

sudo make install

进行安装编译。

SIP和PyQt4两个安装方法相同。但是PyQt4依赖SIP。所以先安装SIP再安装PyQt41、2两步完成之后,Python的PyQt4的模块就安装好了。在Python shell中输入import PyQt4看看能不能找到PyQt4的模块。3、Spynner
spynner是一个QtWebKit的客户端,它可以模拟浏览器,完成加载页面、引发事件、填写表单等操作。

这个模块可以在Python的官网找到。

下载地址: https://pypi.python.org/pypi/spynner/2.5

解压后,cd到安装目录,然后输入sudo python configure.py install安装该模块。

这样Spynner模块就安装完成了,在python shell中试试import spynner看看该模块有没有安装完成。回到顶部
Spynner的简单使用
Spynner的功能十分强大,但是由于本人能力有限,就介绍一下如何显示网页的源码吧。

#! /usr/bin/python
#-*-coding: utf-8 -*-

import spynner

browser = spynner.Browser()
#创建一个浏览器对象

browser.hide()
#打开浏览器,并隐藏。

browser.load("http://www..com")
#browser 类中有一个类方法load,可以用webkit加载你想加载的页面信息。
#load(是你想要加载的网址的字符串形式)

print browser.html.encode("utf-8")
#browser 类中有一个成员是html,是页面进过处理后的源码的字符串.
#将其转码为UTF-8编码

open("Test.html", 'w+').write(browser.html.encode("utf-8"))
#你也可以将它写到文件中,用浏览器打开。

browser.close()
#关闭该浏览器
通过这个程序,就可以比较容易的显示webkit处理的页面HTML源码了。


回到顶部
spynner应用
下面介绍一下spynner的简单应用,通过简单的程序,可以获取你在浏览器中看到的页面的全部图片。用HTMLParser、BeautifulSoup等都可以完成HTMLParser文档的解析。而我选择HTMParser。

#!/usr/bin/python

import spynner
import HTMLParser
import os
import urllib

class MyParser(HTMLParser.HTMLParser):

def handle_starttag(self, tag, attrs):
if tag == 'img':
url = dict(attrs)['src']
name = os.path.basename(dict(attrs)['src'])
if name.endswith('.jpg') or name.endswith('.png') or name.endswith('gif'):
print "Download.....", name
urllib.urlretrieve(url, name)


if __name__ == "__main__":
browser = spynner.Browser()

browser.show()

browser.load("http://www.artist.cn/snakewu1994/StyleBasis_Four/en_album_607236.shtml")

Parser = MyParser()

Parser.feed(browser.html)

print "Done"

browser.close()
通过这个程序,可以下载你在页面上看到的全部图片。简单的几行程序就完成了这个艰巨的任务。实现了图片的批量处理。这真是Python语言的优势,再艰巨的任务交给第三方吧。

‘贰’ python可以画出excel的图吗

本文主要阐述如何使用python从excel读取数据,并用matplotlib绘制成二维图像。
主要知识点为:

使用xlrd扩展包读取excel数据
使用matplotlib绘制二维图像
美化图像,添加标注,注释,显示Latex风格公式,坐标点处透明化处理等技巧
适合人群:适合具有Python基础的用户,对于需要书写实验报告,学位论文,发表文章,做PPT报告的学员具有较大价值。

开发准备

打开Xfce终端,下载并安装的相关依赖 。

$ sudo apt-get update
$ sudo apt-get install python-dev
$ sudo pip install numpy
$ sudo apt-get install python-matplotlib
$ sudo pip install xlrd
$ sudo apt-get install python-sip
$ sudo apt-get install libqt4-dev
$ sudo apt-get install python-qt4 python-qt4-dev pyqt4-dev-tools qt4-dev-tools
遇到是否安装的询问时,输入y,按回车键继续安装。

实验步骤

1.绘制一个简单图像,测试扩展包安装是否正常。

安装完成matplotlib后,运行一个小程序测试其是否正常。我们来绘制一个非常简单的正弦函数。

在学习过程中有什么不懂得可以加我的
python学习资源qun,855-408-893
群里有不错的学习视频教程、开发工具与电子书籍。
与你分享python企业当下人才需求及怎么从零基础学习好python,和学习什么内容
import numpy as np
import matplotlib.pyplot as plt
x = np.linspace(0, 10, 500)
dashes = [10, 5, 100, 5] # 10 points on, 5 off, 100 on, 5 off
fig, ax = plt.subplots()
line1, = ax.plot(x, np.sin(x), ‘--‘, linewidth=2,
label=‘Dashes set retroactively‘)
line1.set_dashes(dashes)
line2, = ax.plot(x, -1 * np.sin(x), dashes=[30, 5, 10, 5],
label=‘Dashes set proactively‘)
ax.legend(loc=‘lower right‘)
plt.show()
如果一切正常,应该得到如下显示的图片:

2 测试xlrd扩展包

从excel中读取数据的过程比较简单,首先从xlrd包导入open_workbook,然后打开excel文件,把每个sheet里的每一行每一列数据都读取出来即可。很明显,这是个循环过程。

from xlrd import open_workbook
x_data1=[]
y_data1=[]
wb = open_workbook(‘phase_detector.xlsx‘)
for s in wb.sheets():
print ‘Sheet:‘,s.name
for row in range(s.nrows):
print ‘the row is:‘,row
values = []
for col in range(s.ncols):
values.append(s.cell(row,col).value)
print values
x_data1.append(values[0])
y_data1.append(values[1])

如果安装包没有问题,这段代码应该能打印出excel表中的数据内容。解释一下 这段代码:打开一个excel文件后,首先对文件内的sheet进行循环,这是最外层循环;在每个sheet内,进行第二次循环,行循环;在每行内,进行列循环,这是第三层循环。在最内层列循环内,取出行列值,复制到新建的values列表内,很明显,源数据有几列,values列表就有几个元素。我们例子中的excel文件有两列,分别对应“角度”和DC值。所以在列循环结束后,我们将取得的数据保存到x_data1和y_data1这两个列表中。

热点内容
xp如何添加ftp快捷方式 发布:2025-09-09 07:56:06 浏览:106
ajaxphp跳转 发布:2025-09-09 07:49:34 浏览:836
双击解压 发布:2025-09-09 07:47:44 浏览:435
云服务器自建 发布:2025-09-09 07:46:57 浏览:942
想换电脑配置怎么换 发布:2025-09-09 07:46:47 浏览:1003
php数组值排序 发布:2025-09-09 07:03:50 浏览:632
光编程 发布:2025-09-09 06:39:13 浏览:291
android源码管理系统 发布:2025-09-09 06:11:04 浏览:427
机刷源码 发布:2025-09-09 05:54:48 浏览:624
win7文件夹无法访问 发布:2025-09-09 05:46:14 浏览:264