pythontarget

① 如何用python在10分钟内建立一个预测模型

预测模型的分解过程
我总是集中于投入有质量的时间在建模的初始阶段，比如，假设生成、头脑风暴、讨论或理解可能的结果范围。所有这些活动都有助于我解决问题，并最终让我设计出更强大的商业解决方案。为什么你要在前面花费这段时间，这有充分的理由：
你有足够的时间投入并且你是无经验的（这是有影响的）
你不带有其它数据观点或想法的偏见（我总是建议，在深入研究数据之前做假设生成）
在后面的阶段，你会急于完成该项目而没有能力投入有质量的时间了。
这个阶段需要投入高质量时间，因此我没有提及时间表，不过我建议你把它作为标准的做法。这有助于你建立建立更好地预测模型，在后面的阶段的只需较少的迭代工作。让我们来看看建立第一个模型的剩余阶段的时间表：
数据描述性分析——50%的时间
数据预处理（缺失值和异常值修复）——40%的时间
数据建模——4%的时间
性能预测——6%的时间
让我们一步一步完成每个过程（每一步投入预测的时间）：
阶段1：描述性分析/数据探索
在我刚开始成为数据科学家的时候，数据探索占据了我大量的时间。不过，随着时间的推移，我已经把大量的数据操作自动化了。由于数据准备占据建立第一个模型工作量的50%，自动化的好处是显而易见的。
这是我们的第一个基准模型，我们去掉任何特征设计。因此，描述分析所需的时间仅限于了解缺失值和直接可见的大的特征。在我的方法体系中，你将需要2分钟来完成这一步（假设，100000个观测数据集）。
我的第一个模型执行的操作：
确定ID，输入特征和目标特征
确定分类和数值特征
识别缺失值所在列
阶段2：数据预处理（缺失值处理）
有许多方法可以解决这个问题。对于我们的第一个模型，我们将专注于智能和快速技术来建立第一个有效模型。
为缺失值创建假标志：有用，有时缺失值本身就携带了大量的信息。
用均值、中位数或其它简单方法填补缺失值：均值和中位数填补都表现良好，大多数人喜欢用均值填补但是在有偏分布的情况下我建议使用中位数。其它智能的方法与均值和中位数填补类似，使用其它相关特征填补或建立模型。比如，在Titanic生存挑战中，你可以使用乘客名字的称呼，比如：“Mr.”, “Miss.”,”Mrs.”,”Master”，来填补年龄的缺失值，这对模型性能有很好的影响。
填补缺失的分类变量：创建一个新的等级来填补分类变量，让所有的缺失值编码为一个单一值比如，“New_Cat”，或者，你可以看看频率组合，使用高频率的分类变量来填补缺失值。
由于数据处理方法如此简单，你可以只需要3到4分钟来处理数据。
阶段3：数据建模
根据不同的业务问题，我推荐使用GBM或RandomForest技术的任意一种。这两个技术可以极其有效地创建基准解决方案。我已经看到数据科学家通常把这两个方法作为他们的第一个模型同时也作为最后一个模型。这最多用去4到5分钟。
阶段4：性能预测
有各种各样的方法可以验证你的模型性能，我建议你将训练数据集划分为训练集和验证集（理想的比例是70：30）并且在70%的训练数据集上建模。现在，使用30%的验证数据集进行交叉验证并使用评价指标进行性能评估。最后需要1到2分钟执行和记录结果。
本文的目的不是赢得比赛，而是建立我们自己的基准。让我们用python代码来执行上面的步骤，建立你的第一个有较高影响的模型。
让我们开始付诸行动
首先我假设你已经做了所有的假设生成并且你擅长使用python的基本数据科学操作。我用一个数据科学挑战的例子来说明。让我们看一下结构：
步骤1：导入所需的库，读取测试和训练数据集。
#导入pandas、numpy包，导入LabelEncoder、random、RandomForestClassifier、GradientBoostingClassifier函数
import pandas as pd
import numpy as np
fromsklearn.preprocessing import LabelEncoder
import random
fromsklearn.ensemble import RandomForestClassifier
from sklearn.ensembleimport GradientBoostingClassifier
#读取训练、测试数据集
train=pd.read_csv('C:/Users/AnalyticsVidhya/Desktop/challenge/Train.csv')
test=pd.read_csv('C:/Users/AnalyticsVidhya/Desktop/challenge/Test.csv')
#创建训练、测试数据集标志
train='Train'
test='Test'
fullData =pd.concat(,axis=0) #联合训练、测试数据集
步骤2：该框架的第二步并不需要用到python，继续下一步。
步骤3：查看数据集的列名或概要
fullData.columns # 显示所有的列名称
fullData.head(10) #显示数据框的前10条记录
fullData.describe() #你可以使用describe()函数查看数值域的概要
步骤4：确定a)ID变量 b)目标变量 c)分类变量 d)数值变量 e)其他变量。
ID_col =
target_col =
cat_cols =
num_cols= list(set(list(fullData.columns))-set(cat_cols)-set(ID_col)-set(target_col)-set(data_col))
other_col= #为训练、测试数据集设置标识符
步骤5：识别缺失值变量并创建标志
fullData.isnull().any()#返回True或False，True意味着有缺失值而False相反
num_cat_cols = num_cols+cat_cols # 组合数值变量和分类变量
#为有缺失值的变量创建一个新的变量
# 对缺失值标志为1，否则为0
for var in num_cat_cols:
if fullData.isnull().any()=True:
fullData=fullData.isnull()*1
步骤6：填补缺失值
#用均值填补数值缺失值
fullData = fullData.fillna(fullData.mean(),inplace=True)
#用-9999填补分类变量缺失值
fullData = fullData.fillna(value = -9999)
步骤7：创建分类变量的标签编码器，将数据集分割成训练和测试集，进一步，将训练数据集分割成训练集和测试集。
#创建分类特征的标签编码器
for var in cat_cols:
number = LabelEncoder()
fullData = number.fit_transform(fullData.astype('str'))
#目标变量也是分类变量，所以也用标签编码器转换
fullData = number.fit_transform(fullData.astype('str'))
train=fullData='Train']
test=fullData='Test']
train = np.random.uniform(0, 1, len(train)) <= .75
Train, Validate = train=True], train=False]
步骤8：将填补和虚假（缺失值标志）变量传递到模型中，我使用随机森林来预测类。
features=list(set(list(fullData.columns))-set(ID_col)-set(target_col)-set(other_col))
x_train = Train.values
y_train = Train.values
x_validate = Validate.values
y_validate = Validate.values
x_test=test.values
random.seed(100)
rf = RandomForestClassifier(n_estimators=1000)
rf.fit(x_train, y_train)
步骤9：检查性能做出预测
status = rf.predict_proba(x_validate)
fpr, tpr, _ = roc_curve(y_validate, status)
roc_auc = auc(fpr, tpr)
print roc_auc
final_status = rf.predict_proba(x_test)
test=final_status
test.to_csv('C:/Users/Analytics Vidhya/Desktop/model_output.csv',columns=)
现在可以提交了！

② 怎么用python做自动化测试

1新建一台Jenkins服务器，安装并配置好Jenkins2配置一个自动化测试脚本的代码库，可以使用Git或者SVN等版本控制工具。然后在Jenkins服务器上配置一个Job，负责自动的同步最新代码到Jenkins服务器上。3配置要跑自动化测试的虚拟机VM，推荐干净环境下安装需要跑自动化测试的依赖软件工具或者配置以及自动化测试工具（不提前安装配置也行，可以在跑自动化之前用另外的脚本自动安装配置），配置好之后关机并打一个snapshot镜像快照，并命名为prebuild或其它。4新建一个JenkinsJob，用来跑自动化。配置需要连接并使用的自动化测试虚拟机，配置要构建的自动化测试框架xml脚本文件（后面步骤有说明）和target，以及要归档的测试报告，邮件发送等等。5接下来的重点就是自动化测试框架的xml脚本文件了，首先里面定义一个target，负责获取自动化测试对象的安装包。6接着定义一个target（可选），负责从版本库上获取自动化测试脚本同步到Jenkins服务器上（也可以直接使用JenkinsJob本身的插件配置来获取代码）。7定义一个target，负责连接到虚拟机服务器，并恢复到虚拟机的原始状态例如prebuild，然后开机8定义一个target，负责拷贝项目产品安装包和自动化测试源代码到目标虚拟机上。9定义一个target，负责连接到目标测试虚拟机，并打开自动化测试工具，然后运行自动化测试脚本10定义一个target，负责处理自动化测试报告文件和日志文件并把它们从自动化测试虚拟机拷贝到Jenkins服务器对应的Job工作空间下。11最后定义一个主target，按照上面的target流程依次调用。这个主target就是Jenkins服务器上的自动化测试Job中配置的需要构建的Target。

③ Python基本语法与变量

<a href="http://www.hqqt.com/webnews/16012053908371.html" title="Python的多行语句" target="_blank">Python的多行语句

如语句过长，导致编辑器的窗口宽度不能完全完全显示时。就可以使用“”符合将一行语句分为多行显示。

Python引导

在Python语言中，引号主要用于表示字符串。可以使用单引号(')、双引号(”)、三引号(’’’)，引号必须成对使用。单引号和双引号用于程序中的字符串表示;三引号允许一个字符串可以跨多行、字符串中可以包含换行符、制表符以及其他特殊字符，三引号也用于程序中的注释。

Python标识符

标识符用于Python语言的变量、关键字、函数、对象等数据的命名。标识符的命名需要遵循下面的规则。

① 可以由字母(大写A—Z或小写a—z)、数字(0—9)和_(下划线)组合而成，但不能由数字开头;

② 不能包含除_以外的任何特殊字符，如：%、#、&、逗号、空格等;

③ 不能包含空白字符(换行符、空格和制表符称为空白字符);

④ 标识符不能是Python语言的关键字和保留字;

⑤ 标识符区分大小写，num1和Num2是两个不同的标识符。

⑥ 标识符的命名要有意义，做到见名知意。

Python关键字

Python预先定义了一部分有特别意义的标识符，用于语言自身使用。这部分标识符称为关键字或保留字，不能用于其它用途，否则会引起语法错误，随着Python语言的发展，其预留的关键字也会有所变化。表1列出了Python预留的关键字。

变量

用标识符命名的存储单元的地址称为变量，变量是用来存储数据的，通过标识符可以获取变量的值，也可以对变量进行赋值。对变量赋值的意思是将值赋给变量，赋值完成后，变量所指向的存储单元存储了被赋的值，在Pyhton语言中赋值操作符为“=、+=、-=、*=、/=、%=、**=、//=”。

当程序使用变量存储数据时，必须要先声明变量，然后才能使用。

可以在变量声明时给变量赋值，也可以不赋值。声明变量时，不需要声明数据类型，Python会自动选择数据类型进行匹配。

关于Python基本语法与变量，青藤小编就和您分享到这里了。如果您对python编程有浓厚的兴趣，希望这篇文章可以为您提供帮助。如果您还想了解更多关于python编程的技巧及素材等内容，可以点击本站的其他文章进行学习。

以上是小编为大家分享的关于Python基本语法与变量的相关内容，更多信息可以关注环球青藤分享更多干货