pythongym

⑴ 深度强化学习 如何训练

多谢邀请。关于gym可参考我的知乎专栏帖子：强化学习实战 第一讲 gym学习及二次开发 - 知乎专栏。关注该专栏，可以学到很多强化学习的知识（理论知识和实践知识）。

下面正式回答你的问题：搞深度强化学习，训练环境的搭建是必须的，因为训练环境是测试算法，训练参数的基本平台（当然，也可以用实际的样机进行训练，但时间和代价是相当大的）。

现在大家用的最多的是openai的gym（ github.com/openai/gym ），或者universe

(github.com/openai/unive),。这两个平台非常好，是通用的平台，而且与tensorflow和Theano无缝连接，虽然目前只支持python语言，但相信在不久的将来也会支持其他语言。下面我根据自己的理解，讲下关于gym的一些事情。

Gym的原理是什么？它是新东西吗？

在我看来，gym并不是完全的新东西，它不过是用python语言写的仿真器。对于仿真器大家肯定并不陌生。学控制的人都用过或听过matlab的simulink，学机械的人应该用过动力学仿真软件adams，gym在本质上和simulink，adams没什么区别。

如果把Gym，simulink，adams等等这些仿真器去掉界面显示（如动画显示），剩下的本质不过是一组微分方程。所以Gym，simulink，adams等等一切仿真器的本质是微分方程。比如，运动学微分方程，动力学微分方程，控制方程等。Gym在构造环境时，主要的任务就是构建描述你模型的微分方程。

我们举例说明：

Gym中的CartPole环境是如何构建的：

下面的链接是gym中CartPole环境模型：

github.com/openai/gym/b
在该环境模型中，最核心的函数是def _step(self, action)函数，该函数定义了CartPole的环境模型，而在该函数中最核心的代码如下：

图中方框中又是这段代码中最核心的地方，这两行代码便决定了CartPole的模型。简单的模型，通过手工推导便可完成。

那么对于复杂的模型，比如战斗机器人，各种大型游戏怎么办呢？

这就需要专门的多刚体仿真软件了，这些软件背后的核心技术都是物理引擎。大家可以搜下物理引擎这个词，游戏以及各种仿真软件都要用到物理引擎，用的多的而且开源的物理引擎有：ODE, Bullet, Havok, Physx等。原则上来说利用这些物理引擎都可以搭建训练环境。Gym在搭建机器人仿真环境用的是mujoco，ros里面的物理引擎是gazebo。

下面针对你的问题，逐条回答：

1. gym中CartPole, MountainCar这种环境的构建原理是怎样的？

答：这种简单的环境只需要手动推导便可写出动力学方程，然后可以人为编写环境模型。只是，gym中除了给出了动力学方程，还加入了界面程序，将结果更直观地显示出来。

2. gym中的环境源代码能不能查看和修改？

Gym是开源开发工具，所有代码都可查看和修改。可以模仿gym已有的例子自己创建环境。Gym创建环境很方便，只需要编写你的环境模型，并将你的环境模型注册到环境文件中即可，至于如何构建新的环境，请关注我的知乎专栏，我会在后面讲一讲。我的专栏中深入剖析了gym并给出了创建自己环境的实例，强化学习实战 第一讲 gym学习及二次开发 - 知乎专栏。

⑵ 学python可以找什么工作

学习可以从事工作有很多，比如说：人工智能、web开发、爬虫、数据分析、游戏开发、自动化运维等。

⑶ Python gym模块win7可以使用吗

可以用pip 安装Python模块，这样安装的就包括当前操作系统支持的本地模块

⑷ 去哪里找python的开源项目

GitHub是一个面向开源及私有软件项目的托管平台，因为只支持git 作为唯一的版本库格式进行托管，故名GitHub。作为开源代码库以及版本控制系统，Github拥有超过900万开发者用户。随着越来越多的应用程序转移到了云上，Github已经成为了管理软件开发以及发现已有代码的首选方法。在GitHub，用户可以十分轻易地找到海量的开源代码。

下面给大家介绍一些GitHub上25个开源项目：

（1）TensorFlow Models

如果你对机器学习和深度学习感兴趣，一定听说过TensorFlow。TensorFlow Models是一个开源存储库，可以找到许多与深度学习相关的库和模型。

（GitHub： https://github.com/tensorflow/models ）

（2）Keras

Keras是一个高级神经网络API，用Python编写，能够在TensorFlow，CNTK或Theano之上运行。旨在完成深度学习的快速开发（GitHub： https://github.com/keras-team/keras ）

（3）Flask

Flask 是一个微型的 Python 开发的 Web 框架，基于Werkzeug WSGI工具箱和Jinja2 模板引擎，使用BSD授权。

（GitHub： https://github.com/pallets/flask ）

（4）scikit-learn

scikit-learn是一个用于机器学习的Python模块，基于 NumPy、SciPy 和 matplotlib 构建。，并遵循 BSD 许可协议。

（GitHub： https://github.com/scikit-learn ）

（5）Zulip

Zulip是一款功能强大的开源群聊应用程序，它结合了实时聊天的即时性和线程对话的生产力优势。Zulip作为一个开源项目，被许多世界500强企业，大型组织以及其他需要实时聊天系统的用户选择使用，该系统允许用户每天轻松处理数百或数千条消息。Zulip拥有超过300名贡献者，每月合并超过500次提交，也是规模最大，发展最快的开源群聊项目。

（GitHub： https://github.com/zulip/zulip ）

相关推荐：《Python入门教程》

（6）Django

Django 是 Python 编程语言驱动的一个开源模型-视图-控制器（MVC）风格的 Web 应用程序框架，旨在快速开发出清晰，实用的设计。使用 Django，我们在几分钟之内就可以创建高品质、易维护、数据库驱动的应用程序。

（GitHub： https://github.com/django/django ）

（7）Rebound

Rebound 是一个当你得到编译错误时即时获取 Stack Overflow 结果的命令行工具。 就用 rebound 命令执行你的文件。这对程序员来说方便了不少。

（GitHub： https://github.com/shobrook/rebound ）

（8）Google Images Download

这是一个命令行python程序，用于搜索Google Images上的关键字/关键短语，并可选择将图像下载到您的计算机。你也可以从另一个python文件调用此脚本。

（GitHub： https://github.com/hardikvasa/google-images-download ）

（9）YouTube-dl

youtube-dl 是基于 Python 的命令行媒体文件下载工具，完全开源免费跨平台。用户只需使用简单命令并提供在线视频的网页地址即可让程序自动进行嗅探、下载、合并、命名和清理，最终得到已经命名的完整视频文件。

（GitHub： htt ps://github.com/rg3/youtube-dl ）

（10）System Design Primer

此repo是一个系统的资源集合，可帮助你了解如何大规模构建系统。

（GitHub： https://github.com/donnemartin/system-design-primer ）

（11）Mask R-CNN

Mask R-CNN用于对象检测和分割。这是对Python 3，Keras和TensorFlow的Mask R-CNN实现。该模型为图像中对象的每个实例生成边界框和分割蒙版。它基于特Feature Pyramid Network（FPN）和 ResNet101 backbone。

（GitHub： https://github.com/matterport/Mask_RCNN ）

（12）Face Recognition

Face Recognition 是一个基于 Python 的人脸识别库，使用十分简便。这还提供了一个简单的face_recognition命令行工具，可以让您从命令行对图像文件夹进行人脸识别！

（GitHub： https://github.com/ageitgey/face_recognition ）

（13）snallygaster

用于扫描HTTP服务器上的机密文件的工具。

（GitHub： https://github.com/hannob/snallygaster ）

（14）Ansible

Ansible是一个极其简单的IT自动化系统。它可用于配置管理，应用程序部署，云配置，支持远程任务执行和多节点发布 - 包括通过负载平衡器轻松实现零停机滚动更新等操作。

（GitHub： https://github.com/ansible/ansible ）

（15）Detectron

Detectron是Facebook AI 研究院开源的的软件系统，它实现了最先进的目标检测算法，包括Mask R-CNN。它是用Python编写的，由Caffe2深度学习框架提供支持。

（16）asciinema

终端会话记录器和asciinema.org的最佳搭档。

（GitHub： https://github.com/asciinema/asciinema ）

（17）HTTPie

HTTPie 是一个开源的命令行的 HTTP 工具包，其目标是使与Web服务的CLI交互尽可能人性化。它提供了一个简单的http命令，允许使用简单自然的语法发送任意HTTP请求，并显示彩色输出。HTTPie可用于测试，调试以及通常与HTTP服务器交互。

（GitHub： https://github.com/jakubroztocil/httpie ）

（18）You-Get

You-Get是一个小型命令行实用程序，用于从Web下载媒体内容（视频，音频，图像），支持国内外常用的视频网站。

（GitHub： https://github.com/soimort/you-get ）

（19）Sentry

Sentry从根本上讲是一项服务，可以帮助用户实时监控和修复崩溃。基于Django构建，它包含一个完整的API，用于从任何语言、任何应用程序中发送事件。

（GitHub: https://github.com/getsentry/sentry ）

（20）Tornado

Tornado是使用Python开发的全栈式（full-stack）Web框架和异步网络库，，最初是由FriendFeed上开发的。通过使用非阻塞网络I / O，Tornado可以扩展到数万个开放连接，是long polling、WebSockets和其他需要为用户维护长连接应用的理想选择。

（GitHub： https://github.com/tornadoweb/tornado ）

（21）Magenta

Magenta是一个探索机器学习在创造艺术和音乐过程中的作用的研究项目。这主要涉及开发新的深度学习和强化学习算法，用于生成歌曲，图像，绘图等。但它也是构建智能工具和界面的探索，它允许艺术家和音乐家使用这些模型。

（GitHub： https://github.com/tensorflow/magenta ）

（22）ZeroNet

ZeroNet是一个利用比特币的加密算法和BitTorrent技术提供的不受审查的网络，完全开源。

（GitHub： https://github.com/HelloZeroNet/ZeroNet ）

（23）Gym

OpenAI Gym是一个用于开发和比较强化学习算法的工具包。这是Gym的开源库，可让让你访问标准化的环境。

（GitHub： https://github.com/openai/gym ）

（24）Pandas

Pandas是一个Python包，提供快速，灵活和富有表现力的数据结构，该工具是为了解决数据分析任务而创建的。Pandas 纳入了大量库和一些标准的数据模型，提供了高效地操作大型数据集所需的工具。此外，它还有更广泛的目标，即成为所有语言中最强大，最灵活的开源数据分析/操作工具。它目前已经朝着这个目标迈进。

（GitHub： https://github.com/pandas-dev/pandas ）

（25）Luigi

Luigi 是一个 Python 模块，可以帮你构建复杂的批量作业管道。处理依赖决议、工作流管理、可视化展示等等，内建 Hadoop 支持。（GitHub： https://github.com/spotify/luigi ）

⑸ python gym 怎么升级

可以通过棚绝pip或者easy_install方式肢扒安装链饥姿:
pip install geopy easy_install geopy
或者通过从 PyPI下载wheel或源文件安装！

⑹ Python gym模块win7可以使用吗

方法/步骤

1、在安装模块之前，你首先得缓隐安装了setuptools。不懂烂举的朋友可以参看我的经验《python怎么使用ez_setup.py 》就可以用ez_setup.py安装了setuptools了。在这里就不多赘述。
2、有了setuptools，我们就要开始配置环境。因为你需要用到python安装目录下的Scripts文件夹里面的文件。

3、到桌面，点击计算机右键--属性。

4、点击“高级系统设置”。

5、点击“环境变量”。

6、在系统变量一栏下拉，找到PATH，双击。

7、先在最后加一个分号;
8、然后再输入 “你的python路径”\Scripts。
9、比如我的python安装路径是D:\python2.7.6。
10、那么我应该输入D:\python2.7.6\Scripts。
11、设置完毕之后，就可以直接用命令行安装模块了。
12、比如我要安装PIL模块，只饥哪碧需要输入easy_install PIL。
13、回车。

14、开始下载。

15、安装成功。