推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
est
V2EX  ›  Python

我跟你们说, UCBerkeley 做了个牛逼的 Python 分布式计算框架,上灭 Spark 下踩 MapReduce

  •  
  •   est ·
    est · Jan 19, 2018 · 5643 views
    This topic created in 3070 days ago, the information mentioned may be changed or developed.

    标题只是打个广告。。。。灵感来自逼乎问题: 如何看 UCBerkeley RISELab 即将问世的 Ray,replacement of Spark ?

    项目在 github

    https://github.com/ray-project/ray

    里面有个 plasma 组件挺好用的。 zero copy 的共享内存对象存储引擎。

    https://arrow.apache.org/blog/2017/08/08/plasma-in-memory-object-store/

    Supplement 1  ·  Jan 23, 2018

    具体对比:

    https://arxiv.org/pdf/1712.05889.pdf

    MapReduce, Apache Spark, Dryad, Dask, CIEL 的 throughput 和 latency 不行。

    TensorFlow, Naiad, MPI, Canary 无法实现动态图计算。

    Ray默认支持:

    • OpenAI gym
    • DeepMind Lab
    • Mujoco physics simulator
    • TensorFlow
    • Theano
    • PyTorch
    • Caffe

    等框架。

    5 replies    2018-01-20 21:53:15 +08:00
    privil
        1
    privil  
       Jan 19, 2018
    前排围观,现在学 python 还来得及么,哈哈哈
    nooper
        2
    nooper  
       Jan 19, 2018 via iPad
    我用过了。看下性能。并没有那么理想
    bbx
        3
    bbx  
       Jan 20, 2018
    没仔细看,不过看到说用 arrow,如果 zero copy 是卖点,那么没啥新奇的,spark 也用了 arrow
    janxin
        4
    janxin  
       Jan 20, 2018 via iPhone
    看了下是分布深度学习框架?这个好像和 spark 差得远了点?
    rogerchen
        5
    rogerchen  
       Jan 20, 2018
    ray 是基于 actor model 做强化学习的分布式框架,框架确实解决了不少分布式机器学习的痛点。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3103 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 582ms · UTC 12:19 · PVG 20:19 · LAX 05:19 · JFK 08:19
    ♥ Do have faith in what you're doing.