V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
x14oL
V2EX  ›  Python

分布式 py 程序案例?求助。

  •  
  •   x14oL · 2015-03-25 11:38:26 +08:00 · 1822 次点击
    这是一个创建于 3532 天前的主题,其中的信息可能已经有所发展或是发生改变。
    由于题主需要,准备开发一套基于分布式原理的程序,一个主控端下达指令给agent,agent自动获取任务进行调度。
    其中还需要包含可扩展的插件形式执行一些附加的脚本或者过滤代码。
    大家可以理解成是一只分布式的爬虫。

    不知道描述的是不是有问题?
    只是没有写过这样的东西,github上有没有这样的案例?(自己没发现)
    或者有没有人大概有一些类似的案例可以分享的。
    想了解一下具体的技术细节,并不是来要代码的。
    6 条回复    2015-03-26 07:29:33 +08:00
    zhicheng
        1
    zhicheng  
       2015-03-25 13:26:29 +08:00
    这不是分布式,你这是一个队列。
    x14oL
        2
    x14oL  
    OP
       2015-03-25 14:21:32 +08:00
    @zhicheng
    是我表达不清,我要是的可以通过添加主机的情况,去完成任务。
    我要的不是队列。
    mengzhuo
        3
    mengzhuo  
       2015-03-25 15:39:45 +08:00
    不上数据中心的算个啥分布式
    随便一个Github上的爬虫项目都可以搞定
    x14oL
        4
    x14oL  
    OP
       2015-03-25 16:34:05 +08:00
    @mengzhuo 对这个的概念不是很理解。
    有啥优秀的项目地址可以推荐,因为本身我不是为了分布式。举爬虫的例子只是方便理解。
    有相关的文章介绍分布式不?
    我搜的文章感觉都讲的不是很清楚。
    谢谢
    czheo
        5
    czheo  
       2015-03-25 18:16:24 +08:00 via iPhone   ❤️ 1
    没看懂
    Owenjia
        6
    Owenjia  
       2015-03-26 07:29:33 +08:00 via Android
    感觉这个需求在哪见过的样子,好像是某公司招人的题目……
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2809 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 18ms · UTC 07:35 · PVG 15:35 · LAX 23:35 · JFK 02:35
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.