亚洲精品欧美日韩-亚洲精品欧美一区二区三区-亚洲精品欧美综合-亚洲精品欧洲精品-亚洲精品欧洲一区二区三区

首頁
手機版
熱門搜索:
當前位置:電腦軟件編程開發程序源碼ScrapydWeb(爬蟲管理平臺)

ScrapydWeb(爬蟲管理平臺) 官方版v1.4.0

  • 大小:674MB
  • 語言:簡體中文
  • 類別:程序源碼
  • 類型:免費軟件
  • 授權:國產軟件
  • 時間:2021/04/26
  • 官網:http://www.taiyee.com.cn
  • 環境:Windows7, Windows10, WindowsAll

相關軟件

ScrapydWeb是一個用于Scrapyd集群管理的Web應用程序,可以有效地管理分布式Web抓取項目。在將SCRAPY_PROJECTS_DIR選項設置為包含Scrapy項目的路徑之后,ScrapydWeb將列出該目錄中的所有項目,并選擇最新修改的項目。只需選擇一個項目并按按鈕即可提交,然后在后臺自動打包。

ScrapydWeb圖片1

軟件特色

💠 Scrapyd集群管理

💯 支持所有Scrapyd JSON API

☑️ 分組,過濾和選擇任意數量的節點

🖱️ 只需單擊幾下即可在多節點上執行命令

🔍 Scrapy日志分析

📊 統計資料收集

📈 進度可視化

📑 日志分類

🔋 增強功能

📦 汽車包裝

🕵️‍♂️ 與整合 🔗 LogParser

⏰ 計時器任務

📧 監控和警報

📱 行動使用者介面

🔐 Web UI的基本身份驗證

瀏覽器支持

最新版本的Google Chrome,Firefox和Safari。

使用說明

訪問http://127.0.0.1:5000,然后使用上面的USERNAME / PASSWORD登錄。

服務器頁面將自動顯示所有Scrapyd服務器的工作狀態。您可以通過分組和過濾來選擇任意數量的Scrapyd服務器,然后只需單擊幾下即可在群集上調用Scrapyd的HTTP JSON API。

與LogParser集成后,“作業”頁面可以自動顯示您的抓取作業的頁面和項目信息。默認情況下,ScrapydWeb會定期創建您的抓取作業的快照并將其保存在數據庫中,以避免在重新啟動Scrapyd服務器時丟失作業信息。

更新內容

新的功能

添加用于通過Slack,Email發送文本或警報的API

改進之處

側邊欄和多節點按鈕上的UI改進

其他

將配置文件更新為scrapydweb_settings_v10.py

標簽: 爬蟲工具

下載地址

ScrapydWeb(爬蟲管理平臺) 官方版v1.4.0

普通下載通道

網友評論

返回頂部