基于Airtest爬虫与智能中签潮鞋系统设计
2021-04-20应国庆
电子技术与软件工程 2021年1期
应国庆
(北京源石云科技有限公司(上海分公司) 上海市 200000)
为了提高鞋友的中签率,以及能中到想要的尺码,我们整合平台,为潮鞋朋友选择,以及入驻抢鞋功能,NIKE 鞋不同的国家发布时间是不一样的,款式也不一样,官网隔几日就有几款鞋发售,官网发售鞋是不定时的,有突袭模式,有预售模式,有抽签模式,随时登录官网查看发售情况,一点也不智能。所以设计一套智能提醒,智能代抢,智能推介等系统,借助我们开发好的工具进行抢鞋,为潮友中签带来希望。
1 系统爬虫架构及功能
1.1 爬虫架构
爬虫架构如图1所示。
(1)用Tornado 框架搭建。Tornado 本身就是异步框架,其中包括两个方面:服务端和客户端。无论服务端和客户端,具体的异步模型又可以分为回调(callback)和协程(coroutine),所以爬取效率将大大提高。另外整个过程需要页面解析,增加日志,超时重启,使用代理以及大量User-Agent 进行伪装成普通用户。
(2)App 端和PC 端商品数据采集:爬取NIKE 大陆官网商品详情信息(鞋的spu,sku)以及商品发售日历,发售价格。
(3)部署在阿里云服务器定时任务,每天上午8 点40 分更新数据。
(4)数据上报:数据清洗之后通过json 格式上报业务端存储。
1.2 功能实现
(1)主要实现数据持久化,因为数据与日俱增。
(2)为业务端提供数据上报接口,方便拉取数据。
2 用户注册系统
首先要用到Airtest 自动化测试框架,该工具主要是面向游戏UI 测试基于图像识别,如游戏框架unity, Cocos-js 以及网易内部的游戏框架,同时也支持原生Android App 的基于元素识别的UI 自动化测试。主要目的是通过Airtest 脚本模拟人为去操作云手机并注册大量用户,并与真实用户账号一起加入抢鞋队列中。……
登录APP查看全文
