golang实现抓取IP地址的蜘蛛程序

2018-06-28
阅读 5 分钟
5k
背景 要做IP地址归属地查询,量比较大,所以想先从网上找到大部分的分配数据,写个蜘蛛程序来抓取入库,以后在程序的运行中不断进行维护、更新、完善。 一些关键点 goroutine的使用,让程序并行运行。 正则表达式分组信息提取的使用,正确的提取我们关注的信息。 数据库批量插入操作。 数据库批量更新操作。 代码解析 按...