python爬取微信公众号的方法
本文小编为大家详细介绍“python爬取微信公众号的方法”,内容详细,步骤清晰,细节处理妥当,希望这篇“python爬取微信公众号的方法”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一起来学习新知识吧。
pywinauto简介pywinauto是一个python的工具,可以用于控制Windows的GUI程序。详细的文档可以参考这里。
WechatAutomator类init_window
这个方法完成类的初始化,它的代码为:
definit_window(self,exe_path=r"C:ProgramFiles(x86)TencentWeChatWeChat.exe",turn_page_interval=3,click_url_interval=1,win_width=1000,win_height=600):app=Application(backend="uia").connect(path=exe_path)self.main_win=app.window(title=u"微信",class_name="WeChatMainWndForPC")self.main_win.set_focus()self.app=appself.visible_top=70self.turn_page_interval=turn_page_intervalself.click_url_interval=click_url_intervalself.browser=Noneself.win_width=win_widthself.win_height=win_height#为了让移动窗口,同时使用非uia的backend,这是pywinauto的uia的一个bugself.app2=Application().connect(path=exe_path)self.move_window()
我们首先来看函数的参数:
exe_path
微信程序的地址
turn_page_interval
抓取翻页时的时间间隔,默认3s
click_url_interval
在抓取一页的url时的间隔,默认1s
win_width
设置窗口的宽度
win_height
设置窗口的高度,如果显示器的分辨率较大,可以设置的更加高一些,从而一页包含的文章数更多一些,从而翻页少一点。注意:一定要保证窗口完全可见,也就是说win_height不能大于实际分辨率的高度!
这个函数的主要功能是构建Application对象从而通过pywinauto实现控制,这里使用的是uia的backend,然后设置窗口的大小并且把窗口移到最左上角。因为根据so文章,pywinauto 0.6.8存在bug,只能通过win32的backend来移到窗口,所以构造了self.app2然后调用move_window()函数把窗口移到最左上角。
crawl_gongzhonghao这个函数实现了某个公众号的文章抓取。它的基本控制逻辑如下:
首先通过搜索框根据名字搜索公众号并且点击它。
对于当前页点击所有的链接并且下载其内容。
使用PAGE_DOWN键往下翻页
需要判断是否继续抓取
第一个是通过locate_user函数实现,后面会介绍。第二个是通过process_page函数实现,后面也会介绍。判断是否继续抓取的逻辑为:
如果翻页超过max_pages,则停止抓取
如果碰到某个url曾经抓取过,那说明之前的文章都已经抓取过了,则停止抓取
如果lastest_date不是None并且一篇文章的发布日期早于它,则停止抓取
所以我们通常会在第一次抓取的时候把max_pages设置的很大(比如100),然后通过latest_date来抓到指定的日期。而之后的抓取则设置max_pages为较小的值(比如默认的6),这样只要爬虫在两次抓取之间公众号的更新不超过6页,那么就不会漏掉文章。具体的逻辑可以参考main.py,它会把抓取的文章通过http请求发给Server,并且每次抓取的时候从Server查询抓取过的文章存放到states这个list里states[i][“url”]就存储了第i篇文章的url。
defcrawl_gongzhonghao(self,account_name,articles,states,detail,max_pages=6,latest_date=None,no_item_retry=3):logger.debug(account_name)ifnotself.locate_user(account_name):returnFalselast_visited_titles=set()visited_urls=set()self.turn_page_up(min(20,max_pages*2))pagedown_retry=0last_visited_titles=[]forpageinrange(0,max_pages):items=[]last_visited_titles=self.process_page(account_name,items,last_visited_titles,states,visited_urls,detail)articles.extend(items)iflen(items)==0:pagedown_retry+=1ifpagedown_retry>=no_item_retry:s="breakbecauseofretry{}".format(pagedown_retry)logger.debug(s)WechatAutomator.add_to_detail(s,detail)breakelse:pagedown_retry=0iflen(items)>0andlatest_dateisnotNone:html=items[-1][-1]pub_date=WechatAutomator.get_pubdate(html)ifpub_dateandpub_date<latest_date:s="stopbecause{}<{}".format(pub_date,latest_date)logger.debug(s)WechatAutomator.add_to_detail(s,detail)breakurl_exist=Falseforiteminitems:ifWechatAutomator.url_in_states(item[0],states):s="stopbecauseurlexist{}".format(item[0])logger.debug(s)WechatAutomator.add_to_detail(s,detail)url_exist=Truebreakifurl_exist:breakself.click_right()self.main_win.type_keys("{PGDN}")time.sleep(self.turn_page_interval)self.turn_page_up(page*2)returnTruelocate_user
locate_user函数的控制流程为:
找到左上角的搜索框并且点击它获得焦点
使用ctrl+a选中可能有的文字(之前的bug?)并且使用后退键删除它们
输入公众号名称
在弹出的list里点击这个公众号名称从而进入公众号
deflocate_user(self,user,retry=5):ifnotself.main_win:raiseRuntimeError("youshouldcallinit_windowfirst")search_btn=self.main_win.child_window(title="搜索",control_type="Edit")self.click_center(search_btn)self.main_win.type_keys("^a")self.main_win.type_keys("{BACKSPACE}")self.main_win.type_keys(user)foriinrange(retry):time.sleep(1)try:search_list=self.main_win.child_window(title="搜索结果")match_result=search_list.child_window(title=user,control_type="ListItem")self.click_center(match_result)returnTrueexcept:passreturnFalse
这里主要就是通过child_window函数进行定位,关于它的用法这里不介绍。关于怎么定位元素的方法可以使用Inspect.exe或者print_control_identifiers函数,具体参考这里。
process_page这个函数是最主要的抓取代码,它处理当前一页的内容,它的控制流程如下:
构建当前页的tree
使用recursive_get函数遍历这颗树并且找到每篇文章对应的element
遍历每一篇文章
如果文章的名字在上一页出现过,则跳过
获得这篇文章的坐标信息
如果文章不可见(rect.top >= win_rect.bottom or rect.bottom <= self.visible_top)则跳过
计算点击的坐标
点击文章打开新的窗口
在新的窗口中点击【复制链接】按钮
从剪贴板复制链接url
通过url下载文章内容并且parse发布日期
逻辑比较简单,但是有一些很trick的地方:
微信翻页的实现
微信客户端的翻页和浏览器不同,它的内容是累加的,比如第一页3篇文章,往下翻一页可能变成6篇文章,再翻可能变成9篇。这个时候这9篇文章都是在tree中的,只不过最后3篇的坐标(top和bottom)是空间的。
能否点击 一篇文章对应的框(图)可能是部分可见的,甚至它的top非常接近屏幕的最下方,这个时候可能点不了。
与此类似的是右上角的黑色头部(不能滚到并且会遮挡)也有一定空间
点击的位置
因为这个框可能很窄(bottom-top很小)并且可能在很靠上或者靠下的位置。所以有如下代码:
#计算可见的高度visible_height=min(rect.bottom,win_rect.bottom)-max(rect.top,win_rect.top+self.visible_top)#太窄的不点击,希望下次翻页后能显示更多像素从而可以点击,#但是如果微信的某个文章的框的高度小于10个像素,那么这篇文章就无法被点击#不过作者目前为发现这么窄的文章ifvisible_height<10:continue#如果某个文章的框太大,则抛出异常,目前为止为发现这样的问题。ifrect.bottom-rect.top>=win_rect.bottom-self.visible_top:raiseRuntimeError("{}-{}>={}-{}".format(rect.bottom,rect.top,win_rect.bottom,self.visible_top))#如果下部部分可见,那么点击上方是比较”安全“的ifrect.bottom>=win_rect.bottom:click_up=True#如果下部完全可见,则点击下方是”安全“的else:click_up=False
完整代码如下:
defprocess_page(self,account_name,items,lastpage_clicked_titles,states,visited_urls,detail):clicked_titles=set()text=self.main_win.child_window(title=account_name,control_type="Text",found_index=0)parent=textwhileparent:parent=parent.parent()if'会话列表'==parent.element_info.name:breakpaths=[0,2,0,0,0,1,0]foridxinpaths:parent=parent.children()[idx]elems=[]self.recursive_get(parent,elems)win_rect=self.main_win.rectangle()foreleminelems:rect=elem.rectangle()ifelem.element_info.nameinlastpage_clicked_titles:continueifrect.top>=win_rect.bottomorrect.bottom<=self.visible_top:continuevisible_height=min(rect.bottom,win_rect.bottom)-max(rect.top,win_rect.top+self.visible_top)ifvisible_height<10:continueifrect.bottom-rect.top>=win_rect.bottom-self.visible_top:raiseRuntimeError("{}-{}>={}-{}".format(rect.bottom,rect.top,win_rect.bottom,self.visible_top))ifrect.bottom>=win_rect.bottom:click_up=Trueelse:click_up=Falseifself.is_bad_elem(elem):s="notgoodelem{}".format(elem.element_info.name[0:10])logger.debug(s)WechatAutomator.add_to_detail(s,detail)continuetry:self.click_url(rect,win_rect,click_up)copy_btn=self.browser.child_window(title="复制链接地址")self.click_center(copy_btn,click_main=False)url=clipboard.GetData()ifelem.element_info.name!='图片':clicked_titles.add(elem.element_info.name)ifurlandnoturlinvisited_urls:visited_urls.add(url)html=Nonetry:html=requests.get(url).textexcept:s="failget{}".format(url)logger.debug(s)WechatAutomator.add_to_detail(s,detail)items.append((url,rect,elem.element_info.name,html))except:traceback.print_exc()passfinally:ifself.browser:try:self.browser.close()except:passself.browser=Nonetime.sleep(self.click_url_interval)returnclicked_titles
读到这里,这篇“python爬取微信公众号的方法”文章已经介绍完毕,想要掌握这篇文章的知识点还需要大家自己动手实践使用过才能领会,如果想了解更多相关内容的文章,欢迎关注亿速云行业资讯频道。
声明:本站所有文章资源内容,如无特殊说明或标注,均为采集网络资源。如若本站内容侵犯了原著者的合法权益,可联系本站删除。