小编给大家分享一下获取一个页面内所有URL链接的方法，相信大部分人都还不怎么了解，因此分享这篇文章给大家学习，希望大家阅读完这篇文章后大所收获，下面让我们一起去学习方法吧！

如何获取一个页面内所有URL链接？在Python中可以使用urllib对网页进行爬取，然后利用Beautiful Soup对爬取的页面进行解析，提取出所有的URL。

什么是Beautiful Soup？

Beautiful Soup提供一些简单的、python式的函数用来处理导航、搜索、修改分析树等功能。它是一个工具箱，通过解析文档为用户提供需要抓取的数据，因为简单，所以不需要多少代码就可以写出一个完整的应用程序。

Beautiful Soup自动将输入文档转换为Unicode编码，输出文档转换为utf-8编码。你不需要考虑编码方式，除非文档没有指定一个编码方式，这时，Beautiful Soup就不能自动识别编码方式了。

BeautifulSoup支持Python标准库中的HTML解析器,还支持一些第三方的解析器，如果我们不安装它，则 Python 会使用 Python默认的解析器，lxml 解析器更加强大，速度更快。

全部代码：

frombs4importBeautifulSoupimporttime,re,urllib2t=time.time()websiteurls={}defscanpage(url):websiteurl=urlt=time.time()n=0html=urllib2.urlopen(websiteurl).read()soup=BeautifulSoup(html)pageurls=[]Upageurls={}pageurls=soup.find_all("a",href=True)forlinksinpageurls:ifwebsiteurlinlinks.get("href")andlinks.get("href")notinUpageurlsandlinks.get("href")notinwebsiteurls:Upageurls[links.get("href")]=0forlinksinUpageurls.keys():try:urllib2.urlopen(links).getcode()except:print"connectfailed"else:t2=time.time()Upageurls[links]=urllib2.urlopen(links).getcode()printn,printlinks,printUpageurls[links]t1=time.time()printt1-t2n+=1print("totalis"+repr(n)+"links")printtime.time()-tscanpage("http://news.163.com/")

利用BeautifulSoup还可以有针对性的获取网页链接：Python爬虫获取网页上的链接，通过beautifulsoup的findall()方法对匹配的标签进行查找。

以上是获取一个页面内所有URL链接的方法的所有内容，感谢各位的阅读！相信大家都有了一定的了解，希望分享的内容对大家有所帮助，如果还想学习更多知识，欢迎关注亿速云行业资讯频道！