◎欢迎参与讨论，请在这里发表您的看法、交流您的观点。
如何使用 BeautifulSoup 的 xpath 方法爬取带有括号和单引号的网址？
ID:20579 / 打印
用python爬取带有括号和单引号的网址
在 python 中爬取网址时，可能遇到网址带有括号和单引号的情况，导致难以处理。如何解决这个问题呢？
在提供的代码中，使用了正则表达式 re.findall(findlink, item) 来匹配带有括号和单引号的网址。但是，这种方法在某些情况下可能无法正确处理。
为了解决这个问题，可以采用一种更简单的方法，使用 beautifulsoup 的 xpath 方法来提取网址。xpath 是一种强大的 css 选择器，可以精确地匹配 html 元素。
以下是使用 xpath 提取带括号和单引号网址的示例代码：
import requests from lxml import etree url = 'http://www.prnasia.com/m/mediafeed/rss?id=2303&t=240' headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.66 Safari/537.36' } res = requests.get(url, headers=headers) res_dome = etree.HTML(res.text) urls = res_dome.xpath('//h3/a/@href') print(urls)这种方法可以精确地提取带有括号和单引号的网址，并返回一个列表。通过使用 xpath，可以更灵活地处理复杂和嵌套的 html 结构。
