◎欢迎参与讨论，请在这里发表您的看法、交流您的观点。
如何从网页中提取网址，避免括号和单引号的干扰？
ID:20606 / 打印
如何摆脱爬取网址中出现的括号和单引号
当你使用beautifulsoup等html解析器爬取网页时，你可能会遇到一些情况下，所抓取的网址中会带有括号和单引号。这会给后续数据处理带来不便。以下是如何解决这个问题的方法：
使用正则表达式
正则表达式（regex）是一种强大的工具，可以用于匹配和提取文本中的特定模式。在你的例子里，你可以使用正则表达式来匹配网址，并提取它们而不包括括号和单引号。
例如:
import re pattern = r'href="(.*?)"' urls = re.findall(pattern, html)
这将从html中匹配所有href属性，并将值存储在urls列表中，而不会包含引号。
使用lxml
lxml是一个python库，它提供了另一种解析xml和html的方法。它使用xpath语法来查找和提取元素。
例如:
import requests from lxml import etree headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.66 Safari/537.36' } res = requests.get(url, headers=headers) res_dom = etree.HTML(res.text) urls = res_dom.xpath('//h3/a/@href')这将抓取所有h3标记中a元素的href属性，并且不会包含括号和单引号。
