如果解析逻辑中存在拆分，则使用正则表达式解析“分层”URL

Question

有没有办法将剩余的正则表达式模式调整为已经匹配的模式？粗略的草图来说明这个想法：

          pattern
       /     |     \
      /      |      \
prefix1   prefix2   prefix3
   |         |         |
postfix1  postfix2  postfix3

这是一个相当理论化的问题;以下实际应用仅用于说明目的。

我试图在大文本中找到流行代码托管平台的第一个URL，如github，gitlab等。问题是，所有平台都有不同的URL模式：

github.com/<user>/<repo>
gitlab.com/<group1>/<group2>/.../<repo>
sourceforge.net/projects/<repo>

我可以使用lookbehind表达式，但然后表达式变得非常可怕（Python重新）：

pattern = re.compile(
    r"(github\.com|bitbucket\.org|gitlab\.com|sourceforge\.net)/"
    # middle part - empty for all except sourceforge
    r"(?:(?<=github\.com/)|(?<=bitbucket\.org/)|(?<=gitlab\.com/)|"
    r"(?<=sourceforge\.net/)projects/)("
    # final part, the repository pattern
    r"(?<=github\.com/)[a-zA-Z0-9_.-]+/[a-zA-Z0-9_.-]+|"
    r"(?<=bitbucket\.org/)[a-zA-Z0-9_.-]+/[a-zA-Z0-9_.-]+|"
    r"(?<=gitlab\.com/)[a-zA-Z0-9_.-]+(?:/[a-zA-Z0-9_.-]+)+|"
    r"(?<=sourceforge\.net/projects/)[a-zA-Z0-9_.-]+"
    r")")

有更优雅的方式来做这样的事情吗？

Answer 1

最好的方法可能是使用自定义解析器并解析状态机样式：首先确定站点，然后转到特定于站点的路由：

patterns={
    'github.com': r'/(?P<user>[^/]+)/(?P<project>[^/#]+)(?:[/#]|$)',
    'sourceforge.net': r'/projects/(?P<project>)[^/]+/',
    <etc etc etc>
}

import urllib.parse
pr = urllib.parse.urlparse(url)

site = pr.hostname    # in case port is specified
parts = re.match(patterns[site], pr.path).groupdict()

而不是正则表达式，路径也可以使用状态机进行解析，如果还有进一步的拆分，这可能更容易管理： （they recommend a enum instead of magic strings for states;我仅使用魔术字符串来简化示例代码）

def parse_github(path):
    r = argparse.Namespace()
    pp = path.split('/')
    p = pp.pop(0)
    assert(p == '')
    state='user'
    for p in pp:    # we dont need to backtrack in this case,
                    # so `for' is a fitting mechanism to iterate
                    # over the parts.
                    # if we needed to backtrack, we'd have to use
                    # an index variable or a stack or something
        if state=='user':
            r.user=p
            state='project'
        else if state=='project':
            r.project==p
            state='kind'
        else if state=='kind':
            if p in {'pull','commit','blob'}:
                state=p
            else: break  #end parsing, ignore anything that's left
        else if state=='pull':
            r.pr=p
            state='pr_tab'
        <etc etc>
    return r

---

原则上，这里没有递归构造，所以这只能用正则表达式完成，但这很尴尬：

site_patterns = [
    r"(github\.com/)[a-zA-Z0-9_.-]+/[a-zA-Z0-9_.-]+",
    r"(bitbucket\.org/)[a-zA-Z0-9_.-]+/[a-zA-Z0-9_.-]+",
    r"(gitlab\.com/)[a-zA-Z0-9_.-]+(?:/[a-zA-Z0-9_.-]+)+",
    r"(sourceforge\.net/projects/)[a-zA-Z0-9_.-]+",
    <etc etc etc>
    ]
r_all = re.compile("("+"|".join(site_patterns)+")")   #good luck debugging this monster