首页 > 其他分享 >后缀自动机

后缀自动机

时间:2022-12-19 17:45:11浏览次数:63  
标签:子串 后缀 text endpos 字符串 自动机 转移

\(\text{SAM}\)

大部分是贺 OI-Wiki 的。

目录

性质

首先需要知道 \(\text{SAM}\) 是个什么东西。

\(\text{SAM}\),全称 \(\text{Suffix Automaton}\),中文名后缀自动机。字符串 \(s\) 的 \(\text{SAM}\) 是一个最小 DFA(最小性将在下方证明),接受 \(s\) 的所有后缀。如果将状态视作节点,转移看作边,其构成了一个 DAG(也称 DAWG,Directed Acyclic Word Graph)。一个状态表示了一系列字符串,一个转移表示一个字符。

\(\text{SAM}\) 存在一个初始状态,常记作 \(t_0\)。由初始状态到任意节点 \(t\) 的一条路径能够表示一个 \(s\) 的子串,构造方法是按 \(t_0\to t\) 的方向将转移顺次连接得到一个字符串。由于到达某个状态的路径不只一条,因此我们可以自然地定义路径和字符串集合间的对应关系。

\(\text{SAM}\) 存在一个或多个终止状态,由初始状态到终止状态的字符串一定是 \(s\) 的一个后缀,\(s\) 的任意后缀也定可以由形如初始状态到终止状态结束开始的一条路径表示。终止状态不一定对应无出度的节点。

概念

\(\text{endpos}\) - 子串在母串中的结束位置

考虑字符串 \(s\) 的一个非空子串 \(t\)。我们记 \(\text{endpos}(t)\) 为字符串 \(s\) 中 \(t\) 的所有结束位置构成的集合(编号从 \(0\) 开始)。对于 \(\text{acbbcbcb}\),\(\text{endpos}(\text{bcb}) = \left\{ 5, 8 \right\}\)。

对于两个子串 \(t_1,t_2\),\(\text{endpos}(t_1)\) 可能等于 \(\text{endpos}(t_2)\)。这样 \(s\) 的所有非空子串都可以通过 \(\text{endpos}\) 集合被划分为若干个等价类。若字符串 \(s\) 的两个子串 \(u, v\) 的 \(\text{endpos}\) 集合相同,则我们称 \(u,v\) 等价。

我们构造的 \(\text{SAM}\) 需要满足以下的性质:每个状态对应一个 \(\text{endpos}\) 集合。换句话说,一个字符串能被一个状态表示,当且仅当这个字符串的 \(\text{endpos}\) 集合是这个状态对应的 \(\text{endpos}\) 集合。这样,\(\text{SAM}\) 中的状态个数是等价类的个数加初始状态。

可以发现,这样构造的 \(\text{SAM}\) 能够满足所有性质。特别的,最小性由 Myhill-Nerode 定理导出。

由构造方案,可以得到以下几个性质:

\([1].\) 字符串 \(s\) 的两个子串 \(u, v\ (|u| \le |v|)\) 等价,当且仅当 \(u\) 在 \(s\) 中的所有出现都是 \(v\) 的一个后缀。

这显然。

\([2].\) 考虑字符串 \(s\) 的两个子串 \(u, v\ (|u| \le |v|)\)。可以发现,\(\text{endpos}(u)\) 和 \(\text{endpos}(v)\) 只有包含和不交两种情况,这取决于 \(u\) 是否是 \(v\) 的一个后缀。形式化地,我们有

\[\left\{ \begin{aligned} &\text{endpos}(u) \subseteq \text{endpos}(v)\qquad & u\ 是\ v \ 的后缀 \\ &\text{endpos}(u) \cap \text{endpos}(v) = \emptyset & \text{otherwise} \end{aligned} \right. \]

感性理解。

\([3].\) 考虑一个等价类。我们将属于该等价类的所有子串按照长度非递增顺序排列。每个子串都应当是其前一个子串的后缀,且该等价类中子串的长度恰好覆盖一个整数区间 \([x, y]\)。

假设这个等价类中最长的子串是 \(u \ (|u| = y)\),最短的子串是 \(v\ (|v| = x)\)。由 \([1].\),\(v\) 是 \(u\) 的一个后缀。由 \([2].\),对于 \(u\) 的一个后缀 \(w \text{ s.t. } |w| > |v|\),\(w\) 必定在这个等价类中。由于 \(u,v\) 是等价类中最短/长的子串,其余子串定不在这等价类中。
因此有证明。

\(\text{link}\) - 转移结束位置的后缀链接

考察一个等价类 \(v\)。我们设 \(w\) 为其中最长的子串,则不难发现这个等价类中包含的串是 \(w\) 最长的若干个后缀。还可以发现,一定存在一个 \(w\) 的后缀(至少有一个空串)不在该等价类中。我们记 \(t\) 为和 \(w\) 不在一个等价类里的 \(w\) 的最长后缀,那我们定义 \(\text{link}(v)\) 连接在 \(t\) 的 \(\text{endpos}\) 对应状态上。有时候我们会将一条后缀链接看作边 \((v, t)\)。

这里似乎能证明 \(t\) 是对应 \(\text{endpos}\) 集合中最长的一个?没细想。

我们假设 \(\text{endpos}(t_0) = \left\{-1, 0, \cdots, |s| - 1\right\}\)。随后能得到性质:

\([4].\) 所有后缀链接构成了一棵根为 \(t_0\) 的树。

考虑从任意节点开始沿后缀链接移动,每次移动肯定会使对应的最长子串长度减 \(1\)。由 \([3].\),最终一定会到达最长子串长度为 \(0\) 的状态,即 \(t_0\)。
为表述方便,称这棵树为后缀链接树。

\([5.]\) 通过 \(\text{endpos}\) 构造的树(每个子节点的 \(\text{endpos}\) 都包含于父亲节点的 \(\text{endpos}\) 中)和通过后缀链接构造的树相同。

首先由 \([2].\),通过 \(\text{endpos}\) 肯定能构造出一棵树。下面只需要证明这两棵树等价即可。

考虑一个状态 \(v \neq t_0\)。由后缀链接性质,有 \(\text{endpos}(v) \subsetneq \text{endpos}(\text{link}(v))\)。结合 \([2].\) 可以轻易证明。

这里有一个拓展,即一个字符串 \(s\) 在翻转后对应的 \(\text{SAM}\) 的后缀链接树就是这个字符串的后缀树。

图不粘了。这放一个 Mivik 的 \(\text{SAM}\) 可视化
调代码好帮手嗯 但是别指望这玩意画很长的字符串。

总结

  • 字符串 \(s\) 的子串可以根据 \(\text{endpos}\) 被划分成数个等价类。每个等价类对应一个状态。
  • 记一个状态 \(v\) 中最短的子串为 \(\min(v)\),最长的子串为 \(\max(v)\),最长子串长度为 \(\text{len}(v)\)。状态 \(v\) 里字符串的长度恰好覆盖 \([|\min(v)|, |\max(v)|]\) 里的每个整数。
  • 对于一个状态 \(v\),他的后缀链接 \(\text{link}(v)\) 满足 \(|\max(\text{link}(v))| + 1 = |\min(v)|\)。后缀链接树也表示了 \(\text{endpos}\) 的包含关系。
  • 考虑从一个状态 \(v\) 开始沿后缀链接转移直到根。我们能够得到一个互不相交的区间 \([|\min(v)|, |\max(v)|]\) 的序列,它们的并组成了一段连续的区间 \([0, |\max(v)|]\)。

构造

我们即将讲述的算法是在线的。也就是说,我们可以支持在线向自动机中加入最后一个字符,并在这过程中维护每个节点的信息。

我们即将讲述的算法是线性的。也就是说,如果使用哈希结构,其对应的时空复杂度都是 \(O(n)\) 的。同时,我们只会保存 \(|\text{max}(v)|\)、\(\text{link}(v)\) 和转移边,并不标记终止状态。终止状态可以在插入所有节点后从最终插入的节点沿后缀链接遍历 \(\text{SAM}\),遍历到的节点都是终止节点。

初始化 \(\text{SAM}\) 只包含一个状态 \(t_0\)。我习惯初始化它为 \(1\) 号节点。同时初始化一个虚拟状态 \(0\)。对于 \(t_0\) 有 \(\text{len}(t_0) = 0\),\(\text{link}(t_0) = 0\)。

流程

我们只需要着眼于添加一个新字符 \(c\) 的过程。

  • 首先我们需要申请一个变量 \({last}\),表示插入该字符前整个字符串对应的状态。初始化为 \(1\),并在每次插入完更新即可。
  • 创建一个新的状态 \(now\),令 \(\text{len}(now) = \text{len}(last) + 1\)。随后确定 \(\text{link}(now)\)。
  • 随后从 \(last\) 状态开始重复以下流程:
    • 如果该状态有对应字符 \(c\) 的转移,那就停止,记这个状态为 \(p\)。
    • 如果没有这样的转移,我们就添加一条到 \(now\) 的转移,沿后缀链接遍历。
    • 如果直到虚拟状态都没有停止,那确定 \(\text{link}(now)\) 为 \(0\),退出整个过程。
  • 到这里就是找到了状态 \(p\)。状态 \(p\) 肯定能通过加入 \(c\) 的转移到达一个状态,记为 \(q\)。分类讨论两种可能的结果。
    • \(\text{len}(q) = \text{len(p)} + 1\)
      我们只需要确定 \(\text{link}(now) = q\)。
    • \(\text{otherwise}\)
      有点难办。我们需要复制一个状态 \(q\),记这个节点的编号为 \(kage\)。
      我们复制的信息是除了 \(\text{len}\) 外的所有内容。需要确定 \(\text{len(kage)} = \text{len}(p) + 1\)。同时确定 \(\text{link}(now) = kage, \text{link}(q) = kage\)。
      最后延后缀链接从 \(p\) 开始遍历,只要存在 \(p\to q\) 的转移,就将该转移重定向为 \(p\to kage\)。
  • 最后将 \(last\) 更新为 \(now\)。
实现

采用了数组 \(\text{son}\) 存储转移。

void extend(int c, int v) {
	int now = ++ mlc;
	cnt[now] = 1, len[now] = len[lst] + 1;
	int p = lst; 
	while (p and !son[p][c]) 
		son[p][c] = now, p = link[p];
	if (p == 0) link[now] = 1;
	else {
		int q = son[p][c];
		if (len[p] + 1 == len[q]) link[now] = q;
		else {
			int kage = ++ mlc;
			len[kage] = len[p] + 1, link[kage] = link[q];
			memcpy(son[kage], son[q], sizeof(son[q]));
			while (p and son[p][c] == q) 
				son[p][c] = kage, p = link[p];
			link[q] = link[now] = kage;
		}
	} 
	lst = now;
}

正确性证明

首先分类转移。对于转移 \(u\to v\),如果 \(\text{len}(u) + 1 = \text{len}(v)\),则我们称此转移是连续的。反之是不连续的。
从过程中可以看到,连续的转移是不会被改变的。不连续的转移反之。因此我们需要分类这两种转移。

我们称插入字符 \(c\) 前的 \(\text{SAM}\) 对应的字符串为 \(s\)。插入后的字符串即为 \(s + c\)。

我们创建了一个新的状态 \(now\),对应地创建了一个新的字符和一个等价类。

从 \(last\) 开始遍历的原因显然:我们需要找到通过字符 \(c\) 向新等价类的转移。由于不能破坏原来 \(\text{SAM}\) 的性质,我们找到后就必须停止。随后开始分讨。

最简单的是到达了虚拟状态,也就是这个状态里只有一个长度为 \(1\) 的子串 \(c\)。这等价于我们为 \(s\) 的每个后缀添加了一个 \(c\),同时意味着 \(c\) 从未在 \(s\) 中出现过。连向 \(t_0\) 即可。

反之我们找到了这样的转移 \(p\to q\)。这意味着我们需要向 \(\text{SAM}\) 中添加一个已经存在的字符串 \(u + c\),其中 \(u\) 为 \(s\) 的对应后缀。这时不需要加入额外的转移链接 \(now\) 和 \(p\),因为 \(last \to now\) 是肯定存在的。我们只需要确定后缀链接。随后开始分讨。

仍然简单的是 \(\text{len}(q) = \text{len}(p)+1\)。确定 \(\text{link}(now) = q\) 即可。

否则 \(\text{len}(q) > \text{len}(p)+1\),转移是不连续的。状态 \(q\) 不只对应 \(p\) 加入一个字符的后缀,而对应着 \(s\) 更长的子串。我们需要添加一个 \(u + c\) 的状态,但是状态 \(u\) 本身是还不存在,因此我们需要将 \(q\) 拆开。
这就是新建节点 \(kage\) 的意义。\(kage\) 对应的就是 \(u\),同时由于不应该改变 \(q\) 的路径,仍然复制转移。这时 \(q\) 少了一个状态,因此其应该通过后缀链接连在 \(kage\) 上。我们这时可以将从 \(now\) 的后缀链接确定在 \(kage\) 上了,也就是 \(u \to u + c\)。
最后一步是将一些到 \(q\) 的转移定向到 \(kage\) 上。可以发现,由于 \(kage\) 表示的是 \(p\) 状态对应的最长字符串加入字符 \(c\) 的子串,我们只需要重定向所有形如 \(w + c\) 的后缀即可。也就是说,我们沿后缀链接遍历,从 \(p\) 节点开始直到第一个不是转移到 \(q\) 的转移。

线性操作次数证明

首先假设字符集大小为常数 \(|\Sigma|\)。

如果转移存储在快速查询与插入的平衡树中,则有时间复杂度为 \(O(n\log |\Sigma|)\),空间复杂度为 \(O(n)\)。
如果转移存储在 \(O(1)\) 查询和插入的哈希结构/数组中,则有时间复杂度为 \(O(n)\),空间复杂度为 \(O(n|\Sigma|)\)。

我们认定字符集大小为小常数,每次搜索转移/添加转移/查询下一个转移的复杂度都是 \(O(1)\)。
离散化完反正也是 \(|\Sigma| = O(n)\),采用一些亚 \(\log\) 数据结构(如 vEB 树)也可以做到类似的效果。

观察流程。其中有三部分不明显是线性的。

  1. 遍历 \(last\) 的后缀链接
    可以发现,每次遍历都是从 \(last\) 开始的。而 \(last\) 是上一次加入的状态。由于每一次加入状态,节点深度最多增加 \(O(1)\),因此这部分的总时间复杂度均摊后为 \(O(n)\)。
  2. 复制 \(q\) 的转移给 \(kage\)
    由于转移数最多是 \(O(n)\) 的(证明将在下方给出),转移在复制时产生的总时间复杂度开销为 \(O(1)\)。
  3. 从 \(p\) 开始修改转移指向
    我们发现,每次迭代都会使得作为当前字符串后缀的子串对应位置单调递增。这样迭代次数不会超过 \(|s|\) 次。

因此总时间复杂度为 \(O(n)\)。

性质

状态数

对于一个长度为 \(n > 1\) 的字符串 \(s\),其 \(\text{SAM}\) 中的状态数不会超过 \(2n - 1\)。

考虑后缀链接树对应的 \(\text{endpos}\) 性质。我们回忆 \(\text{SAM}\) 的构造,假设后缀链接树上存在只有一个孩子的节点,那这个节点一定存在一个子集是未被子节点包含的。我们额外创建一个节点来表示这个子集。这就得到了一棵每个节点的子节点大于等于 \(2\)、叶子节点数不超过 \(n\) 的树。
这样的树最多有 \(2n - 1\) 个节点。

字符串 \(\texttt{abbb}\cdots\texttt{bbb}\) 达到了该上界。

转移数

对于一个长度为 \(n > 1\) 的字符串 \(s\),其 \(\text{SAM}\) 中的状态数不会超过 \(3n - 4\)。

仍然分转移为连续与否来讨论。
连续的转移肯定能构成一棵生成树,因此这部分最多有 \(2n - 2\) 条边。
不连续的转移 \((p, q)\) 对应所在的终止状态一定形如 \(u + c + v\),其中 \(c\) 为该转移表示的字符,\(u\) 为 \(p\) 状态对应的一个极长字符串,\(v\) 为从 \(q\) 到任意终止状态的极长路径。首先对于任意不连续的转移,\(u + c + v\) 是彼此不同的,因为 \(u,v\) 只包含连续转移。其次 \(u + c + v\) 必定是一个后缀。这样的 \(u + c + v\) 不超过 \(n\) 个,而且由于全串对应的状态不能包含不连续转移,因此这部分最多有 \(n-1\) 条边。
因此大致上有界 \(3n - 3\),然而由于上界只能在形如 \(\texttt{abbb}\cdots\texttt{bbb}\) 的串中产生,因此可以构造发现更紧的上界 \(3n - 4\)。

字符串 \(\texttt{abbb}\cdots\texttt{bbbc}\) 达到了该上界。

其他信息

其实转移没什么重要的。很多时候你会发现我们可以扔掉转移,建出后缀链接树来用。

我们设字符串 \(s\) 长度为 \(n\)。

观察实现操作中 \(now\) 变量的值。每个 \(now\) 都对应着加入 \(c\) 后的当前字符串,即 \(s\) 的一个前缀。这样得到的 \(n\) 个节点对应着前缀的 \(n\) 个不同的终点。我们设第 \(i\) 个终点对应的节点为 \(v_i\),称其为一个终点节点。

考虑拉出后缀链接树来。定义一个节点的终点集合为该节点子树内所有终点节点对应终点组成的集合。

在此基础上我们给每个节点分配一个最长字符串,是其终点集合中任意一个节点向前取 \(\text{len}\) 个字符得到的字符串。可以发现每个这样的字符串都一样,且 \(\text{len}\) 恰好是满足这样性质的最大长度。
在树上,如果 \(A\) 是 \(B\) 的祖先,则 \(A\) 分配的字符串是 \(B\) 分配的字符串的一个后缀。

这性质将字符串的前缀组成了一棵树。可以发现,\(S[1\dots p]\) 和 \(S[1\dots q]\) 的 LCP 对应的字符串就是 \(v_p\) 和 \(v_q\) 的 LCA 对应的字符串。

事实上,这棵树和 \(s\) 翻转后构造出的后缀树结构相同。

每个状态 \(p\) 对应的子串数量是 \(\text{len}(p) - \text{len}(\text{link}(p))\)。

应用

大坑,待填

标签:子串,后缀,text,endpos,字符串,自动机,转移
From: https://www.cnblogs.com/joke3579/p/sam.html

相关文章

  • KMP 自动机
    相当于\(\pi\)函数(KMP中的next数组)的扩展。\(\delta(i,c)\)表示在KMP匹配过程中当模式串指针在\(i\),接受字符\(c\)后模式串指针所处的位置。则KMP过程中模......
  • 如何申请@MSN.Com后缀的邮箱?
    最近辞职在家无事,想申请个@MSN.Com后缀的信箱,在网上搜索了一下,原来只要从下面的地址进入注册即可!注册抵制:​​https://accountservices.passport.net/reg.srf?ns=msn.......
  • 回文自动机,PAM
    回文自动机。或者叫回文树。这坑我放了一百年没填了。结构回文自动机的每个节点都代表一个回文子串。它有两个起始状态:奇根和偶根。它们是奇回文串和偶回文串的起点,不代......
  • Go语言获取路径的文件名、后缀
    packagemainimport( "fmt" "path" "path/filepath")funcmain(){ filePath:="D:/DDPS/log/log.txt" paths,fileName:=filepath.Split(filePath) fm......
  • 【学习笔记】UKK线性求后缀树
    (话说是不是可以直接SAM线性构造啊QAQ)构造过程直观图入门......
  • 中缀表达式转换为后缀表达式
    规则中缀表达式a+b*c+(d*e+f)*g,其转换成后缀表达式则为abc*+de*f+g*+。转换过程需要用到栈,具体过程如下:1)如果遇到操作数,我们就直接将其输出。2)......
  • windows bat 文件ftp 上传指定目录下的指定类型后缀文件
    windows下定时BAT脚本ftp上传文件新版创建ftp上传本地目录中的文件创建定时任务创建ftp上传本地目录中的文件若有需要请替换ftpip、ftpuser、ftppasswd为自己ftp服务器ip......
  • 中缀转后缀
    #include<stdio.h>#include<string.h>#include<ctype.h>chars[200];charstack[200]={'('};inttop=0;voidpp(inti);intmain(){ gets(s); intk=strlen(s); ......
  • 6.1、有限自动机的等价性
    DFA与NFA的等价性对于每个NFAM存在一个DFAM’,使得L(M)=L(M’)等价性证明NFA的确定化思路:NFA和DFA的差别 NFA DFA初始状态......
  • Java通过文件名后缀确定Content-Type中的MIMEType
    转载自根据文件名获取contentType作为一个Java后端,你的项目里面不可能不引用spring的,所以下面提供的是依赖spring-web的方案:publicclassMainTest{publicsta......