之前在快速幂中讲过,复杂的快速幂时间复杂度会受到大数乘法的限制,这次我是来填坑的!我才不会告诉你之前我本来只想讲个分治结果被卷到了才找的奇技淫巧快速幂,嗯,这次就满足我的心愿:讲一次分治嘿嘿~
大数乘法一览
大数乘法包括
小学模拟乘法:最简单的乘法竖式手算累加型;O ( n 2 ) O(n^2) O ( n 2 )
Schönhage–Strassen 史恩哈格·施特拉森算法,复杂度为 Θ ( n log ( n ) log ( log n ) ) \Theta(n \log( n) \log (\log n)) Θ ( n log ( n ) log ( log n ))
Karatsuba (卡拉楚巴)快速乘法算法 (大数乘法)(分治最简单的)O ( n log 2 3 ) O(n^{\log_23}) O ( n l o g 2 3 )
Toom-Cook乘法/Toom-3算法 (比Karatsuba更有效的大数乘法)(也是分治)O ( n log 3 5 ) O(n^{\log_3 5}) O ( n l o g 3 5 )
快速傅里叶变换FFT(不是分治)O ( n log n ) O(n\log n) O ( n log n ) 渐进最优 asymptotically optimal
Integer multiplication in time O ( n log n ) O(n \log n) O ( n log n ) David Harvey and Joris van der Hoeven
高斯重采样技术,将整数乘法问题转化为一系列在复数域上的多维离散傅里叶变换,其维数都是2的幂。这些变换可以通过Nussbaumer的快速多项式变换快速求解。
etc.
本次讲解大数乘法中的分治法: Karatsuba && Toom-Cook (卡拉楚巴和图姆库克)
为啥要写上汉字音译!当然是为了防止装逼失败啊!(并没有)
Karatsuba ( Toom-Cook 在 2 的特例 )
概述
Karatsuba算法主要应用于两个大数的相乘,原理是将大数分成两段后变成较小的数位,然后做3次乘法,并附带少量的加法操作和移位操作。
步骤
现有两个大数,x , y x,y x , y 。
首先将x , y x,y x , y 分别拆开成为两部分,可得x 1 , x 0 , y 1 , y 0 x_1,x_0,y_1,y_0 x 1 , x 0 , y 1 , y 0 。他们的关系如下:
x = x 1 × 10 m + x 0 x = x_1 \times 10m + x_0 x = x 1 × 10 m + x 0 ;
y = y 1 × 10 m + y 0 y = y_1 \times 10m + y_0 y = y 1 × 10 m + y 0 。其中m为正整数,m < n m < n m < n ,且x 0 , y 0 x_0,y_0 x 0 , y 0 小于 10m。
那么
x y = ( x 1 × 1 0 m + x 0 ) ( y 1 × 1 0 m + y 0 ) xy = (x_1 \times 10^m + x_0)(y_1 \times 10^m + y_0) x y = ( x 1 × 1 0 m + x 0 ) ( y 1 × 1 0 m + y 0 )
= z 2 × 1 0 2 m + z 1 × 1 0 m + z 0 \quad=z_2 \times 10^{2m} + z_1 \times 10^m + z_0 = z 2 × 1 0 2 m + z 1 × 1 0 m + z 0 ,其中:
z 2 = x 1 × y 1 z_2 = x_1 \times y_1 z 2 = x 1 × y 1 ;
z 1 = x 1 × y 0 + x 0 × y 1 z_1 = x_1 \times y_0 + x_0 \times y_1 z 1 = x 1 × y 0 + x 0 × y 1 ;
z 0 = x 0 × y 0 z_0 = x_0 \times y_0 z 0 = x 0 × y 0 。
此步骤共需4次乘法,但是由Karatsuba改进以后仅需要3次乘法。因为:
z 1 = x 1 × y 0 + x 0 × y 1 z_1 = x_1 \times y_0+ x_0 \times y_1 z 1 = x 1 × y 0 + x 0 × y 1
z 1 = ( x 1 + x 0 ) × ( y 1 + y 0 ) − x 1 × y 1 − x 0 × y 0 , z_1 = (x_1 + x_0) \times (y_1 + y_0) - x_1 \times y_1 - x_0 \times y_0, z 1 = ( x 1 + x 0 ) × ( y 1 + y 0 ) − x 1 × y 1 − x 0 × y 0 ,
故x 0 × y 0 x_0 \times y_0 x 0 × y 0 便可以由加减法得到。
所以:
x × y = z 2 × 1 0 2 m + z 1 × 1 0 m + z 0 x\times y = z_2 \times 10^{2m} + z_1 \times 10^m + z_0 x × y = z 2 × 1 0 2 m + z 1 × 1 0 m + z 0
z 2 = x 1 × y 1 z_2 = x_1 \times y_1 z 2 = x 1 × y 1
z 1 = ( x 1 + x 0 ) × ( y 1 + y 0 ) − x 1 × y 1 − x 0 × y 0 = ( x 1 + x 0 ) × ( y 1 + y 0 ) − x 1 × y 1 − z 0 z_1 = (x_1 + x_0) \times (y_1 + y_0) - x_1 \times y_1 - x_0 \times y_0 \\ \quad \quad \quad = (x1 + x_0) \times (y_1 + y_0) - x_1 \times y_1 - z_0 z 1 = ( x 1 + x 0 ) × ( y 1 + y 0 ) − x 1 × y 1 − x 0 × y 0 = ( x 1 + x 0 ) × ( y 1 + y 0 ) − x 1 × y 1 − z 0
z 0 = x 0 × y 0 z_0 = x_0 \times y_0 z 0 = x 0 × y 0
Recursively computer 递归计算( x 1 × y 1 ) (x_1\times y_1) ( x 1 × y 1 )
Recursively computer 递归计算( x 1 + x 0 ) × ( y 1 + y 0 ) (x_1 + x_0) \times (y_1 + y_0) ( x 1 + x 0 ) × ( y 1 + y 0 )
Recursively computer 递归计算( x 0 × y 0 ) (x_0 \times y_0) ( x 0 × y 0 )
实例讲解
设x = 12345 , y = 6789 x = 12345,y=6789 x = 12345 , y = 6789 ,令m = 3 m=3 m = 3 。那么有:
12345 = 12 × 1000 + 345 12345 = 12 \times 1000 + 345 12345 = 12 × 1000 + 345
6789 = 6 × 1000 + 789 6789 = 6 \times 1000 + 789 6789 = 6 × 1000 + 789
下面计算:
z 2 = 12 × 6 = 72 z_2 = 12 \times 6 = 72 z 2 = 12 × 6 = 72
z 0 = 345 × 789 = 272205 z_0 = 345 \times 789 = 272205 z 0 = 345 × 789 = 272205
z 1 = ( 12 + 345 ) × ( 6 + 789 ) − z 2 − z 0 = 11538 z_1 = (12 + 345) \times (6 + 789) - z_2 - z_0 = 11538 z 1 = ( 12 + 345 ) × ( 6 + 789 ) − z 2 − z 0 = 11538
然后我们按照移位公式( x y = z 2 × 1 0 2 m + z 1 × 1 0 1 m + z 0 ) (xy = z_2 \times 10^2m + z_1 \times 10^1m + z_0) ( x y = z 2 × 1 0 2 m + z 1 × 1 0 1 m + z 0 ) 可得:
x y = 72 × 10002 + 11538 × 1000 + 272205 = 83810205 xy = 72 \times 10002 + 11538 \times 1000 + 272205 = 83810205 x y = 72 × 10002 + 11538 × 1000 + 272205 = 83810205
Toom-Cook (又称 Toom-3)
概述
图姆-库克算法的原理是:
对于给定的两个大整数 a a a 和 b b b , 将 a a a 和 b b b 分成 k k k 个较小的部分, 每个部分的长度为 l l l , 并对这些部分执行运算。随着 k k k 的增长, 可以组合许多乘法子运算, 从而降低算法的整体复杂度, 然后再次使用图姆-库克算法递归计算乘法子运算, 依此类推。
Toom-3和图姆-库克两个术语有时会被错误的 混用, 但事实上Toom-3只是图姆-库克算法在 k = 3 k=3 k = 3 时的特例。
Toom-3将9次乘法降低至仅需5次, 使其在 Θ ( n log ( 5 ) / log ( 3 ) ) ≈ Θ ( n 1.46 ) \Theta\left(n^{\log (5) / \log (3)}\right) \approx \Theta\left(n^{1.46}\right) Θ ( n l o g ( 5 ) / l o g ( 3 ) ) ≈ Θ ( n 1.46 ) 的时间里运行。
步骤
假设我们希望将 A = 123 , 456 , 789 A=123,456,789 A = 123 , 456 , 789 和 B = 987 , 654 , 321 B=987,654,321 B = 987 , 654 , 321 相乘。每个整数被分成三个等长的数字,l l l 位宽。
当 l = 3 l=3 l = 3 时,我们可以用两个多项式表示两个操作数:
a ( x ) = 123 x 2 + 456 x + 789 a(x) = 123x^2 + 456x + 789 a ( x ) = 123 x 2 + 456 x + 789
b ( x ) = 987 x 2 + 654 x + 321 b(x) = 987x^2 + 654x + 321 b ( x ) = 987 x 2 + 654 x + 321
其中 A = a ( 1 , 000 ) A=a(1,000) A = a ( 1 , 000 ) 和 B = b ( 1 , 000 ) B=b(1,000) B = b ( 1 , 000 ) 。
为了计算 c ( x ) = a ( x ) × b ( x ) c(x) = a(x) \times b(x) c ( x ) = a ( x ) × b ( x ) ,
我们在五个点,例如 { − 2 , − 1 , 0 , 1 , 2 } \{-2, -1, 0, 1, 2\} { − 2 , − 1 , 0 , 1 , 2 } 上评估两个多项式 a a a 和 b b b ,并将结果相乘
问题:为什么是5个点? 因为x 2 x^2 x 2 相乘,我们知c ( x ) c(x) c ( x ) 必为4阶,所以选( n + 1 = ) 5 (n+1 = )5 ( n + 1 = ) 5 个点
有限差分法,仅使用加法即可计算出 A 和 B 的连续值(但这里不是)
x = − 2 时, { A = 369 ( − 2 , 369 ) B = 2961 ( − 2 , 2961 ) A B = 1092609 \quad x= -2时, \\ \left\{\begin{array}{l} A= 369 & (-2 , 369)\\ B= 2961 &(-2,2961) \\ AB= 1092609 \end{array} \right. x = − 2 时, ⎩ ⎨ ⎧ A = 369 B = 2961 A B = 1092609 ( − 2 , 369 ) ( − 2 , 2961 )
x = − 1 时, { A = 456 ( − 1 , 456 ) B = 654 ( − 1 , 654 ) A B = 298224 \quad x= -1时, \\ \left\{\begin{array}{l} A= 456 & (-1 , 456)\\ B= 654 &(-1,654) \\ AB= 298224 \end{array} \right. x = − 1 时, ⎩ ⎨ ⎧ A = 456 B = 654 A B = 298224 ( − 1 , 456 ) ( − 1 , 654 )
x = 0 时, { A = 789 ( 0 , 789 ) B = 321 ( 0 , 321 ) A B = 253269 \quad x= 0时, \\ \left\{\begin{array}{l} A= 789 & (0 , 789)\\ B= 321 &(0,321) \\ AB= 253269 \end{array} \right. x = 0 时, ⎩ ⎨ ⎧ A = 789 B = 321 A B = 253269 ( 0 , 789 ) ( 0 , 321 )
x = 1 时, { A = 1368 ( 1 , 1368 ) B = 1962 ( 1 , 1962 ) A B = 2684016 \quad x= 1时, \\ \left\{\begin{array}{l} A= 1368 & (1 , 1368)\\ B= 1962 &(1,1962) \\ AB= 2684016 \end{array} \right. x = 1 时, ⎩ ⎨ ⎧ A = 1368 B = 1962 A B = 2684016 ( 1 , 1368 ) ( 1 , 1962 )
x = 2 时, { A = 2193 ( 2 , 2193 ) B = 5577 ( 2 , 5577 ) A B = 12230361 \quad x= 2时, \\ \left\{\begin{array}{l} A= 2193 & (2 , 2193)\\ B= 5577 &(2,5577) \\ AB= 12230361 \end{array} \right. x = 2 时, ⎩ ⎨ ⎧ A = 2193 B = 5577 A B = 12230361 ( 2 , 2193 ) ( 2 , 5577 )
根据五个点的值找到多项式 P ( x ) = A ( x ) B ( x ) P(x)=A(x)B(x) P ( x ) = A ( x ) B ( x )
P ( x ) = p 4 x 4 + p 3 x 3 + p 2 x 2 + p 1 x + p 0 P(x) = p_4x^4 + p_3x^3 + p_2x^2 + p_1x + p_0 P ( x ) = p 4 x 4 + p 3 x 3 + p 2 x 2 + p 1 x + p 0
我们可以代入这些点处的 x 值,得到一组在未知数 p i p_i p i 中呈线性的联立方程:
{ 16 p 4 − 8 p 3 + 4 p 2 − 2 p 1 + p 0 = 109260916 p 4 − p 3 + p 2 − p 1 + p 0 = 298224 p 0 = 253269 p 4 + p 3 + p 2 + p 1 + p 0 = 2684016 16 p 4 + 8 p 3 + 4 p 2 + 2 p 1 + p 0 = 1223036116 \left\{\begin{array}{r} 16p_4 - 8p_3 + 4p_2 - 2p_1 + p_0 = &109260916\\
p_4 - p_3 + p_2 - p_1 + p_0 = &298224\\p_0 = &253269\\p_4 + p_3 + p_2 + p_1 + p_0 = &2684016\\16p_4 + 8p_3 + 4p_2 + 2p_1 + p_0 = &1223036116 \end{array}\right. ⎩ ⎨ ⎧ 16 p 4 − 8 p 3 + 4 p 2 − 2 p 1 + p 0 = p 4 − p 3 + p 2 − p 1 + p 0 = p 0 = p 4 + p 3 + p 2 + p 1 + p 0 = 16 p 4 + 8 p 3 + 4 p 2 + 2 p 1 + p 0 = 109260916 298224 253269 2684016 1223036116
列为线性方程,解得
{ p 4 = 121401 p 3 = 530514 p 2 = 1116450 p 1 = 662382 p 0 = 253269 \left\{\begin{array}{l}p_4 = 121401\\p_3 = 530514\\ p_2 = 1116450\\ p_1 = 662382\\p_0 = 253269 \end{array}\right. ⎩ ⎨ ⎧ p 4 = 121401 p 3 = 530514 p 2 = 1116450 p 1 = 662382 p 0 = 253269
将x = 1000 x=1000 x = 1000 代入P ( x ) = p 4 x 4 + p 3 x 3 + p 2 x 2 + p 1 x + p 0 P(x) = p_4x^4 + p_3x^3 + p_2x^2 + p_1x + p_0 P ( x ) = p 4 x 4 + p 3 x 3 + p 2 x 2 + p 1 x + p 0 中,
也即每个移位三位后相加得到
P ( 1000 ) = A ⋅ B = 121 , 932 , 631 , 112 , 635 , 269 P(1000) = A \cdot B = 121,932,631,112,635,269 P ( 1000 ) = A ⋅ B = 121 , 932 , 631 , 112 , 635 , 269
时间复杂度分析
通常, Toom- k k k 的时间复杂度为 Θ ( c ( k ) n e ) \Theta\left(c(k) n^e\right) Θ ( c ( k ) n e ) ,
其中
e = log ( 2 k − 1 ) / log ( k ) e=\log (2 k-1) / \log (k) e = log ( 2 k − 1 ) / log ( k ) 。
n e n^e n e 是在乘法子运算上花费的时间,
c c c 则是花费在对小常数进行的加法和乘法运算上的时间。
大数乘法的对比综述
著名的Karatsuba算法实际上是图姆-库克算法的特例, 在Karatsuba算法中, 原始乘数被拆分成两个较小的数, 而原本的4次乘法运算缩减为 3 次, 使之在 Θ ( n log ( 3 ) / log ( 2 ) ) ≈ Θ ( n 1.58 ) \Theta\left(n^{\log (3) / \log (2)}\right) \approx \Theta\left(n^{1.58}\right) Θ ( n l o g ( 3 ) / l o g ( 2 ) ) ≈ Θ ( n 1.58 ) 的时间 内完成运算。
Toom-1等价于普通的长乘法, 具有Θ ( n 2 ) \Theta\left(n^2\right) Θ ( n 2 ) 的复杂度。
尽管可以通过增加 k 来使指数 e 任意接近1, 但函数增长速度非常快。
混合级别图姆-库克算法的增长率直到 2005 年仍然是一个广为研究的开放性问题
根据高德纳所描述算法的一种实现, 其复杂度可降低至 Θ ( n 2 2 log n log n ) \Theta\left(n^{ 2^{\sqrt{2 \log n}}} \log n\right) Θ ( n 2 2 l o g n log n ) 。
由于工作时的开销, 当乘数包括较小的数时, 图姆-库克算法会比长乘法更慢, 因此它适用于中等规模的乘法。
经验结果表明,精心设计的 Toom 算法将在除最庞大的计算之外的所有方面击败 FFT 方法。规模增加会导致收益递减,虽然该方法可以接近具有较大 k k k 值的快速傅立叶变换方法的 O ( n l o g n ) O(n log n) O ( n l o g n ) ,但乘法之外的计算工作会迅速变得非常重要。
对于更大规模的数据, 则有渐进更快的史恩哈格·施特拉森算法,复杂度为 Θ ( n log n log log n ) \Theta(n \log n \log \log n) Θ ( n log n log log n )
参考资料