植物种群空间分布格局是指特定时间内, 植物群落中某一种群的个体在空间的分布状况^[1-3]。空间分布格局分析对于确定种群特征、种群间相互关系以及种群与环境之间的关系具有非常重要的作用, 对于了解种群空间分布规律以及种内与种间关系具有重要的意义^[4-7]。按照种群内个体的聚集程度和方式, 种群分布格局一般可分为随机分布、均匀分布和聚集分布3种类型^[8]。以频度/密度为基础的样方法和以距离为基础的无样地法属于两大类确定植物空间分布格局的研究方法^{[3-5, 9]}。植物群落调查实践表明无样地法比于样方法在成本和可操作性两方面均有一定的优势^[10]。

最近邻体法(nearest neighbor method, NN)属于无样地法之一，它最早由Clark和Evans^[11]提出，以观测点与个体之间的距离(或者个体与个体之间的距离)为原始数据获取分析指标，用统计检验的方法考察实际值与理论期望值之间的差异显著性，进而判断种群的空间分布类型。Stoyan和Penttinen^[12]指出最近邻体距离特别是高阶邻体距离的概率分布比一般的分析指标可以更好地量化空间分布格局。Thompson^[13]早在1956年便推导出了随机分布格局中邻体距离的概率分布模型，Eberhardt^[14]则给出了聚集分布格局中随机观测点到相邻个体距离的概率分布模型，Magnussen^[15-16]等基于Eberhardt的概率分布模型提出了植物空间密度的点估计方法。在随机分布格局中，任意选择的观测点到其相邻个体距离与任意选择的个体到其相邻个体距离在统计学意义上是一致的，因此二者的概率分布模型也是一样的^[6]。聚集分布格局中，任意选择的观测点到相邻个体距离和个体到个体距离并不一致，二者的概率分布模型也不相同。Gao^[5]利用条件概率的极限法推导出聚集分布格局下的个体到相邻个体的概率分布模型，并以巴拿马Barro Colorado岛(Barro Colorado Island, BCI)样地183个热带雨林树种的空间分布数据进行了验证，结果表明该概率分布模型可以较好地拟合大多数树种的邻体距离分布。Gao^[6]等利用该模型研究了BCI样地中树种分布多尺度特征，并总结出5类空间聚集指数-邻体距离阶数曲线。BCI样地属于热带雨林，物种丰富且大多数树种被证实在空间中聚集分布^[17]，这与Gao^[5]模型的基本条件一致。本文的第一个研究目标是利用Gao^[5]的邻体距离概率分布模型拟合加拿大西海岸南温哥华岛3个寒温带树种的空间分布数据，以检验该模型在北方森林的适用性。

Eberhardt概率分布模型含两个参数，概率密度函数的表达式较复杂。Magnussen^[15-16]等在利用Eberhardt模型进行密度估计时采用了极大似然法(maximum likelihood)，参数优化则基于Nealder-Mead算法。Gao模型与Eberhardt模型的概率密度函数的表达式相似，并通过求解极大似然数值方程来完成参数估计^[5-6]。以上两种参数估计方法均属于极大似然法的范畴，当模型样本较少时，其求解过程可能只得到局部最优解而非全局最优解^[16]。遗传算法(genetic algorithm)是一种通过模拟自然进化过程搜索最优解的方法，其主要特点是：直接对结构对象进行操作，不存在求导和函数连续性的限定，具有更好的全局寻优能力；采用概率化的寻优方法，能自动获取和指导优化的搜索空间，自适应地调整搜索方向，不需要确定的规则。遗传算法的这些性质，使其成为现代智能计算中的关键技术。本文的第二个研究目标是采用遗传算法估计Gao模型的两个参数，解决极大似然法数值优化不能得到全局最优解的问题。

1 模型

植物空间分布格局分析中，将个体的空间位置映射到二维空间上的点，形成空间点格局。空间点格局在统计学中被认为是空间点过程的一个实现^[18]。空间点过程最基本的属性是过程强度λ(s)，即位置s单位面积内的期望点数。随机分布的空间点格局，λ(s)为常量，对应一个Poisson过程。定义随机采样点到其第n个相邻个体的距离为随机变量r_n，其概率分布模型的密度函数为^[13]：

式中, n记为邻体距离的阶数。如果假设λ(s)服从均值为λ的Gamma分布h(λ|α, β)，则面积A的样地内点的个数服从期望为λA的负二项分布^[19]。负二项分布是聚集分布格局分析中最普遍的概率分布模型^[4]。将Gamma分布h(λ|α, β)带入模型(1)，通过计算卷积可以得到聚集空间分布格局中r_n的概率密度函数^[15]:

式中, α>0，β>0，且满足λ=α×β，Γ()为Gamma函数。需要估计的两个模型参数为α和β。定义任意个体到其第n个相邻个体的距离定义为随机变量s_n，聚集分布点格局中，s_n的概率密度函数为^[5]：

模型(3)与模型(2)的表达式相似，利用邻体距离的样本数据可以估计α和β的值。

2 数据与方法 2.1 数据

本文以加拿大西海岸3个寒温带树种的空间分布数据验证概率分布模型(3)。研究区位于不列颠哥伦比亚省的南温哥华岛(48°38′N, 123°43′W)，样地大小为102m×87m(0.8874hm²)，平均海拔382m^[20](图 1)。3个树种分别为西部红柏(Western red cedar, Thuja plicata)，美国花旗松(Douglas-fir, Pseudotsuga menziesii)，以及西部铁杉(Western hemlock, Tsuga heterophylla)。在统计个体到个体的邻体距离时，为避免边缘效应，在样地边界设置5m的缓冲区，即靠近样地边界5m内的个体不作统计，共计西部红柏337棵，美国花旗松508棵，西部铁杉767棵。

2.2 遗传算法

遗传算法是人工智能领域中用于解决最优化的一种启发式算法，这种算法借鉴了进化生物学中的一些现象，包括遗传、突变、自然选择以及杂交等^[21]。图 2展示了8位编码的遗传算法计算流程图。选取适当的目标函数，便可以利用遗传算法估计模型(3)的参数。本研究中遗传算法是在数学软件MATLAB2008^[22]环境下实现的，并编写遗传、突变、自然选择以及杂交4个计算过程的通用函数。

2.3 参数估计

根据模型(3)概率密度的表达式，可以分别计算随机变量s_n的期望和方差：

根据公式(4)和(5)，可以在σ²/s_n²式约去参数β，可以简化参数估计的计算量，遗传算法的目标函数定义为：

ε越接近于0，参数估计值越准确，然后基于公式(5)计算。遗传算法设置为：群体个数，N=20；编码位数，s=8；变异率，P=0.05；目标函数的精度要求，ε_tol=10^-5；最大允许循环次数，T_max=100。本研究中，在计算邻体距离的均值和方差时，样本的数目等于3个树种在目标区域中的个体数目。

为验证参数估计结果，概率分布模型(3)的拟合优度采用Kolmogorov-Smirnov(KS)检验，检验统计量KS定义为：

式中, T(s_n)和O(s_n)分别为n阶邻体距离不大于s_n的拟合及实际概率。

3 结果

西部红柏(T.plicata)空间分布格局的聚集度比较高，具有团簇分布的特征。对目标区域内每一棵西部红柏个体计算到其周围邻体的距离，获得各阶邻体距离样本，然后利用概率分布模型拟合这些邻体距离样本，参数估计采用2.2—2.3中的遗传算法完成。表 1展示的是西部红柏(T.plicata)的各阶邻体距离概率分布模型的参数估计和拟合优势度检验结果，其中邻体距离的阶数为n=1, 2, …, 7。为了更直观地展示模型的拟合结果，图 3给出了n=1, 3, 5, 7时实际和拟合的概率密度函数以及对应的概率分布函数，其中概率分布函数为概率密度函数的累积值。对于概率密度函数，实际的概率密度函数比拟合的概率密度函数向左偏(图 3)。对于概率分布函数，在邻体距离值比较小的时候，拟合的概率分布小于实际概率分布，当邻体距离的值变大后，拟合的概率分布由大于实际概率分布。这种拟合与实际概率分布的不一致性是由于西部红柏(T.plicata)的团簇聚集分布特征导致的。当n=4时，实际和拟合的概率分布偏差最大，检验统计量KS=0.1909。参数一定层度上代表空间点格局的聚集程度，从表 1中可以看出，的估计值随着阶数n的变大而增加，这一结果与大多数热地雨林树种的聚集-尺度关系相似^[6]。

美国花旗松(P.menziesii)在样地中分布广泛，几乎不存在聚集的团簇(图 1)。由于概率分布模型(3)适用于随机分布和聚集分布^[5]，模型(3)可以较好地拟合美国花旗松(P.menziesii)的邻体距离分布。表 2给出了参数估计和拟合优势度检验的结果，并且在图 4中部分展示了拟合的概率密度函数和概率分布函数。受直方图的自身的限制，实际的和拟合的概率密度函数在视觉上有一定的差异，但是概率分布函数的一致性却很好(图 4)。当n=4时，实际和拟合的概率分布偏差最大，检验统计量KS=0.0739。由于美国花旗松在样地中具有随机分布的特征，的估计值比较大，且受阶数n的变大的影响较小。

表 3给出了西部铁杉(T.heterophylla)邻体距离概率分布模型的参数估计和拟合优势度检验的结果。从表 3和图 5可以看出，实际的概率密度函数(概率分布函数)与拟合的概率密度函数(概率分布函数)一致性较好。西部铁杉(T.heterophylla)在样地中分布广泛，虽然也属于聚集分布，但团簇型的分布特征不是太明显，与概率分布模型(3)的假设一致。同样，当n=4时实际和拟合的概率偏差最大，检验统计量KS=0.0754。此外，的估计值随着阶数n的变大而增加，空间点格局的聚集度是空间尺度依赖的。

4 结论与讨论

本文根据聚集分布格局中邻体距离(个体到个体)的概率分布模型期望和方差的特性，提出了一种简化的参数估计方法，利用遗传算法实现参数优化，并以加拿大南温哥华岛3个寒温带树种的空间分布数据进行了实例验证，得到的主要结论如下：

(1)通过定义合适的目标函数，可以简化模型参数估计的计算量，遗传算法可以有效地估计邻体距离概率模型的参数；

(2)西部红柏(T.plicata)和西部铁杉(T.heterophylla)的空间聚集度比较高，美国花旗松(P.menziesii)在样地中近似随机分布，Gao^[5]的邻体距离概率分布模型可以很好地拟合西部铁杉(T.heterophylla)和美国花旗松(P.menziesii)的邻体距离概率分布。

邻体距离概率分布模型(3)的表达式较为复杂，Gao^[5]在利用极大似然估计的方法估计模型参数时，定义了一个带有绝对值的目标函数。因此，参数估计问题转化为二维参数空间上的数值最优化问题。在计算过程中，样本的选择会影响数值优化算法的结果，特别是当邻体距离的样本较少时，会得到局部最优解而非全局最优解。本文提出利用遗传算法估计模型(3)的参数α和β，在定义目标函数(6)之后将参数估计问题转化为一维参数空间上的数值最优化问题。遗传算法在的作用是作为一种数值最优化技术解决一维参数空间上的数值最优化问题。然而，该方法仍然不能有效解决当样本少的时候估计不准确的问题。首先，本文提出的参数方法实质上是一种矩估计方法。矩法估计方法的优点是原理简单、使用方便，使用时可以不知总体的分布。理论上讲，矩法估计是以大样本为应用对象的，只有在样本容量较大时，才能保障它的优良性。因此，准确估计参数的关键是获得足够的邻体距离样本，这对两种估计方法都很重要。遗传算法本身对参数估计的精度不具有决定性作用。

邻体距离概率分布模型(3)是从聚集空间点格局的负二项分布模型推导而来的，参数α与负二项分布模型中的聚集指数k等价，其本身就与空间尺度相关^[23-24]。植物空间分布格局分析中空间尺度概念涉及3个方面：研究区域的尺度、生态过程尺度和取样尺度^{[2, 25]}。利用邻体距离分析空间分布格局也受到尺度的影响，在实际应用中需要关注取样尺度，即邻体距离的阶数。选取比较小的阶数会忽略掉较多的空间信息，选取较大的阶数会增加群落调查的工作量，并且还会受到边际效应的影响^[5]，所以建议采用的阶数是2到6。然而，模型(3)本身也有一定的局限性，因此在拟合聚集度较高的空间点格局的邻体距离时的，拟合效果并不理想^[5-6]，以及本文中的西部红柏的邻体距离分布。拟合效果不理想的原因有两个：1)实际的概率分布会出现多峰值的现象；2)实际概率向左倾斜的较多。针对以上两个问题，可以从以下2个方面进行改进：1)改进概率分布模型，例如采用混合型概率分布；2)采用高阶的邻体距离，使得概率分布右移。下一步的研究可以尝试采用人工智能方法对极大似然估计的目标函数进行优化，可以避免在样本较少的情况下不能得到全局最优解。