稀疏码多址接入在未来6G通信中是一种非常有竞争力的非正交多址接入方案，具有低延时、高频谱效率的特点，被广泛认为是支持大规模连接和增强未来机器型通信网络系统容量的有前途的候选技术。针对码本设计问题，较为常见的是基于正交调幅星座来设计码本，即将码本构造过程分为因子图矩阵设计、相位旋转角度设计以及母星座设计三个阶段[1]。除此之外，还有通过不同的智能优化算法对信号星座进行优化以及利用黄金角调制来构建多维母星座的SCMA码本[2][3]。

在SCMA系统中，多用户检测是一个关键性问题，如何降低多用户检测的复杂度已经成为研究热点，现有研究提出了多种低复杂度的消息传递算法(Message Passing Algorithm, MPA) [4]和期望传播算法(Expectation Propagation Algorithm, EPA) [5]。Luo Qu，Liu Zilong等人提出了一种基于端到端学习的SCMA设计框架(E2E-SCMA)，并在此基础上得到了改进的稀疏码本和低复杂度解码器[6]。对于SCMA码本的设计方案，总体目标是设计一类误码率更低或者频谱效率更大的码本。Cai等人提出了一种基于星座旋转的交织的SCMA设计方法[7]，之后，Li等人利用遗传算法和交织方法在Star-QAM基础星座上进行优化，得到了一类功率不平衡的SCMA码本[8]。Lei等人以Chernoff界来构造SER性能，对单个资源元素处的基准星座群进行优化，得到了一种在低信噪比区域更优越的码本。本文则是在Lei等人的基础上进一步改进及优化[9]。

在现有码本方案中，本文重点关注两类具有代表性的对比基准。其一是Chen码本，该类码本的核心思想是在满足稀疏映射约束的前提下，引入功率不平衡机制，使不同维度或不同用户承载的能量分布不完全相同，从而在多用户叠加后拉开有效星座点间距，提升检测可分性。其二是Star-QAM码本。该类码本通常以Star-QAM基础星座为出发点，通过若干启发式规则(如固定相位旋转、经验交织和层级映射)构造多维稀疏码本，具有实现简单、结构清晰的优点，但其参数多依赖经验选择，缺乏直接面向真实误码性能的统一优化目标。

相比之下，本文方法的优势在于：不是从启发式几何规则或单一距离准则出发，而是直接基于下行瑞利衰落信道中的SER近似表达式建立优化目标函数，使星座参数优化与实际误码性能更紧密对应。特别地，已有研究多采用Chernoff界来近似PEP，但Chernoff界相对较松，导致构造的目标函数与真实误码性能之间存在偏差。为此，本文摒弃较宽松的Chernoff界，创新性地采用更精确的Chiani界来构建SER目标函数，并在此基础上结合球面打包初始化与GA-SQP混合优化求解，从而得到性能更优的母星座。

本文的主要贡献如下：

(1) 推导了基于Chiani界的下行SCMA系统SER近似表达式，并将其作为码本优化准则；

(2) 采用球面打包方法初始化母星座，提高初始星座点分布的均匀性；

(3) 利用GA-SQP混合优化策略获得增强母星座(AMC)，通过与Chen码本及Star-QAM码本的比较，验证了所提方法在下行瑞利衰落信道中的性能优势。

考虑一个具有L个用户在K个正交资源上通信的下行链路SCMA系统，其中 L > K ，过载因子 λ = L K > 1 。在发射端，SCMA编码器将 log 2 ( M ) 位比特流映射为从码本 χ j ∈ ℂ K × M 中提取出来的码字，该映射过程表示为

其中， � log 2 M 表示维度为 log 2 ( M ) 的二进制数集合， χ l = { x l ,   1 ,   x l ,   2 ,   ⋯   ,   x l ,   m } 表示第l个用户的码本集， ℂ K × M 表示大小为 M 的 K 维复向量空间。

所有码本的 K 维复码字都是具有 N ( N < K )个非零元素的稀疏向量，这样的稀疏向量可以减少用户间的信号干扰，从而降低误码率(Bit Error Rate, BER)。假设码本集 χ l 去掉零元素后得到母码本 C ⊂ ℂ N ，从 C 中提取出一个长度为 N 的向量 c l ，因此可以进一步将 � log 2 M 到 C 的映射定义为

其中 b l = [ b l ,   1 ,   ⋯ ,   b l ,   log 2 M ] T ∈ { − 1 ,   1 } log 2 M 表示第l个用户瞬时输入的二进制消息向量。

因此，对应的SCMA映射 f l 可以表示为

其中， V l ∈ � K × N 表示n维向量映射到k为稀疏SCMA码字的扩频矩阵。例如，设计一个 K = 4 ,   L = 6 ,   M = 4 ,   N = 2 的SCMA系统的码本，该系统的扩频矩阵可以表示为

L 个用户的SCMA码本的稀疏结构可以用因子图矩阵 F 来表示，其中 F = [ f 1 ,   ⋯   ,   f L ] ⊂ � K × L ， f l = d i a g ( V l V l T ) 。对应的因子图表示如图1表示。

在设计码本时，目的就是找出 L 个映射函数 g l   ( l = 1 ,   ⋯   ,   L ) ，按照某些标准，如最小欧式距离(Minimum Euclidean Distance, MED)或最小乘积距离(Minimum Product Distance, MPD)，将映射函数 g l 看作一个复码本生成矩阵来乘以用户 l 输入的消息向量 b l ，得到

其中 G l ∈ ℂ N × log 2 M 表示用户 l 的码本生成矩阵。因此用户 l 的码本 χ l 可以表示为

对于下行链路系统，基站发送的消息向量是由L个用户传输的信息通过叠加得到的，因此，用户L在下行链路经过复用后接收的信号可以表示为

其中， h l = ( h l , 1 ,   h l , 2 ,   ⋯   ,   h l , K ) T ∈ ℂ K 表示基站与第 l 个用户之间的信道向量； n l = ( n l , 1 ,   n l , 2 ,   ⋯ ,   n l , K ) T 表示均值为0，方差为 N 0 的加性高斯白噪声向量，即 n l , k ∼ � � ( 0 ,   N 0 ) ； d i a g ( ⋅ ) 表示取矩阵的主对角线元素作为对角矩阵。在下一节中，将会提出新的母码本构造方式及其优化方法，借此进一步降低码本的误码率。

Figure1. Factor graph representation of the spread spectrum matrix

图1. 扩频矩阵的因子图表示

在下行链路SCMA系统中，假设在传输 c i 时码字被错误解码为 c j ，其中 c i ≠ c j ，此时，两个不同码字 c i 与 c j 之间的成对差错概率(Pairwise Error Probability, PEP)可以表示为

其中 Q ( x ) 为互补累积分布函数，即 Q ( x ) = ∫ x + ∞ 1 2 π exp ( − 1 2 t 2 ) d t ； E s N 0 表示信噪比； d sup 2 ( c i ,   c j ) 表示两个叠加码字之间欧氏距离的平方，即 d sup 2 ( c i ,   c j ) = ∑ k = 1 K | h k | 2 | ( c k ,   i − c k ,   j ) | 2 .

为了将复杂的 Q 函数转化为更易处理的指数函数形式，绝大多数学者对 Q 函数使用Chernoff界得到近似的PEP，即 Q ( x ) ≤ 1 2 e − x 2 2 ，但这是一种较为宽松的上界。为了构建更精确的目标函数，我们采用Chiani等人提出的近似式[11]，即 Q ( x ) ≈ 1 12 e − x 2 2 + 1 4 e − 2 x 2 3 ，则PEP可以表示为

特别地，在瑞利衰落信道中，由于各个资源节点RN上的信道衰落是独立分布的，因此(9)式可以进一步分解为

再对所有信道求期望，得到平均PEP

令 s k = E s N 0 | ( c k ,   i − c k ,   j ) | 2 ， H k = | h k | 2 ，则PEP简化为

其中 H k 服从指数分布，其概率密度函数表示为 p H k ( x ) = 1 Ω k e − x Ω k ,   x ≥ 0 。 Ω k 表示第 k 个RN上的平均信道功率增益，即 Ω k = E [ H k ] = E [ | h k | 2 ] .

最后计算概率密度函数 p H k ( x ) 的Laplace变换，得到

同理， E H k [ exp ( − s k H k 3 ) ] = 1 1 + s k Ω k 3 ，将(11)式与(12)式结合，PEP表示为

假设所有RE上的平均功率增益都归一化为1，即 Ω k = 1 ，PEP进一步表示为

将所有的成对差错概率相加，得到一个紧致的BER近似值，并将其作为构造码本的优化目标函数

该目标函数是一个由码本星座点坐标 � 和系统信噪比 E s N o 直接决定的，不含积分或特殊函数并且是连续且处处可微的，因此可以直接用于基于梯度的数值优化算法(如SQP、梯度下降法等)，以设计出在瑞利衰落信道下具有最优BER性能的SCMA码本。

在SCMA系统中，母星座(Mother Constellation, MC)可以定义为如下形式

其中 d f = L ⋅ N K 表示每个资源节点接入的用户数量， A 1 ,   A 2 ,   ⋯   ,   A d f 表示子星座码本。由于球面打包(Sphere Packing, SP)能够在单位球面上尽可能均匀分布若干点上，因此本文采用球面打包的方法初始化母星座，保证更有效地最大化最小距离和码本方向的多样性。

以 K = 4 ,   L = 6 ,   M = 4 ,   N = 2 的通信系统为例， A M C = [ A 1 ,   A 2 ,   ⋯   ,   A 3 ] T ，再对子星座引入旋转参数 b 1 ,   b 2 ,   b 3 ，通过旋转操作后的母星座码本表示为

其中 b 1 = e i ∗ 2 π ∗ θ 1 ,   b 2 = e i ∗ 2 π ∗ θ 2 ,   b 3 = e i ∗ 2 π ∗ θ 3 。

得到的子星座码本可以通过因子图矩阵 F 分配给所有的资源节点，因此SCMA系统的码本结构可以表示为

再通过交织操作[10]，得到L个用户的码本集。

最终通过混合优化策略——遗传顺序二次规划法(GA-SQP)，该方法充分利用了GA的全局探索能力以避免陷入局部最优，同时利用了SQP基于梯度的快速收敛能力进一步提高优化效率和精度，GA-SQP兼具全局搜索能力和局部收敛速度，优化的详细过程如表1所示。

Table 1. SCMA codebook optimization framework based on genetic order quadratic programming method

表1. 基于遗传顺序二次规划法的SCMA码本优化框架

在本节中，先对比了在相同信噪比(本文以SNR = 16 dB为例)下Chiani界与Chernoff界的误码率大小，由图2可知Chiani界的信噪比明显低于Chernoff界。

Figure2. Comparison of bit error rates between Chiani and Chernoff boundaries

图2. Chiani界与Chernoff界误码率对比

再将提出的Chiani界SCMA码本的SER性能同Chen码本[8]和Star-QAM码本[11]进行比较，仿真结果如图3，显示所提出的码本在下行瑞利衰落信道中相比其他三种码本具有更好的性能。具体表现在，当BER为 10 − 5 时，所提出的码本信噪比相较于Chen码本和Star-QAM码本分别提升了3.6 dB、0.48 dB。

Figure3. The bit error rate of the proposed codebook is compared with the other two codebooks

图3. 所提出码本与其他两种码本的误码率对比

本文提出了一种用于衰落信道下行SCMA系统的下行链路码本优化方案。利用Laplace，我们推导了瑞利衰落信道条件下SCMA的简化SER模型。该模型可作为优化码本的设计准则。随后，我们使用球面打包对母星座初始化，再使用遗传顺序二次规划法对母星座进行了优化。最后通过对比以Chernoff界构造出的码本、Chen码本与QAM-Star码本的BER，仿真结果表明，所提出的码本在瑞利衰落信道中具有优越性。