作为适用于5G/B5G场景的多载波调制方案之一, 广义频分复用(generalized frequency division multiplexing, GFDM)波形具有灵活的时频资源分布。为了进一步降低GFDM系统的带外功率泄露, 提出了一种基于多参数可变的GFDM原型滤波器, 通过多参数的灵活配置实现了更好的带外功率抑制能力, 以及带外功率抑制效能的精确控制, 同时推导了带有多参数可变滤波器的GFDM系统在频率选择性衰落信道下的理论误码率(bit error rate, BER)表达式。此外, 为了进一步提升GFDM系统在复杂信道场景下的BER性能, 提出了适用于多参数GFDM波形的消息传递(message passing, MP)接收机, 根据等效信道矩阵给出了MP接收算法的数学模型。仿真结果表明, MP接收机可有效提升GFDM波形在复杂信道下的BER性能, 同时基于多参数可变滤波器的GFDM系统在有效抑制带外功率的同时, 与传统升余弦(raised cosine, RC)滤波器相比, 在应用MP接收机时仅有很小的BER性能损失。