1、對(duì)光傳輸頻譜更深度地挖掘和更有效地利用是提升光通信系統(tǒng)傳輸容量的手段之一。對(duì)于波分復(fù)用（WDM）光傳輸系統(tǒng)，在調(diào)制階數(shù)不變的情況下，更密集的信道復(fù)用意味著傳輸頻譜利用率的提高，因此信道間隔小于碼元速率、傳輸速率超過奈奎斯特速率的超奈奎斯特WDM系統(tǒng)被提出并成為一個(gè)研究熱點(diǎn)。傳統(tǒng)的WDM系統(tǒng)調(diào)制方式應(yīng)用于超奈奎斯特WDM系統(tǒng)中，在信道間隔小于碼元速率時(shí)會(huì)帶來較嚴(yán)重的信道間干擾（ICI），于是雙偏振正交雙二進(jìn)制（DP-QDB）調(diào)制被用于超奈

2、奎斯特WDM系統(tǒng)中，其已調(diào)信號(hào)的窄頻譜帶寬優(yōu)勢(shì)可以降低系統(tǒng)ICI。對(duì)于DP-QDB接收信號(hào)的傳輸損傷和自身的碼間干擾（ISI）問題，采用相干接收及信號(hào)處理（DSP）技術(shù)是可行的解決方法。在DP-QDB相干接收機(jī)中采用怎樣的DSP方法，能夠盡量修復(fù)傳輸損傷和消除ISI影響，是目前需要研究的方面。而且，為對(duì)抗傳輸損傷和降低誤碼率，例如低密度奇偶校驗(yàn)碼（LDPC）的信道編碼技術(shù)被引入到DP-QDB系統(tǒng)中，當(dāng)接收端采用軟輸入軟輸出（SISO）譯

3、碼時(shí)，前端的比特檢測(cè)模塊需提供比特軟判決信息輸出，則像基于維特比最大似然序列檢測(cè)（VA-based MLSD）這樣的軟輸入硬輸出（SIHO）檢測(cè)算法已無法滿足要求，因而面臨使用DP-QDB信號(hào)的SISO檢測(cè)的問題。
　　DP-QDB調(diào)制在雙偏振正交相移鍵控（DP-QPSK）的IQ支路上添加了雙二進(jìn)制整形過程，該整形過程可理解為I類部分響應(yīng)脈沖整形濾波過程，目前的研究只局限于將I類部分響應(yīng)脈沖整形技術(shù)與DP-QPSK調(diào)制相結(jié)合，應(yīng)用

4、于超奈奎斯特WDM傳輸中。此外，超奈奎斯特WDM系統(tǒng)中調(diào)制方式的研究主要集中在四進(jìn)制調(diào)制方式，而缺少更高階調(diào)制方式的應(yīng)用，限制了超奈奎斯特WDM系統(tǒng)頻譜利用率的進(jìn)一步提高。
　　針對(duì)以上問題，本文圍繞超奈奎斯特WDM系統(tǒng)的現(xiàn)有調(diào)制方式DP-QDB的相干接收DSP技術(shù)，以及適用于超奈奎斯特WDM系統(tǒng)的新型調(diào)制方式展開研究。
　　DP-QDB相干接收機(jī)的前端DSP模塊用于修復(fù)DP-QDB信號(hào)的傳輸損傷，文中給出了每個(gè)模塊的具體D

5、SP方法。在自適應(yīng)均衡環(huán)節(jié)，分析了DP-QDB信號(hào)映射為DP-QPSK信號(hào)進(jìn)行恒模算法（CMA）均衡的原因。在載波頻偏估計(jì)環(huán)節(jié)，分析比較了DP-QDB信號(hào)載波頻偏估計(jì)的兩種不同實(shí)施方法。對(duì)DP-QDB信號(hào)運(yùn)用了基于4次方和快速傅里葉變換（FFT）的載波頻偏估計(jì)方法，并在此基礎(chǔ)上結(jié)合線性調(diào)頻Z 變換（CZT）進(jìn)行估計(jì)方法的改進(jìn)，當(dāng)CZT點(diǎn)數(shù)為1024時(shí)可使估計(jì)誤差下降1個(gè)數(shù)量級(jí)。
　　面對(duì)需要提供比特軟信息的應(yīng)用場(chǎng)合，DP

6、-QDB系統(tǒng)的比特檢測(cè)模塊有必要采用SISO檢測(cè)方法。傳統(tǒng)的最大值對(duì)數(shù)域最大后驗(yàn)概率（Max-Log-MAP）算法和軟輸出維特比算法（SOVA）被運(yùn)用于DP-QDB信號(hào)的SISO檢測(cè)中，同時(shí)又提出了一種新的適用于DP-QDB的SISO檢測(cè)方法——比特軟信息輸出置信傳播（BSO-BP）檢測(cè)。將三種SISO檢測(cè)方法置于無編碼和碼率為0.83的低密度奇偶校驗(yàn)碼（LDPC）編碼的32GBaud DP-QDB系統(tǒng)中，在30GHz信道間隔下進(jìn)行了仿

7、真對(duì)比分析。分析結(jié)果表明，雖然Max-Log-MAP檢測(cè)在三者中能取得最好的檢測(cè)效果，但BSO-BP檢測(cè)和SOVA檢測(cè)不像Max-Log-MAP檢測(cè)需要進(jìn)行初始狀態(tài)歸位過程。在LDPC編碼DP-QDB系統(tǒng)中，當(dāng)分塊長(zhǎng)度等于100時(shí)，采用BSO-BP檢測(cè)的檢測(cè)譯碼方案與采用SOVA檢測(cè)的檢測(cè)譯碼方案比較，在誤比特率等于10-5下對(duì)光信噪比（OSNR）的要求降低2.61dB。
　　更高階調(diào)制方式的應(yīng)用，可以進(jìn)一步提高超奈奎斯特WDM系

8、統(tǒng)的頻譜利用率。本文結(jié)合I類部分響應(yīng)脈沖整形技術(shù)和雙偏振十六進(jìn)制正交振幅調(diào)制（DP-16QAM），提出了一種新的適用于超奈奎斯特WDM系統(tǒng)的十六進(jìn)制調(diào)制方式——雙偏振正交雙四進(jìn)制（DP-QDQ）調(diào)制。文中具體介紹了DP-QDQ調(diào)制原理，理論推導(dǎo)了DP-QDQ信號(hào)頻譜，仿真分析了DP-QDQ調(diào)制的性能及其在超奈奎斯特WDM傳輸中的應(yīng)用表現(xiàn)。仿真結(jié)果表明，DP-QDQ可用于實(shí)現(xiàn)超奈奎斯特WDM傳輸，并且與奈奎斯特脈沖整形DP-16QAM相比