1、MIMO技術，在不提高發(fā)射功率和不增加頻譜帶寬的前提下，提高了系統的容量和頻譜效率。中繼技術由于能夠延伸通信距離，克服陰影衰落，而被引入到第四代移動通信系統中。把天線選擇技術融合到MIMO中繼系統中，在達到極高的通信速率和通信質量的同時，有著復雜度低和實現成本低的優(yōu)點。雙向中繼是一項比較有應用前景的技術，而物理層網絡編碼和模擬網絡編碼作為雙向中繼中比較重要的兩種技術，由于頻率利用率高的優(yōu)勢，在學術界受到了廣泛的關注。由于無線通信傳輸的廣

2、播特性，使得信號容易被竊聽，物理層安全通信成為了近來年研究的熱點。本文重點研究了在雙向MIMO中繼系統中，基于物理層網絡編碼的天線選擇方案設計和模擬網絡編碼的天線選擇算法設計，以及在MIMO中繼系統中基于安全速率的天線選擇算法設計。
　　首先，本文考慮雙向中繼物理層網絡編碼系統，系統引入了基于最小鄰居成簇算法的物理層網絡編碼，并在此編碼方式基礎上，以優(yōu)化系統誤比特率(BER)為目標，通過理論分析，提出了一種基于多址接入階段(MA)

3、和廣播階段(BC)星座點最小距離的網絡編碼-天線選擇聯合設計方案。仿真結果表明，相比于單獨的網絡編碼方案和天線選擇方案，該聯合設計方案能顯著降低系統的誤比特率(BER)。
　　其次，相比于物理層網絡編碼，模擬網絡編碼有易于進行理論推導及實現的優(yōu)點，本文又考慮了雙向中繼模擬網絡編碼系統，同樣以優(yōu)化系統誤比特率(BER)為目標，提出了一種低復雜度的均方誤差最小化天線選擇算法。該算法考慮雙向中繼模擬網絡編碼系統中源節(jié)點既是發(fā)送端又是接收

4、端的特性，同時考慮了中繼節(jié)點接收和發(fā)送天線可以不同的情況，根據系統均方誤差(MSE)的閉式表達式，推導得出簡化表達式，并根據簡化表達式逐步選取均方誤差最小的接收-發(fā)送天線對。仿真結果表明，在不同的天線數量及功率約束條件下，該算法與已有算法相比，在系統均方誤差(MSE)和誤比特率(BER)方面能夠獲得更好的性能表現。
　　最后，本文考慮無線中繼網絡中物理層安全通信的問題，基于MIMO中繼系統，提出了一種低復雜度的安全速率最大化的天線