Der drahtlose Datenverkehr ist in den letzten Jahrzehnten dramatisch gestiegen und wird auch in Zukunft weiter zunehmen. Infolgedessen muss die Datenkapazität der drahtlosen Infrastruktur erhöht werden. Mehrantennen Systeme mit einer sehr großen Anzahl an Antennen (engl. Massive Multiple-Input Multiple-Output (MIMO)) sind vielversprechende Technologiekandidaten, um diese Nachfrage zu erfüllen. Durch die Hochskalierung der Antennenanzahl eines konventionellen MIMO um mehrere Größenordnungen kann ein Massive MIMO-System erhebliche Kanalfreiheitsgrade erlangen, um die spektrale Effizienz zu verbessern. Allerdings muss mit der Anzahl der \emph{aktiven} Antennen sowohl die Anzahl der Hochfrequenz (engl. Radio Frequency (RF)) Transceiver als auch die der Antennenelemente \emph{im gleichen Maße} vergrössert werden, was die RF-Komplexität und Kosten dramatisch erhöht. Dabei ist bekannt, dass die Komplexität und die Kosten von Antennenelementen in der Regel viel niedriger sind als die von RF-Transceivern. Dies führt uns dazu dass wir das MIMO-System um eine im Verhältnis zur Antennenzahl geringere Anzahl von RF-Transceivern erweitern wollen, den so genannten Massive MIMO-Systemen mit geringer RF-Komplexität. In dieser Arbeit untersuchen wir zwei Arten von Massive MIMO-Systemen mit geringer RF-Komplexität, nämlich Massive MIMO-Antennenselektionssysteme und Massive MIMO-Hybrid-Analog-Digital-Strahlformungssysteme. Beide Systeme verwenden spezielle RF-Netzwerke, um eine größere Anzahl von Antennen von einer kleineren Anzahl von RF-Transceivern zu versorgen, was zu einer Signalraumreduktion von den Antennen zu den RF-Transceivern führt. Das bei der Antennenselektions verwendete RF-Netzwerk wird als RF-Koppelfeld bezeichnet, während das RF-Netzwerk, das bei der Hybrid-Strahlformung verwendet wird, als Phasenverschiebungsnetzwerk (engl. Phase Shifting Network, PSN) bezeichnet wird. Beide RF-Netzwerke können als Voll-Array-Architektur oder als Sub-Array-Architektur realisiert werden. Letztere hat eine geringere Einfügedämpfung, eine geringere Komplexität und eine bessere Skalierbarkeit als die erstere, aber zum Preis der Leistungsverschlechterung, die durch eine eingeschränkung Anzahl von Antennen-Transceiver-Verbindungen verursacht wird. Die vorliegende Arbeit untersucht dies für beide Systeme mit niedriger RF-Komplexität. Darüber hinaus wird auch ein PSN mit niedriger RF-Komplexität für das Hybride-Analog-Digital- Strahlformungssystem untersucht, das das herkömmliche hochkomplexe und kostenintensive PSN ersetzen soll. Im Antennenselektionssystem werden die Obergrenzen der Kanalkapazität unter Verwendung der Asymptoten Theorie der Ordnungsstatistik im Grenzverhalten abgeleitet. Die optimalen Antennenselektions-Algorithmen, die auf dem Branch and Bound (BAB) Suchalgorithmus basieren, werden ebenfalls entwickelt. Die theoretischen und algorithmischen Untersuchungen zeigen, dass die Leistung der Sub-Array-Antennenauswahl dicht bei der der Voll-Array-Antennenselektions liegt. Im Hybrid-Strahlformungssystem schlagen wir vor, eine Rotman-Linse als PSN zu verwenden, die von geringerer Komplexität und Kosten ist als das herkömmliche auf Phasenverschiebung basierende PSN. Es werden zwei Strahlauswahlalgorithmen vorgeschlagen, eine suboptimale Greedy-Suche und eine optimale BAB-Suche. Darüber hinaus wird die Rotman-Linse entworfen, gefertigt und vermessen. Die Messergebnisse werden zusammen mit den Strahlselektionsalgorithmen zur Durchführung einer Monte-Carlo-Simulation verwendet. Simulationsergebnisse zeigen, dass das vorgeschlagene Rotman-Linsen-basierte System mit der Sub-Array-Architektur eine spürbare Leistungsverschlechterung im Vergleich zum System mit der Full-Array-Architektur erleidet, wenn ideale Rotman-Linsen verwendet werden. Aber wenn reale nicht-ideale Rotman-Linsen verwendet werden, übertrifft erstere die zweite, wenn die Anzahl der Antennen groß genug ist. Noch interessanter, mit nicht-idealer Hardware, zeigt das Sub-Array Rotman-Linsen-basierte System in etwa die gleiche Leistung wie das Sub-Array Phasenschieber-basierte System und weist auch Breitbandfähigkeiten auf. Um den Vorteil der Massive MIMO-Systeme mit geringer RF-Komplexität zu beweisen, werden zwei Testumgebungen für die Antennenauswahl- und Hybrid-Strahlformungssysteme aufgebaut. Die Messergebnisse zeigen, dass, unter der Bedingung einer gleichen Anzahl von RF-Transceivern, die Massive MIMO-Systeme mit geringer RF-Komplexität in der Leistung den normalen MIMO-Systemen überlegen sind. Die Ergebnisse meiner Arbeit zeigen, dass die von mir vorgeschlagenen Massive MIMO-Systeme mit geringer RF-Komplexität technisch machbar und vielversprechend in der Leistung sind und bestätigen damit deren potentielle Nutzung für die zukünftigen 5G-Funkkommunikationssysteme.