Iterative joint source-channel coding techniques for single and multiterminal sources in communication networks

Resumen

En cualquier sistema de comunicación la compresión de la información generada por las fuentes de datos a su mínima expresión resulta de gran interés a la hora de reducir la potencia de transmisión necesaria para comunicaciones fiables. A menudo la redundancia de dichas fuentes se halla en la dependencia probabilística entre símbolos de fuente consecutivos. Estas fuentes son comúnmente denominadas fuentes únicas o multiterminales con memoria siendo dicha memoria, en el caso multiterminal, la correlación temporal entre vectores de símbolos fuente consecutivamente generados. Es bien sabido que, cuando la fuente tiene memoria, la cantidad media de información por símbolo de fuente viene dada por la tasa de entropía, menor que la entropía por símbolo de fuente. En este contexto, en un sistema de comunicación es posible reducir la potencia necesaria para alcanzar una determinada probabilidad de error si la memoria de la fuente se explota en el proceso de detección, i.e. se explota la tasa de entropía en lugar de la entropía por símbolo de fuente. Esta Tesis se centra en el diseño de esquemas iterativos de codificación y decodificación para la transmisión de fuentes con memoria a través de canales ruidosos puto a punto y MIMO. A tal propósito, la Tesis se divide en dos partes correlacionadas: -La primera parte se concentra en la transmisión punto a punto de fuentes únicas con memoria. El procedimiento tradicional para abordar este problema se basa en el Teorema de Separación, implementado la codificación de fuente y la de canal separadamente. Cuando la complejidad es infinita, no hay pérdida de rendimiento en comparación con técnicas conjuntas de codificación. Sin embargo, cuando la complejidad es limitada esta separación deja de ser óptima. Los esquemas clásicos de codificación conjunta para fuentes con memoria consisten en incorporar el modelo estadístico de la fuente al proceso de decodificación, dependiendo la complejidad del decodidificador de las características de la fuente. Esta primera parte muestra gue el preprocesamiento de la fuente mediante la transformada bwt supone un método universal y alternativo para explotar la memoria de la fuente tanto en codificación de fuente como de canal. Concretamente para este último caso, se presenta un sistema novedoso de modulación controlada por fuente en el que la energía asignada a los símbolos de la constelación está controlada por los estadísticos de primer orden a la salida de la bwt. - La segunda parte se centra en la transmisión de fuentes mul ti terminal es con memoria a través de redes mul ti usuari o. En primer lugar se aborda el canal de difusión gaussiano, donde cada componente del vector generado por la fuente se envía a su correspondiente receptor mediante una única señal transmitida. Varias estrategias de codificación son analizadas, y se propone un esquema práctico de superposición para fuentes mul ti terminal es con memoria. Esta parte de la Tesis también considera la transmisión de fuentes multiterminal es a través de canales de múltiple acceso, con especial énfasis en el diseño de receptores iterativos mediante grafos de factores. Asumiendo selectividad frecuencial en el canal, se proponen esquemas de codificación conjunta fuente-canal que llevan a cabo ecualización, decodificación y explotación de la memoria de manera iterativa. Los resultados de simulación muestran que el desempeño de los sistemas propuestos se acercan a los límites derivados asumiendo separación. En resumen, el objetivo de esta Tesis es diseñar esquemas de comunicación adecuados para fuentes con memoria que logran reducir la potencia de transmisión necesaria para un cierto nivel de rendimiento y complejidad. in a communication system it results undoubtedly of great interest to compress the information generated by the data sources to its most elementary representation, so that the amount of power necessary for rel iable communication can be reduced. it is often the case that the redundancy shown by a variety of data sources can be modelled by taking into account the probabilistic dependance among consecutively source symbols rather than the probabilistic distribution of a single symbol. These sources are commonly referred to as single or multiterminal sources with memory being the memory, in this latter case, the existing temporal correlation among the consecutive symbol vectors generated by the multiterminal source. when the source has memory, the average amount of information per source symbol is given by the entropy rate, which is lower than its entropy per single letter. in this context, given a coded or uncoded communication system, one can decrease the power requi red to achieve a certain probability of error by taking into account this memory in the detection process, i.e. by exploiting the entropy rate rather than the entropy per single letter of the source. This Thesis investigates the design of iterative encoding and decoding schemes for the transmission of single and multiterminal sources with memory through noisy point to point and Múltiple input Múltiple Output channels. To that end, the dissertation is divided in two different (but closely related) parts: - The first part concentrates on the point to point transmission of single sources with memory. The classical way to tackle this problem is based on the Separation Theorem, by first implementing source compression and then channel coding. Assuming infinite complexity, no loss in performance is incurred when compared to joint source-channel coding techniques. However, when the complexity is an issue this separation is no longer optimal. To alleviate this lost in performance, classical joint source channel coding schemes exploit the memory of the source by attaching its statistical structure to the decoding process, Thus, the complexity of the decoder depends strongly on the source characteristics in order to relax the complexity of the decoder, we show that preprocessing the source before the encoder by a data sorting algorithm is a universal method to exploit the correlation without relying on the source parameters. We investígate the application of the Burrows Wheeler Transform to both source and channel coding. For this latter case, we present a novel source controlled binary modulation scheme that adapts the allocated energy according to the distribution of the binary symbols at the bwt output - The second part focuses on the transmission of multiterminal sources with memory through multiuser communication networks. we first deal with the gaussian broadcast channel, where each component of the multiterminal source output vector is sent to the corresponding receiver by using a single transmit signal. To that purpose, severa! encoding strategies are studied, and a practical superposition scheme for correlated multiterminal sources is proposed. The exploitation of the memory in correlated multiterminal sources when being sent through múltiple access channels is also covered, with emphasis on designing iterative receivers by means of factor qraphs. we consider frequency selective channels and propose joint source-channel coding schemes that iteratively perform equalization, decoding and memory exploitation. Two different equalizers and a correlation estimation method are also proposed. Simulation results show that the performance of the derived schemes is close to the Separation-based limits. Summarizing these contributions, the goal of this dissertation is to design communication schemes that take into account the memory of single or multiterminal sources to reduce the transmit power requi red for a certain level of performance and compl