Hugo+Git博客搭建(一)
信息论
两篇论文《A mathematical theory of communication》采用概率论研究通信问题。(随机信号引入分析)
《A symbolic analysis of relay and switching circuits》[1]中将布尔代数应用于电子领域,能够构建并解决任何逻辑和数值关系
1.香农三大定理
信道容量定理(传输速率上限)$R_{max}=Blog_{2}{(1+\frac{S}{N})}$
-
香农第一定理(可变长无失真信源编码)
应用:数字视频技术的香农-凡诺、Huffman、游程RLE(run length encoding)、LZW、算术编码(分段)等。
原理:离散无记忆信源$X$包含$N$个符号,发出K重符号序列,可发出N^k个序列消息,设第i个序列概率为$P_{k_{i}}$,且其编码后码长度为B_i,则平均长度$B=ΣP_{ki}B_i$。有$B=KH(X)(k趋于∞)$只要让码字尽量服从等概率分布。必须是一对一、可逆的无失真编码。
-
香农第二定律(有噪声信道编码)
内容:有噪信道编码定理。当信道的信息传输率R不超过信道容量C时,采用合适的信道编码方法可以实现任意高的传输可靠性,但若信息传输率超过了信道容量,就不可能实现可靠的传输。即通过信道编码可以实现无失真传输
证明:
-
香农第三定律(限失真信源编码)
内容:在允许一定失真程度下,利用尽可能少的码表达信源(主要应用于连续信源)。编码器并非一对一、可逆。
证明:定义失真函数D
2.信源建模与编码
常常考虑平稳信源,即统计特性与时间无关。
无记忆信源:随机变量间统计独立。
-
离散单符号信源
-
无记忆
-
有记忆:马尔可夫信源,必须引入条件熵
-
采用信息熵表示信源的不确定性
-
-
离散多符号信源(发出随机矢量)
-
无记忆
-
有记忆+平稳,只与前m个随机变量有关(马尔可夫信源)
-
对于平稳序列$X=X_1X_2…X_N$,采用熵率(联合平均熵)表示$H_N(X)=\frac{1}{N}H(X_1X_2…X_N)$
-
-
离散无记忆平稳信源
- 发出随机信号序列$ X=X_1X_2….X_N $,每个随机变量间相互统计独立,由于平稳(统计特性不随时间改变)其统计特性相同,称为N次扩展信源,其熵率为H(X)。
-
几个指标
-
自信息量:事件发生得到的信息量(推广到联合自信息量、条件自信息量)
-
熵:事件的不确定度(信源的平均信息量),推广到联合熵、条件熵
-
互信息量I(X;Y):从Y中得到的X的信息量。且I(X;Y)为先验概率的上凸函数。
-
-
信源编码:(通过信源编码减少bit,在$T_B$下使得信息传输速率增大,传输更多bit)
-
提高传输有效性$\eta=\frac{R_b}{B}$
-
信源编码:及时可译码必须满足Kraft不等式
- 香农码、菲诺码、哈夫曼编码
-
3.信道建模与编码
几种信道介绍
-
二进制对称信道BSC
如果信道噪声和其它干扰导致传输对输出的二进制序列发生统计独立的差错,且条件概率对称。
-
二进制删除信道
-
离散无记忆信道DMC
-
无损、无噪
-
离散对称信道:行对称:每一行元素都是第一行的排列(推广到列)
-
准对称:可以划分为离散对称信道
-
信道编码(有噪声信道编码):
- 提高信息传输可靠性
通信原理
消息是物理形式、信息是有效内容、信号是物理载体
-
通信系统指标
-
模拟通信系统:有效性:带宽。可靠性:信噪比
-
数字通信系统:有效性:传码率、传信率、频带利用率。可靠性:误码率、误信率
-
-
随机过程问题
-
确知信号:引入功率信号、能量信号、自相关函数。功率信号的R(0)为平均功率
-
随机过程:利用功率谱(对所有样本的功率谱平均),且自相关函数与功率谱是一对傅里叶变换。(维纳-辛钦定理)
-
-
常见随机过程
-
窄带随机过程:由于很多通信系统都是窄带模型,噪声通过变成窄带噪声$\xi(t)=a_{\xi}(t)cos(w_ct+\varphi_{\xi}(t))$
-
正弦波信号+窄带高斯噪声
- 相位与包络分析
-
高斯白噪声
-
-
信道问题
-
传播方式、无失真传输
-
恒参信道:线性失真:码间串扰、波形畸变。非线性:谐波失真
-
随参信道:多径效应(衰减和时延)、
-
-
模拟调制
- 性能比较
-
解调方式
- 非相干解调(非线性):包络检波:AM;鉴频器(转换频率为电压):宽带/窄带调频{限幅器为了消除信道中的噪声引起的幅度起伏}
-
相干解调(线性):线性调制,窄带调频
-
门限效应(非线性解调:包络检波):输入信噪比小时,输出信噪比急剧下降。可增加预加重(抑制高频噪声)和去加重(提升高频),降低门限值
-
卡森公式:宽带调频带宽$B=2(\Delta{f}+f_m)$
-
数字基带
-
码间串扰
-
码间串扰是由于系统传输总特性不理想,导致前后码元的波形畸变、展宽,并使前面波形出现很长的拖尾,蔓延到当前码元的抽样时刻上,从而对当前码元的判决造成干扰。
-
奈奎斯特带宽B=$\frac{1}{2T_B}$,无码间串扰的最高传输速率$R_B=2f_N$波特
-
-
眼图
-
噪声:张开程度
-
斜率:对位置定时误差敏感(采样时刻的严格要求);位定时分量与直流分量
-
-
部分响应
- 提高频带利用率,使得尾部衰减加快
-
时域均衡(均衡器)
- 减少码间串扰的干扰
-
-
数字带通
-
ASK:相干解调、包络检波
-
FSK:相干解调(分两路解调+抽样判决)、包络检波(两路)
-
PSK/DPSK:前者只有相干解调,后者有非相干解调+码反变换器。
-
可靠性:
带宽为$\frac{2}{T_s}$,当输入信噪比一致,采用相干解调:Pe更小2PSK、2DPSK、2FSK、2ASK
-
有效性:FSK的带宽最大,有效性最差
-
多进制MSK:当传输速率Rb一定,增加进制数,降低RB,从而减小带宽B。提高频带利用率;误码率增大
-
随机过程
统计学问题
-
随机过程模型:$样本函数X(t,ɳ_k)=x_k(t),则[{x_2(t),x_2(t)…x_k(t)}]构成随机过程样本函数空间。$当时间为$t_i$,此时为状态。$X(t_i,ɳ)为随机过程状态$
-
随机过程统计特性:
-
模型:对随机过程采用X(t)采样描述,即$[X(t_1),X(t_2)…X(t_n)]$近似描述。
-
数字特征:其数字特征是针对x而言的,即固定时刻t,X(t)为一个随机变量,其期望E(X(t))仍为随机变量。
-
严平稳随机过程:对于任意n个时刻构成n维随机变量$F=[X(t_1),X(t_2)…X(t_n)]$,其概率密度不随时间平移而改变,有随机过程的统计特性与时间无关。为严平稳随机过程
-
宽平稳随机过程:均值与时间无关、自相关函数至于时间宽度有关。
-
各态历经:一次样本的时间平均等于随机过程统计的平均,用一次实验代替整个随机过程。
-
自相关函数(用来描述平稳随机过程):$R=E[\xi(t)\xi(t+\tau)]$,且R(0)为平均功率$R(∞)为直流功率$
-
-
高斯过程、瑞利过程、马尔可夫过程等
项目介绍
树莓派的智能垃圾分类
中文:
-
stm32模块:利用32裸机开发,控制舵机、光电、
-
树莓派:与32进行串口通信、部署Resnet网络模型、控制摄像头拍照。
-
PC端:数据集制作、网络模型的训练、网络模型导出与部署。
-
硬件:使用3Dmax制作模型,激光切割和3D打印机。
树莓派:
-
串口通信:通过python seriel库控制引脚实现串口,串口1发送垃圾类别,串口2接收满载信息(10ms轮询).
-
拍照控制(模板):判断白板
-
opencv显示识别的结果
数据集制作:制作10种垃圾,共四类:可回收,厨余垃圾,有害,其他
3Dmax:制作硬件
英文:
It is a vision-based rubbish classification system. it can automatically take photo of the rubbish and regonize the type of the rubbish .Then it dropp the rubbish into the recyclable/food wastes bins
项目-交通限速标志识别
中文:
-
负责交通路标图像预处理、图像分割,
-
负责图像HOG特征提取、PCA进行特征降维,
-
负责构建SVM组合分类器对图像进行分类,
HOG特征:梯度直方图(特征较大)
SVM:
-
Fisher线性判别
-
感知器:全令-为正值,则理应全为正,然后最小化错分样本(小于0的)
-
SVM(求超平面=权重w+偏置b):
-
对于可分的数据,定义在特征空间的几何间隔最大的线性分类器。凸优化问题+对偶问题+KKT条件求解.得到超平面+判决函数
-
对于存在奇异点:加入松弛变量$\xi_i$,对优化值也加入惩罚项
-
非线性可分SVM:利用核函数映射到高维再SVM
-
-
VC维数
PCA\线性判别分析LDA\K-L:从冗余特征中提取主要成分:求一个变换矩阵W
-
PCA生成矩阵为协方差矩阵
-
LDA:为$将{S_w}^{ - 1}S_{b}特征值从小排到大,取前m个较大值,使得J_{1}(W)取最大值,此时,这m个特征值的特征向量构成变换矩阵W^*$
-
K-L为非归一化的方差矩阵
区别:
特征选择:从一组特征选择有效的
特征提取:对特征降维
This is a vision-based traffic speed limit sign recognition. You take a picture and he can recognize the speed limit number.
毕设-基于空中计算的优化。
空中计算
多普勒效应:源移动与频率变化问题
信道衰落问题,信道不理想