第3章 通用的数据建模
3.1 本章建模
信息形式:高度迥异且模糊
可用统计形式的数据:雷达提供的数据
不可用统计形式的数据:
- 合成孔径雷达图像
- 自然语言表示
- 从信号中提取的特征
- 从知识库中抽取的规则
两种数据:状态估计和观测
四种类型的观测:
- 本源明确的精确观测(UGU)
- 本源明确的模糊观测(UGA)
- 本源模糊的模糊观测(AGA)
- 本源模糊的精确观测(AGU)
3.2 不确定性建模种的问题
多确定性的情况:
- 多目标引入的不确定性
- 虚警引入的不确定性
- 不可信而引入的不确定性
- 诱骗引入的不确定性
- 逃避动坐引入的不确定性
- 位置相关性引入的不确定性
不确定性:
- 数据本身的不确定性
- 生成过程种由随机性和知识局限性大致的各类不确定习性
由知识局限性引入的不确定性:
- 不精确性
- 模糊性
- 不确定性
- 偶然性(于规则相伴)
3.3 数据不确定性建模中的问题
观测表示:
-
普遍做法:欧氏空间
Rm中的矢量
z表示观测
-
实际:
z是一种数学抽象,表示显示世界中一些称作数据的实体。
z只不过是实际数据
D的模型而已,即
zD,似然函数的真正形式:
fk+1(D∣x)=fk+1(zD∣x)
观测:由信源(传感器、专家)发表的有关其观测内容的一种观点
综合数据建模的四个步骤:
- 创建可以表示自然界中单个观测的数学抽象
- 建模上述抽象过程中任何固有的模糊性
- 创建可以表示数据生成过程的随机变量
- 建模因对实际数据产生机理缺乏足够知识而引入的任何模糊性
3.4 例子
3.4.1 含有少量不精确性的随机观测
数字电压表:将电压离散为一系列区间并返回某个区间作为度数,由于噪声的存在,返回观测具有一定的随机性。即不确定性包含了不精确性和随机性。
非线性加性观测模型:
Z=ηk+1(x)+Wk+1
其中:
Wk+1为零均值的随机噪声矢量,其概率密度函数为
fWk+1(z)
似然函数
fWk+1(z−ηk+1(x))
令
z表示所得观测,从中起提出状态:
z−Wk+1=ηk+1(x)
令
Ez表示一
z为中心半径固定的一个极小封闭超球,其体积
∣Ez∣=ε。
精确的随机观测:
Z=ηk+1(x)+Wk+1
不精确的随机观测:
EZ=Eηk+1(x)+Wk+1
任何采集的已知观测
z仅限于某种精确范围,即
z∈EZ
定义随机闭子集:
ΘZ≜EZ−Wk+1
其表示了于
z有关的不确定习性(包含随机性和不确定性)。
fk+1(Θz∣x)≜Pr(z∈EX∣x)=Pr(ηk+1(x)∈ΘZ∣x)=Pr(Wk+1∈Ez−ηk+1(x))=∫EZ−ηk+1(x)fWk+1(ω)dω≈fWk+1(z−ηk+1(x))⋅ε=fk+1(z∣x)⋅ε
常规似然函数
fk+1(z∣x)看作不同类型观测模型下非常规似然函数
fk+1(ΘZ∣x)的极限情况,其据偶相同的后验概率密度分布。
广义似然函数:
fk+1(Θ∣x)≜Pr(ηk+1(x)∈Θ)
广义似然函数具有高度的非高斯和非线性特性。
3.4.2 含有少量随机的不精确观测
入宫观测故精确但非随机,其包含于中心为
z的某区域
Bz内
fk+1(Bz∣x)=Pr(ηk+1(x)∈Bz)=1Bz(ηk+1(x))
第4章 基于随机集的不确定表示
4.1 简介
- 随机集理论与专家系统理论的联系
- 介绍集中专家系统方法的随机集表示
4.2 论域、事件与事件逻辑
论域(辨识框架):令
U为一离散集或连续的无限集
-
U中的元素赋予可区分彼此的多种特征
- 特征是明晰的
- 任意特征:由
U中具有该特征的所有元素组成的子集唯一确定
- 特征与
U的子集(事件)一一对应
- 可使用普通集合论中的交、并、补操作来组合不同特征
- 所有事件(
U的子集)构成布尔代数
4.3 模糊集理论
论域
U上的一个模糊隶属度函数(模糊事件):在
[0,1]区间上取值的函数
f(u),
f(u)的值表示元素
u属于模糊集
f的隶属度。
- 对于某些
u∈U,f(u)=1,则
f是正常的
-
U的常规(清晰)子集
S:由示性函数
1S(u)表示
4.3.1 模糊逻辑
模糊逻辑:定义在模糊隶属函数上的三个操作组成
- 合取
f1∧f2
- 析取
f1∨f2
- 取余
fc
满足定律:
- 交换律
-
f1∧f2=f2∧f1
-
f1∨f2=f2∨f1
- 结合律
-
(f1∧f2)∧f3=f1∧(f2∧f3)
-
(f1∨f2)∨f3=f1∨(f2∨f3)
- 德.摩根定律
-
(f1∧f2)c=f1c∨f2c
-
(f1∨f2)c=f1c∧f2c
模糊逻辑类型
- 扎德逻辑(唯一满足分配律的模糊逻辑)
-
(f1∧f2)(u)≜min{f1(u),f2(u)}
-
(f1∨f2)(u)≜max{f1(u),f2(u)}
- 乘和逻辑
- 幂零逻辑
4.3.2 模糊事件的随机集表示
定义 令
Σ表示论域
U的随机子集,Goodman的点覆盖函数
μΣ定义为:
μΣ(u)≜Pr(u∈Σ)
- 论域
U上的一个模糊隶属函数:等于
Σ的所有包含
u的实例的概率之和。
定义 令
f(u)为一模糊隶属函数,
A为
[0,1]区间上均匀分布的随机数,则
f的同步随机集如下:
ΣA(f)≜{u∣A≤f(u)}
其中,
∀a∈[0,1],子集$\Sigma_a(f) \subseteq U
为f
的水平集,其中函数f
被a$定义的超平面剪切。
由于
A服从均匀分布
[0,1],因而
μΣA(f)(u)=Pr(u∈ΣA(f))=Pr(A≤f(u))=∫01Pr(A=a,a≤f(u)) da=∫01Pr(a≤f(u)∣A=a)⋅Pr(A=a) da=∫01Pr(a≤f(u)∣A=a)⋅1 da=f(u)
-
随机集
ΣA(f):如实封装了**模糊隶属函数
f中包含的信息,通过随机变量
A**附加了随机因素。
-
随机集
ΣA(f):实例依集合包含关系线性有序。
-
随机集
ΣA(f):表示的是一种确定性的观测,假设
ϕ是一个随机的模糊隶属度函数,其随机集模型为
ΣA(ϕ)
∀A=a,ϕ=f,
Σa(f)为
ΣA(ϕ)的一个可能的实例。
- 随机集的每个实例可视作模糊概念的一种解释
- 由随机数
A在各种可能的解释中进行选择
4.3.3 有限水平模糊集
f(u)的取值限定在有限个数值
0≤l1≤⋯<le≤1上时,得到一种有用的特例。
下图中随机集
ΣA(f)={u∣A≤f(u)}只存在有限个实例。令
Si≜{u∣li≤f(u)},i=1,⋯,e
- 对于
0≤a≤l1,有
Σa(f)=S1
- 对于
l1<a≤l2,有
Σa(f)=S2
- 对于
le−1<a≤1e,有
Σa(f)=Se
- 对于
le<a≤1,有
Σa(f)=∅
- 随机集
σA(f)仅存在有限个实例(离散的)
- 实例依集合包含关系线性有序,即
S1⊃⋯⊂Se(协调的)
由离散协调随机子集构造有限水平模糊隶属函数
- 令
Σ为
U中的一离散协调随机子集,对
i=1,⋯,e+1,Pr(Σ=Ti)=pi,而且
T1⊃⋯⊃Te⊃Te+1=∅,可构造一个与之唯一对应的有限水平模糊隶属函数,则
μΣ(u)=Pr(u∈Σ)=i=1∑e+1Pr(Σ=Ti,u∈Ti)=i=1∑e+1pi⋅1Ti(u)
对于
i=1,⋯,e+1,定义
wi=p1+⋯+pi,则
u∈Ti−Ti+1⇔uΣ(u)=wi
4.3.4 联项模糊逻辑
定义 令
A和
A‘区间上两个均匀分布的随机数,其联项可定义为:
a∧A,A′a′=Pr(A≤a,A′≤a′),0≤a,a′≤1
Sklar定理表明:存在
[0,1]在区间上均匀分布的随机数
A,A′,可是下列对所有的
x,x′成立:
P(x,x′)=P(x)∧A,A′P′(x′)
其中,单变量
x,x′的统计特性描述为累计分布
P(x),P′(x′)。
4.4 广义模糊集理论
广义模糊集理论为模糊集理论提供一个概率基础,令
I≜[0,1],定义
U∗=U×I
将**
U∗的任意子集称作广义模糊集**,其构成一个布尔代数。
如果
f(u)是
U的一个模糊隶属函数,下式定义一个广义模糊集:
Wf≜{(u,a)∣a≤f(u)}
每个广义模糊集可生成模糊隶属度函数(积分存在)
μW(u)≜∫011W(u,a) da
μWf(u)=∫1a≤f(u)(u,a) da=∫0f(u)da=f(u)
4.4.1 广义模糊事件的随机集表示
如果
A是
I上均匀分布的一随机数,
W⊆U∗表示广义模糊集,
U的随机子集
ΣA(W)定义为
ΣA(W)≜{u∣(u,A)∈W}
ΣA(W)追踪了一个多值函数的水平集。
4.5 Dempster-Shafer理论
基本质量赋值(b.m.a):定义在子集
u⊆U
-
除有限数目的子集(称作
m的焦元)外,其他所有子集
U,m(U)=0
-
∑Um(U)=1
-
m(∅)=0
-
解释
m(U):假设
U的置信度
-
假设
U=U:表示完全不确定(空假设)
基本概率赋值:由
U的有限个子集
U1,⋯,Ud组成,各自有非零质量
m1,⋯,md,且
m1+⋯+md=1,对于
i=1,⋯,d,m(Ui)=mi,若
U=Ui,则
m(U)=0。
信任函数
Belm(U)≜V⊆U∑m(V)
似真函数
Plm(U)≜1−Belm(Uc)=V∩U=∅∑m(V)
共性函数
Qm(U)≜V⊇U∑m(V)
4.5.1 Dempster组合
假定两个b.m.a相互独立(某种意义),采用以下对其进行融合:
(m1⊕m2)(U)(m1⊕m2)(∅)≜α−1U1∩U2=U∑m1(U1)⋅m2(U2)≜0
其中,一致性因子
α非零,组合
m1⊕m2才有意义,即:
α≜U1∩U2=∑m1(U1)⋅m2(U2)=0
融合可表示为一种类似贝叶斯规则的关系:
(m1⊕m2)({u})∝Lm1(u)⋅m2({u})
其中,
Lm1(u)≜∑U∋um1(U),以元素为主体改变表达式。
若
m1的焦集全是孤元集,则
(m1⊕m2)(u)∝m1(u)⋅m2(u)
如果将
m1和
m2视作后验概率分布,下式为贝叶斯规则的一种特殊情况 :贝叶斯平行组合
(P1⊕qP2)∝p1(u)⋅p2(u)⋅q(u)−1
其中:
p1(u)和
p2(u)为条件独立的两个后验分布,它们具有共同的先验分布
q(u),且先验分布
q(u)服从均匀分布。
4.5.1.1 未归一化Dempster组合
未归一化组合:
(m1∩m2)(U)≜U1∩U2=U∑m1(U1)⋅m2(U2)
称作广义基本概率赋值(广义b.m.a)。
4.5.1.2 修正的Dempster组合
目的:解决非均匀先验下Dempster规则失效问题
修正的Dempster组合:
(m1⊕m2)(U)≜α−1⋅U1∩U2=U∑m1(U1)⋅m2(U2)⋅αq(U1,U2)
修正的一致性因子不为零:
α≜U1,U2∑m1(U1)⋅m2(U2)⋅q(U1)⋅q(U2)q(U1∩U2)
其中
q(U)≜∑u∈Uq(u)
如果
m1和
m2的焦集全为孤元集则:
(m1⊕m2)(u)∝m1(u)⋅m2(u)⋅q(u)−1
4.5.4 不确定事件的随机集表示
定义
U的随机子集
Σm:
Pr(Σm=U)=m(U)
则**
Σm为
m的随机集表示**。
信任函数、似真函数和共性函数依概率重新定义为:
Belm(U)Plm(U)Qm(U)=Pr(Σm⊆U)=Pr(Σm∩U=∅)=Pr(Σm⊇U)
如果
Σm1和
Σm2统计独立,且
Pr(Σm1∩Σm2=∅),则Dempster规则的概率解释为:
(m1⊕m2)=Pr(Σm1∩Σm2=U∣Σm1∩Σm2=∅)
4.6 模糊Dempster-Shafer理论
- 对模糊集的隶属函数进行质量赋值,将普通b.m.a推广到模糊b.m.a。
- 一个模糊b.m.a:是定义在论域
U上的隶属度函数
f上的非负函数,满足:
- 除了有限数目的的
f外,对其他所有
f,有
m(f)=0
-
∑fm(f)=1
-
m(∅)=0
- 一个模糊b.m.a:由
U的有限个模糊隶属度函数
f1,⋯,fd组成,它们各自赋予非零质量
m1,⋯,m2,且
m1+⋯+md=1
4.6.1 模糊DS证据的随机集表示
- 令
f1⋯,fe为一系列系列模糊隶属函数,它们的权值为
oi=o(fi)>0
- 用广义模糊函数集
Wf={(u,a)∣a≤f(u)}表示模糊隶属函数
f
- 表示模糊DS证据
o
- 将区间
I=[0,1]划分为
e长度分别为
o1,⋯,oe的子区间
I1,⋯,Ie
- 压缩集合
Wfi,直到其正好包含于
U×Ii,得到一个克表示
fi的广义模糊子集
Wi,且不同的
Wi是互斥的
4.7 推理规则
4.7.1 规则的概念
基于规则的推理
- 根据假言推理(逻辑法则)
- 过程:在观测到前提事件
X后,从知识库中凑趣合适的规则
X→S;然后触发该规则并推断出结果事件
S以及
S∩X
清晰规则
X→S="如果X,则由、有S"
(X1→S1)或(X2→S2)
(X1→S1)→(X2→S2)
模糊规则:与清晰规则相同形式,只是其前提和结果都是模糊隶属度函数
第5章 UGA观测
5.1 本章简介
广义观测的形式化贝叶斯建模
本源明确的模糊观测
- 观测建模本身包含模糊性
- 观测和目标状态的关系用精确的传感器转换模型描述
例子
- 操作员从合成孔径雷达图像中提取轮胎数
n的特征
- 目标类型
v与其轮胎数
n的关系
n=η(v)先验已知
- 假设
n可能的取值为
n=1,⋯,8,广义观测
Θ为集合
ℑ0={1,⋯,8}的随机子集
- 广义观测模型
η(v)∈Θ表示数据模型
Θ与特征
η(v)间的匹配关系
- 广义似然函数
f(Θ∣v)=Pr(v∈Θ)对广义观测模型的度量
5.1.1 符号表示
目的:让结论同时适用于连续空间和有限空间
目标状态空间:欧氏空间
RN和有限集
C的笛卡尔积
RN×C,其积分如下
∫Sf(x)dx≜c∑∫1S(u,c)⋅f(u,c)du
基本观测空间:欧氏空间
RM和有限集
D的笛卡尔积
RM×D,其积分如下
∫Tg(z)dz≜e∑∫1T(v,e)⋅g(v,e)dv
实际观测空间:基本观测空间的所有随机闭子集构成的集合系。
当前时刻的广义似然函数:
f(Θ∣x)≜fk+1(Θ∣x)
5.2 UGA观测的概念
- 构造有关观测内容的某种解释或观点:由知识局限性引入的任何不确定性
5.2.1 UGA观测建模
- 精确的确定性矢量观测
z(最简单的观测)
- 随机矢量观测
Z(对
z随机化)
- 非精确观测(非统计性模糊性)
- 数据源不能确定
z的精确值,只能确定其属于某个观测集
O,集合
O才是正确的观测量
- 随机非精确观测:对
O做随机化,比如给位置、尺度等变量加入随机性
- 模糊观测:考虑单约束
O可能引起的错误,数据源可指定一系列嵌套集合
O0⊂O1⊂⋯Oe作为备择约束,每个约束的置信度为
oi≥0,且
o1+⋯+oe=1。约束及其置信度权值构成实际的观测。
- 模糊:嵌套集合约束的规范
- DS意义下的不确定性:视作模糊概念的推广,各个假设分量间无需再满足嵌套关系
- 对 有限个子集
O,
Pr(Θ=0)=o(O)
- 随机不确定性观测:随机化所有参数
5.2.2 观测生成过程的建模
z=η(x)≜ηk+1(x)
定义 称模糊观测
Θ 与数据生成模型
η(x)是相合的:
η(x)∈Θ
5.3 UGA观测的似然函数
定义 广义观测
Θ的广义似然函数:
f(Θ∣x)≜Pr(η(x)∈Θ)
第6章 AGA观测
6.1 本章简介
- 观测建模本身包含模糊性(涉及操作员的解释过程)
- 观测方程
η(x)本身也是模糊的(很难精确描述,无法用函数关系明确定义)
6.2 AGA观测的定义
对
η(x)的已知信息只局限于某种约束
η(x)∈H0,x,
η(x)的取值为集合,即
η(x)=H0,x,有时需要指定一系列嵌套约束
H0,x⊂H1,x⊂⋯⊂He,x,其中
Hi,x是正确约束的概率为
ηi,x
定义
η(x)=Σx:
Pr(Σ=Hi,x)=ηi,x,
Σx可以是任意随机闭子集。
6.3 AGA观测的似然函数
表示观测
Θ和广义模型
η(x)=Σx的匹配关系
f(Θ∣x)=Pr(Σx∈Θ)
当
Σx 的模糊程度较大,回出现性能的不稳健情况,使用松弛模型:
f(Θ∣x)≜Pr(Θ∩Σx=∅)
- 广义观测
Θ和广义模型
Σx 只要不完全矛盾,二者就可相互匹配。
6.3.1 情景一:
Θ和
Σx均为模糊型
假定:传感器变换模型合观测均是模糊的
ΣxΘg=ΣA(η(x))=ΣA(g)
其中:
A为
[0,1]区间上均匀分布的随机数。
定义
g的广义似然
f(g∣x)为
f(g∣x)f(g∣x)≜Pr(Θg∩Σx=∅)=zsupmin{g(x),ηx(z)}
6.3.2 情景二:
Θ合
Σx均为广义模糊型
假设:传感器变换模型合观测均为广义模糊
ΣxΣW=ΣA(Wx)=ΣA(W)
定义
g的广义似然
f(g∣x)为
f(W∣x)f(W∣x)≜Pr(ΘW∩Σx=∅)=zsup∫011W(z,a)⋅1Wx(z,a)da
6.3.3 特例三:
Θ和
Σx均为DS型
假设:
-
o(O)为DS型观测
-
σx(O)为目标状态为
x的条件下与观测生成过程有关的模糊型
-
Θo为
o的随机集表示
-
Σx为
σx的随机集表示
o的广义似然
f(o∣x)≜Pr(Θ0∩Σx=∅)=O,O′∑Pr(Θo=O,Θx=O′,O∩O′=∅)=O∩O′=∅∑Pr(Θo=O)⋅Pr(Θx=O′)=O∩O′=∅∑o(O)⋅σx(O′)=αDS(o,σx)
6.3.4 特例四:
Θ和
Σx均为模糊Ds型
假设:
-
o(g) 为模糊DS观测
-
σx(g) 为慕白哦状态
x的条件下与观测生成过程有关的模糊性
-
Θo=ΣA(Wo) 为
o的随机集模型
-
Σx=ΣA‘(Wσx) 为
σx 的随机集模型
o的广义似然
f(o∣x)≜Pr(Θo∩Σx=∅)=αFDS(o,σx)
其中,
αo,o‘ 表示两个模糊b.m.a的一致性