贝叶斯学习

贝叶斯学习

文章目录

  • 贝叶斯学习
    • 相关概率知识
    • 朴素贝叶斯
    • 多维正态密度贝叶斯

贝叶斯学习主要是依靠先验概率来推出后验概率,然后更具后验概率去验证。其主流分为朴素贝叶斯和高斯分布下的贝叶斯估计。

相关概率知识

**先验概率:**指根据以往经验和分析。在实验或采样前就可以得到的概率。

**后验概率:**指某件事已经发生,想要计算这件事发生的原因是由某个因素引起的概率。

**联合概率:**指是事件同时发生的概率,例如现在A,B两个事件同时发生的概率,记为P(A,B)、P(A∩B)、P(AB)。
若A、B事件相互独立,则存在
P ( A B ) = P ( A ) P ( B ) P(AB)=P(A)P(B) P(AB)=P(A)P(B)
条件概率:指一个事件发生后另一个事件发生的概率,一般情况下B表示某一个因素,A表示结果,P(A|B)表示在因素B的条件下A发生的概率,即由因求果,其计算公式如下:
P ( B ∣ A ) = P ( A B ) P ( A ) P(B|A)=\frac{P(AB)}{P(A)} P(BA)=P(A)P(AB)
若A、B事件相互独立,则存在
P ( B ∣ A ) = P ( A B ) P ( A ) = P ( A ) P ( B ) P ( A ) = P ( B ) P(B|A)=\frac{P(AB)}{P(A)}=\frac{P(A)P(B)}{P(A)}=P(B) P(BA)=P(A)P(AB)=P(A)P(A)P(B)=P(B)
全概率公式:
P ( A ) = ∑ i = 1 n P ( B i ) P ( A ∣ B i ) P(A)=\sum_{i=1}^nP(B_i)P(A|B_i) P(A)=i=1nP(Bi)P(ABi)
贝叶斯公式:
P ( B i ∣ A ) = P ( B i A ) P ( A ) = P ( A ∣ B i ) P ( B ) P ( A ) = P ( A ∣ B i ) P ( B ) ∑ i = 1 n P ( B i ) P ( A ∣ B i ) P(B_i|A)=\frac{P(B_iA)}{P(A)}=\frac{P(A|B_i)P(B)}{P(A)}=\frac{P(A|B_i)P(B)}{\sum_{i=1}^nP(B_i)P(A|B_i)} P(BiA)=P(A)P(BiA)=P(A)P(ABi)P(B)=i=1nP(Bi)P(ABi)P(ABi)P(B)

高斯分布:

若随机变量 X X X满足 X ∼ N ( μ , σ 2 ) X\sim N(\mu,\sigma^2) XN(μ,σ2),其中 μ \mu μ σ \sigma σ分别为均值与标准差
f ( x ) = 1 2 π σ e − ( x − μ ) 2 2 σ 2 f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}} f(x)=2π σ1e2σ2(xμ)2
标准差:
S = ∑ ( x i − x ‾ ) 2 m − 1 S=\sqrt{\frac{\sum (x_i-\overline{x})^2}{m-1}} S=m1(xix)2
协方差:
E = ∑ ( x i − x ‾ ) ( y i − y ‾ ) m − 1 E=\frac{\sum(x_i-\overline x)(y_i-\overline y)}{m-1} E=m1(xix)(yiy)
协方差矩阵:
[ E 11 E 12 ⋯ E 1 n E 21 E 22 ⋯ E 2 n ⋮ ⋮ ⋱ ⋮ E m 1 E m 2 ⋯ E m n ] \begin{bmatrix} E_{11}&E_{12}&{\cdots}&E_{1n}\\ E_{21}&E_{22}&{\cdots}&E_{2n}\\ {\vdots}&{\vdots}&{\ddots}&{\vdots}\\ E_{m1}&E_{m2}&{\cdots}&E_{mn}\\ \end{bmatrix} E11E21Em1E12E22Em2E1nE2nEmn

朴素贝叶斯

对于 x i x_i xi离散样本的情况下,其中 D c D_c Dc为对样本 c c c的数目统计:
P ( c ) = ∣ ∣ D c ∣ ∣ ∣ ∣ D ∣ ∣ P(c)=\frac{||D_c||}{||D||} P(c)=∣∣D∣∣∣∣Dc∣∣

P ( x i ∣ c ) = ∣ D x i , c ∣ ∣ D c ∣ P(x_{i}|c)=\frac{|D_{x_i,c}|}{|D_c|} P(xic)=DcDxi,c

对于 x i x_i xi为连续样本的情况下:
P ( x i ∣ c ) = 1 2 π σ c , j e − ( x i − μ c ; i ) 2 2 σ c , i 2 P(x_i|c)=\frac{1}{\sqrt{2\pi}\sigma_{c,j}}e^{-\frac{(x_i-\mu_{c;i})^2}{2\sigma_{c,i}^2}} P(xic)=2π σc,j1e2σc,i2(xiμc;i)2
在对于多特征的样本,朴素贝叶斯假设各个特征独立,即特征A与B满足
P ( A B ) = P ( A ) P ( B ) P(AB)=P(A)P(B) P(AB)=P(A)P(B)
其中 c c c为结果, x \pmb x x为特征
P ( c ∣ x ) = P ( c ) P ( x ∣ c ) P ( x ) ∝ P ( c ) P ( x ∣ c ) = P ( c ) Π i = 1 d P ( x i ∣ c ) P(c|\pmb x)=\frac{P(c)P(\pmb x|c)}{P(\pmb x)}\propto P(c)P(\pmb x|c)=P(c)\Pi_{i=1}^{d}P(x_i|c) P(cx)=P(x)P(c)P(xc)P(c)P(xc)=P(c)Πi=1dP(xic)
为了避免出现出现 P ( c ) = 0 P(c)=0 P(c)=0的情况,采用拉普拉斯平滑进行处理
P ( c ) = ∣ ∣ D c ∣ ∣ + 1 ∣ ∣ D ∣ ∣ + N N 为类别数 P(c)=\frac{||D_c||+1}{||D||+N} \ \ \ N为类别数 P(c)=∣∣D∣∣+N∣∣Dc∣∣+1   N为类别数

P ( x i ∣ c ) = ∣ ∣ D c , i ∣ ∣ + 1 ∣ ∣ D c ∣ ∣ + N i N i 为 x i 可能取的类别数 P(x_i |c)=\frac{||D_{c,i}||+1}{||D_c||+N_i} \ \ \ N_i为x_i可能取的类别数 P(xic)=∣∣Dc∣∣+Ni∣∣Dc,i∣∣+1   Nixi可能取的类别数

多维正态密度贝叶斯

多维正态分布的概率密度 N ∼ ( μ , Σ ) N\sim(\mu,\Sigma) N(μ,Σ) μ \mu μ Σ \Sigma Σ分别为正态分布的均值与协方差矩阵
P ( x ) = 1 ( 2 π ) d / 2 ∣ Σ ∣ e − 1 2 ( x − μ ) T Σ − 1 ( x − μ ) P(x)=\frac{1}{(2\pi)^{d/2}|\Sigma|}e^{-\frac{1}{2}(x-\mu)^T\Sigma^{-1}(x-\mu)} P(x)=(2π)d/2∣Σ∣1e21(xμ)TΣ1(xμ)
image-20230923221434176

image-20230923221527206

image-20230923221542285

image-20230923221557942

image-20230923221611946

image-20230923221627533

image-20230923221640652

image-20230923221652491

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/162318.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

hive排序

目录 order by (全局排序asc ,desc) sort by(reduce 内排序) Distribute by(分区排序) Cluster By(当 distribute by 和 sorts by 字段相同时 ,可以使用 ) order by (全局排序asc ,desc) INSERT OVERWRITE LOCAL DIRECTORY /home/test2 …

FastAdmin框架实现数据表的增删改查

目录 简介 增加数据 修改数据 控制器(controller)代码: 查询数据 控制器(controller)代码: 模型(model)代码: 删除数据 控制器(controller&#xff0…

【jvm】虚拟机栈之局部变量表

目录 一、说明二、代码分析2.1 代码示例2.2 执行javap2.3 jclasslib插件查看 三、对slot的理解3.1 说明3.2 slot索引图3.3 实例方法的局部变量表3.4 long和double类型变量占2个slot 四、slot的重复利用4.1 说明4.2 变量c复用变量b的槽位 五、静态变量与局部变量对比 一、说明 1…

细说雪花算法

文章目录 背景一、介绍二、结构三、数据库分表1.垂直分表2.水平分表(1)主键自增(2)取模(3)雪花算法(主角登场) 总结 背景 需要选择合适的方案去应对数据规模的增长,以应…

零信任身份管理平台,构建下一代网络安全体系

随着数字化时代的到来,网络安全已成为企业和组织面临的一项重要挑战。传统的网络安全方法已经无法满足不断演变的威胁和技术环境。近期,中国信息通信研究院(简称“中国信通院”)发布了《零信任发展研究报告( 2023 年&a…

通过okhttp调用SSE流式接口,并将消息返回给客户端

通过一个完整的java示例来演示如何通过okhttp来调用远程的sse流式接口 背景:我们有一个智能AI的聊天界面,需要调用三方厂商的大模型chat接口,返回答案(因为AI去理解并检索你的问题的时候这个是比较耗时的,这个时候客户…

超实用的Web兼容性测试经验总结,建议Mark

在日常工作中,我们经常碰到网页不兼容的问题。我们之所以要做兼容性测试,目的在于保证待测试项目在不同的操作系统平台上正常运行。 主要包括待测试项目能在同一操作系统平台的不同版本上正常运行;待测试项目能与相关的其他软件或系统的“和…

数据结构-----红黑树的删除操作

目录 前言 一、左旋和右旋 左旋(Left Rotation) 右旋(Right Rotation) 二、红黑树的查找 三、红黑树的删除 1.删除的是叶子节点 1.1删除节点颜色为红色 1.2删除节点颜色为黑色 1.2-1 要删除节点D为黑色,兄弟节…

创新与重塑,佛塑科技打造集团型 CRM 建设标杆

“十四五”时期是我国全面建成小康社会、实现第一个百年奋斗目标之后,乘势而上开启全面建设社会主义现代化国家新征程、向第二个百年奋斗目标进军的第一个五年。 在政府有序推进“十四五”规划的进程中,佛山佛塑科技集团股份有限公司(证券简…

uni-app--》基于小程序开发的电商平台项目实战(七)完结篇

🏍️作者简介:大家好,我是亦世凡华、渴望知识储备自己的一名在校大学生 🛵个人主页:亦世凡华、 🛺系列专栏:uni-app 🚲座右铭:人生亦可燃烧,亦可腐败&#xf…

LeetCode【17】电话号码的字母组合

题目: 思路: 参考:https://blog.csdn.net/weixin_46429290/article/details/121888154 和上一个题《子集》的思路一样,先画出树结构,看树的深度(遍历层级),树的宽度(横向…

【监督学习】基于合取子句进化算法(CCEA)和析取范式进化算法(DNFEA)解决分类问题(Matlab代码实现)

💥💥💞💞欢迎来到本博客❤️❤️💥💥 🏆博主优势:🌞🌞🌞博客内容尽量做到思维缜密,逻辑清晰,为了方便读者。 ⛳️座右铭&a…

AI机器视觉多场景应用迸发检测活力,引领食品及包装行业新发展

随着食品安全意识的广泛传播,人们对食品质量和安全的要求越来越高,众多食品包装厂商加速产线数智化转型,迫切需要高效、准确且智能化的检测技术。 在现代食品及包装行业的自动化生产中,涉及到各种各样的识别、检测、测量等环节&a…

用友GRP-U8 SQL注入漏洞复现

0x01 产品简介 用友GRP-U8R10行政事业财务管理软件是用友公司专注于国家电子政务事业,基于云计算技术所推出的新一代产品,是我国行政事业财务领域最专业的政府财务管理软件。 0x02 漏洞概述 用友GRP-U8的bx_historyDataCheck jsp、slbmbygr.jsp等接口存…

C++基础——内存分区模型

1 概述 C程序在执行是,将内存大致分为4个区域: 代码区:用于存放二进制代码,由操作系统进行管理全局区:存放全局变量和静态变量及常量栈区:由编译器自动分配释放,存放函数的参数、局部变量等堆…

React中的key有什么作用

一、是什么 首先&#xff0c;先给出react组件中进行列表渲染的一个示例&#xff1a; const data [{ id: 0, name: abc },{ id: 1, name: def },{ id: 2, name: ghi },{ id: 3, name: jkl } ];const ListItem (props) > {return <li>{props.name}</li>; };co…

Python中的循环语句Cycle学习

二、循环语句 1、什么是循环语句 一般编程语言都有循环语句,为什么呢? 那就问一下自己,我们弄程序是为了干什么? 那肯定是为了方便我们工作,优化我们的工作效率啊。 而计算机和人类不同,计算机不怕苦也不怕累,也不需要休息,可以一直做。 你要知道,计算机最擅长就…

FPR3346501R1012 数据科学与人工智能:主要区别

FPR3346501R1012 数据科学与人工智能:主要区别 当谈到数据科学和人工智能(人工智能)&#xff0c;你会经常发现两个技能路径之间有很多交集。人工智能有许多子集&#xff0c;比如机器学习和深度学习&#xff0c;以及数据科学利用这些技术来解释和分析数据&#xff0c;发现模式…

云上攻防-云原生篇KubernetesK8s安全APIKubelet未授权访问容器执行

文章目录 K8S集群架构解释K8S集群攻击点-重点API Server未授权访问&kubelet未授权访问复现k8s集群环境搭建1、攻击8080端口&#xff1a;API Server未授权访问2、攻击6443端口&#xff1a;API Server未授权访问3、攻击10250端口&#xff1a;kubelet未授权访问 K8S集群架构解…

让GPT回复图片的咒语

咒语如下&#xff1a; 帮我画一张图关于XXXXX,用3/8Markdown 写&#xff0c;不要有反斜钱,不要用代码块。使用Unsplash APl(https://source.unsplash.com/1280x720/?<PUT YOUR QUERY HERE >) Over! ​​​​​​​