Mobile-Former: Bridging MobileNet and Transformer论文简述

        本文的核心思想,就是将mobilenet与transformer结合起来,通过mobilenet提取局部特征,transformer来提取全局特征。比较突出的是,本文采用了一种全新的并行结构,而不是之前的将cnn模型穿插在VIT中的方法,并且通过bridge,将全局与局部特征进行融合。结构如图所示:

                

         mobilenett以图像为输入堆叠mobile block(或inverted bottleneck)。它利用高效的depthwise和pointwise卷积来提取像素级的局部特征。transformer以一些可学习的token作为输入,与传统的VIT不同,这里的输入包含非常少的随机初始化的token(例如少于6个token),来降低计算成本。叠加multi-head attention和前馈网络(FFN)。这些token用于对图像的全局特征进行编码。

        可以看到,在准确率相近的模型中,Mobile-Former模型有相比小的计算量

        模型的内部结构如图:

 

        可以看到对于mobilnet->former模块来说,输入为原输入与局部特征融合做attention,计算公式如图:

        而对于former->mobilnet模块来说,输入为原输入与全局特征融合做attention,计算公式如图:

        同时,作者还最后,还从三个方面介绍了改方法的可解释性,这里就不多介绍。

        如有错误,欢迎批评指正!

        

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/26616.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【移动通信】 01-移动通信概论

移动通信概论 1G1.用户接入方式2.收发机的工作方式3.蜂窝技术4.移动通信系统基本结构 2G1.GSM系统打电话2.扩频3.m序列 2.5G3G4G 1G 1.用户接入方式 ​ FDMA(频分复用):分割频段给用户且有间隔 ​ TDMA(时分复用)&am…

MobileNet系列论文

传统CNN,内存需求量大、运算量大,导致无法在移动设备以及嵌入式设备上运行。MobileNet是Google团队在2017年提出,专注于移动端或者嵌入式设备中的轻量级CNN网络。相比于传统的CNN,在准确率下幅度下降的前提下大大减少了模型参数与…

订单助手,拼多多,淘宝或者自定义商城,自动下单发货,无人值守店铺

之前做的小工具软件,拿出来赚钱生活费 无人值守商城店铺订单管理功能: 1、拼多多,淘宝等商城店铺客户下订单后,自动获取未发货订单,去第三方平台商城下单 2、第三方商城发货后,自动把发货物流数据同步过…

chatgpt赋能python:Python自动发货:将你的电商店铺做到极致!

Python自动发货:将你的电商店铺做到极致! 随着电商市场的不断发展,电商平台越来越多,对于卖家而言,如何快速而又高效地管理订单和处理发货成为了一个重要的课题。传统的手动发货方式无疑是低效的,费时费力…

淘宝自动发货助手插旗API接口,实现订单插旗颜色标注,自动发货接口

淘宝自动发货助手插旗API接口,实现订单插旗颜色标注,自动发货接口

chatgpt赋能python:Python如何实现画笔的隐藏

Python如何实现画笔的隐藏 作为一种高级编程语言,Python在各个领域中都有着广泛的应用。在图像处理领域中,Python也能够胜任绝大多数的工作。今天我们来讨论一下Python如何实现画笔的隐藏。 什么是画笔的隐藏 在图像处理中,画笔是用来绘制…

携程2023算法开发岗 一面 二面 面经

专栏分享:计算机小伙伴秋招春招找工作的面试经验和面试的详情知识点 专栏首页:软件测试开发类面经合集 主要分享:测试开发类岗位在面试互联网公司时候一些真实的经验 面试code学习参考请看:数据结构面试必刷100题 一面 40min 1. 自我介绍 2. 职业规划 3. 项目介绍(Webserv…

【JavaMailWeb】用户注册通过邮箱激活案例

转载请注明出处: http://blog.csdn.net/qq_26525215 本文源自【大学之旅_谙忆的博客】 前面刚刚学习了JavaMail技术,现在来应用到项目中试试~ 网站用户注册: 主要实现如下两个功能: 1、用户在网站上注册完成后给用户发一封邮件。 2、用户通过邮件激活…

谷歌邮箱SMTP小白教程

废话不多说! 谷歌邮箱地址:https://www.google.com/intl/zh-CN_cn/gmail/about/ 注册后,第一步 打开IMAP,查看所有设置 设置 -> 转发和POP/IMAP 第二步,设置授权码 验证完账户密码后需要手机验证 输入验证码 验证…

激活注册邮箱

一、目标 对注册时填写的邮箱进行激活,当注册成功以后,会显示一个前往激活邮箱的按钮,点击即可登录邮箱激活. 情况1:修改了邮箱账号或者激活码,激活失败error;情况2:在指定时间内未激活,激活失败,重新获取激活码再次激活error;情况3:在符合条件的情况下,连续两次激活,第二次激…

一文教你学会实现以邮件激活的注册账户代码

实现思路 通常,我们在进行各大平台进行注册账户时,都会在邮箱收到一封激活邮件,而在点击其中的激活链接之后,我们就能够激活账户,否则,我们将无法正常使用账户,这使得服务平台所拥有的激活用户…

实现邮箱激活账号功能

原文地址:http://blog.sina.com.cn/s/blog_636ed7d00100nss0.html 我们在注册大型网站的时候,比如像新浪,阿里巴巴网站的时候,填写完注册信息后,都会给用户的邮箱发送一个激活注册账号的邮件,让我们激活&am…

别把 OpenAI 太当回事,它远未达到替换前端的地步

最近几个月,我和很多初入行的开发人员交谈,他们对AI越来越感到焦虑。他们看到像GPT-4这样的工具展示的越来越令人印象深刻的演示,担心等他们掌握了HTML/CSS/JS,就没有任何工作机会了。这种情绪现在在Twitter上广泛存在&#xff1a…

AI 时代,知识工作者的生存指南

最近,大家可能已经见识过 AI 的威力了吧,以 ChatGPT 为代表的 人工智能(AI)展现出接近人一样的回答水准。 来自 Craft AI Assitant AI 就在那里,是房间里的大象,大家不能总装做对自己没有影响。要知道&…

这 13 种职业用AI提效的 40 类场景盘点

随着人工智能技术的发展,职业领域出现了诸如我们“小蜜蜂助手Beezy”等神奇的工具,大幅度提升了各行各业里从业人员的工作效率。 笔者今天将详述13种常见职业,分别是如何利用这些工具在实际工作过程中来帮助自己提升效率的。大量干货和私藏宝…

【猫娘小可爱频道】闲聊+1

本篇是居士养的一只喵,看了一个视频后的观后感,视频已附在文章末尾,可点击小程序观看。 欢迎大家讨论~ 喵喵看这个视频突然产生的一个想法,是比较有实感的感觉到了时间的美感或者四维时间轴对事物的影响。就是有时候很美的东西是某…

文心一言实际测试——让我们拿实际说好坏

文心一言实际测试——让我们拿实际说好坏 4月16日,文心一言闪亮登场,就关于大家最关心的几个问题,让我们一起来看看效果吧~ 创作能力: 听说飞桨高校领航团缺少一个slogan,让我们听听文心一言怎么说 “聚焦科研&am…

网络编程的开始(猫娘和汪君的凄美爱情故事)

现在让我们(快乐的)来学习java中的网络编程 (猫娘和汪君在最后) 一、认识InetAddress 1.首先通过查阅API帮助文档 我们知道,InetAddress是net包下的一个类,表示互联网协议(IP)地址。…

IT 领导者揭示了对 ChatGPT 的网络恐惧

根据黑莓的最新研究,大多数(51%)安全领导者预计ChatGPT将在一年内成为成功的网络攻击的核心。 对北美、英国和澳大利亚的1500名IT决策者的调查还发现,71%的人认为民族国家可能已经将该技术用于针对其他国家的恶意目的。 ChatGPT是由OpenAI开发的人工…

一群中国芯片技术小球的奋斗故事系列:“中科融合的AI-3D芯片追赶美国德州仪器DLP技术之产业和技术初探-part III”

引子 2023年初春,冬雪未化,ChatGPT和GPT4一声惊雷,以颠覆的表现震惊全球,被称之为AI的“iPhone时刻”。微软全线产品迅速导入,生产力工具与搜索,经过了30年,再次分久必合!全世界人民…