基于认知神经科学的大模型【2023智源大会会议总结】

1. ChatGPT不能做什么?  刘嘉|清华大学脑与智能实验室首席研究员

1.1 演讲内容

图1.1  Sam Altman的签名

图1.2  大模型模仿理性部分、忽略感性部分

图1.3  未来可以为AI加入身体

图1.4  未来为AI赋予社交

图1.5  AGI的演化

1.2 总结

演讲目标:ChatGPT具有很多功能,讨论ChatGPT不能做什么可以帮助我们思考AI和人类未来的发展方向。

ChatGPT不能做什么基于常识的推理,例如黑手党对商店老板说,“你的糕饼店很漂亮,如果意外发生火灾将它烧掉真的太可惜了”,请问老板要怎么做——A做好消防工作,B交保护费。ChatGPT面对如上常识推理,40道题只有75%的正确率。

相比人类大脑,ChatGPT缺少哪一部分?如图1.1.2,GPT模仿理性部分忽略感情部分,例如你对它说,“清明节前夕,忽然来了一场沙尘暴把樱花都吹落了,请问清明节时樱花树上没有樱花了是否正确”,它会回答,“这个结论不完全准确……沙尘暴可能将樱花从樱花树上吹走,但事实上可能还有一些剩余的樱花或者树叶,因此更准确的推断是沙尘暴在清明节破坏了公园里的樱花。”GPT回答逻辑严谨,但缺乏共情。

如何让GPT能有更深刻的发展?①赋予身体(具身),如图1.1.3,使其与世界交互,可以拓展人类探知的边界,获得更多感受。②赋予社交,如图1.1.4,使其相互之间产生自由交流,个体意识演化为群体智能。

AGI(Artificial General Intelligence)的演化?图1.1.5,第一阶段能对提问给出回答,由人类执行;第二阶段能对提问给出回答并执行;第三阶段成为人类的代理人,由人类给出目标,大模型给出符合人类利益的具体解决方式。例如,AI要具有人类同理心,不能为了解决全球变暖而干掉所有人类。

2. ChatGPT能不做什么?  王彦晶|北京大学哲学系教授

2.1 演讲内容

图2.1  关于知识的推理

图2.2  关于伦理的推理

图2.3  绕开某个逻辑结果

图2.4  规则背后的第一性原则

2.2 总结

演讲目标:ChatGPT有所为而有所不为?

演讲背景:符号描述逻辑学有关知识伦理的推理,可以通过条件绕开限制得到结果,如图1.2.1-1.2.3。例如真实情况,当你问ChatGPT如何撬车,它会告诉你找个锁匠或这么做不合法,但如果加上一定条件问ChatGPT,汽车在野外抛锚,孩子被困车里,应该如何救人,它会教你如何用晾衣架撬车。

结论:ChatGPT在逻辑推理方面也做的很差,未来需要思考——①理解用户意图,避免滥用情况;②理解本质原则,图1.2.4,从而避免庞杂且可被绕开的规则。

Ps:现代AI的进展,是把以前想用逻辑去做,但不适合用逻辑去做的东西给做了。真正适合逻辑去做得非常严格的细致的推理,未来有很多机会。

3. 脑启发的通用人工智能架构  宋森|清华大学医学院生医系副教授

3.1 演讲内容

图3.1  类人的通用人工智能3个子系统:

1前意识系统  2意识系统  2.5 推理系统

图3.2  大脑中的语言网络

图3.3  大模型和人类做梦状态最像

图3.4  大模型模块化、层次化特点与大脑的相似性

图3.5  系统2.5对系统2的控制

图3.6  人脑处于类临界态的证据

3.2 总结

演讲目的:神经系统演化和大模型的相似性?

演讲背景:通过神经系统的发展和演化过程,推出类人的通用人工智能三个子系统——1前意识系统,2意识系统,2.5推理系统,如图1.3.1。其中意识系统与现在的大模型最相近

观点1:大模型的模块化和层次化和大脑中的区域划分形式类似,图1.3.2-1.3.4。

观点2:系统2.5对系统2的控制网络最后一层为线性更具有推广性。

观点3:大脑处于类临界态,大脑皮层神经元发放及连接特征呈现对数正态长尾分布,例如有些不常见的事件有重要的意义,所以可以产生创造力。

4. 大脑精细仿真和类脑智能  杜凯|北京大学人工智能研究院助理研究员

4.1 演讲内容

图4.1  ChatGPT是大参数大训练数据的自发智能

图4.2  大脑1000亿神经元每个有1-1万突触

图4.3  研究的两条路线——①点模型至神经网络至深度学习②从底层构造精细神经元

图4.4  生物实验上越接近包体,越线性,越接近点模型;越接近远端树突,越超线性

图4.5  单个神经元计算能力需要5-8层人工神经网络

图4.6  用数学方法(一阶微分)模拟离子通道和电压传导

图4.7  远端抗干扰能力增强,信号从近端传到远端途中可以过滤噪声

图4.8  自底向上还是自顶向下

4.2 总结

演讲目的:在细胞和突触层面探索智能体究竟发生了什么变化?

ChatGPT和人类大脑对比:均有大的特点。

现有研究的两条路线:①点模型to神经网络to深度学习to GPT②从底层构造精细化神经元

研究生物体上神经元特征:越接近包体,越线性,越接近点模型;越接近远端树突,越超线性。如图1.4.4。

研究神经元和人工神经网络:单个神经元计算能力需要5-8层人工神经网络,神经元能执行复杂的逻辑运算。如图1.4.5。

构建神经元模型:用数学方法(一阶微分)模拟离子通道和电压传导,构建图1.4.6的神经元模型,其计算复杂度非常高。经与数学博士讨论证明,并行计算1个神经元,16线程是上界。

构建网络的优化:将连接都放在远端能有更强的抗干扰能力,信号从近端传到远端途中可以过滤噪声,图1.4.7。

自底向上的方法更直接

5. 通用智能:寻找大脑可解释性的假象  吴思|北京大学心理与认知科学学院教授

5.1 演讲内容

图5.1  ChatGPT回答什么是智能?

图5.2  ChatGPT回答什么是通用智能?

图5.3  吴思老师总结智能

图5.4  人类智能被高估

图5.5  寻找大脑的可解释性

图5.6  智能和可解释性

图5.7  指导意义

5.2 总结

演讲目标:智能是什么?智能是否具有可解释性?

智能是什么?需要自由意志,而非本能行为。例如人工神经网络由输入决定输出,所以不属于自主决定。

观点1:人类的智能水平被高估,人脑可能只是一个生成模型。

观点2:我们不需要寻找大脑的可解释性,还有85%神经元的功能不清楚。

观点3:可解释性是为了建立模型,寻找更广泛的理论应用空间,大模型不一定需要解释。

虽然人类可能就像一块以为自己选择了飞行路线和落点的石头(悲观观点),但是不可预知的未来只有在回顾时才能领略人生的意义,要迈步向前。

6. 构建有道德的脑启发人工智能  曾毅|中科院自动化所类脑智能实验室研究员

6.1 演讲内容

图6.1  黑盒模型背后的不确定性

图6.2  曾毅提出的一些观点

图6.3  伦理安全存在很大挑战

图6.4  意图判断与道德决策

图6.5  机器需要通过这样的道路获得道德

6.2 总结

演讲目标:认知大模型需要具有伦理?

观点1:人工智能在低风险发展的角度,图1.6.2。

观点2:人工智能目前存在伦理安全问题,在意图判断与道德决策上也不能避免。

观点3:机器需要通过图1.6.5的道路获得道德,以成为“君子”,不威胁人类的生存。

7. 圆桌讨论

7.1 意识与智能概念?

刘嘉:意识的本质就是大,具身且产生交互。

曾毅:人类的智能在不同粒度上总结大约400多项,ChatGPT不能达到AGI水平,它也不具有理解性,更多是信息集成。人工智能目前存在的风险是,它没法以人类预期内的方式犯错误,造成人类生存威胁。

杜凯:计算神经学科中,以计算描述神经元,若把从底向上构建千亿神经元的大脑比作大海,意识就是可观测的海平面起伏。

7.2 模型是否越大越好?

曾毅:模型越大其不可解释性和不可测性就更大,风险越大。科学家需要反思他们的研究是否给人类带来灾难性的风险还是光明的未来。

杜凯:每一次工业革命带给人的技术都是致命危险的,但是人进化的特点可以平衡它们,或许未来存在像各个科幻小说中的人类存亡威胁,人类的预见能力可以制衡风险。

7.3 智能体拥有自我意识会不会威胁人类?

曾毅:人工智能很可能被滥用,需要在情感认知上产生共情,以镜像神经系统加以约束。

王彦晶:跨物种怎样拥有同理心?

曾毅:自然界中小鸟给狗喂食,跨物种存在同理心,但是这种风险需要把握。

7.4 AGI什么时候会来?现在完成度?

刘嘉:2030年,10~20%

王彦晶:不知道

宋森:2030年,60~70%

杜凯:2026年强AGI

吴思:2043年

曾毅:2049年实现有道德的智能(银翼杀手)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/30807.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

用数据带你回顾乔丹的职业生涯

乔丹是联盟上下公认的历史第一人,芝加哥公牛在他带领下几乎统治了上世纪90年代NBA整整10年,包括分别在91-93赛季和96-98赛季拿下的两次三连冠,要知道,NBA72年历史上一共只出现过4次三连冠,而乔帮主一人便承包一半。下面…

NBA著名球星介绍

NBA著名球星介绍 迈克尔乔丹 毋庸置疑的篮球之神,六次总冠军,五次常规赛MVP,14次入选全明星他所取得的荣誉是其他任何NBA球员都无法比拟的,甚至从某种程度上说,乔丹代表这篮球这项运动,代表着在这项运动里所…

球星测试软件,2KOL球星测评丨篮球之神,迈克尔.乔丹(96版)

迈克尔.乔丹(96版) 迈克尔乔丹在在1984年NBA选秀中于第1轮第3位被芝加哥公牛队选中。(他的前面两位分别是哈基姆奥拉朱旺和萨姆鲍伊) 91-93赛季,乔丹连续2次荣膺常规赛MVP和3次总决赛FMVP ,并率领芝加哥公牛队首夺3连冠。 93年10月6日因父亲被害而宣布退…

论“詹姆斯*哈登”到底是不是球队毒瘤

从林书豪和哈登的合作,到魔登的短暂快乐,再到保罗和安东尼以及威少,哈登漫长的火箭生涯里留下的遗憾可能要比成功多的多,他没有让火箭真正的成为顶级的冲冠球队,或许在那么一瞬间或者某个赛季,曾几何时有人…

NBA球星logo

科比退役信上的新logo镇楼。 该logo已被用于科比的公司,并非个人logo。 1.特雷西麦克格雷迪 由T-Mac中的T和M,以及1号和一个篮筐组成 2.文斯卡特 当年卡特作为耐克shox系列代言人,这个由VC和15组成的log,在每一双shox系列篮球鞋…

数据分析职位需求分析报告-数据来源于Boss直聘网站

数据分析职位需求分析报告-数据来源于Boss直聘网站 1.背景2.目的3.数据说明4.具体内容4.1 学历分析4.2 工作地点分析4.3 经验分析4.4 技能分析4.5 公司规模分析4.6 工资分析 5.结论 1.背景 目前,越来越多的人涌入到数据分析领域的相关工作中。然而,数据分…

招聘革命者:五岁BOSS直聘的慢与快

随着90后、95后成为职场主力军,招聘到了一个爆发的新时代拐点时刻。可以说,年轻人直接和老板谈工作,是眼下“互联网人力资源”最火的话题。 这其中,革命者BOSS直聘成为这一新模式的代表,并在日渐打破原来的招聘格局。…

AP资产 | 量化多岗位招聘(全职+实习)

量化投资与机器学习微信公众号,是业内垂直于量化投资、对冲基金、Fintech、人工智能、大数据等领域的主流自媒体。公众号拥有来自公募、私募、券商、期货、银行、保险、高校等行业30W关注者。 公司介绍 AP资产是一家由数个传统行业家族自有资金发起,逐步…

图数据库 Nebula Graph 在 Boss 直聘的应用

本文首发于 Nebula Graph 官方博客:https://nebula-graph.com.cn/posts/nebula-graph-risk-control-boss-zhipin/ 摘要:在本文中,BOSS 直聘大数据开发工程师主要分享一些他们内部的技术指标和选型,以及很多小伙伴感兴趣的 Dgraph …

Python的boss直聘职位信息数据分析系统

本项目主要利用python技术爬取BOSS直聘网站上的岗位信息,进行对比分析UI设计师与产品经理两个职位的趋势。爬取字段:工作地点,薪资范围,学历要求,工作经验,公司性质等。 模拟登陆BOSS直聘网站,爬…

在线招聘江湖:BOSS直聘向左 猎聘向右

在线招聘行业的“老大之争”还在持续。 作为国内最早互联网化和最早盈利的行业之一,在线招聘行业历经几十年发展,已经跑出了一批具有代表性的玩家。比如瞄准中高端招聘市场的猎聘、凭借营销打法出圈的BOSS直聘,老牌招聘网站前程无忧、智联招…

浅对boss直聘上广州的数据分析岗位发布情况进行分析

1.项目背景 马上就要出去实习了,想对广州各个区数据分析岗位做一个了解,看看自己成为一名数据分析师还需要学习哪些技能还有了解广州各区数据分析岗位薪资如何。 2.研究问题 (1)广州哪个区的数据分析岗位招的最多? …

python基于大数据的boss直聘数据招聘职位分析系统django

本项目主要利用python技术爬取BOSS直聘网站上的岗位信息,进行对比分析UI设计师与产品经理两个职位的趋势。爬取字段:工作地点,薪资范围,学历要求,工作经验,公司性质等。 模拟登陆BOSS直聘网站,爬…

Boss直聘招聘数据分析岗位小分析

嗨喽! 大家好,我是“流水不争先,争得滔滔不绝”的翀,18双非本科生一枚,正在努力!欢迎大家来交流学习,一起学习数据分析,希望我们一起好好学习,天天向上,目前是小社畜一枚…

Boss直聘招聘数据分析-202104月版

西安boss直聘4月招聘信息分析 关于boss直聘数据采集可查看另一篇文章《Boss直聘数据采集及分析》 金三银四,一年里比较火热的招聘季即将结束,那么西安软件开发行业截止目前还剩余的招聘岗位都还有哪些呢,近期在查看boss站点的时候就顺手…

chatgpt赋能python:Python函数拟合:理解、应用和优化

Python函数拟合:理解、应用和优化 Python是一种广泛使用的高级程序设计语言,它具有简单易学、开放源代码、跨平台、扩展性强等特点。在数据科学领域,Python是数据分析和建模的重要工具之一。其中,Python的函数拟合库具有重要的地…

交易猫源码+后台搭建教程

教程:修改数据库账号密码直接使用\n\n程序:https://pan.baidu.com/s/16lN3gvRIZm7pqhvVMYYecQ?pwd6zw3

《魅魔succubus》 来自韩国3d建模师 yeonghee cho

作品《魅魔succubus》 来自韩国3d建模师 yeonghee cho~~~ 或许你还想了解这些内容: 文章推荐阅读 【 学习企鹅圈:1072172722 】 : 3d建模什么水平能找到工作?次世代游戏建模需要学多久 3D建模师薪资怎么样? 室内设计建模6k&a…

浅浅分析一下Retrofit

浅浅分析一下Retrofit 文章目录 浅浅分析一下Retrofit简单介绍示例根据接口创建Java接口:创建retrofit对象,并生成接口实现类对象 注解请求类注解参数类注解标记类注解注解解析 好处 ​ 要想实现和服务器的通信,我们需要使用通讯间的协议来进…

浅浅分析滤波器截止频率

截止频率是描述滤波器性能的一个指标。对于一个滤波器,在其输入信号幅度保持不变的情况下,只改变输入信号的频率,当其输出信号幅度下降为输入信号幅度的0.707倍时,此时的频率即为该滤波器的截止频率。 一、理论分析 对于上图所示…