Nature一周连发两文探讨ChatGPT:学术圈使用已不可避免,是时候明确使用规范了...

a997a1672555da8a5aa4eefdbebe22f3.png

来源:量子位 | 公众号 QbitAI

在科技巨头为了ChatGPT大打出手的另一边,学术圈对于ChatGPT的关注也在升高。

一周时间内,Nature连发两篇文章探讨ChatGPT及生成式AI。

ad28aafcd3adbb7cd509b9c12327b1ef.jpeg

4216be57f7f24045c7263f17b7fbbbaf.jpeg

毕竟ChatGPT最早还是在学术圈内掀起风浪,先后有学者拿它写论文摘要、改论文。

Nature为此专门颁布禁令:ChatGPT不能当论文作者。Science则直接禁止投稿使用ChatGPT生成文本。

但趋势已摆在眼前。

现在更应该做的,或许是明确ChatGPT对于科学界的意义以及应当处于怎样的身位。

正如Nature所言:

生成式AI及背后的技术发展如此之快,每个月都有创新出现。研究人员如何使用它们,将决定着技术和学界的未来。

ChatGPT改变学术圈规则

在《ChatGPT:五大优先研究问题》一文中,研究人员提出:

无法阻止ChatGPT杀入学术圈,当务之急应该是研究探讨它会带来哪些潜在影响。

如果后续ChatGPT被拿来设计实验、进行同行审议、辅助出版、帮编辑决定是否要接收文章……这些应用应该注意哪些问题?现在人类需要明确哪些边界?

研究人员认为,有5个方面需要优先考虑,并解释了原因。

坚持人类审查

ChatGPT等对话式AI的一大特点,就是回答内容的准确性无法保证。而且编出来的瞎话都还很自然,容易对人产生误导。

比如,研究人员让ChatGPT对一篇关于认知行为疗法(CBT)治疗焦虑等症状是否有效的论文进行总结概述。

ChatGPT给出的回答中,存在很多事实性错误。如它说这项评估是基于46项研究,但实际上是69项,而且夸大了CBT的有效性。

6dc3d164f138b35efe57aaa75d0ab131.jpeg

研究人员认为如果有学者使用了ChatGPT帮忙做研究,很可能被错误信息误导。甚至会导致学者在不知情的情况下,剽窃他人成果

因此,研究人员认为在评审论文过程中,人类不能过度依赖于自动化系统,最终还是要由人类自己为科学实践负责。

制定问责规则

为了应对生成式AI的滥用,很多鉴别AI文本工具陆续诞生,它们能很好分辨出一段文字是不是人类自己写的。

不过,研究人员认为这种“军备赛”大可不必,真正要做的是让学术圈、出版商能更加公开透明地使用AI工具。

db6ee321d12e7f3602793bd124d7a637.jpeg

论文作者应该明确标注哪些工作是AI承担的,期刊如果使用AI审稿,也应该公开说明。

尤其是目前生成式AI已经引发了关于专利问题的讨论,AI生成的图像版权究竟该怎么算?

那么对于AI生成的问题,著作权应该属于为AI提供训练数据的人?AI背后的制作公司?还是用AI写文章的学者?作者身份的问题,也需要严谨定义。

投资真正开放的LLM

目前,几乎所有先进的对话式AI,都是科技巨头们带来的。

关于AI工具背后算法的工作原理,很多都还不得而知。

这也引发了社会各界的担忧,因为巨头们的垄断行为,严重违背了科学界开放的原则。

这将会影响学术圈探寻对话式AI的缺点和底层原理,进一步影响科技的进步。

为了克服这种不透明性,研究人员认为当下应该优先考虑开源AI算法的开发和应用。比如开源大模型BLOOM,就是由1000位科学家联合发起的,性能方面可以匹敌GPT-3。

c912761df05054baff0501047b1706aa.jpeg

拥抱AI的优点

虽然有很多方面需要设限,但不可否认,AI确实能提升学术圈的效率。

比如一些审查工作,AI可以快速搞定,而学者们就能更加专注于实验本身了,成果也能更快发表,从而推动整个学术圈的脚步走得更快。

甚至在一些创造性工作上,研究人员认为AI也能有用武之地。

1991年的一篇开创性论文提出,人和AI之间形成的“智能伙伴关系”,可以胜过单独人类的智力和能力

这种关系能够将创新加速到无法想象的水平。但问题是,这种自动化能走多远?应该走多远?

因此,研究人员也呼吁,包括伦理学家在内的学者,必须就当今AI在知识内容生成方面的界限展开讨论,人类的创造力和原创性可能仍旧是进行创新研究必不可缺的因素。

4f3a03289ff210bf09f0581a04a346b4.jpeg

展开大辩论

鉴于当下LLM带来的影响,研究人员认为学界应该紧急组织一次大辩论。

他们呼吁,每个研究小组都应该立即开组会,讨论并亲自试试ChatGPT。大学老师应该主动和学生讨论ChatGPT的使用和伦理问题。

在早期规则还没有明确的阶段,对于研究小组负责人来说,重要的是如何号召大家更公开透明地使用ChatGPT,并开始形成一些规则。以及应该提醒所有研究人员,要对自己的工作负责,无论它是否由ChatGPT生成。

更进一步,研究人员认为要立即举办一个国际论坛,讨论LLM的研究和使用问题。

成员应该包括各个领域的科学家、科技公司、研究机构投资方、科学院、出版商、非政府组织以及法律和隐私方面的专家。

b78697521540d4a665e5ef20ea364e50.jpeg

Nature:ChatGPT和AIGC对科学意味着什么

兴奋又担忧,大概是许多研究人员对于ChatGPT的感受。

发展到现在,ChatGPT已经成为了许多学者的数字助手。

计算生物学家Casey Greene等人,用ChatGPT来修改论文。5分钟,AI就能审查完一份手稿,甚至连参考文献部分的问题也能发现。

来自冰岛的学者Hafsteinn Einarsson,几乎每天都在用ChatGPT来帮他做PPT、检查学生作业。

还有神经生物学家 Almira Osmanovic Thunström觉得,语言大模型可以被用来帮学者们写经费申请,科学家们能节省更多时间出来。

a674003bafc503b398e18d2e04cfe516.gif

不过,Nature对ChatGPT输出内容做出了精辟总结:

流畅但不准确。

要知道,ChatGPT的一大缺点,就是它生成的内容不一定是真实准确的,这会影响它在学术圈的使用效果。

能解决吗?

从现在来看,答案有点扑朔迷离。

OpenAI的竞争对手Anthroic号称解决了ChatGPT的一些问题,不过他们没有接受Nature的采访。

Meta发布过一个名为Galactica的语言大模型,它由4800万篇学术论文、著作炼成,号称擅长生成学术方面内容,更懂研究问题。不过现在它的demo已经不开放了(代码还能用),因为用户在使用过程中发现它带有种族歧视。

即便是已经被调教“乖巧”的ChatGPT,也可能会在刻意引导下输出危险言论。

OpenAI让ChatGPT变乖的方法也很简单粗暴,就是去找非常多的人工给语料标注,有声音认为这种雇人看有毒语料的行为,也是一种剥削。

f26b3b7c395025f825bfa0857a45ffd8.jpeg

但无论如何,ChatGPT及生成式AI,开启了人类新的一扇想象之门。

医学学者埃里克·托普(Eric Topol)表示,他希望未来能有包含LLM的人工智能,可以交叉检查学术文献中的文本和图像,从而帮助人类诊断癌症、理解疾病。当然这一切要有专家做监督。

他说,真没想到我们在2023年年初,就看到了这样的趋势。

而这才只是开始。

参考链接:
[1]https://www.nature.com/articles/d41586-023-00340-6
[2]https://www.nature.com/articles/d41586-023-00288-7

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)大脑研究计划,构建互联网(城市)大脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

7c77e173afcb74025c27d69da74a070c.jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/15277.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

顺丰科技19某道笔试题

顺丰科技19某道笔试题 题目解答 题目 假设有三个人同时参加这场笔试,假设满分为1,三个人的得分符合分布U(0,1)。那么三个人最低分的期望为?() A. 1 B. 1/3 C. 1/4 D. 1/6 解答 代码…

字节跳动测试岗面试挂在二面,我决定用【Chat GPT】在战一次

先说下我基本情况,本科不是计算机专业,现在是学通信,然后做图像处理,可能面试官看我不是科班出身没有问太多计算机相关的问题,因为第一次找工作,字节的游戏专场又是最早开始的,就投递了&#xf…

世界币来了, World App 的 Worldcoin探讨,它和chatgpt有什么关系呢?

1.背景: Gpt创始人的最新项目,让人工智能养活10亿人,为能提供身份认证的人,提供最低生活保障,这个项目是他的十年AGI通用人工智能的第一步。 Worldcoin之前没人看好,现在有所转变。Sam是从斯坦福大学计算…

引入ChatGPT 的AI游戏编辑,只存在了24小时

AI编辑的职位已经消失 ▎最终,Gamurs的故事还会一次次上演。下一次,游戏编辑们是否还会有如此好运,我们就不得而知了。 作者|雪夜枫鳞 本文首发于钛媒体APP 游戏媒体的又一次AI尝试,被“挫败”了。 本周二的时候&#…

Google 搜索引擎将加入 AI 聊天功能;澳洲地方市长或就诽谤信息起诉 ChatGPT;Swift 5.8 发布|极客头条

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&…

快讯 | 大族机器人发布了Elfin Pro系列协作机器人;澳洲地方市长或就诽谤信息起诉ChatGPT

一分钟速览新闻点 香港理大人工智能机器人实验室正式启用 上科大凌盛杰团队《Adv. Mater.》:具有优异弹性和导电性的离子导体纤维助力智能感知 大族机器人发布了Elfin Pro系列协作机器人 山东省首例机器人辅助单髁置换手术在青岛完成 澳洲地方市长或就诽谤信息起…

如何在自己的电脑上构建大语言模型,使用 LangChain(而不是 OpenAI)回答关于您的文档的问题

如何使用 Hugging Face LLM(开源 LLM)与您的文档、pdf 以及网页上的文章交谈。 这是第一步,终于。我一直在到处寻找几个月。 所有的文章、教程和 视频都只教你如何使用 OpenAI 做事。但老实说,这非常令人沮丧。首先,所有 AI 模型的基础都来自学术界:其次,我无法相信当有…

巴比特 | 元宇宙每日必读:一个AI主播能顶一个团队,一年可省20万元?AI“卖铲人”赚得盆满钵满,商家能否降本增效还是未知数...

摘要:据电商在线报道,AI生成各种图片和美女席卷了抖音、快手和小红书等平台,一度引发了“网红、模特可能就此失业”的讨论,还有人用AI美女做博主吸粉上万,进入直播间开始带货变现。仔细观察这些AI主播,画面…

FPGA的工作原理、组成结构、优点以及和单片机的区别

注意:后续技术分享,第一时间更新,以及更多更及时的技术资讯和学习技术资料,将在公众号CTO Plus发布,请关注公众号:CTO Plus FPGA的工作原理、组成结构、优点以及和单片机的区别FPGA (Field Programmable Ga…

11-5 当前厂商领航辅助驾驶系统 NOA 解决方案

借助介绍 AEB 系统的感知架构,本文主要讲解当前领航辅助驾驶系统 NOA 解决方案。以下章节的技术参数可能不是各厂商当前最新配置,权当是方便大家理解,请把关注重点移回如何开发出 AEB 产品。 1. Tesla 特斯拉 NOA 解决方案 • 后车牌的上方装有一个摄像头; • 超声波传感…

WPS香港与奇文N维减持金山办公:套现19亿 受益于ChatGPT概念

雷递网 雷建平 6月19日 北京金山办公软件股份有限公司(证券代码:688111,券简称:金山办公)今日发布公告,宣布WPS香港、奇文N维减持细节。 据介绍,WPS香港、奇文N维此次询价转让的价格为402元/股&…

如何在笔记本电脑上构建私有gpt,实现chatgpt功能支持向 AI 询问您自己的领域知识(GPT4All教程)

在本文中,我们将学习如何在只有 CPU 的计算机上部署和使用 GPT4All 模型 在本文中,我们将在我们的本地计算机上安装 GPT4All(一个强大的 LLM),我们将发现如何使用 Python 与我们的文档进行交互。PDF 或在线文章的集合将成为我们问题/答案的知识库。 什么是 GPT4All 从官…

chatgpt赋能Python-python_fem

Python在有限元分析中的应用 什么是有限元分析 有限元分析(Finite Element Analysis, FEA)是一种针对工程结构、材料及其它物理现象进行数值仿真的方法。它通过将结构或者物理现象的连续域分割成有限个小元素,再在每个小元素中建立数学模型…

【matlab 多元回归】matlab数值预测--多元回归算法

主要内容: 1、excel数据读取 2、回归模型建立 3、预测及作图 4、相关性分析 对七个自变量,2个因变量分别做多元线性线性回归。 数据形式如下: 下面是matlab 代码: clc,clear all %% % 读取excel数据,data存…

电动机正反转继电器控制系统

【ChatGPT】前些天发现了一个巨牛的人工智能学习电子书,通俗易懂,风趣幽默,无广告,忍不住分享一下给大家。(点击查看学习资料) wx供重浩:创享日记 对话框发送:plc2 免费获取完整无水…

Beckhoff Ubuntu ADS库结构、编译与使用优化(像使用OpenCV一样使用ADS库!)

Beckhoff Ubuntu ADS库结构、编译与使用优化 库结构优化 倍福官方的ADS库结构看着不简洁,比较冗余,编译起来效果一般,而且不便于使用 官方ADS库原结构 redwallredwall-G3-3500:~/3rd_party/ADS$ tree . ├── AdsLib │ ├── AdsDef…

机器人控制系统软硬件平台

工业机器人软硬件平台架构 工业机器人软硬件平台架构的概述 工业机器人的发展历程: 1950s-1960s:工业机器人诞生,开始应用于生产线自动化。1970s-1980s:工业机器人技术快速发展,引入新的控制方法和结构设计。1990s-…

python与PLC通信的数据转换

测试代码: from time import sleep as sleep import socket import time import threading import struct# 生成线程 class MakeThreading(threading.Thread):def __init__(self, target, set_daemonTrue):super().__init__()self._target targetself.setDaemon(s…

基本指令的编程练习-PLC认识实验-定时器/计数器功能实验

【ChatGPT】前些天发现了一个巨牛的人工智能学习电子书,通俗易懂,风趣幽默,无广告,忍不住分享一下给大家。(点击查看学习资料) wx供重浩:创享日记 对话框发送:plc1 免费获取完整无水…

谷歌版 ChatGPT 这次低调公测炸了!比 GPT-4 数学能力还强,体验名额发得很快,传送门在此...

这是「进击的Coder」的第 815 篇技术分享 作者:杨净 金磊 发自 凹非寺 来源:量子位(ID:QbitAI) “ 阅读本文大概需要 6 分钟。 ” 谷歌吃了大亏之后,这次一声不吭,放了大招: 对标 C…