OpenAI神秘项目“Q星”浮出水面,它会威胁人类吗?

来源: 现代快报全媒体   2023-11-26 23:55:15

百年之后,人类再看这段OpenAI的“宫斗大戏”,或许会从商战之外,看到2023年的人类面对未知世界忧心忡忡。

是否要继续投入资源,催动AI进化?身处2023年的人类,并未形成共识。即便是全球顶尖的科技公司OpenAI,管理层的观点也有分歧。据媒体援引知情人士消息,在CEO奥尔特曼被罢免之前,几名公司研究人员向董事会发出了一封信,警告称一项强大的人工智能(AI)发现可能威胁人类。而这可能是造成奥尔特曼被罢免的催化剂之一。

CEO与董事会沟通中,隐瞒了什么?

11月,科技界最劲爆的新闻莫过于美国人工智能公司OpenAI首席执行官、ChatGPT之父萨姆·奥尔特曼的风波。

11月17日,OpenAI发表了一篇博文,宣布CEO山姆·奥尔特曼将离开公司,任命立即生效。这篇博文措辞严厉,“奥尔特曼先生在与董事会的沟通中没有保持坦诚,阻碍了董事会履行其职责的能力。董事会不再对他继续领导OpenAI持有信心。”

CEO究竟对董事会隐瞒何事?事件各方均未言明,而业界普遍猜测,是在“AI安全和发展”的策略上,双方存在分歧。

 

接下来几天,事件发展逐渐对奥尔特曼有利,公司大量员工要求董事会成员辞职,奥尔特曼重返OpenAI担任CEO。

看似人事变动风波已然平息,一则消息在23日释放出来——人事风波发生前,几名公司研究人员向董事会发出了一封信,警告称一项强大的人工智能(AI)发现可能威胁人类。

有消息人士透露称,奥尔特曼被突然解雇,可能与该公司秘密研究的项目——Q*(发音为Q-star,即Q星)有关,而一些员工认为Q星可能是该公司探索AGI(通用人工智能)获得的突破性成果。据称,Q星可以解决小学数学问题,这点燃了董事会的紧张情绪——奥尔特曼是否在研发方面过于激进。而该公司首席技术官穆拉蒂随后也在一份发送给员工的备忘录中承认了Q星项目的存在。

“Q星”是希望之星,还是……

“Q星”能解区区“小学数学问题”,为何让科技大咖们如此紧张?目前,以ChatGPT为代表的生成式人工智能,仍是从它所积累的 “传统智慧的统计数据” 中抽出一些 “连贯的文本线索”。简单地说,就是它通过预测下一个单词来进行写作和语言翻译,给出符合人类预期的答案。因此,它的安全威胁相对可控。

Q星项目,是另一套逻辑。有业内人士从Q星项目的命名看出端倪,这可能是Q-learning和A*搜索的结合。据介绍,Q-learning是AI强化学习方式中的一种,让AI通过反复试验来学习做出决策的方法。与OpenAI现行训练AI的方法不同,Q-learning不需要依赖人类反馈进行学习,而是自行完成所有的操作和训练。

毫无疑问,“Q星”具有强大的进化潜力,将其视为人工智能领域的“希望之星”也不为过。然而,当OpenAI的巨量算力向其注入,它的进化速度可能是一个“突变”而非“渐变”的过程。当AI超越人类智慧,而人类无法可靠控制AI系统,安全风险不容忽视。

人类需要更先进的AI,还是更安全的?

早在今年10月,OpenAI的官网悄然更改了其“核心价值观”列表。此前,“大胆、深思熟虑、朴实无华、影响力驱动、协作、以增长为导向”是公司沿用已久的价值观。而在新的列表中,“聚焦AGI”赫然列在首位,“深思熟虑”被踢出列表。

奥尔特曼曾在公司博客文章中就写道,AGI (通用人工智能)可以广义地定义为“通常比人类更聪明的系统”。后来,他在接受媒体采访时,又稍稍降低了 AGI 的功能评级,将其定义可以“相当于一个中等水平人类,可以雇用作为同事”。这一表述上的细微差别,也透露出当AI超越人类,并不一定是一件好事。

如今,科技界对AGI的安全性仍然存在分歧。为了找出如何阻止AI失控的方法,今年7月,OpenAI首席科学家及董事伊尔亚·苏茨克维组建了一个叫“超级对齐”(Superalignment)的团队,意在令超级智能与人类价值观和认知保持一致。该项目预计投入20%的算力资源、花费4年的时间,解决AI安全问题。然而,从项目进展的角度,可能是AGI进化的速度更快一步。

向着AI快速进化的方向迈进,人类真的会走向美好吗?答案仍是未知。

科技大咖马斯克就有关于OpenAI在AGI领域新突破的报道置评称,“极度令人担忧!”

现代快报+记者 是钟寅 综合环球时报、红星新闻、界面新闻

原文:OpenAI神秘项目“Q星”浮出水面,它会威胁人类吗?

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/205320.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ElasticSearch01

ElasticSearch 版本:7.8 学习视频:尚硅谷 笔记:https://zgtsky.top/ ElasticSearch介绍 Elaticsearch,简称为es, es是一个开源的高扩展的分布式全文检索引擎,它可以近乎实时的存储、检索数据&#xff1b…

一文读懂Asyncio

什么是Asyncio asyncio 是用来编写并发代码的库,使用async/await语法。 asyncio 被用作多个提供高性能 Python 异步框架的基础,包括网络和网站服务,数据库连接库,分布式任务队列等等。 asyncio 往往是构建 IO 密集型和高层级结构化…

鸿蒙应用开发-初见:入门知识、应用模型

基础知识 Stage模型应用程序包结构 开发并打包完成后的App的程序包结构如图 开发者通过DevEco Studio把应用程序编译为一个或者多个.hap后缀的文件,即HAP一个应用中的.hap文件合在一起称为一个Bundle,bundleName是应用的唯一标识 需要特别说明的是&…

视频字幕处理+AI绘画,Runway 全功能超详细使用教程(4)

runway的视频字幕处理、AI绘图功能介绍,感觉完全就是为了做电影而布局,一整套功能都上线了!想系统学习的必收藏! 在深度研究Runway各个功能后,无论是AI视频生成及后期处理技术,还是AI图像生成技术&#xff…

大厂前沿技术导航

个人看到的,比较好的一些大厂的博客。他们都在积极的更新。在这些地方,总能看到他们最新的动态。这些都是大厂的官方博客,文章的质量都是相对比较高的。水文,肯定不会随便发出来,不然肯定打了自己公司的脸了。腾讯和美…

onlyoffice文件大小超出了服务器设置处理

onlyoffice文件大小超出了服务器设置处理 1.前言2. onlyoffice服务安装2.1 docker安装命令2.2 访问测试 3. 修改服务器文件大小限制方案3.1 旧方案-7.2版本不可行3.1.1 进入 OnlyOffice Document Server 容器3.1.2 编辑配置文件3.1.3 找到并修改文件大小限制3.1.4 保存并退出编…

【开源】基于JAVA的天然气工程业务管理系统

项目编号: S 021 ,文末获取源码。 \color{red}{项目编号:S021,文末获取源码。} 项目编号:S021,文末获取源码。 目录 一、摘要1.1 项目介绍1.2 项目录屏 二、功能模块三、使用角色3.1 施工人员3.2 管理员 四…

CSDN助手:一键下载CSDN博客:高效保存,随时阅读

文章目录 📖 介绍 📖🏡 环境 🏡📒 使用方法 📒⚓️ 相关链接 ⚓️ 📖 介绍 📖 这是我自己无聊的时候写的一个应用,以前UI有点丑,这次重写了一下UI 功能如下 …

Redis-主从与哨兵架构

Jedis使用 Jedis连接代码示例&#xff1a; 1、引入依赖 <dependency><groupId>redis.clients</groupId><artifactId>jedis</artifactId><version>2.9.0</version> </dependency> 2、访问代码 public class JedisSingleTe…

【SpringCloud】微服务架构设计模式

一、聚合气微服务设计模式 最常见、最简单的设计模式&#xff0c;效果如图所示&#xff1a; 聚合器调用多个服务实现应用程序所需的功能 它可以是一个简单的 Web 页面&#xff0c;将检索到的数据进行处理并展示&#xff0c;也可以是一个更高层次的组合微服务&#xff0c;对…

【数据结构/C++】栈和队列_循环队列

牺牲一个存储单元来判断队满。 #include<iostream> using namespace std; // 循环队列 #define MaxSize 10 typedef int ElemType; typedef struct {ElemType data[MaxSize];int front, rear; } SqQueue; // 初始化队列 void InitQueue(SqQueue &Q) {// 判断队空 Q.…

注解(概念、分类、自定义注解)

注解基本概念 注解(元数据)为我们在代码中添加信息提供一种形式化的方法&#xff0c;我们可以在某个时刻非常方便的使用这些数据。将的通俗一点&#xff0c;就是为这个方法增加的说明或功能。 作用&#xff1a; 编写文档&#xff1a;通过代码里标识的注解生成文档【生成doc文…

Git和Git小乌龟安装

目录 Git简介 Git安装 Git小乌龟简介 Git小乌龟安装 Git简介 Git是一个开源的分布式版本控制系统&#xff0c;可以有效、高速地进行从很小到非常大的项目的版本管理。它最初是由Linux Torvalds为了帮助管理Linux内核开发而开发的一个开放源码的版本控制软件。Git具有速度、…

网络安全 | 使用人工智能阻止网络攻击

全球范围内分布式拒绝服务 (DDoS) 网络攻击急剧增加&#xff0c;这种数字攻击可以通过大量的互联网流量压垮目标服务器&#xff0c;从而使网站瘫痪。这种攻击每年都会发生数百万起&#xff0c;而且数量和规模都在不断增加。大约三分之一的网站宕机是由于 DDoS 攻击所致。 计算…

异步爬虫提速实践-在Scrapy中使用Aiohttp/Trio

在构建爬虫系统时&#xff0c;提高爬虫速度是一个关键问题。而使用异步爬虫技术可以显著提升爬取效率。在本文中&#xff0c;我将与大家分享如何在Scrapy中利用Aiohttp或Trio库实现异步爬取&#xff0c;以加快爬虫的速度。让我们开始吧&#xff01; 1. 安装所需的库 首先&…

Spring Security 6.x 系列(5)—— Servlet 认证体系结构介绍

一、前言 本章主要学习Spring Security中基于Servlet 的认证体系结构&#xff0c;为后续认证执行流程源码分析打好基础。 二、身份认证机制 Spring Security提供个多种认证方式登录系统&#xff0c;包括&#xff1a; Username and Password&#xff1a;使用用户名/密码 方式…

《golang设计模式》第三部分·行为型模式-06-备忘录模式(Memento)

文章目录 1. 概述1.1 角色1.2 类图 2. 代码示例2.1 设计2.2 代码2.3 类图 1. 概述 备忘录&#xff08;Memento&#xff09;用于在不破坏目标对象封装特性的基础上&#xff0c;将目标对象内部的状态存储到外部对象中&#xff0c;以备之后恢复状态时使用。 1.1 角色 Originato…

基于SpringBoot+Redis的前后端分离外卖项目-苍穹外卖(七)

分页查询、删除和修改菜品 1. 菜品分页查询1.1 需求分析和设计1.1.1 产品原型1.1.2 接口设计 1.2 代码开发1.2.1 设计DTO类1.2.2 设计VO类1.2.3 Controller层1.2.4 Service层接口1.2.5 Service层实现类1.2.6 Mapper层 1.3 功能测试1.3.2 前后端联调测试 2. 删除菜品2.1 需求分析…

可视化大屏时代的到来:智慧城市管理的新思路

随着科技的不断发展&#xff0c;智能芯片作为一种新型的电子元件&#xff0c;被广泛应用于各个领域&#xff0c;其中智慧芯片可视化大屏是一种重要的应用形式。 一、智慧芯片可视化大屏的优势 智慧芯片可视化大屏是一种将智能芯片与大屏幕显示技术相结合的产品&#xff0c;山海…

[pyqt5]pyqt5设置窗口背景图片后上面所有图片都会变成和背景图片一样

pyqt5的控件所有都是集成widget&#xff0c;窗体设置背景图片后控件背景也会跟着改变&#xff0c;此时有2个办法。第一个办法显然我们可以换成其他方式设置窗口背景图片&#xff0c;而不是使用styleSheet样式表&#xff0c;网上有很多其他方法。还有个办法就是仍然用styleSheet…