OpenAI的神秘Q*项目曝光 或威胁人类?(图)
OpenAI的神秘项目“Q*”近日被曝光。(图片来源: Johannes Simon/Getty Images)
【看中国2023年11月28日讯】(看中国记者程帆编译综合报导)过去几天,科技界似乎发生了翻天覆地的变化,这要归功于AI(人工智能)先锋OpenAI公司上演的一场冒险剧。因在产品安全问题上的分歧、缺乏一致的沟通,其公司董事会宣称要解雇首席执行官(CEO)奥特曼(Sam Altman)。
尽管,上周OpenAI人事风波最终以奥特曼回归而告一段落。然而,另一个将威胁人类、代号为“Q*”的神秘项目却被抛了出来,人们对这个强大的新AI模型有太多的担忧。
根据硅谷科技新闻The Information的报导,今年早些时候,OpenAI首席科学家苏茨基弗(Ilya Sutskever)领导的团队取得了突破性进展,并建立了一个名为Q*(Q-star)的新模型。
据悉,新模型是一种能够自行解决基本数学问题的算法,包括那些超过其训练资料之外的问题。这也使得它向备受期待的AGI(即通用人工智能,使AI能够执行人脑可完成的任何智力任务)迈进了一大步。换句话说,它可能有了人类或超越人类级别的数学和逻辑能力,并能完成一些人类的中高端脑力劳动,这是GPT4等不具备或不擅长的东西。
总体来讲,Q*展示了类似人的高阶推理能力。例如,它将可以像人类一样通过逻辑和推理来开拓出新领域、得到新知识。有人也称之为“第四次”知识界限突破。
然而,这项尖端科技也引发了OpenAI内部员工的担忧。据路透社消息,他们认为,公司尚未具备足够的安全保障,来“商业化”这种先进的模式,因此它可能威胁人类。这项警告被认为是导致奥特曼解雇的最直接原因之一。
就在本月中旬召开的亚太经济合作会议(APEC)工商领袖高峰会中,奥特曼还特地提到了新模型的制作,声称将使他们“揭开无知的面纱,推进发现的前沿”。
下面是Q*项目对人类构成威胁的潜在原因:
高阶逻辑推理与对抽象概念的理解:目前网络上的所有报告都显示Q*具有逻辑推理和理解抽象概念的能力。这是一个巨大的飞跃。迄今为止,还没有任何AI模型能做到这一点。虽然在实践层面上,这是一个突破,但它也可能导致人类无法预见某些不可知的行为或决策。
深度学习与程式设计规则:研究员卡拉诺夫斯卡(Sophia Kalanovska)向商业内幕(Business Insider)介绍道,Q*这个名字是Q-learning(一种强化学习AI)和a-star(一种智能搜索方法)的融合。她表示,新模型把深度学习与人类程式设计规则结合起来,会使其比目前其他任何AI模型都更加强大和通用。从本质上讲,这可能导致该模型不仅从数据中学习,而且还能像人一样应用推理,会使人类对其控制或预测变得困难。
发展新想法的能力:截至目前,AI模型主要是重复现有讯息,而Q*则是一个里程碑,它将能够产生新想法并在事件发生之前就解决问题,或做出超越人类理解范围的决策与行动。
意外后果与误用:Q*功能也可能导致误用或出现意外。一旦被坏人掌握,可能会为人类带来灭顶之灾。即使有人出于善意使用它,Q*推理和决策的复杂性也可能导致其对人类造成某种损害。
上述是基于网上对Q*相关问题的探讨。这些担忧强调,在开发先进AI时,人们必须深思熟虑,并需要一个强而力的道德和安全监督框架护航。
来源:看中国
短网址: 版权所有,任何形式转载需本站授权许可。 严禁建立镜像网站.
【诚征荣誉会员】溪流能够汇成大海,小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员:每位荣誉会员每年只需支付一份订阅费用,成为《看中国》网站的荣誉会员,就可以助力我们突破审查与封锁,向至少10000位中国大陆同胞奉上独立真实的关键资讯,在危难时刻向他们发出预警,救他们于大瘟疫与其它社会危难之中。
看完这篇文章您觉得
- 日片《完美的日子》:光影交织中的美和释然(组图)
- 大开眼界!创记录的“人体喷泉”(组图)
- 习近平忌惮三个红二代(组图)
- 【宋紫凤专栏】从潘美到潘仁美 是艺术加工还是神来之笔(组图)
- 江曾一政策藏污纳垢 老虎前仆后继终南捷径(组图)
- 中国经济旧模式大溃败 注定一个时代已经结束(图)
- 王岐山是怎么“凄凄惨惨戚戚”的 退休后会遭泄恨吗?(图)
- 李克强夫人程虹做七是真是假? 李中堂何在?四七归来?(组图)
- 王沪宁争权 国台办埋钉子 三任妻子往事被抖(图)
- 中共党魁行踪泄密?紧急通知现身网络(图)
- 恐令北京气炸 他骑水上摩托车300公里逃抵韩的结果…(组图)
- “东北是捅了雪窝了”冲上热搜榜首(组图)
- 古今真相揭示:婚外恋有多可怕?(图)
- 饭局交际的3大忌 千万别犯!(图)
- 中共肺炎(又称武汉肺炎)
- 拜登
- 病毒
- COVID-19
- 疫苗
- 川普
- 特朗普
- 国安法
- 贸易战
- 习近平
- 华为
- 台铁
- 三峡大坝
- 新疆棉
- 长江
- 洪水
- 袁弓夷
- 港版国安法
- 汉光演习
- 国民党
- 退党
- 弗洛伊德
- BLM
- 中共
- 阎丽梦
- 金正恩
- 王岐山
- 赖清德
- 孟晚舟
- 关税
- 边境墙
- 彭斯
- 美国
- 贸易谈判
- 刘鹤
- 王沪宁
- 江泽民
- 崔永元
- 中南海
- 内幕
- 中共
- 反送中
- 贪官
- 情妇
- 腐败
- 反腐
- 打虎
- 官场
- 看中国
- 一国两制
- 法广
- 社交媒体
- 往事微痕
- 出卖国土
- FB
- 六四
- 朝鲜
- 加拿大
- 脱欧
- 央行
- 债务
- 杠杆
- 美元
- 货币
- 人民币
- 欧元
- 日元
- 港币
- 房地产
- 楼市
- 财政
- 财富
- 中产
- 海参崴
- 台湾
- 蔡英文
- 北京
- 刘强东
- 大妈
- 房价
- 疫苗
- 非洲猪瘟
- 大陆
- P2P
- 雾霾
- 基因编辑
- 防火墙
- 维权
- 709律师
- 上访
- 法轮功
- 网络审查
- 活摘器官
- 江东六十四屯
- 唐努乌梁海
- 长白山
- 白龙尾岛
- 江心坡
- SARS
- 新疆劳改营
- 言论自由
- 女主播
- 央视
- 华人
- 移民
- 华人
- 留学
- 海关
- 遣返
- 签证
- 回国
- 入籍
- 绿卡
- 民生
- 海外
- 加拿大
- 澳洲
- 民国
- 桂军
- 抗战
- 孙中山
- 蒋介石
- 宋美龄
- 邓小平
- 林彪
- 刘少奇
- 中共
- 皇帝
- 诸葛亮
- 易经
- 幽默人生
- 智慧
- 感悟
- 手机
- 预言
- 奇闻
- UFO
- 外星人
- 寿命
- 文革
- 养生
- 紫凤
- 贯明
- 李道真
- 轶飞
- 李云飞
- 云中君
- 辛思
- 夏闻
- 时代漫谈
- 沧海
- 东方纵横
- 唐柏桥
- 王尚一
- 江枫
- 黄清
- 李唐风
- 园丁
- 今涛拍暗
- 李青城
- 秦就石
- 中经研
- 秦天靖
- 江浩
- Eagle Vision
- 李子壬
- 马新宇
- 马来启
- 紫君
- 秦山
- 陈破空
- 戴东尼
- 曹长青
- 邢仁涛
- 瑜正
- 简易
- 肖川
- 伍凡
- 顾言
- 归瑜
- 乙欣
- 陈泱潮
- 徐沛
- 江泽民低估了此人的能量 后果很严重(图)
- 彭丽媛军职照片真伪辨 多少习近平真情假意在其中?(组图)
- 中国洗钱组织成全球主导者 为跨国组织掩犯罪事实(图)
- 挺过花莲7.2强震 我们会再度好起来!(组图)
- “五一”深圳楼市:特价房直降百万(图)