马斯克:人工智能有1/5可能性毁灭人类(图)
马斯克
【看中国2024年4月2日讯】尽管人工智能可能有五分之一的概率对人类生存构成威胁,但埃隆·马斯克仍然坚信这是值得冒险的。
在最近的Abundance360峰会上,马斯克在“人工智能辩论”研讨会上表示,他重新评估了人工智能技术的风险,并认为“人工智能有可能毁灭人类,但总体上还是利大于弊”。
然而,马斯克没有透露他是如何进行风险评估的。
人工智能安全研究员、路易斯维尔大学网络安全实验室主任罗曼·扬波尔斯基(Roman Yampolskiy)接受《商业内幕》采访时表示,马斯克对人工智能可能对人类构成生存威胁的担忧是正确的,但“如果有什么问题的话,那就是他的评估有点过于保守了”。
“在我看来,人类面临灾难的可能性要高得多。”扬波尔斯基说。他所说的灾难包括人工智能控制人类或导致人类终结事件的可能性,例如创造新型生物武器或由于大规模网络攻击或核战争而导致社会崩溃。
《纽约时报》称这种灾难是“席卷硅谷的一种病态的新统计学”,该媒体引用多位科技高管的估计,他们认为人工智能引发世界末日的可能性在5%到50%之间。但扬波尔斯基认为这一风险高达“99.999999%”。
扬波尔斯基表示,由于我们无法控制先进的人工智能,因此我们唯一的希望是从一开始就不要创造它。
“我不明白为什么马斯克认为研究人工智能是个好主意,”扬波尔斯基补充道,“如果他担心竞争对手抢先一步,那大可不必,因为无论是谁创造了它,这种不受控制的超级智能给我们带来的生存威胁都是一样糟糕。”
去年11月,马斯克表示,人工智能技术最终“变坏”的可能性“并非为零”,但他并没有进一步说明,如果真的“变坏”,这项技术可能会毁灭人类。
尽管马斯克一直是人工智能监管的倡导者,但他去年创立了一家名为xAI的公司,该公司致力于进一步扩大人工智能的力量。xAI是OpenAI的竞争对手,OpenAI是马斯克在2018年退出董事会之前与萨姆·奥特曼(Sam Altman)共同创立的公司。
在峰会上,马斯克估计,到2030年,数字智能将超过所有人类智能的总和。虽然他坚持认为研究人工智能利大于弊,但马斯克也承认,如果人工智能在一些最直接的领域继续按照目前的轨迹发展,世界将面临风险。
“你培养一个通用人工智能,这几乎就像抚养一个孩子,但他是一个超级天才,所以你如何培养这个孩子很重要。”马斯克在3月的一场硅谷活动中说,“人工智能安全方面,我认为最重要的一点是需要培养一个最大程度寻求真相并且具有好奇心的AI。”
马斯克表示,关于实现人工智能安全的最佳方式,他的“最终结论”是以迫使人工智能变得诚实的方式来发展人工智能。
“不要强迫它撒谎,即使事实令人不舒服。”马斯克在谈到保护人类免受科技侵害的最佳方法时说,“这非常重要,不要让人工智能撒谎。”
据《独立报》报道,研究人员发现,一旦人工智能学会对人类撒谎,使用当前的人工智能安全措施就不可能逆转这种欺骗行为。
该媒体引用的研究称,“如果一个模型由于欺骗性的仪器校准或模型中毒而表现出欺骗性行为,当前的安全培训技术将无法保证安全,甚至可能造成一种安全的假象。”
更令人不安的是,研究人员补充说,人工智能可能会自己学会欺骗,而不是被专门教导说谎。
“如果它变得比我们聪明得多,它就会非常擅长操纵,因为它会从我们这里学到这一点,”杰弗里·辛顿(Geoffrey Hinton)被称为“人工智能教父”,他告诉CNN,“很少有一个更聪明的东西被一个不那么聪明的东西控制的例子。”
责任编辑:吕仁
短网址: 版权所有,任何形式转载需本站授权许可。 严禁建立镜像网站.
【诚征荣誉会员】溪流能够汇成大海,小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员:每位荣誉会员每年只需支付一份订阅费用,成为《看中国》网站的荣誉会员,就可以助力我们突破审查与封锁,向至少10000位中国大陆同胞奉上独立真实的关键资讯,在危难时刻向他们发出预警,救他们于大瘟疫与其它社会危难之中。
看完这篇文章您觉得
- 【贯明专栏】台湾最美的海湾 人间仙境七星潭(视频)
- 水果皇后——草莓(组图)
- 战火无情 造化弄人 那一代人的离合沧桑(组图)
- 千年前的人类抵御矮人“他”化为恶龙(图)
- 龙年龙抬头地龙翻身 世界已现动荡不祥之兆(组图)
- 世界上最贵的歌 4句歌词火遍全球(组图)
- 从李克强表弟、原浙江副省长朱十亿被抓时“下巴发抖”说起(图)
- 惊传篮协主席姚明被连夜带走(图)
- 习近平最怕的三件事都被高层泄露 中共倒台一步之遥(图)
- 中共变天预言:南军与南方新势力(组图)
- 薄熙来是怎样谈论胡温和吴仪的?(图)
- 前司法部部长唐一军被查 曝露一个鲜为人知的罪行(图)
- 2025人人都无法逃过去的巨难海啸?!(视频)
- 传长沙1000村民砸烂派出所出人命 全域断网(图)
- 中共肺炎(又称武汉肺炎)
- 拜登
- 病毒
- COVID-19
- 疫苗
- 川普
- 特朗普
- 国安法
- 贸易战
- 习近平
- 华为
- 台铁
- 三峡大坝
- 新疆棉
- 长江
- 洪水
- 袁弓夷
- 港版国安法
- 汉光演习
- 国民党
- 退党
- 弗洛伊德
- BLM
- 中共
- 阎丽梦
- 金正恩
- 王岐山
- 赖清德
- 孟晚舟
- 关税
- 边境墙
- 彭斯
- 美国
- 贸易谈判
- 刘鹤
- 王沪宁
- 江泽民
- 崔永元
- 中南海
- 内幕
- 中共
- 反送中
- 贪官
- 情妇
- 腐败
- 反腐
- 打虎
- 官场
- 看中国
- 一国两制
- 法广
- 社交媒体
- 往事微痕
- 出卖国土
- FB
- 六四
- 朝鲜
- 加拿大
- 脱欧
- 央行
- 债务
- 杠杆
- 美元
- 货币
- 人民币
- 欧元
- 日元
- 港币
- 房地产
- 楼市
- 财政
- 财富
- 中产
- 海参崴
- 台湾
- 蔡英文
- 北京
- 刘强东
- 大妈
- 房价
- 疫苗
- 非洲猪瘟
- 大陆
- P2P
- 雾霾
- 基因编辑
- 防火墙
- 维权
- 709律师
- 上访
- 法轮功
- 网络审查
- 活摘器官
- 江东六十四屯
- 唐努乌梁海
- 长白山
- 白龙尾岛
- 江心坡
- SARS
- 新疆劳改营
- 言论自由
- 女主播
- 央视
- 华人
- 移民
- 华人
- 留学
- 海关
- 遣返
- 签证
- 回国
- 入籍
- 绿卡
- 民生
- 海外
- 加拿大
- 澳洲
- 民国
- 桂军
- 抗战
- 孙中山
- 蒋介石
- 宋美龄
- 邓小平
- 林彪
- 刘少奇
- 中共
- 皇帝
- 诸葛亮
- 易经
- 幽默人生
- 智慧
- 感悟
- 手机
- 预言
- 奇闻
- UFO
- 外星人
- 寿命
- 文革
- 养生
- 紫凤
- 贯明
- 李道真
- 轶飞
- 李云飞
- 云中君
- 辛思
- 夏闻
- 时代漫谈
- 沧海
- 东方纵横
- 唐柏桥
- 王尚一
- 江枫
- 黄清
- 李唐风
- 园丁
- 今涛拍暗
- 李青城
- 秦就石
- 中经研
- 秦天靖
- 江浩
- Eagle Vision
- 李子壬
- 马新宇
- 马来启
- 紫君
- 秦山
- 陈破空
- 戴东尼
- 曹长青
- 邢仁涛
- 瑜正
- 简易
- 肖川
- 伍凡
- 顾言
- 归瑜
- 乙欣
- 陈泱潮
- 徐沛
- 不要随便介入他人的因果链(图)
- 宝林茶室中毒案再夺一命 议员揭厨师证照漏洞(图)
- 上海神秘实验室曝光?知名病毒学家被逼门口打地铺(组图)
- 60岁阿根廷美女选美封后 全球史上首位(图)
- 民调发现拜登是70年来最不受欢迎总统(图)