ChatGPT引担忧 或被独裁者用作洗脑工具(图)

中国人工智能公司商汤科技在上海举行的2021年世界人工智能大会上的一个展位。（图片来源：STR/CNS/AFP via Getty Images） 看中国网站 禁止建立鏡像網站。返回正版看中国网站。

【看中国2023年2月27日讯】（看中国记者路克编译）近来，随着一个在撰写论文、诗歌和计算机代码方面具有惊人的类人能力的系统——ChatGPT火爆问世，引发人们担忧，它有可能为自由世界送给独裁者的下一份大礼，能让其大规模创造内容独特、引人注目的洗脑宣传内容。 看中国网站 禁止建立鏡像網站。返回正版看中国网站。

据《国会山报》报道，西方行业领导者之间就发布先进的生成人工智能工具的风险展开的激烈辩论在很大程度上忽略了它们的影响可能最有害的一点：即在独裁体制内。人工智能公司和美国政府都必须为ChatGPT等工具的开发制定更严格的规范，充分认识到它们对世界独裁者具有改变游戏规则的潜力。

到目前为止，对生成式人工智能和独裁者的担忧主要集中在这些系统如何加强中国和俄罗斯的反美宣传工作上。ChatGPT已经展示了生成式AI只需按一下按钮即可自动处理中国和俄罗斯虚假信息的能力。当与定向广告和其他新的精准宣传技术的进步相结合时，生成式人工智能预示着专制影响行动的速度、规模和可信度方面的一场革命。

无论中国和俄罗斯的外国虚假信息努力看起来多么令人生畏，开放社会只收到北京和莫斯科向其本国民众进行的宣传的一小部分。虽然民主国家拥有强大的技术专家社区，致力于打击在线操纵，但独裁者可以利用其国家的全部权力来优化其宣传的影响力。

2019年，中国国家主席习近平下令党国利用人工智能“全面增强”中国共产党塑造中国舆论的能力时提出了这一要求。在入侵乌克兰之后，普京同样加大了对人工智能的宣传力度，其中包括乌克兰总统泽伦斯基呼吁乌克兰人投降的虚假视频。这些努力得到了一系列令人眼花缭乱的中国和俄罗斯机构的支持，这些机构负责思想控制，培养具有竞争力的数字宣传工具生态系统，每年由数十亿美元的预算支持。

换句话说，中国和俄罗斯是生成式人工智能的沃土，可以引领洗脑的历史性突破——这将导致更多国际灾难、更严重的侵犯人权行为和更根深蒂固的专制主义。随着中国提炼和出口其技术，世界各地的准暴君可能会从宣传革命中获利。

幸运的是，美国和盟国的公司在很大程度上引领了生成人工智能能力的进步。随着技术的成熟，这种优势将变得越来越重要，它可以让开放社会有时间在专制国家利用这些技术达到自己的目的之前了解、发现和减轻潜在危害。但如果独裁者很容易获得这些开创性工具，自由世界就有可能浪费这种优势。

不幸的是，让尖端人工智能模型远离独裁者之手是一项艰巨的任务。在技术层面上，生成式AI模型很容易被盗。尽管需要大量资源来构建，但模型一旦开发出来，就可以以最低成本轻松复制和调整。这是个坏消息，因为中国经常掠夺美国公司的技术。

美国科技公司也可能被诱惑出售生成人工智能的能力，就像它们无意中帮助奠定了中国防火墙、无处不在的监控设备和通过商业企业收获穆斯林少数民族基因一样。

此外，中国或俄罗斯的人工智能研究人员可以简单地利用几家公司的努力来保持生成人工智能的开源。Meta已经开始“民主化”访问其OBT-175B语言模型，就像AI公司Hugging Face帮助推出BLOOM，一种开放访问的多语言模型一样。尽管这些努力可能是善意的，但它们对宣传者来说是一个福音。

相反，公司需要对具有助长专制的巨大潜力的技术采取适当的谨慎和安全措施来对待生成式AI开发，并避免开源其尖端模型的技术细节。

美国政府应该阐明生成人工智能的战略重要性，并在限制美国监控技术出口的类似措施的基础上，限制尖端的生成人工智能模型出口给不值得信任的合作伙伴。用于生成人工智能的联邦研究资金应仅限于具有强大安全实践的可信赖接收者。美国及其盟国还应积极投资于反宣传能力，以减轻即将到来的生成人工智能宣传浪潮。

来源:看中国

短网址: 版权所有，任何形式转载需本站授权许可。 严禁建立镜像网站.

---

【诚征荣誉会员】溪流能够汇成大海，小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员：每位荣誉会员每年只需支付一份订阅费用，成为《看中国》网站的荣誉会员，就可以助力我们突破审查与封锁，向至少10000位中国大陆同胞奉上独立真实的关键资讯，在危难时刻向他们发出预警，救他们于大瘟疫与其它社会危难之中。