ERO:暂停巨型人工智能实验 马斯克、ChatGPT之父、图灵奖得主等全球大佬都签了_人工智能软件

3月22日，生命未来研究所 (Future of Life) 向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4 更强大的人工智能系统的训练，暂停时间至少为 6个月。

目前该公开信已获得超过1100个人士支持，其中包括埃隆马斯克、山姆·奥特曼、约书亚·本吉奥（2018年图灵奖得主）等知名人士。

公开信正文

大量研究表明，具有人类竞争智能的 AI 系统可能对社会和人类构成深远的风险，这一观点也得到了顶级 AI 实验室的认可。

正如广泛认可的阿西洛马人工智能原则（著名的阿西莫夫的机器人三大法则的扩展版本）中所述，高级 AI 可能代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理。

赵长鹏：对Terra团队处理UST/LUNA事件的方式感到非常失望，为保护用户暂停其交易:5月13日消息，赵长鹏解释暂停LUNA和UST交易表示，优先考虑保护用户。由于Terra协议的设计缺陷，大量新的LUNA被铸造出来。他们的验证者已经暂停了整个网络，导致无法在任何交易所进行存款或取款。部分用户不知道交易所外有大量新铸的LUNA，又开始购买LUNA，不知道一旦允许存款，价格可能会进一步暴跌。由于这些重大风险，币安暂停交易。

此外，赵长鹏称对Terra团队如何处理（或不处理）UST/LUNA事件感到非常失望。币安要求他们的团队恢复网络，销毁额外铸造的LUNA，并恢复UST挂钩。到目前为止，币安还没有得到任何积极的回应，或者根本没有太多的回应。这与Axie Infinity形成鲜明对比，Axie Infinity团队承担责任，制定计划并主动与币安沟通。币安提供了帮助。

最后，赵长鹏表示，知道社区中存在不同的意见，我们认为暂停交易是目前保护用户的最佳方式，并将继续密切关注情况。

此前消息，币安将于今日16:30暂停LUNA/BUSD，UST/BUSD交易对交易。[2022/5/13 3:14:19]

不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至他们的创造者——都无法理解，预测或可靠地控制。

公告 | 火币全球站将于5月23日10:00暂停DBC、PHX、GAS及NEO的提币业务:据火币公告，由于钱包升级，火币全球站将于2019年5月23日10:00暂停DBC、PHX、GAS和NEO的提币业务。受升级影响，这些币种的充币业务可能会有延迟。[2019/5/20]

当代人工智能系统现在在一般任务上变得与人类具有竞争力，我们必须扪心自问：

我们是否应该让机器用宣传和谎言充斥我们的信息渠道？

我们应该自动化所有的工作，包括令人满意的工作吗？

我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维？

我们应该冒险失去对我们文明的控制吗？

此类决定显然不能委托给未经选举产生的技术领导者。只有当我们确信它们的影响是积极的并且它们的风险是可控的时候，才应该开发强大的人工智能系统。这种信心必须有充分的理由，并随着系统潜在影响的大小而增加。

公告 | 火币全球站现已暂停NAS 提币业务:据火币公告，由于钱包升级，火币全球站现已暂停NAS提币业务，具体恢复时间另行通知。[2018/12/18]

OpenAI最近关于通用人工智能的声明指出，“在某些时候，在开始训练未来系统之前进行独立审查可能很重要，并且对于最先进的努力来说，同意限制用于创建新系统的计算增长率楷模。” 我们同意这一观点，并且认为现在就要行动起来。

因此，我们呼吁所有人工智能实验室立即暂停训练比 GPT-4 更强大的人工智能系统（包括目前正在训练的 GPT-5）至少 6 个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并暂停。

人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的，无可置疑。

动态 | 区块链电力信托公司暂停比特币采矿业务:据globenewswire消息，加拿大上市公司区块链电力信托（Blockchain Power Trust）发布第三季度生产情况报告，报告显示截至2018年9月30日，第三季度，该公司共开采了107枚比特币。该公司表示，鉴于比特币价格下降、采矿难度的增加，以及罗马尼亚和欧洲电力价格环境持续强劲，公司目前无法为比特币采矿业务供应或购买能源，因此暂停比特币采矿业务。[2018/10/29]

这并不意味着总体上暂停 AI 开发，只是从危险的竞赛中倒退到具有紧急功能的更大的不可预测的黑盒模型。

人工智能研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。

与此同时，AI 开发人员必须与政策制定者合作，以显着加快开发强大的 AI 治理系统。这些至少应包括：

Mt.Gox托管人暂停抛售比特币，投资者看涨比特币:据CNBC报道，日本已破产交易所Mt.Gox的托管人Nobuaki Kobayashi已经暂停抛售比特币，这个消息增加了投资者对比特币的看涨情绪。这位托管人上周发布报告表示在过去6个月抛售了3.5万个比特币，这也被人认为是比特币大跌的原因之一。他目前还持有16.6万个比特币，但他们表示要出售剩下的比特币需要获得监管批准，所以暂时应该不会出现大规模抛售情况。[2018/3/13]

专门负责 AI 的新的和有能力的监管机构；

监督和跟踪高性能人工智能系统和大量计算能力；

出处和水印系统，以帮助区分真实与合成并跟踪模型泄漏；

强大的审计和认证生态系统；

人工智能造成的伤害的责任；

为技术人工智能安全研究提供强大的公共资金；

以及资源充足的机构来应对人工智能将造成的巨大的经济和破坏。

人类可以享受人工智能带来的繁荣未来。成功创建强大的 AI 系统后，我们现在可以享受“AI 之夏”，收获回报，设计这些系统以造福所有人，并为社会提供适应的机会。社会已经暂停其他可能对社会造成灾难性影响的技术。

我们可以在这里这样做。让我们享受一个漫长的 AI 夏天，而不是毫无准备地陷入秋天。

云集行业大佬

目前已有超过1000人在该公开信上上签字，包括马斯克、山姆·奥特曼、约书亚·本吉奥（2018年图灵奖得主）、巴勃罗·贾里洛·埃雷罗（石墨烯领域顶级专家）等行业大佬。

以下是部分名单：

Elon Musk，SpaceX、Tesla 和 Twitter 的首席执行官

Sam Altman，OpenAI首席执行官

Steve Wozniak，苹果联合创始人

Emad Mostaque，Stability AI 首席执行官

Yoshua Bengio，因开发深度学习而获得图灵奖，蒙特利尔学习算法研究所所长

Stuart Russell，伯克利计算机科学教授，智能系统中心主任，标准教科书“人工智能：现代方法”的合著者

Pablo Jarillo-Herrero，麻省理工学院物理学教授，美国国家科学院沃尔夫物理学奖

John J Hopfield，普林斯顿大学名誉教授，联想神经网络的发明者

Connor Leahy，Conjecture 首席执行官

……

顶级精英的忧虑

业内人士对于AI的担心有增无减。

OpenAl公司的首席执行官山姆·阿尔特曼(Sam Altman) 近日表示，他对人工智能(AI)技术的潜力感到兴奋，但也对一些潜在的滥用行为“有点害怕”。还表示“它有巨大的前景也有巨大的能力，但随之而来的危险也是巨大的。”

「人工智能教父」Geoffrey Hinton近日在CBS NEWS的采访表示，人工智能正处于一个「关键时刻」，通用人工智能 (AGI) 的出现比我们想象的更加迫近。

马斯克在2023年世界政府峰会上谈及ChatGPT，认为短期内人们需要警惕人工智能的安全问题，并呼吁对人工智能进行监管。

“我担心的是，对于人工智能来说，如果它出了问题，从监管的角度来看，反应可能太慢了。我想说，未来文明面临的最大风险之一是人工智能。”

但人工智能既有消极的一面，也有积极的一面。

”它前途无量，力量强大，但也伴随着巨大的危险。看看核物理学的发现，我们可以得到核能发电，但是它也带来了核弹。”

”总之，我认为我们应该深切关注这个问题，我们应该对从根本上对公众构成风险的事情进行某种监管。”马斯克表示。

写在最后

从 ChatGPT3、ChatGPT4，再到文心一言，AI几乎正在呈指数级速度发展发展，处于人工智能时代的飓风中，未来人类又应该何去何从......

金色财经 善欧巴

金色早8点

白话区块链

欧科云链

Odaily星球日报

Arcane Labs

MarsBit

深潮TechFlow

BTCStudy

链得得

标签：人工智能EROZEROZER人工智能软件Aleph ZeroKILLTHEZERO

Pol币热门资讯