EXC:ChatGPT类产品安全隐患解决？英伟达发布开源工具包_Globiance Exchange

作者：

时间：

随着ChatGPT等AI聊天机器人自去年底以来迅速走红，对于它们安全问题的相关警告也层出不穷。尽管背后的开发者也在竭尽全力地想办法解决这些问题，比如实施资讯过滤和人类纠正那些被标记的问题，但效果都不尽人意。

有鉴于此，英伟达公司（Nvidia Corp.）周二正式发布了一个名为NeMo Guardrails的开源工具包，可以禁止AI聊天机器人提供那些受限的信息，使人工智能驱动的应用程序更加准确、适当、符合主题和安全。

区块链安全公司Chaos Labs完成2000万美元种子轮融资:金色财经报道，区块链风险分析公司Chaos Labs周二宣布完成2000万美元种子轮融资，PayPal Ventures和Galaxy Digital领投，Coinbase、Uniswap、Lightspeed、Bessemer，以及Balaji Srinivasan和Naval Ravikant等天使投资人参投。

据悉，该公司团队成员包括前以色列特种部队成员，其10个公开客户包括一些DeFi领域的头部公司，如Aave、Chainlink和Uniswap。（Fortune）[2023/2/21 12:19:59]

每个人都意识到了大型生成语言模型的力量，英伟达应用研究副总裁Jonathan Cohen说，以一种安全可靠的方式部署它们非常重要。

Poloniex Exchange上线ETHW和ETHS交易对:金色财经报道，据Poloniex Exchange官方社交媒体，ETHS/USDT、ETHW/USDT、ETHS/USDD、ETH/USDD已经上线，目前所有ETHS和ETHW交易均无交易费。Poloniex Exchange提醒，在 ETHS/ETHW (ETH1) 到 ETH 的兑换过程中，ETHS (ETH2) 和 ETHW (ETH1) 的数量必须相同。[2022/8/8 12:08:37]

英伟达表示，NeMo Guardrails将作为终端用户和人工智能程序之间的一层防护墙。将其与传统软件混合，该系统将能够识别用户提出的事实问题，并检查机器人是否能够和应该回答这个问题。系统还将确定生成的答案是否基于事实，并控制聊天机器人给出回答的方式。

SIX Digital Exchange与代币化平台daura建立合作伙伴关系:金色财经报道，瑞士主要证券交易所运营商SIX Group旗下数字资产子公司SIX Digital Exchange（SDX）与瑞士股票代币化平台 daura宣布建立合作伙伴关系。因此，在daura上的公司将能够在SDX受监管的中央证券存管处 (CSD) 无缝发行数字股票证券。

自2018年以来，通过在daura上发行数字股票，55 家瑞士公司已将其股票代币化，并从 3,900 名注册用户的社区筹集了超过 1700 万瑞士法郎。与SDX的这种新合作伙伴关系将使daura的中小企业能够在SDX的集中式存管处发行私人银行证券并获得二级流动性，同时通过整合的工作流程管理其股票登记和上限表。

此前金色财经报道，瑞士加密交易所SIX Digital Exchange成功发行规模约1.62亿美元的全球首笔数字债券。[2022/4/25 14:46:07]

例如，假设一名员工询问人力资源聊天机器人，公司是否为想要领养孩子的员工提供支持。这将通过NeMo Guardrails并返回包含公司相关利益的文本。询问同一个机器人有多少员工利用了这一福利，可能会引发拒绝指令，因为这些数据是保密的。Cohen还表示，英伟达已经在Guardrails的底层系统上工作了"多年"，但就在大约一年前意识到它很适合GPT-4和ChatGPT这样的模型。"从那时起，我们一直在朝着NeMo Guardrails的这个版本发展，"他说，"人工智能模型安全工具对于那些为企业用途部署的模型至关重要。"

财联社

媒体专栏

阅读更多

金色荐读

金色财经善欧巴

Chainlink预言机

白话区块链

金色早8点

Odaily星球日报

欧科云链

深潮TechFlow

MarsBit