来源:新智元
前段时间,浙大&微软发布了一个大模型协作系统HuggingGPT直接爆火。
研究者提出了用ChatGPT作为控制器,连接HuggingFace社区中的各种AI模型,完成多模态复杂任务。
整个过程,只需要做的是:用自然语言将你的需求输出。
英伟达科学家称,这是我本周读到的最有意思的论文。它的思想非常接近我之前说的「EverythingApp」,即万物皆App,被AI直接读取信息。
上手体验
现在,HuggingGPT增加了Gradio演示。
项目地址:https://github.com/microsoft/JARVIS
有网友便上手体验了一番,先来「识别图上有几个人」?
HuggingGPT根据推理结果,得出图片中有2个人正在街道上行走。
推特CEO:比特币是互联网货币最强竞争者:金色财经报道,9月10日,推特首席执行官及Square创始人Jack Dorsey在接受路透社采访时表示,他相信比特币的潜力仍胜过后来出现的其他加密货币,比特币是互联网货币的最强竞争者。Dorsey表示,互联网是由共识驱动的,是由每个人建立的,任何人都可以改变它的发展方向。比特币具有相同的模式,它是建立在互联网上的。有好的想法且“想成为比特币一员的任何人”都可以加入社区,他们“不必成为公司的一部分”。[2020/9/11]
具体过程如下:
首先使用图像到文本模型nlpconnect/vit-gpt2-image-captioning进行图像描述,生成的文本「2个女人在有火车的街道上行走」。
接着,使用了目标检测模型facebook/detrresnet50来检测图片中的人数。模型检测出7个物体,2个人。
路透社:BTC为今年表现最强劲的资产之一:路透社今日发文称,比特币周一延续涨势,一度上涨4.4%至12424美元,为2019年7月以来的最高水平。自今年3月以来,比特币价格已上涨逾两倍。文章称,比特币今年已经飙升超过70%,成为表现最强劲的资产之一。文章还指出,全球各国央行大幅下调利率以及大规模的债券购买计划刺激了对比特币的需求。由于供应有上限,比特币被一些投资者视为一种对冲通胀的手段。[2020/8/18]
再使用视觉问题回答模型dandelin/vilt-b32-finetuned-vqa得出结果。最后,系统提供了详细的响应和用于解答问题的模型信息。
另外,让它理解「我爱你」这句话的情感,并将其翻译成泰米尔语。
HuggingGPT调用了以下模型:
首先,使用了模型「dslim/bert-base-NER」对文本「lloveyou」进行情感分类,是「浪漫」。
动态 | 比特币CMF指数显示:看跌情绪为2月份以来最强:截至目前,比特币的每周佳庆资金指标(Chaikin Money Flow,简称CMF)为-0.14,这是自2月中旬以来的最低值。该指标若低于零则意味着较大的抛售压力。更重要的是,尽管过去三周比特币反复在100周均线得到了支撑,但CMF指标仍继续下跌,这表明投资者的情绪仍然十分悲观。总而言之,比特币可能跌破100周均线支撑位7,758美元。但如果价格上涨至200日均线上方(8,700美元),则短期看跌情况将减弱。不过目前看来,这种可能性不大。[2019/10/17]
然后,使用「ChatGPT」将文本翻译成泰米尔语,即「Nanunnaikadalikiren」。
在推理结果中没有生成的图片、音频或视频文件。
转录MP3文件时,HuggingGPT却失败了。网友表示,「不确定这是否是我的输入文件的问题。」
分析 | 比特币网络的算力相当于地球最强计算机的60倍:9月9日,据 btc.com 数据显示,从 2019 年年初开始,比特币网络算力不断攀升,并在近期达到新高 84.59 EH/s,这一趋势似乎并未停止,仍有大量的算力涌入比特币网络中。 根据 2018 年 11 月世界 Top500 超级计算机榜单最新报告显示,世界上最快的计算机是美国 IBM 研发的 Summit,其运算速度为 143.5 亿亿次,排名第四的是中国广州国家超级计算机中心的天河-2A 超级计算机,其运算速度是 61.44 亿亿次。据此计算,比特币网络的运算速度是 Summit 的 60 倍,是天河-2A 的 137 倍。[2019/9/10]
再来看看图像生成的能力。
输入「一只猫跳舞」图像上添加文字「ILOVEYOU」作为叠加层。
HuggingGPT首先使用了「runwayml/stable-diffusion-1-5」模型根据给定的文本生成「跳舞的猫」的图片。
CoinDesk主管:比特币将继续成为最强加密货币:据Express消息,Coindesk主管 Nolan Bauerle表示比特币一开始就是所有想法的来源,并且是世界上最强大、最安全、持续时间最长的区块链。尽管价格由于管制压制有所下滑,但仍在加密货币领域扮演着重要角色。另外,保卫民主基金会近日调查显示,比特币正在摆脱其吸引犯罪的恶名。[2018/4/27]
然后,使用同一个模型根据给定的文本生成了「ILOVEYOU」的图片。
最后,将2个图片合并在一起,输出如下图:
贾维斯照进现实
项目公开没几天,贾维斯已经在GitHub上收获了12.5k星,以及811个fork。
研究者指出解决大型语言模型当前的问题,可能是迈向AGI的第一步,也是关键的一步。
因为当前大型语言模型的技术仍然存在着一些缺陷,因此在构建AGI系统的道路上面临着一些紧迫的挑战。
为了处理复杂的人工智能任务,LLMs应该能够与外部模型协调,以利用它们的能力。
因此,关键点在于如何选择合适的中间件来桥接LLMs和AI模型。
在这篇研究论文中,研究者提出在HuggingGPT中语言是通用的接口。其工作流程主要分为四步:
论文地址:https://arxiv.org/pdf/2303.17580.pdf
首先是任务规划,ChatGPT解析用户请求,将其分解为多个任务,并根据其知识规划任务顺序和依赖关系。
接着,进行模型选择。LLM根据HuggingFace中的模型描述将解析后的任务分配给专家模型。
然后执行任务。专家模型在推理端点上执行分配的任务,并将执行信息和推理结果记录到LLM中。
最后是响应生成。LLM总结执行过程日志和推理结果,并将摘要返回给用户。
假如给出这样一个请求:
请生成一个女孩正在看书的图片,她的姿势与example.jpg "/>中的男孩相同。然后请用你的声音描述新图片。
可以看到HuggingGPT是如何将它拆解为6个子任务,并分别选定模型执行得到最终结果的。
通过将AI模型描述纳入提示中,ChatGPT可以被视为管理人工智能模型的大脑。因此,这一方法可以让ChatGPT能够调用外部模型,来解决实际任务。
简单来讲,HuggingGPT是一个协作系统,并非是大模型。
它的作用就是连接ChatGPT和HuggingFace,进而处理不同模态的输入,并解决众多复杂的人工智能任务。
所以,HuggingFace社区中的每个AI模型,在HuggingGPT库中都有相应的模型描述,并将其融合到提示中以建立与ChatGPT的连接。
随后,HuggingGPT将ChatGPT作为大脑来确定问题的答案。
到目前为止,HuggingGPT已经围绕ChatGPT在HuggingFace上集成了数百个模型,涵盖了文本分类、目标检测、语义分割、图像生成、问答、文本到语音、文本到视频等24个任务。
实验结果证明,HuggingGPT可以在各种形式的复杂任务上表现出良好的性能。
网友热评
有网友称,HuggingGPT类似于微软此前提出的VisualChatGPT,似乎他们把最初的想法扩展到了一组庞大的预训练模型上。
VisualChatGPT是直接基于ChatGPT构建,并向其注入了许多可视化模型。文中提出了PromptManage。
在PM的帮助下,ChatGPT可以利用这些VFMs,并以迭代的方式接收其反馈,直到满足用户的要求或达到结束条件。
还有网友认为,这个想法确实与ChatGPT插件非常相似。以LLM为中心进行语义理解和任务规划,可以无限提升LLM的能力边界。通过将LLM与其他功能或领域专家相结合,我们可以创建更强大、更灵活的AI系统,能够更好地适应各种任务和需求。
这就是我一直以来对AGI的看法,人工智能模型能够理解复杂任务,然后将较小的任务分派给其他更专业的AI模型。
就像大脑一样,它也有不同的部分来完成特定的任务,听起来很符合逻辑。
参考资料:
https://twitter.com/1littlecoder/status/1644466883813408768
https://www.youtube.com/watch?v=3_5FRLYS-2A
https://huggingface.co/spaces/microsoft/HuggingGPT
中文推特:https://twitter.com/8BTC_OFFICIAL英文推特:https://twitter.com/btcinchinaDiscord社区:https://discord.gg/defidao电报频道:https://t.me/Mute_8btc电报社区:https://t.me/news_8btc
Defi衍生品在熊市回归主线情节 2020年Defi summer带来的繁荣是现象级的,当时几乎所有人都认为2020年后的大热是Defi衍生品赛道.
Arbitrum在3月份推出了ARB代币空投,受到用户和支持者的热烈反馈。代币的推出将协议的去中心化控制权转移至由代币持有人治理的ArbitrumDAO。自代币推出以来,情况发生了戏剧性的变化.
LUKSO区块链的概念在2018年提出,并在2020年通过初始代币发行筹集了资金。如今,LUKSO主网经过了多次延期,终于即将上线。和以太坊类似,验证者需要锁定32$LYXe.
NexGenVenture是一家规模超千万美元的基金,是一个聚焦年轻degen与青年才俊的投资机构,并且坚信新时代年轻力量有潜力塑造并赋能超万亿美元加密货币市场的未来.
现在是2077年,我们进入了新产权时代,通过在元宇宙建立新的秩序,我们为所有人构建了对抗资本垄断的工具-全民公有土地,利用哈伯格税实现全民UBI,通过正确利用资本效率,我们创造了一个新范式.
3月31日,以太坊联合创始人“V神”?Vitalik?Buterin在其官方博客上发布文章《以太坊的多客户端理念将如何与ZK-EVM交互?》.