当前头条:五一汕头南澳一日游路线
☞行程设计:南澳长尾山码头灯塔——南澳县海防史博物馆——后花园村——总兵府——自然之门——青澳湾海滨浴场图源:摄图网-501173908✌南澳
来源:机器之心
出 Stable Diffusion 的公司也出语言大模型了,效果还挺好。 本周三,StableLM 的发布引来了科技圈的关注。
Stability AI 是近期势头正盛的创业公司,因为开源的 AI 画图工具 Stable Diffusion 而饱受好评。在周三的发布中,该公司宣布其语言大模型现已可供开发人员在 GitHub 上使用和改编。
与业内标杆 ChatGPT 一样,StableLM 旨在高效地生成文本和代码。它在名为 Pile 的开源数据集的更大版本上进行训练,其中包含来自各种来源的信息,包括维基百科、Stack Exchange 和 PubMed,共 22 个数据集,容量达到 825GB,1.5 万亿个 token。
(相关资料图)
Stability AI 表示,StableLM 模型目前可用版本的参数在 30 亿到 70 亿之间,未来将有 15 亿到 650 亿范围的多种参数模型可用。
项目链接:https://github.com/stability-AI/stableLM/
根据目前人们的测试,如果跑 7B 模型(8 bit),需要用到 12GB 的显存。
Stability AI 也放出了一些 StableLM 的问答示例:
StableLM 基于 Stability AI 此前与非营利组织 EleutherAI 合作开发的开源语言模型,包括 GPT-J、GPT-NeoX 和 Pythia,新模型面向尽可能大的用户群。 此前在 Stable Diffusion 上,Stability AI 通过多种方式提供其文本到图像 AI 的技术,包括公开演示、软件测试版和模型的完整下载,也允许开发人员使用其工具并进行各种集成。
相比 OpenAI 的封闭,Stability AI 一直把自身定位为 AI 研究社区的一员,我们大概率会在 StableLM 上看到和上月发布的 Meta 开源 LLaMa 语言模型同样的情况。大量基于原版模型的算法可能会出现,在较小模型体量之上实现很好的效果。
StableLM 的微调版聊天界面。
此外,现在每个人都可以尝试在 Hugging Face 上托管的 StableLM 微调聊天模型上和 AI 进行对话:https://huggingface.co/spaces/stabilityai/stablelm-tuned-alpha-chat
和所有语言大模型一样,StableLM 模型仍然存在「幻觉」问题,如果你尝试问它如何制作花生酱三明治,StableLM 会给出一个非常复杂且荒谬的食谱。它还建议人们在慰问卡上添加一张「有趣的图画」。
Stability AI 警告说,虽然它使用的数据集应该有助于「将基础语言模型引导到『更安全』的文本分布中,但并不是所有的偏见和毒性都可以通过微调来减轻。
现在 StableLM 模型已在 GitHub 存储库中上线。Stability AI 表示将在不久的将来发布一份完整的技术报告,此外还将启动众包 RLHF 计划,并与 Open Assistant 等社区合作,为 AI 聊天助手创建一个开源数据集。
关键词:
☞行程设计:南澳长尾山码头灯塔——南澳县海防史博物馆——后花园村——总兵府——自然之门——青澳湾海滨浴场图源:摄图网-501173908✌南澳
交易商品牌 产地交货地最新报价硝酸铜 98含量太原市鑫玉峰化工厂山西山西省 太原市23500元 吨太原市鑫玉峰化工厂山西山西省 太原市23500元 吨
4月19日,成都海关发布最新外贸数据显示,一季度四川货物贸易进出口总值2342 2亿元,外贸规模居全国第8位。其中,3月份四川外贸企稳回升,实现
今天上午,韶关市安全生产和防汛工作电视电话会议结束后,我市立即召开安全生产和防汛工作会议,传达韶关市关于安全生产和防汛工作会议精神,
据外交部消息,2023年4月20日,外交部亚洲司司长刘劲松会见蒙古驻华大使巴德尔勒,就中蒙两国治理沙尘暴、共同推进荒漠化防治和应对气候变化等
今天来聊聊关于渡良濑准,渡凉濑准的文章,现在就为大家来简单介绍下渡良濑准,渡凉濑准,希望对各位小伙伴们有所帮助。1、HA
今明两天(4月21日至22日),强冷空气继续影响我国,降温的范围也将逐渐向南铺展;明天,长江以南地区将加入“降温群聊”。
截至2023年4月21日收盘,裕兴股份(300305)报收于11 05元,下跌0 72%,换手率1 11%,成交量2 59万手,成交额2865 26万元。
据成都市医保局消息,成都市长期护理保险于4月1日正式启动辅具服务。4月13日,家住金牛区曹家巷恒大雅苑的邓奶奶成为成都市首位享受长期护理保
点击下方卡片,关注“CVer”公众号AI CV重磅干货,第一时间送达今天Amusi看到这么一则新闻: 今年高校毕业生将达1158万人 人力资源和社会保障部
1、巴厘岛是世界上知名的旅游度假胜地,风景宜人秀丽,那么你知道巴厘岛有哪些特产么?下面简单说说吧。2、最知名的当属“猫屎
4月21日北向资金增持1000 0股左江科技。近5个交易日中,获北向资金减持的有4天,累计净减持10 15万股。近20个交易日中,获北向资金减持的有11
LNMP模式下,已经安装了某一个PHP版本,比如说8 1,现在要再多安装一个8 0。
孙桥溢佳2022年净利2157 17万同比增长65 54%农业设施订单量大幅增长2023 4 2122:12:47挖贝网于彤挖贝网4月21日,孙桥
1、潭边村位于福建省泉州南安市乐峰镇政府驻地东北4 8公里处。2、有耕地面积1003亩,山地面积3000亩。3、主种
<p> 本报记者 周函< p><p> 长在腰腹部的肾脏恶性肿瘤,竟又悄无声息钻进肺部,5岁男孩天天(化名)拉响生命警报。所幸,苏大附儿院
今日(4月20日),三大指数早间低开低走,创指盘中一度跌超1%。盘面上,CPO概念、6G概念、通信设备板块涨幅居前,景点
近日,上海市政府办公厅印发的《关于本市进一步放权松绑激发科技创新活力的若干意见》(下称《若干政策》)指出,上海市将加快形成与科技企业生
截至2023年4月21日收盘,东软载波(300183)报收于18 72元,下跌4 64%,换手率5 98%,成交量20 06万手,成交额3 81亿元。
1、DF:Don tFragmentIP协议的首部“标志”中标志(flag)占3位,只有前两位有意义。2、标志字
美国将近20个州的总检察长20日联名致信美国交通安全监管当局,要求召回大量韩国现代和起亚品牌汽车,理由是这些汽车缺乏基本的防盗装置,被盗
设计合同范本附件第1篇发包方(甲方):承包方(乙方):合同编号:北京市工商行政管理局监制XX年三月修订使用说明1、本市行政区域内的家庭居室装
按水开的时间算,水开十五分钟后差不多就熟了,当然蒸香肠和蒸腊肠的的方式是一样的,如果用高压锅来蒸呢,时间会短一点,当高压锅开始排气的
春分过后,天气晴朗,气温稳步上升,是生姜种植的最佳时节。在黔东南麻江县谷硐镇摆沙村,40多个村民正分工协作、配合有序,翻
今天来聊聊关于奈亚公主帝蒂娜,奈亚公主的文章,现在就为大家来简单介绍下奈亚公主帝蒂娜,奈亚公主,希望对各位小伙伴们有所帮