魔改RNN挑战Transformer,RWKV上新:推出2种新架构模型
魔改RNN挑战Transformer,RWKV上新:推出2种新架构模型不走Transformer寻常路,魔改RNN的国产新架构RWKV,有了新进展: 提出了两种新的RWKV架构,即Eagle (RWKV-5) 和Finch(RWKV-6)。
搜索
不走Transformer寻常路,魔改RNN的国产新架构RWKV,有了新进展: 提出了两种新的RWKV架构,即Eagle (RWKV-5) 和Finch(RWKV-6)。
Humane AI Pin 的背后理念很简单:这是一台没有屏幕的手机。它不会要求用户去打开各种应用或者在键盘上进行操作,而是通过一个 AI 助手和一个称作 CosmOS 的操作系统,将所有复杂功能简化。
随着大模型的参数量日益增长,微调整个模型的开销逐渐变得难以接受。 为此,北京大学的研究团队提出了一种名为 PiSSA 的参数高效微调方法,在主流数据集上都超过了目前广泛使用的 LoRA 的微调效果。
谷歌又放大招了,发布下一代 Transformer 模型 Infini-Transformer。
半年来内斗剧情跌宕起伏的企业 OpenAI,再次传来人员变动的消息。
据外媒报道,OpenAI超级对齐团队的2名研究员,因泄露「机密」被正式开除
今天起,最新版的GPT-4 Turbo,正式向ChatGPT Plus用户开放了
大语言模型的效率,正在被这家「清华系」创业公司发展到新高度。
在实践中,人类预测的准确性依赖于「群体智慧」(wisdom of the crowd)效应,即通过聚集一群个体预测者,对未来事件的预测准确率会显著提高
去年 4月, 生成式 AI在国内热度正盛的时候,毒眸造访了几家 AI公司, 创业者们对于 AI的态度是大胆、积极和乐观的。