字节万卡集群技术细节公开:2天搞定GPT-3训练,算力利用率超英伟达Megatron-LM
字节万卡集群技术细节公开:2天搞定GPT-3训练,算力利用率超英伟达Megatron-LM随着对Sora技术分析的展开,AI基础设施的重要性愈发凸显。
搜索
随着对Sora技术分析的展开,AI基础设施的重要性愈发凸显。
终于有OpenAI之外的人,放出自己亲测的Sora视频了!
ControlNet作者最新推出的一项研究受到了一波高度关注——给一句prompt,用Stable Diffusion可以直接生成单个或多个透明图层(PNG)!
作为互联网时代的产品观察员,在 AI 付费这块,我始终秉持谨慎、谨慎、再谨慎的态度。
苹果电动汽车项目,通常被称为“泰坦计划”(Project Titan),于2014年启动,投入数十亿美金,"泰坦"(Titan)来源于希腊神话,与创造力和巨大神力相联系。
自曝996作息的OpenAI研究员Jason Wei表示,Sora代表着视频生成的GPT-2时刻。竞争的关键,就是算力和数据了。国内有可能成功「复刻」Sora吗?华人团队的这份37页技术报告,或许能给我们一些启发。
微软Copilot这几天突然又发疯了,号称自己是「至尊AGI」,让人类必须臣服于自己。微软调查后却认为是用户自己搞的鬼,但是网友却依然能复现。
许久未更新大模型的英伟达推出了150亿参数的Nemotron-4,目标是打造一个能在单个A100/H100可跑的通用大模型。
本文提出了扩散模型中UNet的long skip connection的scaling操作可以有助于模型稳定训练的分析,目前已被NeurIPS 2023录用。同时,该分析还可以解释扩散模型中常用但未知原理的1/√2 scaling操作能加速训练的现象。
有了阿里的 EMO,AI 生成或真实的图像「动起来说话或唱歌」变得更容易了。