迎接AI大模型时代的存储挑战
2024-06-06 13:46:44
admin
2469
大模型训练所需的数据十分庞大:以视音频、图片、电子文档为代表的各种“原料”信息,其规模从TB级别直接跨越到PB级别,未来的AGI时代更是将达到EB级别(1EB=1024PB)。能否保有持续的存储容量扩展,将成为存储技术在AI时代面临的首要挑战,存储器的容量不足,将导致大模型的发展受限,无法实现持续的进化。
伴随着AI 应用的不断发展和数据量的增长,目前主流知名大模型已经可以达到百亿甚至千亿的参数规模,未来的AGI大模型甚至会达到万亿的参数规模。大模型对存储器的扩展性提出了更高的要求,不仅存储容量不能有“天花板”,还要求并发的IO性能也要同步扩展上去。