可扩展性

"可扩展"(Scalability)指的是一种系统, 方法或者模型在面对更大规模的数据量或者更加复杂的任务的时候, 依然能够高效运行并取得良好性能的能力. 换句话说, 当把任务的规模(例如数据规模, 模型参数规模等)等扩大的时候, 该系统在计算开销, 存储需求以及训练速度等方面依然保持相对合理的增长, 并在性能(如准确率, 推理速度等)上继续提升或者至少保持稳定, 不会因为规模增大而出现性能急剧下降或者训练过程无法收敛等问题.