学习渐进式网络架构,在保留旧任务模型的同时横向扩展新模块,通过侧连接利用先前特征。
综合学习位置插值、NTK 缩放、YaRN 和稀疏注意力等方法,将预训练模型的上下文窗口扩展数倍。
使用扩散模型对图像缺失部分进行智能填充,或将画面向外扩展,学习区域掩码应用与提示引导技术。