infinicore.nn.modules 提供了神经网络模块的基础类和容器类,用于构建可组合的模型结构。
Module:所有神经网络模块的基类,提供参数管理、状态字典等功能。ModuleList:模块列表容器,用于管理多个子模块。Linear:线性层模块。RMSNorm:RMS 归一化层模块。RoPE:旋转位置嵌入模块。Embedding:嵌入层模块。
import infinicore as ic
from infinicore.nn import Module, ModuleList, Parameter
class MyModel(Module):
def __init__(self):
super().__init__()
self.layers = ModuleList([
# 子模块列表
])
self.weight = Parameter(ic.empty((10, 10), dtype=ic.float16, device=ic.device("cuda:0")))