IONOS DE
SEMRON GmbH
A abordagem única da SEMRON, baseada na tecnologia proprietária CapRAM™, permite a inferência de LLM transferindo apenas ativações de/para matrizes de memória. Isso resulta em um custo total de operação muito menor devido a vários motivos, incluindo um empacotamento muito mais barato em comparação com HBM.
Com a CapRAM™, somos capazes de calcular produtos escalares diretamente dentro de 3D-NAND-Flash. Todos os cálculos e movimentações de dados restantes são realizados em um SoC conectado diretamente a essa memória com capacidade de computação. Nesta função, você liderará o desenvolvimento dos detalhes da arquitetura digital combinando SRAM, unidades DMA, CPUs, processadores vetoriais, roteadores e unidades de comunicação de chiplets de acordo com as especificações já desenvolvidas pela equipe da SEMRON.
Na SEMRON, estamos redefinindo o que é possível em hardware de IA. Nossa inovação central reside na computação analógica em memória para aceleração de redes neurais profundas, permitindo-nos construir arquiteturas de computação que escalam verticalmente para a terceira dimensão, assim como a memória NAND flash revolucionou o armazenamento. Esse salto na densidade física nos permite implantar modelos com bilhões de parâmetros em áreas de chip tão pequenas quanto alguns milímetros quadrados.
Plataforma de recrutamento reverso para programadores