Staff AI Application Engineer - Heterogeneous Computing in Lisbon

Axelera AI não é uma empresa de tecnologia profunda comum. Estamos a criar a próxima geração da plataforma de IA para apoiar quem deseja ajudar a avançar a humanidade e melhorar o mundo à sua volta. Em apenas cinco anos, levantámos um total de 450 milhões de dólares e construímos uma equipa de classe mundial com mais de 250 colaboradores (incluindo mais de 60 doutorados com mais de 40.000 citações), trabalhando remotamente de 21 países diferentes e com escritórios na Bélgica, França, Suíça, Itália, Reino Unido, com sede no High Tech Campus em Eindhoven, Países Baixos. Também lançámos a nossa MetisTM AI Platform, que alcança um aumento de eficiência e desempenho de 3 a 5 vezes, e temos visibilidade sobre um forte pipeline de negócios que excede 100 milhões de dólares. O nosso compromisso inabalável com a inovação estabeleceu-nos firmemente como pioneiros globais da indústria.

Como Engenheiro de Aplicações de IA, você fará parte da equipa de Model Enablement (Software de Aplicação), onde construirá a nossa plataforma de habilitação de modelos e decidirá como cada modelo será executado através do Metis ou Europa AIPU, do CPU anfitrião e dos aceleradores do anfitrião. A forma como este trabalho é dividido e agendado determina a maior parte do desempenho de ponta a ponta que um cliente vê no Voyager SDK. O papel combina arquitetura e trabalho prático em toda a frente do modelo, compilador de gráficos, tempo de execução e pipeline de aplicação.

Responsabilidades principais:

• Plataforma de habilitação de modelos e harness de agentes: Construir a plataforma que engenheiros e agentes de IA usam para ativar modelos: ferramentas reutilizáveis para particionar, compilar, executar e perfilar; ambientes com acesso a hardware real; execuções de ciclo fechado que aplicam uma mudança, medem-na em relação ao referencial e repetem; e verificação (teste diferencial, deteção de regressão) integrada no CI.
• Ingestão de modelos: Possuir como um modelo PyTorch ou ONNX é capturado, analisado e dividido entre as unidades de matriz e RISC-V do AIPU, o CPU anfitrião e os aceleradores do anfitrião (GPU, NPU, decodificador de vídeo), com etiquetas de colocação que os utilizadores podem ler e substituir.
• Execução heterogénea: Estender essa divisão para grandes modelos, cascatas e pipelines de múltiplos modelos, por exemplo, com descarregamento especializado e cache entre a memória do dispositivo e do anfitrião.
• Desempenho de ponta a ponta: Com a equipa de aplicação (construtor de pipeline) e a equipa de tempo de execução, trazer cada modelo ao seu melhor desempenho de ponta a ponta.
• Modelos críticos: Estudar os modelos que mais importam para os clientes e transformar cada lição em uma melhoria da plataforma.

Qualificações:

• Essenciais: Mais de 8 anos de experiência em engenharia em sistemas, compiladores, tempos de execução ou desempenho, incluindo propriedade de design a nível de sistema. Experiência prática com computação heterogénea em CPU, GPU, DSP, NPU ou FPGA.
• Preferenciais: Experiência prática com MLIR ou outro framework de compilador. Experiência com técnicas de execução de grandes modelos.

Oferecemos um ambiente de trabalho flexível, com opções para trabalhar a partir de um dos nossos escritórios Axelera AI ou remotamente de qualquer país europeu. Esta é a sua oportunidade de fazer parte de uma organização dinâmica e internacional em rápido crescimento, com um pacote de compensação atrativo e uma cultura aberta que apoia a criatividade e a inovação contínua.