Estados Unidos
Launch Legends
BlueAlly
Ingeniero/a de IA Senior
Estados Unidos
Atlanta, Georgia, United States
PythonAWSDockerKubernetesTerraform
Traducción automática. Consulta el original.
Descripción de la empresa
En BlueAlly, nuestra misión es hacer que la tecnología sea más accesible, segura y eficaz para todas las organizaciones. Desde la nube hasta la ciberseguridad, pasando por la infraestructura y la modernización de aplicaciones, nos apasionan las tecnologías y servicios de vanguardia. Eleve el impacto de la tecnología en toda su empresa con una experiencia de primer nivel que genera conocimientos transformadores. Convierta decisiones complejas en oportunidades claras con un guía tecnológico de confianza que garantiza que el próximo avance digital sea su ventaja decisiva. Cambie la complejidad de TI por capacidad con soluciones que amplían las posibilidades y avance con seguridad, sabiendo que cuenta con BlueAlly como su aliado en el futuro.
BlueAlly. Conquiste la complejidad.
Descripción del puesto
Estamos buscando un/a Ingeniero/a Senior de IA para diseñar, construir y operar sistemas de IA empresariales en toda nuestra cartera de clientes. Trabajará de principio a fin en todo el stack de IA, desde motores de inferencia e infraestructura de plataforma (vLLM, KV cache, servicio estilo Dynamo, plataformas de AI Factory aceleradas por GPU) hasta la ingeniería a nivel de aplicación (pipelines de RAG, flujos de trabajo de agentes, ingeniería de prompts, metodología de evaluación).
Este puesto es para un/a ingeniero/a capaz de liderar flujos de trabajo de forma independiente, mentorizar a ingenieros/as más junior y actuar como la autoridad técnica en la que los clientes confían para obtener resultados de IA en producción. Interactuará directamente con arquitectos/as de clientes, científicos/as de datos, equipos de aplicaciones y ejecutivos/as, y dejará cada compromiso habiendo aumentado tanto la capacidad del cliente como la práctica de BlueAlly.
Información adicional sobre BlueAlly
BlueAlly es un proveedor líder de servicios y soluciones de TI, que ayuda a las organizaciones a conquistar la complejidad de TI en la nube, ciberseguridad, infraestructura, datos y modernización de aplicaciones. Con sede en Atlanta, Georgia, y equipos de entrega en los Estados Unidos y a nivel mundial, BlueAlly atiende a clientes que van desde empresas del mercado medio hasta grandes organizaciones del sector público y comercial.
Fundada en 2011, BlueAlly ofrece servicios en todo el ciclo de vida tecnológico, desde la estrategia y el diseño hasta la implementación, los servicios gestionados y la optimización continua. La empresa está reconocida en las listas Tech Elite 150 y MSP 500 de CRN y se asocia profundamente con proveedores de tecnología líderes. A medida que la IA empresarial pasa del piloto a la producción, BlueAlly está invirtiendo en las personas, plataformas y prácticas necesarias para ofrecer resultados de AI Factory a nuestros clientes, y este puesto está en el centro de esa inversión.
Responsabilidades clave
- Liderar el diseño, la construcción y la operación de extremo a extremo de sistemas de IA en plataformas de AI Factory (HPE PCAI, Dell AI Factory, Nutanix Enterprise AI y capas del ecosistema adyacentes) en múltiples compromisos con clientes.
- Ingenierizar y ajustar stacks de servicio de inferencia LLM (con especialización en vLLM y amplitud en todo el ecosistema de inferencia) para cumplir con los objetivos de latencia, rendimiento y costes del cliente.
- Ajustar el rendimiento de la inferencia mediante la gestión de KV cache, paged attention, estrategias de procesamiento por lotes y servicio desagregado basado en Dynamo.
- Arquitectar y operar pipelines de MLOps que cubran el ciclo de vida del modelo, registros, despliegue, reversión y observabilidad.
- Diseñar e ingenierizar aplicaciones de RAG sobre bases de datos vectoriales: estrategias de fragmentación (chunking), ajuste de recuperación, reranking, gestión de citas y gestión de ventanas de contexto.
- Construir y ajustar patrones de ingeniería de prompts a escala de producción: prompts del sistema, salidas estructuradas, llamadas a herramientas y funciones.
- Diseñar y mantener arneses de evaluación de LLM: conjuntos de referencia (golden sets), suites de regresión y métricas de calidad en línea.
- Ingenierizar almacenamiento y redes de alto rendimiento para cargas de trabajo de IA: sistemas de archivos paralelos, niveles de almacenamiento de objetos y tejidos RDMA de alto rendimiento y baja latencia.
- Operar clústeres de Kubernetes que sustentan las cargas de trabajo de IA: espacios de nombres, RBAC, cuotas de recursos, políticas de red, clases de almacenamiento e ingress.
- Construir y mantener imágenes de contenedores, registros y pipelines de CI/CD para servicios de IA/ML.
- Implementar monitorización, alertas, registro y planificación de capacidad en todo el stack de IA.
- Endurecer los entornos para cumplir con los requisitos de seguridad y cumplimiento del cliente.
- Liderar la resolución de problemas en bare metal, BIOS/firmware, SO, contenedores, GPU, frameworks y modelos.
- Interactuar directamente con las partes interesadas del cliente (técnicas y ejecutivas) para comunicar el estado, la causa raíz, las opciones y las recomendaciones.
- Mentorizar y realizar revisiones de código de ingenieros/as menos senior; elevar el nivel técnico de cada compromiso en el que participe.
- Redactar manuales operativos (runbooks), arquitecturas de referencia y contenido de bases de conocimiento; liderar sesiones de transferencia de conocimiento y capacitación para clientes.
- Participar en la rotación de guardia y respuesta a incidentes para cargas de trabajo de IA en producción.
- Contribuir con patrones reutilizables, herramientas y diseños de referencia a la práctica.
Cualificaciones
- Experiencia: 7+ años en ingeniería de software, datos o infraestructura, con 3+ años trabajando específicamente con sistemas modernos de IA / LLM.
- Ingeniería de software: Python de calidad de producción a nivel de ingeniería: pruebas, revisión de código, fluidez en control de versiones y entrega de código del que dependen otros ingenieros.
- Ingeniería de Linux: Experiencia profunda en Linux de producción, incluyendo aspectos internos del sistema, ajuste de rendimiento y resolución de problemas.
- Contenedores: Profunda competencia con Docker: construcción de imágenes, gestión de registros, ajuste de tiempo de ejecución y seguridad de contenedores.
- Fundamentos de hardware: Sólidas habilidades en plataformas de servidor, incluyendo topologías de CPU/GPU, PCIe, gestión de BMC, ciclo de vida de BIOS/firmware y resolución de problemas de físico a lógico.
- Plataformas de AI Factory: Experiencia práctica en el despliegue y operación de una o más de las siguientes: HPE PCAI, Dell AI Factory o Nutanix Enterprise AI.
- Stack de inferencia — vLLM: Experiencia en producción desplegando, ajustando y operando vLLM.
- Amplitud del stack de inferencia: Conocimiento práctico de múltiples frameworks de inferencia y servicio de modelos más allá de vLLM, con la capacidad de elegir y ajustar la herramienta adecuada para cada carga de trabajo.
- Almacenamiento y redes de alto rendimiento: Experiencia práctica con almacenamiento de alto rendimiento y baja latencia y tejidos de red para cargas de trabajo de IA, incluyendo interconexiones de clase RDMA, niveles de almacenamiento paralelo/objetos, gestión de KV cache y servicio desagregado estilo Dynamo.
- MLOps: Experiencia práctica operando herramientas y patrones de MLOps: registros de modelos, pipelines de despliegue, GitOps, linaje y reversión.
- Bases de datos vectoriales y RAG: Experiencia práctica desplegando, ajustando e integrando bases de datos vectoriales y pipelines de RAG, incluyendo la ingeniería a nivel de aplicación que se asienta sobre ellos.
- Ingeniería de prompts y uso de herramientas: Experiencia en producción diseñando prompts del sistema, salidas estructuradas, llamadas a funciones y patrones de LLM que utilizan herramientas.
- Metodología de evaluación: Experiencia demostrada diseñando arneses de evaluación de LLM: conjuntos de referencia (golden sets), suites de regresión y métricas de calidad/coste.
- Habilidades de cara al cliente: Capacidad demostrada para interactuar directamente con las partes interesadas del cliente: dirigir sesiones de trabajo, presentar recomendaciones y traducir detalles técnicos para audiencias no técnicas.
- Comunicación: Sólida comunicación escrita y verbal: arquitecturas de referencia claras, manuales operativos e informes de incidentes.
- Mentoría: Historial de mentoría a ingenieros/as más junior y elevación de la calidad técnica del equipo mediante revisión de código y trabajo en pareja.
- Fundamentos de redes: TCP/IP, DNS, balanceo de carga, VLAN y administración de firewalls.
- Entrega a múltiples clientes: Comodidad trabajando en múltiples entornos de clientes concurrentes y gestionando prioridades competitivas bajo SLA.
Cualificaciones preferentes
- Operaciones de GPU: Experiencia con controladores de GPU, toolchains de CUDA, particionamiento de GPU (MIG/vGPU) y monitorización a nivel de GPU.
- NVIDIA AI Enterprise: Experiencia en despliegue y operaciones con el stack de software NVAIE.
- Ray: Familiaridad con Ray para entrenamiento distribuido y escalado de inferencia.
- Kubernetes: Conocimiento práctico de administración de Kubernetes: Helm, ingress, RBAC, clases de almacenamiento.
- Identidad y acceso: Integración de SSO e identidad empresarial (LDAP, AD, OIDC/SAML), gestión de secretos, aislamiento de inquilinos.
- Ajuste fino (Fine-tuning): Familiaridad con LoRA/QLoRA/PEFT y flujos de trabajo de ajuste fino supervisado.
- Economía de tokens: Experiencia optimizando el coste de inferencia: almacenamiento en caché, almacenamiento en caché de prompts, enrutamiento de modelos y destilación.
- Operaciones MSP / multi-inquilino: Experiencia como proveedor de servicios, incluyendo patrones de cargo/reembolso (chargeback/showback) y aislamiento de inquilinos.
- Marcos de cumplimiento: Entornos SOC 2, HIPAA, FedRAMP, FISMA o CMMC.
- Nube pública e híbrida: Experiencia de trabajo con una o más nubes públicas y arquitecturas híbridas.
- Infraestructura como código: Terraform, Ansible, Helm o similares.
- Certificaciones (Preferentes): Administrador certificado de Kubernetes (CKA) o Desarrollador de aplicaciones certificado de Kubernetes (CKAD).
- Certificaciones de nube: AWS, Azure o Google Cloud.
- Certificaciones de Linux: RHCE, RHCSA o LFCS.
- NVIDIA-Certified Associate: AI Infrastructure and Operations (NCA-AIIO) o certificaciones superiores de NVIDIA.
- Certificaciones de plataforma HPE, Dell Technologies o Nutanix.
Lo que le distingue
- Curiosidad genuina sobre cómo funcionan los sistemas de IA de principio a fin, desde el kernel y la GPU hasta los frameworks y modelos.
- Historial de restauración de servicios de IA en producción bajo presión.
- Capacidad para traducir conceptos técnicos complejos en una comunicación clara de cara al cliente.
- Comodidad con la ambigüedad y el cambio rápido en el ecosistema de IA/LLM.
- Mentalidad orientada al servicio: trata cada entorno de cliente como si fuera el suyo propio.
- Predisposición a dejar la práctica mejor de lo que la encontró: patrones, herramientas y diseños de referencia.
Igualdad de oportunidades en el empleo
BlueAlly es un empleador que ofrece igualdad de oportunidades. Estamos comprometidos a construir una fuerza laboral diversa e inclusiva y a tomar decisiones de empleo basadas en el mérito, las cualificaciones y las necesidades comerciales. BlueAlly no discrimina en el empleo por motivos de raza, color, religión, sexo (incluido el embarazo), origen nacional, edad, discapacidad, información genética, orientación sexual, identidad o expresión de género, estado civil, condición de veterano o cualquier otra característica protegida por la ley federal, estatal o local aplicable.
BlueAlly proporciona adaptaciones razonables a los solicitantes y empleados cualificados con discapacidad. Si necesita una adaptación para participar en el proceso de solicitud o entrevista, póngase en contacto con nuestro equipo de Personas.
Compensación: USD 180000 - USD 200000 - anual
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil