Responsable du laboratoire de sécurité de l'IA (ACR)

National Research Council Canada • Ottawa, ON

2d • CA$119,688 - CA$168,192 • Hybrid

About The Position

Le CNRC est le plus gros organisme de recherche et d'innovation du Canada. Nous menons des recherches de renommée mondiale qui repoussent les limites de la science et de l’ingénierie pour rendre l’impossible possible. Chaque jour, nous explorons de nouvelles idées à travers des recherches novatrices et nous aidons les entreprises à découvrir des possibilités qui façonnent l’avenir du Canada et le monde. Au CNRC, vous découvrirez aussi de nouvelles possibilités. Notre milieu de travail positif favorise une culture de créativité en accueillant les nouveaux points de vue et l’innovation à tous les niveaux. Nous attachons une grande importance au travail d’équipe. Vous collaborerez dans une variété de domaines avec les esprits les plus brillants en vue de trouver des solutions novatrices. Plus important encore, vous découvrirez votre potentiel à mesure que vous évoluez dans votre carrière, vous changerez véritablement le cours des choses et vous enrichirez votre parcours professionnel. Qu’il s’agisse de découvertes révolutionnaires ou d’une carrière incomparable, explorez votre champ des possibles au CNRC.

Le rôle
Vous êtes passionné par une IA sûre et responsable ? Vous souhaitez faire partie d’une équipe pionnière qui définit la manière dont les systèmes d’IA sont évalués, mesurés et déployés en toute sécurité ? Vous souhaitez que votre travail ait un impact concret pour le Canada et les Canadiens ? Si tel est le cas, nous aimerions vous rencontrer !

Nous recherchons un RCO-04 en milieu de carrière pour mettre sur pied et diriger le Laboratoire de sécurité de l’IA du CNRC, une nouvelle entité financée par l’Institut canadien de sécurité de l’IA (CAISI) et dédiée à l’évaluation de la sécurité des systèmes d’IA avancés. Vous ferez partie d’une équipe pionnière chargée de mener des évaluations rigoureuses de la sécurité de l’IA et de traduire les résultats techniques en outils, conseils et recommandations concrets à l’intention des praticiens de l’IA et des décideurs politiques au sein du gouvernement et au-delà.
Sous la direction du conseiller principal en sécurité de l’IA, et au sein de l’équipe du directeur de la recherche numérique, vous jouerez un rôle central dans la mise en place et l’exploitation d’une infrastructure évolutive d’évaluation de la sécurité de l’IA. En collaboration avec des experts de premier plan de notre Centre de recherche sur les technologies numériques, vous concevrez, réaliserez et superviserez des évaluations avancées à grande échelle sur des modèles d’IA de pointe, et contribuerez à la recherche de pointe sur la sécurité de l’IA menée par le CNRC en collaboration avec les partenaires du CAISI à l’échelle nationale et internationale.

Requirements

• Maîtrise délivrée par une université reconnue en statistiques, science des données, informatique ou ingénierie, ou dans un domaine étroitement lié au poste.
• À défaut d'une maîtrise, une licence accompagnée d'au moins deux ans d'expérience professionnelle directement pertinente dans le domaine de l'IA appliquée ou de l'évaluation de l'IA peut être prise en considération.
• Expérience récente dans la direction ou la gestion d'équipes techniques dans un environnement lié à l'IA/ML, à l'analyse de données ou aux technologies numériques.
• Expérience récente dans l'évaluation, l'analyse comparative ou les tests de sécurité (red teaming) de modèles d'IA (open source ou propriétaires) ou de systèmes d'IA.
• Expérience dans la gestion de projets d'IA/ML ou d'analyse de données pour des clients du secteur public ou privé.
• Expérience dans le développement d'outils et d'automatisations basés sur Python pour les workflows ML/IA.
• Expérience dans la documentation des résultats expérimentaux en IA par le biais de rapports techniques, de documentation interne ou de publications scientifiques.
• Capacité à diriger l'élaboration de protocoles d'évaluation et de tests de performance reproductibles pour les modèles et systèmes d'IA de pointe.
• Capacité à communiquer clairement des conclusions techniques complexes aux chercheurs, aux acteurs gouvernementaux et aux décideurs politiques.
• Connaissance des concepts de sécurité de l'IA, des taxonomies des risques ou des cadres de gouvernance (par exemple, les lignes directrices du SCT, le cadre de gestion des risques liés à l'IA du NIST) et de leur lien avec l'évaluation technique.
• Capacité à concevoir et à superviser une infrastructure d'évaluation de l'IA évolutive dans des environnements sur site et dans le cloud.
• Connaissance des cadres d'évaluation de la sécurité de l'IA (par exemple, Inspect AI, Moonshot) et de leur application à l'évaluation de modèles de pointe.
• Capacité à prendre des décisions techniques éclairées lors de la configuration d'évaluations pour différents types de modèles, en trouvant un équilibre entre les budgets de calcul, la reproductibilité et la validité des résultats.
• Capacité à gérer et hiérarchiser des axes de travail techniques concurrents au sein d’une équipe multidisciplinaire.
• Connaissance des architectures d’IA agentique et de la manière dont les choix de conception (tels que l’accès aux outils, la mémoire et la planification) influencent les comportements liés à la sécurité.
• Capacité à concevoir des workflows de suivi des expériences et de gestion des données qui favorisent la reproductibilité entre plusieurs chercheurs et campagnes d’évaluation.
• Communication (Niveau 3)
• Orientation vers les résultats (Niveau 3)
• Priorité au client (Niveau 2)
• Travail en équipe (Niveau 3)
• Connaissance de l'organisation et des milieux de travail (Niveau 2)
• Capacité de concevoir et d'analyser (Niveau 3)

Nice To Haves

• Expérience des workflows de red teaming, des tests adversariaux ou des tests de résistance des systèmes d'IA (y compris les systèmes agentiques).
• Expérience des clusters de calcul et de l'orchestration des tâches (par exemple, SLURM).
• Expérience avec des outils de suivi d’expériences d’apprentissage automatique (par exemple, MLflow, Weights & Biases).
• Expérience dans le développement ou la curation d’ensembles de données de référence en IA et de la documentation associée (par exemple, via HuggingFace).
• Expérience dans la traduction de la recherche en IA en outils pratiques, en conseils ou en recommandations stratégiques.
• Expérience dans la conduite de projets d’IA avec des chercheurs ou dans le cadre de collaborations internationales.

Responsibilities

• Mettre en place et diriger une équipe multidisciplinaire de spécialistes de la sécurité de l'IA au sein du laboratoire.
• Développer et exploiter une infrastructure et des cadres d'évaluation des modèles à la pointe de la technologie.
• Collaborer avec les chercheurs en sécurité de l'IA du CNRC et des partenaires du CAISI pour concevoir, mener et documenter des évaluations de la sécurité de l'IA.
• Établir et gérer des protocoles d'évaluation de la sécurité standardisés et reproductibles.
• Développer et organiser de nouveaux benchmarks de sécurité de l'IA.
• Traduire les résultats techniques en solutions et conseils pratiques, tels que de nouveaux outils pour les évaluateurs/développeurs, ou des recommandations à l'intention des décideurs politiques.

Benefits

• régime de retraite solide
• régime de soins de santé
• régime de soins dentaires complets
• assurance-vie
• assurance-invalidité
• fermeture des bureaux à la fin du mois de décembre
• soutiens supplémentaires pour améliorer votre bien être durant et après votre carrière
• prime de bilinguisme de 800$ par année

What This Job Offers

• Job Type: Full-time
• Career Level: Mid Level