Événements

Joignez-vous à nous pour une soirée conviviale célébrant les femmes et personnes s’identifiant comme femmes qui travaillent en sécurité de l’IA ! Cet événement se veut accueillant pour toutes, dans…

Lunch à Ω Labs : mangez avec des personnes de la communauté montréalaise en sécurité et gouvernance de l’IA. La formule est apportez votre propre lunch. Nous avons des ingrédients pour préparer des…

One of the most concerning misalignment incidents to date, the Hugging Face hack by a rogue agents swarm and its surrounding context have had several new revelations over the past few weeks. This…

Tamara Paris (Mila) presents Don’t Trust the Process: When Verifiability Undermines AI Accountability, published at FAccT this summer. Tamara Paris (Mila) présente Don’t Trust the Process: When…

Canada’s largest AI and tech event, ALL IN, is back in Montréal. Join us at Ω Labs for an informal evening connecting ALL IN attendees with Montréal’s AI safety community. At the menu: snacks, drinks…

Each month, we gather to discuss an important AI governance paper. We recommend reading the paper before and to come with your commentary and insights. Discussion bilingue. Groupe de lecture sur la…

An informal evening for RustConf attendees and Montréal’s AI safety community: conversation, light food, drinks. An evening to put technical work in conversation with AI safety more broadly. Une…

Après-midi de cotravail : Vous êtes encouragé.e à rester à Ω Labs pour un après-midi de cotravail en sûreté de l’IA. Apportez votre ordinateur et projets ! Jeudi 14 h 30–17 h 00. Ω Labs est un espace de…

Oliver Richardson and Gaël Gendron de LoiZéro présenteront leur récente publication Safety from Honesty in a Disinterested AI Predictor qui décrit leur approche "IA-chercheur"…

Lunch à Ω Labs : mangez avec des personnes de la communauté montréalaise en sécurité et gouvernance de l’IA. La formule est apportez votre propre lunch. Nous avons des ingrédients pour préparer des…

Première séance du Groupe de lecture sur la gouvernance de l’IA. What AI evaluations for preventing catastrophic risks can and cannot do (Peter Barnett, Lisa Thiergart) 2024…

Joignez-vous à nous pour une séance pour remplir le sondage pour la consultation sur la transparence en IA du gouvernement du Canada dans le cadre de sa stratégie nationale en IA. Après une courte…

Envie de rencontrer d’autres personnes qui travaillent sur la sécurité, l’éthique et la gouvernance de l’IA à Montréal ? Joignez-vous à nous pour une soirée décontractée : quelques rondes de…

ControlAI est une organisation de plaidoyer mondiale qui travaille à prévenir les risques d’extinction liés au développement d’une superintelligence artificielle. L’événement sera composé d’une courte…

AI Safety Papers We Love, an event series in which a community member presents a paper on AI safety (technical alignment, governance, interpretability, etc) that they loved. This edition…

Après-midi de cotravail : Vous êtes encouragé.e à rester à Ω Labs pour un après-midi de cotravail en sécurité de l’IA. Apportez votre ordinateur et projets ! Jeudi 12 h 30–16 h 30. Ω Labs est un espace de…

Le Human Line Project est un organisme dédié à la documentation et à la prise en charge des préjudices psychologiques induits par l’IA. Lancé après l’hospitalisation d’un proche à la suite d’une…

Lunch à Ω Labs : mangez avec des personnes de la communauté montréalaise en sécurité et gouvernance de l’IA. La formule est apportez votre propre lunch. Nous avons des ingrédients pour préparer des…

A structured role-play of AI takeoff, month by month, built by the AI Futures Project. It’s January 2028. A leading US AI company has just built an AI that works like a remote employee: as good as its…

The Montréal node of the Secret Loyalties Hackathon, a weekend research sprint at Ω Labs, organized with Apart Research and Formation Research. RSVP here and on the official page to be admissible…

Since 2023, Concordia AI’s annual State of AI Safety in China report has tracked how China approaches AI safety and governance. This session walks through the July 2026 edition. We’ll unpack the…

Envie de rencontrer d’autres personnes qui travaillent sur la sûreté, l’éthique et la gouvernance de l’IA à Montréal ? Joignez-vous à nous pour une soirée décontractée : quelques rondes de…

Lunch à Ω Labs : mangez avec des personnes de la communauté montréalaise en sécurité et gouvernance de l’IA. La formule est apportez votre propre lunch. Nous avons des ingrédients pour préparer des…

The mission of Modern Lyceum is to bring philosophy back to the public square. For too long now, society has been starved of accessible philosophical discussions that pertain to the issues of the…

Effective altruism asks which problems are most pressing. Many in EA rank AI safety near the top, is that justified by EA’s own criteria of scale, neglectedness, and tractability? We’ll read and…

Lunch at Ω Labs: eat with people of the Montréal’s AI safety and governance community. The formula is bring your own lunch. We have ingredients to prepare vegetarian sandwiches (Orpheus might even…

A one-week AI safety hackathon on AI control: limiting the harm an untrusted AI system can cause while it operates, even when it tries to subvert the controls around it. Co-hosted by HΩ and HackOS. A…

Emerging technologies are always hard to govern, especially when their onset is crammed into a few intense years. With AI, policymakers, thus far, have produced more case studies in failure than…

AI Safety Papers We Love, an event series in which a community member presents a paper on AI safety (technical alignment, governance, interpretability, etc) that they loved. This edition, Emma Kondrup…

Lunch at Ω Labs: eat with people of the Montréal’s AI safety and governance community. The formula is bring your own lunch. We have some ingredients to prepare vegetarian sandwhiches, plus we have…

Canada has released its national AI strategy, "AI for All," anchored in three principles: trust, opportunity, and sovereignty. Join us for a structured open discussion of the strategy and how well it…

Shared lunch at Ω Labs: eat with people of the Montréal’s AI safety and governance community. The formula is bring your own lunch. We have some snacks and coffee/tea. Thu 12:30-13:30. Ω Labs is a…

METR’s Frontier Risk Report (Feb-Mar 2026), published May 19, is the first third-party assessment of frontier developers’ internal AI agent deployments. Anthropic, Google, Meta, and OpenAI…

A 5 à 7 at Ω Labs where community members share what they’re working on. 5 people present each for 5 minutes + 5 minutes of Q&A. Completed work, work-in-progress, dead ends, and "I’m stuck on this"…

The Montréal node of the Secure Program Synthesis Hackathon, a weekend research sprint at Ω Labs, organized with Apart Research and Atlas Computing. Build a prototype at the intersection of program…

Fairwashing refers to the risk that an unfair black-box model can be explained by a fairer model through post-hoc explanation manipulation. In this talk, I will first discuss how fairwashing attacks…

Shared lunch at Ω Labs. Drop in and eat with people of the Montréal’s AI safety and governance community. For now, the formula is bring you own lunch. We have some snacks and coffee/tea. Feel free to…

AI Safety Papers We Love, a biweekly reading group: we pick papers we appreciate about AI safety, broadly construed (technical alignment, governance, interpretability, etc), and talk them through…

Ω Labs is a new coworking space for Montréal’s AI safety community. We’re marking the opening with a potluck gathering on Friday, May 1, from 16:00 to 21:00. Come say hi, see the space, meet the…

Jean-François Godbout (Université de Montréal + Mila) explore les effets persuasifs de l’IA générative, incluant les hypertrucages, l’influence automatisée et la propagande assistée par IA, ainsi que…

Max (Greyhaven) présente Greywall, un bac à sable logiciel et proxy pour agents IA offrant une visibilité et un contrôle granulaires en temps réel. La présentation explore aussi le lien entre le…

Hackathon de trois jours pour développer des protocoles de contrôle, créer des outils d’évaluation et tester des mesures de sûreté avec ControlArena et SHADE-Arena.

Une discussion sur l’intelligence artificielle et la notion de conscience — où commence-t-elle ?

Session de travail pour examiner les fiches initiales de CAIM — débattre des cas limites, calibrer les niveaux de sévérité, identifier les lacunes et signaler les fiches nécessitant davantage de…

Survol du paysage montréalais en sûreté de l’IA — qui fait quoi, où sont les ponts et les trous — suivi de discussions en groupes sur ce qui manque, qui devrait se parler, et ce qu’on fait…

Vous travaillez sur un projet lié à la sûreté ou à la gouvernance de l’IA (e.g. recherche, ingénierie, législation) ? Venez travailler sur vos projets aux côtés d’autres personnes du milieu + grimper…

Shalaleh Rismani (McGill/Mila) présente ses recherches sur la supervision humaine des systèmes d’IA — montrant qu’une meilleure compréhension ne mène pas nécessairement à une meilleure supervision.

Table ronde sur l’équilibre des droits : comment les cadres protégeant les travailleurs IA renforcent aussi les droits humains. Avec Heather Alexander et Jonathan Simon.

Apportez votre ordinateur et vos chaussons. Travaillez sur des projets de sûreté de l’IA en bonne compagnie, puis escaladez ensemble.

Présentation de Benoît Dupont (Chaire de recherche du Canada en cyber-résilience, UdeM). Analyse de 160+ conversations de forums cybercriminels : comment les hackers perçoivent et exploitent l’IA…

Session de coworking pour quiconque travaille sur la sûreté ou la gouvernance de l’IA, suivie d’escalade de bloc au Bloc Shop Mile-Ex. Entrée ~13$ le vendredi. Apportez votre lunch.

Présentation de Rashid Mushkani (UdeM + Mila). Discussion sur qui décide du comportement des modèles et selon quels critères.

Hackathon de fin de semaine sur l’infrastructure de gouvernance technique de l’IA : vérification matérielle, systèmes d’attestation, preuves de conformité préservant la vie privée, cadres de seuils de…

Présentation d’Ariane Ollier-Malaterre (Chaire de recherche du Canada sur la Régulation du digital, ESG-UQAM). À partir de 58 entretiens qualitatifs, son livre explore comment les citoyens chinois…

Projection de Writing Doom, un court-métrage d’environ 30 minutes sur l’IA, suivi d’une discussion. Organisé par PauseAI Montréal.

Hackathon de 48h sur la défense contre la manipulation par l’IA — création de benchmarks, systèmes de détection et atténuations pour la sycophantie, la tromperie, le sandbagging, le reward hacking et…

Présentation de Joaquim Streicher, doctorant en neurosciences et cofondateur de MONIC (Initiative montréalaise pour la science de la conscience). Aborde la conscience chez l’IA : consensus actuel…

Présentation de Taylor Lynn Curtis, chercheuse sur la désinformation à Mila. Exploration des systèmes d’IA conçus pour la persuasion, puis présentation de Veracity — un outil utilisant l’IA pour…

Discussion de la revue Nature 2009 de Scheffer et al. sur les transitions critiques dans les systèmes complexes. Malgré leurs différences mécanistiques, les systèmes approchant des points de…

Activité animée par Emma Kondrup. Exploration de pessimistsarchive.org — unes de journaux de différentes époques technologiques — pour interroger l’exceptionnalisme de l’IA : les traits différentiels…

Session de coworking pour quiconque travaille sur la sûreté ou la gouvernance de l’IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Hackathon de 48h sur l’accélération défensive (def/acc) : construire des technologies pour protéger contre les pandémies, la cybercriminalité et l’IA puissante. Organisé avec Apart Research. 20 000…

Introduction à Neuronpedia (neuronpedia.org) : autoencodeurs épars, features et pages de features. Démo en direct sur un modèle — recherche de features, tests d’activation et discussion des standards…

Atelier pour co-concevoir une Assemblée nationale citoyenne sur la superintelligence au Canada. Les participants définissent le mandat, les parties prenantes et les modalités de consultation publique…

Session de coworking pour quiconque travaille sur la sûreté ou la gouvernance de l’IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Dans quelle mesure le budget fédéral 2025 du Canada réduit-il les risques de l’IA ? Discussion croisant les volets du budget liés à l’IA avec différents modèles de risques : concentration du pouvoir…

Groupe de lecture sur If Anyone Builds It, Everyone Dies de Yudkowsky et Soares, animé par Jeremy. Discussion guidée par les questions proposées par les auteurs sur les trois thèses centrales du…

Session de coworking pour quiconque travaille sur la sûreté de l’IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Session de coworking pour quiconque travaille sur la sûreté de l’IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Présentation du Premier Key Update du Rapport international sur la sûreté de l’IA (14 oct. 2025) : progrès rapides en maths, codage et recherche scientifique grâce aux nouvelles techniques de…

Session de coworking pour quiconque travaille sur la sûreté de l’IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Joignez-vous à nous pour une séance pour remplir le sondage pour la consultation ouverte du gouvernement du Canada sur la prochaine stratégie nationale en IA. Après une courte séance d’information…

Lancement de If Anyone Builds It, Everyone Dies de Yudkowsky et Soares (ifanyonebuildsit.com) — un exposé sur les raisons pour lesquelles les trajectoires actuelles vers une IA surhumaine pourraient…

Session de coworking pour quiconque travaille sur la sûreté de l’IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Que devrait signifier « AGI » et comment la mesurer ? Présentation de agidefinition.ai, qui définit l’AGI comme égalant la polyvalence cognitive d’un adulte bien formé via le modèle CHC — décomposant…

Nik Lacombe présente le mouvement PauseAI et son groupe montréalais (pauseai.ca/montreal). PauseAI vise à atténuer les risques liés à l’IA en convainquant les gouvernements de freiner le développement…

Olivier Coutu présente aisafety.info : une introduction aux risques existentiels de l’IA, un FAQ de 300+ articles, un chatbot nommé Stampy et une base de données de ressources sur l’alignement. Fondé…

Discussion de l’Appel mondial pour des lignes rouges en IA (red-lines.ai), lancé à l’AGNU-80 par des lauréats du prix Nobel, d’anciens chefs d’État et des pionniers de l’IA dont Yoshua Bengio…

Evan Lombardi présente les impacts des algorithmes des médias sociaux sur la santé mentale et comment l’IA les amplifie. Aborde les systèmes de recommandation, les dark patterns, les deepfakes et…

Session de coworking pour quiconque travaille sur la sûreté de l’IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Samuel Gélineau présente Parity Bot (gelisam.com/parity-bot) : démonstration qu’on peut vérifier formellement qu’un réseau de neurones respecte une propriété de sûreté pour toutes les entrées, en…

Session de coworking pour quiconque travaille sur la sûreté de l’IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Orpheus présente les idées centrales de « Towards Guaranteed Safe AI : A Framework for Ensuring Robust and Reliable AI Systems » (arxiv.org/abs/2405.06624), suivi d’une période de questions et d’une…

Discussion de la section 2.1 du Rapport international sur la sûreté de l’IA (janvier 2025) sur les risques d’utilisation malveillante. Fait partie du réseau AIGS Canada.