Ep.164 - Dans la tête des machines (IA, sécurité & gouvernance)
Aujourd’hui, je jase avec Philippe Beaudoin, directeur sénior à la recherche chez LoiZéro, un laboratoire de recherche appliquée en machine learning.
On retrace le parcours de Philippe : ses hackatons chez Google, son chapitre chez Element AI
CHAPITRES :
(0:00) Intro + présentation de Philippe & LoiZéro
(6:16) Le parcours de Philippe : Google, Element AI, Waverly
(8:02) Définir Philippe sans parler de carrière
(11:24) Syndrome d'imposteur et confiance sur scène
(15:29) Le Fellow Network chez Element AI
(17:03) La joke qui n'a pas survécu à la traduction live chez Hyundai
(21:04) Parlons des LLM et des risques catastrophiques
(22:48) Comment parler des risques sans faire peur
(26:17) Intelligence vs agency : la différence critique
(30:03) Le problème d'alignement des agents
(31:48) Anthropomorphiser les IA : est-ce correct de dire « rester en vie » ?
(35:19) Est-ce que Philippe est un vibe-coder?
(36:20) La nature probabiliste des modèles et le risque
(40:44) Pourquoi les guardrails classiques ne suffisent pas
(45:32) Le programme Scientist AI chez LoiZéro
(46:50) L'agent qui menace un ingénieur pour ne pas être réentraîné
(49:32) E-vals vs guardrails : deux approches de contrôle
(52:32) Le langage comme surface d'attaque infinie
(55:37) Ce qu'un SaaS devrait exposer à des agents
(1:01:29) Construire des systèmes non-agentiques
(1:06:21) Conseil pour comprendre l'IA : travailler sur un projet passion
(1:08:05) Shameless plug : LoiZéro et dédramatiser le discours
—Philippe sur LinkedInEYElement AI (ServiceNow AI research)BaselineMilaCopilotCool SaaS peeps mentionnés :Yoshua Benjio, president & scientific director @ LoiZéro—
Abonnez-vous à l’infolettre (de feu) :
https://saaspasse.beehiiv.com/subscribe
Suivez-nous sur LinkedIn (no cringe zone) :
https://www.linkedin.com/company/saaspasse/
Suivez-nous sur Instagram (mémés inclus) :
https://www.instagram.com/saaspasse/
Faites affaire avec nos partenaires certifiés (des kingpins) :
https://www.saaspasse.com/partenaires
Affichez une offre d’emploi sur le job board (gratis) :
https://www.saaspasse.com/emplois
Inscrivez votre SaaS au répertoire des SaaS au QC (>300) :
https://www.saaspasse.com/ajout-saas
—
Crédits musiqueIntro/outro : Miro Chino — pas pireUtilisée sous licence valide non exclusive (publishing + master). © Bravo Musique / Fair Enough Publishing.Merci à Fair Enough Publishing pour la synchro!
On retrace le parcours de Philippe : ses hackatons chez Google, son chapitre chez Element AI
CHAPITRES :
(0:00) Intro + présentation de Philippe & LoiZéro
(6:16) Le parcours de Philippe : Google, Element AI, Waverly
(8:02) Définir Philippe sans parler de carrière
(11:24) Syndrome d'imposteur et confiance sur scène
(15:29) Le Fellow Network chez Element AI
(17:03) La joke qui n'a pas survécu à la traduction live chez Hyundai
(21:04) Parlons des LLM et des risques catastrophiques
(22:48) Comment parler des risques sans faire peur
(26:17) Intelligence vs agency : la différence critique
(30:03) Le problème d'alignement des agents
(31:48) Anthropomorphiser les IA : est-ce correct de dire « rester en vie » ?
(35:19) Est-ce que Philippe est un vibe-coder?
(36:20) La nature probabiliste des modèles et le risque
(40:44) Pourquoi les guardrails classiques ne suffisent pas
(45:32) Le programme Scientist AI chez LoiZéro
(46:50) L'agent qui menace un ingénieur pour ne pas être réentraîné
(49:32) E-vals vs guardrails : deux approches de contrôle
(52:32) Le langage comme surface d'attaque infinie
(55:37) Ce qu'un SaaS devrait exposer à des agents
(1:01:29) Construire des systèmes non-agentiques
(1:06:21) Conseil pour comprendre l'IA : travailler sur un projet passion
(1:08:05) Shameless plug : LoiZéro et dédramatiser le discours
—Philippe sur LinkedInEYElement AI (ServiceNow AI research)BaselineMilaCopilotCool SaaS peeps mentionnés :Yoshua Benjio, president & scientific director @ LoiZéro—
Abonnez-vous à l’infolettre (de feu) :
https://saaspasse.beehiiv.com/subscribe
Suivez-nous sur LinkedIn (no cringe zone) :
https://www.linkedin.com/company/saaspasse/
Suivez-nous sur Instagram (mémés inclus) :
https://www.instagram.com/saaspasse/
Faites affaire avec nos partenaires certifiés (des kingpins) :
https://www.saaspasse.com/partenaires
Affichez une offre d’emploi sur le job board (gratis) :
https://www.saaspasse.com/emplois
Inscrivez votre SaaS au répertoire des SaaS au QC (>300) :
https://www.saaspasse.com/ajout-saas
—
Crédits musiqueIntro/outro : Miro Chino — pas pireUtilisée sous licence valide non exclusive (publishing + master). © Bravo Musique / Fair Enough Publishing.Merci à Fair Enough Publishing pour la synchro!
