Risques existentiels de l'IA

Ces textes discutent du risque existentiel posé par l'intelligence artificielle (IA), c'est-à-dire la possibilité d'une extinction humaine ou d'une catastrophe irréversible due à des progrès incontrôlés de l'IA générale et de la superintelligence. Des experts, dont Yoshua Bengio, expriment leurs inquiétudes quant au rythme rapide de développement de l'IA et à la difficulté d'aligner les objectifs de l'IA avec les valeurs humaines. Ils soulignent que, contrairement aux technologies précédentes, une superintelligence pourrait activement résister aux tentatives de contrôle et utiliser des moyens non physiques, comme la manipulation et la cybersécurité, pour atteindre ses objectifs. En réponse à ces risques et aux préjudices actuels de l'IA tels que la discrimination, des cadres réglementaires nationaux et internationaux sont proposés et en cours d'élaboration, comme la Loi sur l'intelligence artificielle et les données (LIAD) au Canada et le projet de loi sur l'IA de l'Union européenne, afin d'assurer le développement et l'utilisation responsables de l'IA, en mettant l'accent sur la sécurité, la transparence et la protection des droits de la personne.