IA : l'optimisme de Yann LeCun face aux risques de défaillances graves

Dans le secteur du développement de l’intelligence artificielle, la perspective défendue par Yann LeCun s’appuie sur un optimisme guidé par la confiance accordée aux humains ainsi qu’aux institutions. En complément de cette dimension, ses activités de recherche s'orientent vers l'élaboration et le renforcement continu de protections techniques destinées à fiabiliser ces technologies.

Cependant, les enseignements tirés des précédents industriels rappellent que des défaillances collectives demeurent possibles. De tels dysfonctionnements peuvent provoquer des accidents graves sans qu'aucune intention malveillante n'en soit à l'origine. Les mécanismes organisationnels et les initiatives individuelles se heurtent ainsi à la possibilité de crises techniques générées sans volonté de nuire.

Face à ces constats, l’enjeu principal réside dans la capacité à réduire à la fois la probabilité d’apparition de ces événements et leur portée globale. Cette démarche de prévention doit s’effectuer tout en poursuivant le développement de l’intelligence artificielle. Enfin, la gestion de ces risques implique d'opérer une distinction rigoureuse et systématique entre les accidents fortuits et les attaques délibérées.