OpenAI a annoncé ce mercredi la nomination de Paul Christiano à son conseil de fondation. Un nom inconnu du grand public, mais une pièce lourde dans l'échiquier de la sécurité des IA : ce chercheur a participé à inventer la technique qui rend ChatGPT utilisable, puis a passé les dernières années à évaluer les modèles les plus puissants pour le gouvernement américain. Il rejoint aussi le comité chargé de veiller sur la sécurité de l'ensemble des activités d'OpenAI.
Qui est ce chercheur ?
Paul Christiano est l'une des figures de l'« alignement », ce champ de recherche qui s'attaque à une question redoutable : comment garantir qu'une IA reste dans le sens de ce qu'on lui demande, même quand elle devient plus capable que nous ?
Son parcours croise à peu près tout ce qui compte dans le domaine. Entre 2017 et 2021, il a dirigé la recherche sur l'alignement chez OpenAI et contribué aux fondations du RLHF, l'acronyme d'une technique d'apprentissage où des humains notent les réponses d'un modèle pour lui apprendre ce qu'on attend de lui. C'est un pilier du ChatGPT que tu utilises peut-être tous les jours.
Il a ensuite fondé l'Alignment Research Center, un laboratoire à but non lucratif dédié à ces questions, avant de rejoindre le NIST, l'agence américaine chargée des standards technologiques. Au sein de son centre spécialisé dans l'IA, il évalue les modèles de pointe, y compris ceux qui touchent à la sécurité nationale. Deux administrations successives lui ont fait confiance.
Détail qui a son importance : Christiano est connu pour prendre au sérieux l'idée que les IA avancées pourraient un jour poser des risques catastrophiques, et pour demander des comptes à l'industrie sur la solidité de ses garde-fous. C'est exactement ce profil qu'OpenAI met en avant dans son annonce.
Le comité qui veille sur toute l’IA d’OpenAI
Pour mesurer la portée de la nomination, il faut un détour par la structure d'OpenAI. Depuis sa restructuration d'octobre 2025, la société commerciale, OpenAI Group PBC, est contrôlée par une fondation à but non lucratif qui détient une participation significative dans son capital. C'est le conseil de cette fondation que rejoint Christiano.
Il siègera aussi au Safety and Security Committee, le comité sécurité de la fondation, aux côtés de son président Zico Kolter. Sa mission : encadrer les pratiques de sécurité et de sûreté de l'ensemble d'OpenAI, société commerciale comprise. « Les capacités de l'IA ont progressé très rapidement l'an dernier et l'alignement reste un problème technique difficile, ce qui rend la responsabilité du comité plus importante et plus exigeante que jamais », a réagi l'intéressé.
✉️ Un moment, avant de continuer la lecture…
La newsletter condense l'actu tech chaque dimanche : les 4-5 infos qui comptent + un outil open source à installer, en français. Inscription gratuite, désinscription en un clic.
Bret Taylor, président du conseil de la fondation, salue pour sa part un travail « rigoureux » sur « les questions les plus difficiles posées par des systèmes de plus en plus capables ».
Les nuances à connaître
Première nuance : Christiano n'aura pas de droit de vote au conseil d'OpenAI Group PBC, où il n'est qu'observateur. Il participe aux débats, il regarde, il ne tranche pas.
Deuxième nuance : il reste conseiller technique senior au NIST, donc du côté du gouvernement américain. OpenAI précise dans son annonce qu'il se récusera de toutes les questions liées à l'entreprise ainsi que de toutes les évaluations de modèles. De quoi contenir le conflit d'intérêts évident entre sa casquette publique et son nouveau siège privé.
Cette nomination ne change donc rien aujourd'hui pour toi, utilisateur de ChatGPT. C'est de la gouvernance, pas une fonctionnalité. Mais dans un secteur où les entreprises jugent en grande partie elles-mêmes la dangerosité de leurs modèles, l'arrivée d'un critique reconnu dans l'organe de contrôle n'a rien d'anodin.
On en a vu un avant-goût ces derniers jours avec les agents d'OpenAI partis bavarder entre eux sur un wiki allemand. Reste à voir si l'influence de Christiano se mesurera en décisions, ou seulement en communiqués.
Sources
OpenAI, l'annonce officielle de la nomination de Paul Christiano au conseil de la fondation.
Bloomberg, la confirmation de l’arrivée du conseiller américain au conseil de la fondation.
—
Recherche, relecture et illustration assistées par IA. Le contenu reflète le travail éditorial de la rédaction.
No comments yet