Sam Altman quitte le comité de sûreté d'OpenAI

L’entreprise a fait du comité de sûreté un groupe de surveillance dit « indépendant », qui sera en mesure de bloquer le déploiement de nouveaux outils et de nouveaux modèles d’intelligence artificielle s’il juge que le cadre de sûreté n’est pas respecté. Sam Altman n’en fera pas partie.

OpenAI se transforme. Alors que l’entreprise prévoit de quitter son statut d’association à but non lucratif, la voilà qui chercherait à renforcer le contrôle du garde-fou de ses opérations et de ses décisions, par la même occasion. Son comité qui lui était consacré évolue, et devient un groupe dit « indépendant », qui aura le pouvoir de bloquer le déploiement d’une nouvelle IA, s’il en juge nécessaire.

Jusqu’à présent, Sam Altman, le patron et co-fondateur d’OpenAI, faisait partie du comité, lancé en mai 2024 pour superviser les décisions de sécurité « critiques » liées aux projets et aux opérations de l’entreprise. Il en sera désormais écarté. C’est le professeur de l’Université Carnegie Mellon, Zico Kolter, qui le présidera, accompagné de plusieurs responsables tel que le PDG du forum informatique Quora, Adam D’Angelo, le général de l’armée américaine à la retraite, Paul Nakasone, et l’ancienne vice-présidente exécutive de Sony, Nicole Seligman.

Qui contrôlera vraiment OpenAI ?

Indépendant, le nouveau groupe a tout de même de forts liens avec OpenAI tant chaque membre sont aussi présents au Conseil d’administration de l’entreprise. Indépendant, le groupe le sera surtout de Sam Altman, qui s’était déjà fait reprocher d’aller trop loin dans le développement d’OpenAI, sans prendre suffisamment en compte des notions importantes dans la réglementation de l’IA. À noter que pour privilégier ses objectifs et repousser les barrières juridiques face à l’IA, OpenAI a déboursé plus de 800 000 dollars les six premiers mois de 2024.

« D’après notre expérience, nous pensons que l’auto-gouvernance ne peut pas résister de manière fiable à la pression des incitations au profit », écrivaient dans un éditiorial sur The Economist plusieurs anciens membres du conseil d’administration d’OpenAI, en mai dernier, quand Sam Altman lançait le Comité de sûreté dans lequel il s’était fait une place. Peut-être qu’en son absence, l’indépendance du groupe sera renforcée, sauf si la direction d’OpenAI en profitait pour lui retirer tous ses pouvoirs.

OpenAI veut faire sauter son plafond de profits

D’autant plus que les incitations de profits mentionnés ne risquent pas de s’en aller. OpenAI manque d’argent, alors que l’entraînement de ses modèles d’IA coûtent cher. L’entreprise vise l’obtention de 6,5 milliards de dollars d’argent frais, de la part de plusieurs gros investisseurs comme Thrive Capital, Microsoft, Apple, mais aussi des banques. En délaissant le statut d’association à but non lucratif de la partie OpenAI Inc, qui gère les opérations de la filiale à but lucratif plafonné OpenAI Global LLC, l’entreprise sera en mesure de rassurer ses investisseurs et leur donner un espoir de retour sur investissement.

🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.

Source :

OpenAI