Elon-Musk

Elon Musk veut empêcher les machines de prendre le pouvoir

En créant OpenAI, une équipe de recherche à but non lucratif, Elon Musk et Y Combinator espèrent limiter les risques de dérive en matière d’intelligence artificielle.

Les fonds proviennent d’un groupe de sommités du monde de la tech, parmi lesquels Elon Musk, Reid Hoffman, Peter Thiel, Jessica Livingston et Amazon Web Services. À eux tous, ils ont promis plus d’un milliard de dollars destinés à être versés au fur et à mesure. Les co-présidents de l’entreprise sont Musk et Sam Altman, le PDG d’Y Combinator, dont le groupe de recherche fait aussi partie des donateurs – ainsi qu’Altman lui-même.

Musk est célèbre pour ses critiques de l’IA, et il n’est pas surprenant de le retrouver ici. Mais Y Combinator, ça oui. Le Y Combinator est l’incubateur qui a démarré il y a dix ans comme un projet estival en finançant six startups et en « payant » leurs fondateurs en précieux conseils, afin qu’ils puissent rapidement lancer leur business. Depuis, YC a aidé à lancer plus de mille entreprises, dont Dropbox, Airbnb et Stripe, et a récemment inauguré un département de recherche. Ces deux dernières années, l’entreprise est dirigée par Altman, dont la société, Loopt, faisait partie des startups lancées en 2005 – elle a été vendue en 2012 pour 43,4 millions de dollars. Mais si YC et Altman font partie des bailleurs et qu’Altman est co-président, OpenAI est néanmoins une aventure indépendante et bien séparée.

Elon Musk : Comme vous le savez, je suis préoccupé par l’IA depuis un bon moment. Et j’ai eu de nombreuses conversations avec Sam, Reid (Hoffman), Peter Thiel et bien d’autres. On se demandait : « Existe-t-il un moyen de s’assurer ou d’augmenter la probabilité pour que l’intelligence artificielle se développe de façon bénéfique ? » Nous sommes arrivés à la conclusion que de créer une association à but non lucratif, sans aucune obligation de maximiser un quelconque profit, serait probablement une bonne idée. Nous allons aussi faire très attention à la sécurité.

Altman : Je voudrais pouvoir compter les heures que j’ai passées à débattre de ça avec Elon et les autres. Et pourtant, je ne suis toujours pas sûr à 100 %. On ne peut jamais l’être tout à fait, n’est-ce pas ? Mais envisageons les différents scénarios. La sécurité par le secret, dans le monde de la technologie, ne s’est jamais révélée très efficace. Si une seule personne doit y avoir accès, comment décide-t-on si c’est Google ou le gouvernement américain, ou les Chinois, ou Daech ou je ne sais qui ? Il y a beaucoup d’êtres humains malintentionnés dans le monde et pourtant l’humanité continue de s’épanouir. Cependant, que se passerait-il si l’un de ces individus était un milliard de fois plus puissant que les autres ?

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *