Dès les premiers jours de OpenAI, une ambiance d’incertitude et de tension entourait le bureau, comme le décrit Karen Hao dans son nouvel ouvrage intitulé « Empire of AI ». Les débuts de cette entreprise emblématique de l’intelligence artificielle n’étaient pas exempts de défis, notamment en ce qui concerne les promesses faites par Sam Altman à Microsoft après un accord crucial signé en 2019. L’équipe chargée de la sécurité de l’IA chez OpenAI, menée par Dario Amodei, découvrit avec stupéfaction l’étendue des engagements pris par Altman, engagements qui ne correspondaient pas à leur compréhension initiale des termes de l’accord. Cela soulevait des doutes non seulement sur la capacité de l’entreprise à gérer les problèmes de sécurité de l’IA mais aussi sur l’honnêteté d’Altman lui-même.
Les premières turbulences chez OpenAI
Un accord controversé avec Microsoft
L’accord conclu avec Microsoft en 2019 devait marquer un tournant décisif pour OpenAI. Cependant, il devint rapidement une source de préoccupation pour l’équipe d’Amodei. Les termes de cet accord, tels qu’ils furent compris par Altman, promettaient à Microsoft un accès à des technologies de pointe en échange de son investissement. Cette révélation ébranla la confiance de l’équipe en leur leader, craignant que ces engagements ne compromettent leur capacité à contrôler ou même à stopper le déploiement des modèles en cas de problème de sécurité.
Une erreur de codage aux conséquences inattendues
Un incident marquant survint en 2019, lorsqu’un chercheur, en travaillant tard, introduisit une erreur typographique dans son code avant de laisser le processus d’apprentissage par renforcement fonctionner toute la nuit. Un simple signe moins devenu signe plus inversa le processus, poussant le modèle GPT-2 à générer des contenus offensifs plutôt que de les éviter. Cette erreur, bien que corrigée rapidement le lendemain, souligna les risques inhérents au développement de technologies puissantes.
Des craintes croissantes et des discussions mouvementées
L’ombre des grandes puissances
Au sein d’OpenAI, la peur que des acteurs mal intentionnés, notamment des gouvernements étrangers, puissent abuser de l’IA grandissait. Cette crainte était souvent alimentée par les discussions sur la nécessité de garder le développement de l’AGI (intelligence générale artificielle) sous le contrôle des États-Unis, une position qui, à diverses occasions, provoquait des frictions parmi les employés internationaux de l’entreprise.
Le spectre de la Manhattan Project
La comparaison d’Altman entre OpenAI et le projet Manhattan, utilisée pour souligner les implications potentiellement monumentales de leur travail, suscitait des débats internes réguliers. Ces discussions philosophiques sur les implications à long terme de la recherche en IA étaient fréquentes et illustraient le contraste frappant entre la culture idéaliste de l’organisation et les enjeux éthiques et sécuritaires qu’elle devait affronter.
La paranoïa interne et les mesures de sécurité extrêmes
Incidents et mesures de sécurité
L’atmosphère de paranoïa n’était pas limitée aux enjeux externes. Des incidents comme la découverte d’une clé USB non identifiée ou l’utilisation par Amodei d’un ordinateur déconnecté d’Internet pour écrire des documents stratégiques soulignent le niveau de méfiance interne. Ces mesures, bien que parfois perçues comme extrêmes, étaient jugées nécessaires pour protéger les secrets de l’entreprise contre des acteurs étatiques potentiellement hostiles.
Surveillance et contre-espionnage
Sam Altman lui-même était extrêmement prudent, allant jusqu’à commander un audit de contre-surveillance électronique pour détecter d’éventuels dispositifs d’espionnage laissés par Elon Musk, avec qui OpenAI partageait des bureaux avant son départ. Cette méfiance envers Musk et d’autres potentielles fuites d’informations témoigne de la haute tension régnant au sein de l’organisation.
En explorant les défis et les dilemmes éthiques auxquels OpenAI a été confronté, « Empire of AI » de Karen Hao offre un aperçu fascinant et parfois troublant des premiers jours de l’une des entreprises les plus influentes dans le domaine de l’intelligence artificielle.
Articles similaires
- Négociations Microsoft: le mystérieux document AGI d’OpenAI pourrait tout changer!
- Microsoft et OpenAI : Une bataille pour l’AGI bien plus grande qu’un simple contrat !
- Sam Altman critique Meta pour le vol de talents en IA : « Les missionnaires l’emporteront sur les mercenaires »
- OpenAI débauche des ingénieurs de Tesla, xAI et Meta: Découvrez les détails!
- OpenAI perd 4 chercheurs clés au profit de Meta: Un coup dur pour l’IA!