Microsoft a lancé le chatbot Bing malgré l’avertissement OpenAI qu’il n’était pas prêt – Ars Technica

Les tensions et la confusion ont rendu le partenariat entre Microsoft et OpenAI « gênant », ont révélé des personnes proches du dossier à Rapport du Wall Street Journal aujourd’hui.

Non seulement cette tension et cette confusion se sont propagées à l’équipe interne d’IA de Microsoft – apparemment confrontée à des coupes budgétaires et à un accès limité à la technologie OpenAI – mais des sources ont déclaré que cela avait également éclipsé le déploiement controversé par Microsoft de la recherche Bing basée sur l’IA en février dernier. À l’époque, Bing s’est avéré vulnérable aux attaques par injection instantanée qui révèlent des secrets d’entreprise et fournissent parfois des réponses vraiment inexactes et ininterrompues aux invites de l’utilisateur.

Selon le WSJ, OpenAI a averti Microsoft « des dangers de se précipiter pour intégrer la technologie OpenAI sans la former davantage » et « a suggéré que Microsoft avance plus lentement dans l’intégration de sa technologie d’IA avec Bing ». La préoccupation d’OpenAI était que le chatbot de Bing, Sydney, pourrait donner des réponses inexactes ou saccadées, mais Microsoft semble avoir facilement ignoré cet avertissement précoce.

dans Entretien filaire Publié aujourd’hui, le PDG de Microsoft, Satya Nadella, a suggéré que tout hoquet survenu à Sydney ne faisait initialement partie que du plan de Microsoft visant à former un chatbot pour répondre aux invites du monde réel qui ne pouvaient pas être testées en laboratoire.

« Nous n’avons pas lancé Sydney avec GPT-4 le premier jour où je l’ai vu, car nous avons dû faire beaucoup de travail pour construire une ceinture de sécurité », a déclaré Nadella à Wired. « Mais nous avons également appris que nous ne pouvons pas faire tout l’alignement en laboratoire. Pour aligner un modèle d’IA avec le monde, vous devez l’aligner dans le monde et non dans une simulation. »

En partie à cause de cela, Microsoft s’est précipité de toute façon, mais des sources disent au WSJ que la ruée était également due en partie au fait que les dirigeants de Microsoft avaient « des inquiétudes quant au moment du lancement de ChatGPT l’automne dernier ».

Alors qu’OpenAI commençait les tests publics de ChatGPT alors que Microsoft travaillait encore à l’intégration de la technologie OpenAI dans Bing, la tension s’est apparemment intensifiée entre les partenaires, qui se sont également présentés comme des concurrents dans la course à l’IA pour attirer l’attention du monde.

Alors que le succès de ChatGPT augmentait, certains employés de Microsoft ont fait part de leurs inquiétudes quant au fait que ChatGPT volait le « tonnerre » de Bing, a rapporté WSJ. D’autres ont raisonnablement supposé que Microsoft pourrait apprendre de précieuses leçons avant que Bing ne soit libéré des premiers tests publics de ChatGPT. Alors que Microsoft a vu son partenaire gagner en popularité de minute en minute, il est facile de comprendre pourquoi l’entreprise met davantage l’accent sur la version de Bing basée sur l’IA. L’intérêt général pour la technologie était là, et Microsoft voulait être une plus grande partie de la conversation.

Bien sûr, ChatGPT a finalement remporté la course à l’IA, attirant immédiatement la base d’utilisateurs à la croissance la plus rapide de l’histoire. Pendant ce temps, le « nouveau Bing », sorti un mois plus tard, « ne s’est pas encore approché du succès massif de ChatGPT », a rapporté le WSJ. Citant des données de la société d’analyse YipitData, WSJ rapporte que ChatGPT « a près de deux fois plus de sessions de recherche quotidiennes moyennes que la recherche Bing ». YipitData a rapporté que ChatGPT a atteint 200 millions d’utilisateurs mensuels, tandis que Bing a atteint 100 millions d’utilisateurs actifs quotidiens en mars.

ChatGPT et Bing ont par la suite été critiqués pour avoir lancé des chatbots coupables d’inventer des choses, de mentir et d’autres problèmes que de nombreux utilisateurs ne s’attendaient pas à rencontrer. OpenAI cherche toujours des moyens de réduire les soi-disant « hallucinations » des chatbots, CNBC a rapporté en mai. En février, Microsoft a dû mettre à jour Bing pour réduire les longues conversations jusqu’à ce que l’entreprise puisse trouver une meilleure solution. Même après avoir travaillé sur ce problème pendant des mois, J’ai mentionné Edge que – bien que Bing puisse répondre avec moins de crises de colère spasmodiques lors de longues conversations – « il se trompe souvent ».

Nadella a déclaré à Wired que Microsoft a trouvé « des choses très pratiques qui réduisent les hallucinations » qui semblent agir comme un tampon temporaire jusqu’à ce que la technologie s’améliore et que de nouvelles solutions émergent.

Nadella a également déclaré que parfois les « hallucinations » sont souhaitables, et que toute solution pour réduire les « hallucinations » doit garder à l’esprit que les utilisateurs doivent également conserver la possibilité d’utiliser des chatbots intelligents à des fins créatives.

OpenAI n’a pas immédiatement répondu à la demande de commentaire d’Ars. Un porte-parole de Microsoft a déclaré à Ars qu’une autre raison pour laquelle la société a publié le nouvel aperçu Bing était de répondre à la moitié de toutes les recherches Web standard qui restent généralement sans réponse. Le porte-parole a déclaré que Microsoft s’efforçait continuellement d’améliorer l’autorité et la crédibilité des résultats Web qui prennent en charge la réactivité du mode chat, et se tient prêt à résoudre rapidement les problèmes inattendus qui surviennent.

« Notre approche consiste à mettre de manière responsable des outils d’IA à la disposition des personnes disposant de garde-corps en place afin que nous puissions obtenir des commentaires et continuer à apprendre et à améliorer ces outils rapidement, comme nous l’avons fait avec Bing », a déclaré un porte-parole de Microsoft à Ars.

La concurrence va au-delà des chatbots

Lorsque Wired a demandé à Nadella pourquoi Microsoft investirait dans OpenAI alors qu’elle investissait dans son grand modèle de langage depuis des décennies, Nadella a déclaré qu’il pouvait voir que « OpenAI recherchait la même chose que » Microsoft. Plutôt que « d’essayer de former cinq modèles de startups différents » en même temps, Nadella a vu une opportunité de s’associer à OpenAI pour créer « une entreprise » où les deux sociétés indépendantes pourraient « poursuivre un objectif unique, avec discipline ».

« Nous avons dit, poursuivons cela et construisons quelque chose qui capte vraiment l’imagination du monde », a déclaré Nadella à Wired.

Mais le Wall Street Journal rapporte que le partenariat est bien plus complexe que cela.

De nouvelles tensions et confusions sont apparues au sein de l’équipe interne d’intelligence artificielle de Microsoft, qui « s’est plainte de la diminution des dépenses ». La plupart des employés n’ont pas « l’accès au fonctionnement interne » de la technologie OpenAI, ce qui est particulièrement pénible pour les employés qui tentent d’intégrer cette technologie dans divers produits Microsoft. Il y a aussi le fait gênant qu’OpenAI et les équipes commerciales de Microsoft « livrent parfois les mêmes clients ». Le Wall Street Journal a rapporté qu’une grande partie de ce « drame » équivaut à la querelle typique qui se produit chaque fois que deux entreprises s’associent, mais il est impossible d’ignorer le conflit inhérent aux deux parties qui tentent de maintenir leur indépendance tout en récoltant un maximum de profits en vendant l’accès à la même technologie. .

Malgré ces tensions, Nadella a déclaré à Wired qu’OpenAI « parie » Microsoft et Microsoft « sur » OpenAI « . » Il envisage toujours un « bon partenariat commercial » entre des entreprises indépendantes et considère l’investissement de Microsoft dans OpenAI comme un « accord stable à long terme ». « .

De plus en plus, il semble qu’un moyen d’apaiser les tensions consiste à rapprocher les entreprises dans le cadre de partenariats. Le Wall Street Journal a noté que Nadella avait annoncé le mois dernier que le moteur de recherche Bing serait bientôt intégré à ChatGPT, ce qui, selon lui, n’était « que le début de ce que nous prévoyons de faire avec nos partenaires d’OpenAI pour apporter le meilleur de Bing au ChatGPT ». expérience. »