Blog

Jul 27, 2023

Dans le terrier du lapin Chatbot

Steven Levy D'autres générations d'humains - ou de robots - pourraient un jour regarder en arrière

Steven Lévy

D'autres générations d'humains - ou de robots - pourraient un jour considérer cette semaine comme le point de basculement dans la façon dont les ordinateurs et les gens interagissent. Lundi, le PDG Sundar Pichai a annoncé le nouveau chatbot de Google, surnommé Bard, basé sur son robot IA précédemment divulgué LaMDA. (Il aurait également investi 400 millions de dollars dans la start-up Anthropic, un grand modèle de langage.) Un jour plus tard, Microsoft a dévoilé une nouvelle version du moteur de recherche Bing, propulsée par le succès d'OpenAI, ChatGPT. En à peine plus de temps qu'il n'en faut pour répondre à une requête, les systèmes alimentés par l'intelligence artificielle sont devenus un élément essentiel de la recherche, l'application la plus puissante d'Internet.

Préparez-vous à une discussion sans fin sur les implications. Mais j'étais déjà tombé dans ce terrier de lapin après avoir réfléchi à un produit bêta moins annoncé lancé en douceur en décembre dernier et ouvert au public il y a une semaine. Il s'agit d'un chatbot appelé Poe, produit par, de toutes les entreprises, Quora, un réseau social vieux de 14 ans qui aide les utilisateurs à trouver des réponses aux questions en exploitant les connaissances des autres utilisateurs. Comme Quora lui-même, vous tapez votre question et attendez la réponse. Mais Poe, qui signifierait Plate-forme pour l'exploration ouverte et n'est pas une référence à l'auteur du macabre, fournit ses réponses en utilisant des algorithmes de génération de texte comme ChatGPT et Anthropic's Claude. Sans qu'un humain n'ait besoin de réfléchir à la requête et d'y répondre, les réponses arrivent instantanément.

Cela m'a frappé comme un pivot étrange pour un réseau social. Mais lorsque j'ai contacté Adam D'Angelo, cofondateur et PDG de Quora, il a souligné que même lorsqu'il était au lycée, travaillant sur des projets avec son camarade de classe Mark Zuckerberg, il était au courant des possibilités de l'IA. "C'est ce qui m'a vraiment enthousiasmé", a déclaré D'Angelo, qui a ensuite rejoint la startup Facebook de Zuckerberg. Lorsqu'il a quitté son poste de CTO là-bas en 2009 pour démarrer Quora, utiliser d'autres personnes pour répondre aux questions était une sorte de solution de rechange car l'IA n'avait pas suffisamment avancé pour le faire. "Faire fonctionner l'IA à cette époque était vraiment, vraiment difficile", dit-il. "Mais il y avait juste cet énorme potentiel inexploité de connecter les gens avec d'autres personnes sur Internet. Alors au lieu de s'inquiéter de créer cette intelligence artificielle avant qu'elle ne soit prête, pourquoi ne pas simplement laisser les gens accéder à toutes les autres intelligences qui existent ?"

Cela s'est avéré être une très bonne idée. Bien que Quora ne soit jamais devenu un mastodonte comme Facebook, il compte plus de 300 millions d'utilisateurs mensuels, dit D'Angelo, et à la fin de 2021, il a été largement rapporté qu'avant la pandémie, la société préparait une introduction en bourse avec une valorisation possible de 4 milliards de dollars. Bien que le récent ralentissement de la publicité ait conduit Quora à licencier certains employés à la fin du mois dernier, D'Angelo dit que le service reçoit plus de questions que jamais et il s'attend à ce que le marché publicitaire en déclin rebondisse.

Mais en tant que membre du conseil d'administration d'OpenAI, l'ancêtre de ChatGPT, il a vu de première main les avancées spectaculaires du domaine et a senti une opportunité. En fournissant un frontal à plusieurs bots, Quora pourrait peut-être simplifier l'accès à la source de connaissances sur l'IA. Leurs réponses conversationnelles apparaîtraient dans la même veine que les réponses humaines fournies sur Quora lui-même. Son équipe a donc sécurisé l'accès au bot d'OpenAI et au chatbot d'Anthropic Claude (il ne partagera pas les termes) et a construit Poe.

La décision de Quora nous en dit long sur la profondeur des changements que l'IA impose au monde en ce moment. Au cas où le symbolisme vous échapperait, permettez-moi de vous le dire : une entreprise dont les fondations ont été construites sur la connexion des humains entre eux pour partager les connaissances poursuit maintenant un modèle où les gens ne se tournent pas les uns vers les autres, mais vers des robots pour leurs réponses.

Jérémy Blanc

Kate Knibbs

Personnel filaire

Stéphanie Mc Neal

J'ai essayé Poe, en tapant une requête rendant hommage au guitariste et chanteur du groupe Television des années 1970, récemment décédé et instantanément pleuré. "Pourquoi Tom Verlaine était-il un si bon guitariste ?" J'ai demandé. La réponse est venue en quelques secondes.

J'ai été époustouflé par la rapidité et la précision de la réponse. (J'ai posté la même requête sur Quora, mais après deux jours, personne n'a répondu.) Poe a cité l'utilisation par Verlaine "d'accords dissonants, de progressions d'accords non conventionnelles et de doigtés complexes". Il a également mis en évidence son utilisation des pédales d'effets. Dans ma question de suivi demandant quelles pédales il utilisait, Poe a rapidement craché une liste, décrivant l'effet de chacune.

J'avais eu ma réponse, et elle était exacte. (Poe avertit que "ce bot peut faire des déclarations inexactes", une mise en garde que les humains mentionnent rarement à propos d'eux-mêmes.) Mais comme de nombreuses réponses de l'IA, cela n'a pas réussi à engager mon imagination. Comparez cela à l'appréciation de Verlaine dans The Guardian, qui parlait de la façon dont chaque note de la chanson "Spiritual" "se révèle comme une étoile filante discrète, avec une mystérieuse complexité de type raga". Ou le billet de blog du guitariste de Wilco Nels Cline qui pimentait son appréciation du jeu de Verlaine avec ses souvenirs personnels sur la rencontre avec l'une de ses inspirations.

D'Angelo convient volontiers que pour de nombreuses questions, les réponses de Poe pourraient être insuffisantes. Mais il pense également que les systèmes sur lesquels Poe s'appuie se rapprocheront de plus en plus du meilleur que les humains pourraient fournir. "Vous devez garder à l'esprit en utilisant ces produits qu'il s'agit de l'IA aujourd'hui", dit-il. "Mais même dans trois mois, l'IA va s'améliorer. Dans six mois, ça va être mieux que ça."

Une chose qui aiderait à améliorer ces réponses est d'utiliser le corpus de réponses dans la base de données de Quora. Mais D'Angelo promet qu'il ne le fera pas sans la permission des créateurs. "Le point de départ est de donner aux gens la possibilité de se retirer", dit-il. "Tout le reste peut être négocié ou construit en plus de cela."

Bien sûr, même obtenir la permission d'exploiter les archives organiques de Quora n'aidera pas les systèmes d'IA à répondre à toutes les questions. Mais il spécule que lorsqu'un futur chatbot est perplexe, le robot lui-même pourrait faire ce que les utilisateurs de Quora font depuis plus d'une décennie : aller voir un humain pour obtenir une réponse. "Je ne m'attends pas à arriver à un point où l'IA sait tout. Nous pouvons arriver à un point où vous allez à l'IA, puis l'IA ira à son tour à certaines personnes pour mieux comprendre ou aider à répondre à votre question. "

Tout cela bouleverse l'idée d'un réseau social. Il y a un élément social à Poe : les gens peuvent choisir de partager leurs échanges avec les systèmes d'IA, une sorte d'exercice de formation de masse pour apprendre à inciter au mieux ces machines à fournir de bonnes réponses ou même des discussions provocantes. C'est une étape vers notre nouveau mode de collaboration continue avec les modèles d'IA, qui est l'antithèse des réseaux sociaux. Je ne peux qu'imaginer les discussions chez Meta, l'ancien employeur de D'Angelo, qui a investi des milliards dans l'IA. La base du Facebook original était de rester en contact avec les personnes réelles de votre réseau. Peu importe la capacité de l'IA à générer du contenu humain, il ne peut s'agir de votre mère ou de votre colocataire d'université.

Jérémy Blanc

Kate Knibbs

Personnel filaire

Stéphanie Mc Neal

Je demande à D'Angelo si la création de Poe pourrait réellement contribuer à la disparition du mode original de Quora. À l'heure actuelle, Quora est le leader dans la mise en relation des personnes ayant des questions avec celles qui fournissent d'excellentes réponses. Poe ne sera que l'un des zillions de prétendants à fournir une passerelle vers les grands systèmes d'IA. "J'espère que nous pourrons devenir un leader dans ce domaine aussi", dit-il. "C'est un marché précoce, et j'espère que nous pourrons aider les gens à s'y retrouver avec un produit facile à utiliser."

Je soupçonne que D'Angelo, qui est un fondateur technologique très intelligent, ne dit pas l'évidence. L'IA générative est l'un de ces énormes super-changements poilus qui submergeront ceux qui l'ignorent. Il était une fois un monde où les réponses les plus rapides venaient des réseaux sociaux. Mais comme dit le corbeau : plus jamais.

Adam D'Angelo ne ment pas quand il dit que l'IA était un intérêt précoce pour lui. Il y a plus de 20 ans, alors qu'il était lycéen au pensionnat d'Exeter, il a créé un produit musical avec une forme d'IA intégrée. Son ami, camarade de classe et co-inventeur était Mark Zuckerberg. J'ai écrit sur le projet, une application musicale appelée Synapse, dans mon livre, Facebook : The Inside Story.

Exeter a organisé une réception à New York pour les étudiants entrants. Zuckerberg s'est retrouvé à discuter avec un autre junior montant, un enfant dégingandé avec un comportement tout aussi discret qui s'appelait Adam D'Angelo. Comme Zuckerberg, D'Angelo était un banlieusard transféré au pensionnat Tony après avoir complété son lycée public. Ils avaient autre chose en commun. Lorsque Zuckerberg a demandé à D'Angelo ce qui l'intéressait, la réponse a été un mot d'or : la programmation. Zuckerberg était ravi - aucun de ses amis du lycée public ne partageait sa passion pour la construction de choses sur ordinateur et maintenant la première personne qu'il a rencontrée à Exeter lui ressemblait beaucoup...

Jérémy Blanc

Kate Knibbs

Personnel filaire

Stéphanie Mc Neal

Les étudiants d'Exeter sont tenus de créer un projet senior avant l'obtention du diplôme, et Zuckerberg en cherchait un, écoutant des morceaux sur son ordinateur, lorsque la liste de lecture qu'il avait configurée s'est tue après la lecture de la dernière chanson. Il a recruté D'Angelo pour s'associer avec lui dans la création d'un DJ virtuel personnalisé qu'ils ont appelé Synapse. Tous deux étaient de grands fans d'un lecteur de musique en ligne appelé WinAmp, et ils ont décidé que Synapse imiterait les fonctions de WinAmp tout en offrant une liste de lecture personnalisée.

Bien que Zuckerberg et D'Angelo aient été de parfaits novices en matière d'intelligence artificielle, ils se sont vantés de l'IA dans SynapseAI, appelant même le code qui a déterminé la liste de lecture "le cerveau". Synapse vous suggérerait des chansons en fonction de ce que vous aviez écouté auparavant. D'Angelo, le programmeur le plus accompli, s'est concentré sur la construction du cerveau, tandis que Zuckerberg a créé le front-end… Le duo a présenté Synapse comme leur projet principal, avec les félicitations de leurs instructeurs, qui ont été particulièrement impressionnés par la composante IA de D'Angelo.

Zuckerberg [avait] beaucoup d'espoirs sur Synapse, qu'il ne considérait plus comme un simple projet de classe, mais quelque chose qui pourrait se propager dans le monde extérieur. D'Angelo aurait été bien de le laisser comme un projet de classe, préférant se concentrer sur ses études au collège qu'il avait choisi, le California Institute of Technology. "Caltech est, comme, difficile - vous devez travailler", déclare D'Angelo. "Harvard, honnêtement, ce n'est pas beaucoup de travail. Donc je pense qu'il avait beaucoup plus de temps."

Todd demande : « La cryptographie post-quantique fera-t-elle de Y2Q le nouveau Y2K ?

Merci pour la question, Todd. Avant d'arriver à la réponse, cependant, je dois vous faire des reproches. Dans cette newsletter, une seule personne peut déployer le jeu de mots, et c'est moi. J'accepte que votre question soit un raccourci acceptable pour demander si les ordinateurs quantiques, qui deviennent lentement plus que des démos de laboratoire intéressantes, permettront de casser trivialement facilement les systèmes cryptographiques que nous utilisons pour protéger notre vie privée et nos transactions. L'une des méthodes de chiffrement les plus populaires, RSA, utilise une technique mathématique appelée factorisation pour protéger ses clés, et une attaque bien conçue contre un puissant système quantique réduirait considérablement le temps nécessaire pour casser le code.

Jérémy Blanc

Kate Knibbs

Personnel filaire

Stéphanie Mc Neal

Il y a beaucoup de débats sur la question de savoir si de tels ordinateurs arriveront dans les prochaines années, voire les prochaines décennies. Mais lorsqu'il s'agit de protéger des secrets, c'est une mauvaise idée de parier qu'une percée plausible ne se produira pas. La cryptographie consiste à assumer le pire et à s'en protéger. C'est pourquoi le National Institute of Standards and Technology des États-Unis sollicite depuis 2016 des candidats pour de nouvelles normes cryptographiques résistantes au quantum. Ceci, et d'autres efforts dans cette direction, feront idéalement de Y2Q, comme vous l'appelez, autant un non-événement que Y2K.

Vous pouvez soumettre des questions à [email protected]. ÉcrireDEMANDEZ LE LEVÉdans la ligne d'objet.

La NFL vient de téléviser ses meilleurs athlètes jouant au football tactile. L'année prochaine, abandonnez le stade et organisez le match dans la rue, en faisant une pause pour la circulation. (Heureusement, les tacles seront autorisés dans le Super Bowl. Allez les oiseaux !)

Pratique avec la version améliorée de ChatGPT du moteur de recherche de Microsoft Bing.

Pratique avec un tas de vibromasseurs. Trouvez le meilleur pour vous!

Jérémy Blanc

Kate Knibbs

Personnel filaire

Stéphanie Mc Neal

À l'intérieur du monde à briser les os, à briser les yeux et à perturber le cerveau de la technologie de contrôle des foules "non létale".

Nous constatons un peu de progrès sur le droit à la réparation, mais les entreprises luttent toujours contre les lois qui verrouillent ce droit. Je me demande si je peux réparer ce vibromasseur sans annuler la garantie.

Si vous achetez quelque chose en utilisant des liens dans nos histoires, nous pouvons gagner une commission. Cela aide à soutenir notre journalisme. Apprendre encore plus.