A Lawsuit Against Perplexity Calls Out Fake News AI Hallucinations

Un nouveau procès intenté contre la startup Perplexity affirme qu'en plus de violer la loi sur le droit d'auteur, elle enfreint le droit des marques en créant de fausses sections d'actualités et en attribuant faussement les mots aux éditeurs.

Dow Jones (éditeur du Wall Street Journal) et le New York Post, tous deux détenus par News Corp de Rupert Murdoch, ont apporté le procès pour violation du droit d'auteur contre Perplexity aujourd'hui dans le district sud des États-Unis à New York.

Ce n’est pas la première fois que Perplexity se heurte aux éditeurs de presse ; plus tôt ce mois-ci, le New York Times envoyé à l'entreprise une lettre de cessation indiquant qu'elle utilisait le contenu du géant du journal sans autorisation. Cet été, Forbes et WIRED ont expliqué comment Perplexity semblait avoir plagié des histoires. Forbes et la société mère de WIRED, Condé Nast envoyé l'entreprise cesse et s'abstient courrier en réponse.

Une enquête de WIRED de cet été, citée dans ce procès, a détaillé comment Perplexity a résumé de manière inexacte les histoires de WIRED, y compris un cas dans lequel il a faussement affirmé que WIRED avait signalé qu'un policier basé en Californie avait commis un crime qu'il n'avait pas commis. Le WSJ signalé plus tôt dans la journée, Perplexity cherchait à lever 500 millions de dollars lors de son prochain cycle de financement, pour une valorisation de 8 milliards de dollars.

Dow Jones et le New York Post fournissent des exemples de Perplexity qui auraient « halluciné » de fausses sections de reportages. En termes d’IA, l’hallucination se produit lorsque des modèles génératifs produisent du matériel faux ou entièrement fabriqué et le présentent comme un fait.

Dans un cas cité, Perplexity Pro a d'abord régurgité, mot pour mot, deux paragraphes d'un article du New York Post sur le sénateur américain Jim Jordan se disputant avec le commissaire de l'Union européenne Thierry Breton au sujet d'Elon Musk et de X, mais les a ensuite suivis avec cinq paragraphes générés sur la liberté d'expression et la réglementation en ligne qui ne figuraient pas dans le véritable article.

Le procès prétend que mélanger ces paragraphes inventés avec des reportages réels et les attribuer au Post constitue une dilution de la marque qui pourrait semer la confusion chez les lecteurs. « Les hallucinations de Perplexity, présentées comme des informations authentiques et du contenu lié à l'actualité provenant de sources fiables (en utilisant les marques des plaignants), nuisent à la valeur des marques des plaignants en injectant de l'incertitude et de la méfiance dans le processus de collecte et de publication de l'information, tout en nuisant à l'information. -public consommateur », indique la plainte.

Perplexity n’a pas répondu aux demandes de commentaires.

Dans une déclaration envoyée par courrier électronique à WIRED, le directeur général de News Corp, Robert Thomson, a comparé défavorablement Perplexity à OpenAI. « Nous saluons les entreprises fondées sur des principes comme OpenAI, qui comprennent que l'intégrité et la créativité sont essentielles si nous voulons réaliser le potentiel de l'intelligence artificielle », indique le communiqué. « Perplexity n’est pas la seule entreprise d’IA à abuser de la propriété intellectuelle et ce n’est pas la seule entreprise d’IA que nous poursuivrons avec vigueur et rigueur. Nous avons clairement indiqué que nous préférions courtiser plutôt que poursuivre en justice, mais, pour le bien de nos journalistes, de nos écrivains et de notre entreprise, nous devons remettre en question la kleptocratie du contenu.»

OpenAI est cependant confronté à ses propres accusations de dilution de marque. Dans New York Times contre OpenAIle temps allègue que ChatGPT et Bing Chat attribueront des citations inventées au Times et accuse OpenAI et Microsoft de nuire à sa réputation en diluant sa marque. Dans un exemple cité dans le procès, le Times allègue que Bing Chat a affirmé que le Times qualifiait le vin rouge (avec modération) d'aliment « sain pour le cœur », alors qu'en réalité ce n'était pas le cas ; le Times affirme que ses reportages ont réfuté les affirmations concernant les effets bénéfiques pour la santé d'une consommation modérée d'alcool.