«Dans ce cas, si vous ne prenez pas de précautions et que vous perdez l'appareil, cela pourrait être accessible», explique HSU. “Mais c'est très extrême.”

En fin de compte, HSU a de plus grandes ambitions pour son entreprise que les appareils axés sur le travail, bien qu'il prenne soin de souligner que c'est ce sur quoi ils se concentrent actuellement, et il est conscient de l'agrément que cela pourrait provoquer.

“Nous avons cette grande vision, où ce qui se passe si les utilisateurs pouvaient simplement enregistrer toutes les conversations dans leur vie quotidienne, peut-être même après des décennies”, explique HSU. «Si cela vous écoute toujours, il vous apprend, et au fil du temps, il apprend à connaître votre personnalité, vos préférences, vos interactions. Un jour, vous allez pouvoir utiliser l'IA pour vous reproduire – créez ce vrai jumeau numérique. C'est un peu cette grande mission, où nous pensons que si nous sommes en mesure d'aider les utilisateurs à se connecter à tant de souvenirs, ça va être grand. “

Il est clair que l'IA a le potentiel de bouleverser une grande partie de la façon dont les humains fonctionnent. Mais certains défenseurs et experts expriment leur inquiétude quant à ce qui se passe lorsque ces capacités sont confiées aux appareils d'IA, en particulier ceux qui sont conçus pour être portés tout le temps.

Dans une interview pour une histoire précédente sur les gadgets d'IA, Jodi Halpernprofesseur de bioéthique et de sciences humaines médicales à l'UC Berkeley, a comparé la tendance de décharger les capacités humaines sur les appareils d'IA à la façon dont les gens n'ont pas besoin de garder une trace des directions lorsqu'ils peuvent s'appuyer sur un service comme Google Maps.

“Il peut y avoir des dimensions du développement humain qui ne se produisent plus”, dit Halpern. “Comme nous ne développons pas des sens de la direction, nous ne développerons peut-être pas la profondeur émotionnelle sociale de la gestion des gens différents de nous-mêmes et d'être empathiques curieux. Si nous avons le sentiment constant que quelque chose écoute et en quelque sorte nous surveiller, c'est une façon de ne pas apprendre à être, d'une certaine manière, seul avec nous-mêmes. “

Mis à part cette grandiosité philosophique, il n'est toujours pas clair si les gens doivent réellement investir dans ce type d'appareils en premier lieu. Plaud a un cas d'utilisation convaincant, mais il entre dans un champ bondé où il doit rivaliser avec d'autres appareils et, bien, des milliers d'applications sur les smartphones – les appareils que les gens transportent déjà toute la journée.

Et les utilisateurs peuvent constater que les anciens outils ennuyeux qu'ils utilisent déjà sont plus matures et plus efficaces que toutes ces inventions éclaboussantes.

«Tout ce que fait Chatgpt, il fait pire que quelque chose d'autre qui a été conçu pour faire cette chose», explique Ghosh. «Je pense que les gens qui sont à la glissière en pensant à ces systèmes sont plus précis qu'ils ne sont le principal problème.»