Dans un sens, il est bon de voir les gouvernements et les législateurs qui suggèrent rapidement la réglementation des outils d'IA génératifs et des grands modèles de langage. La panique actuelle est centrée sur des modèles et des outils de langue importants comme Chatgpt qui sont remarquablement bons pour répondre aux questions et résoudre des problèmes, même s'ils ont encore des lacunes importantes, notamment la fabrication de faits en toute confiance.

Lors de l'audience au Sénat de cette semaine, Altman of Openai, qui nous a donné le chatpt, est allé jusqu'à appeler un système de licence pour contrôler si des entreprises comme la sienne sont autorisées à travailler sur une IA avancée. “Ma pire crainte est que nous – le domaine, la technologie, l'industrie – en cause un préjudice important pour le monde”, a déclaré Altman lors de l'audience.

S'appuyant sur son expérience de la NHTSA, Cummings prévient qu'il existe un risque important de capture réglementaire Si les grandes entreprises d'IA et de technologie ont trop d'influence sur la direction que les régulateurs prennent. «J'ai entendu dire plus d'une fois à l'intérieur de la NHTSA qu'ils devaient procéder extrêmement prudemment parce qu'ils ne voulaient pas déplacer les marchés», dit-elle. «C'est probablement le meilleur signe que la capture réglementaire s'est produite. Si un marché se déplace, qu'il en soit ainsi.»

Cummings dit également que les politiciens et les régulateurs ont vraiment besoin de se mettre au courant des développements dans l'IA et de se familiariser avec la technologie et la façon dont cela fonctionne. À cette fin, elle dit qu'elle cherche des moyens de former les gens à enquêter sur les accidents impliquant l'IA et créent un cours à George Mason destiné aux décideurs et aux régulateurs qui souhaitent être mieux informés de la technologie.

Certains vénérables experts de l'IA estiment que les derniers systèmes d'IA ne peuvent pas seulement remplacer les employés de bureau et cracher la désinformation, mais également présenter un risque existentiel s'ils deviennent trop intelligents et volontaires. Cummings est plus inquiet du risque que, encore une fois, nous mettrons trop confiance en une technologie qui n'est pas entièrement cuite.

«Partout, les gens vont commencer à écrire du code avec des outils génératifs», explique Cummings, ne prenant qu'un exemple des conséquences probables du boom actuel. «Il va y avoir un tout nouveau domaine de carrière pour que les informaticiens soient simplement déroutant le mauvais code», dit-elle. «J'aurai une sécurité d'emploi à vie.»