Par Frédéric Alexandre , Inria On voit passer beaucoup d’avis sur ChatGPT, mais finalement, qu’en sait-on ? Juste que c’est un réseau de neurones artificiels avec des milliards de paramètres, capable de tenir une discussion de haut niveau, mais aussi de tomber dans des pièges grossiers tendus par des internautes facétieux. On nous parle beaucoup de lui mais on en sait finalement très peu sur son fonctionnement. Je vous propose donc de présenter les mécanismes principaux sur lesquels ChatGPT repose et de montrer ainsi que, si le résultat est parfois impressionnant, ses mécanismes élémentaires sont astucieux mais pas vraiment nouveaux. Pour ce faire, passons en revue les différents termes du sigle « ChatGPT ». T comme transformer Un « transformer » est un réseau de neurones qui bénéficie du même algorithme d’apprentissage que les réseaux profonds ( deep networks ), qui a déjà fait ses preuves pour l’entraînement de grosses architectures. Il bénéficie également de deux caractéristi
La NASA aux Etats-Unis ou le CNES en France proposent de plus en plus au grand public des dossiers spéciaux sur internet pour suivre et comprendre les missions qui sont régulièrement lancées. L'adhésion du public, est bien utile parfois pour défendre les budgets mais ces initiatives permettent aux agences d'endosser avec brio un vrai rôle pédagogique. Alors que la NASA dispose de chaînes de télé sur le web et de bibliothèques multimédias à foison, la dernière initiative revient au CNES. Pour expliquer la mission Jason-2, ce satellite océanographique qui a été lancé la semaine passée, le centre national d'études spatiales de Touluose a ouvert un blog spécial de toute beauté. Sur cet espace, plusieurs onglets permettent de suivre toute l'actualité de la mission, de voir de très nombreuses vidéos sur un videowall (un extrait de celui-ci ci-dessous) et de consulter des photos à foison dands le portfolio. Une séquence permet d'expliquer ce qu'est aujourd'hui l