Par Frédéric Alexandre , Inria On voit passer beaucoup d’avis sur ChatGPT, mais finalement, qu’en sait-on ? Juste que c’est un réseau de neurones artificiels avec des milliards de paramètres, capable de tenir une discussion de haut niveau, mais aussi de tomber dans des pièges grossiers tendus par des internautes facétieux. On nous parle beaucoup de lui mais on en sait finalement très peu sur son fonctionnement. Je vous propose donc de présenter les mécanismes principaux sur lesquels ChatGPT repose et de montrer ainsi que, si le résultat est parfois impressionnant, ses mécanismes élémentaires sont astucieux mais pas vraiment nouveaux. Pour ce faire, passons en revue les différents termes du sigle « ChatGPT ». T comme transformer Un « transformer » est un réseau de neurones qui bénéficie du même algorithme d’apprentissage que les réseaux profonds ( deep networks ), qui a déjà fait ses preuves pour l’entraînement de grosses architectures. Il bénéficie également de deux caractéristi
Tribune libre par Emmanuel Benoit – Groupe Jouve La nouvelle génération d’écoliers et d’étudiants (entre 6 et 25 ans), utilise naturellement et plus qu’aucune autre précédente les ordinateurs, les tablettes, les liseuses numériques et les smartphones. « Génération Y » ou encore « Digital native », elle est née avec internet et s’est familiarisée dès son plus jeune âge avec les nouvelles technologies. La génération Y est une utilisatrice compulsive des smartphones, applications mobiles, jeux vidéos, programmes de e-learning ou des médias sociaux, quels qu’ils soient. Pour ces utilisateurs avisés, éclairés et experts naturels du monde numérique, le maniement de toutes ses nouvelles interfaces numériques est un reflexe naturel. Si l’arrivée récente de tablettes tactiles sur le marché, telles que l’iPad, a d’ailleurs séduit beaucoup d’enseignants et d’étudiants dans les faits, aujourd’hui, encore très peu d’écoles ou d’universités ont réellement adopté les tablettes tactiles dan