Par Frédéric Alexandre , Inria On voit passer beaucoup d’avis sur ChatGPT, mais finalement, qu’en sait-on ? Juste que c’est un réseau de neurones artificiels avec des milliards de paramètres, capable de tenir une discussion de haut niveau, mais aussi de tomber dans des pièges grossiers tendus par des internautes facétieux. On nous parle beaucoup de lui mais on en sait finalement très peu sur son fonctionnement. Je vous propose donc de présenter les mécanismes principaux sur lesquels ChatGPT repose et de montrer ainsi que, si le résultat est parfois impressionnant, ses mécanismes élémentaires sont astucieux mais pas vraiment nouveaux. Pour ce faire, passons en revue les différents termes du sigle « ChatGPT ». T comme transformer Un « transformer » est un réseau de neurones qui bénéficie du même algorithme d’apprentissage que les réseaux profonds ( deep networks ), qui a déjà fait ses preuves pour l’entraînement de grosses architectures. Il bénéficie également de deux caractéristi
Alors que le Printemps de Bourges, découvreur de talents, fête en ce moment ses trente ans – tumultueux – d’existence, plus que jamais le renouveau de la chanson française est bel et bien là.Grâce à de nouvelles têtes qui sont apparues, la plupart, après l’an 2000 et qui, en quelques mois ont reçu la consécration des professionnels, du grand public et des Victoires de la musique.Trait commun à ces artistes majoritairement trentenaires : tous apportent du sang neuf, de l’air frais dans un domaine, la chanson, la variété – osons écrire le mot –, que d’aucuns disaient moribondes. Le renouveau s’est installé dans tous les registres (rap, pop, folk, rock…) et, fait rare, ne fait pas table rase du passé puisque ces artistes nourrissent leur créativité auprès de leurs glorieux aînés (Laurent Voulzy, Alain Souchon, etc.) au point, ironie du sort, de fournir à ces derniers des chansons aptes à relancer leur carrière. À chacun son site web Mais un autre point commun réunit cette génération: inte