Par Frédéric Alexandre , Inria On voit passer beaucoup d’avis sur ChatGPT, mais finalement, qu’en sait-on ? Juste que c’est un réseau de neurones artificiels avec des milliards de paramètres, capable de tenir une discussion de haut niveau, mais aussi de tomber dans des pièges grossiers tendus par des internautes facétieux. On nous parle beaucoup de lui mais on en sait finalement très peu sur son fonctionnement. Je vous propose donc de présenter les mécanismes principaux sur lesquels ChatGPT repose et de montrer ainsi que, si le résultat est parfois impressionnant, ses mécanismes élémentaires sont astucieux mais pas vraiment nouveaux. Pour ce faire, passons en revue les différents termes du sigle « ChatGPT ». T comme transformer Un « transformer » est un réseau de neurones qui bénéficie du même algorithme d’apprentissage que les réseaux profonds ( deep networks ), qui a déjà fait ses preuves pour l’entraînement de grosses architectures. Il bénéficie également de deux caractéristi
Par Sami Yangui , INSA Toulouse et Charles Dossal , INSA Toulouse Chaque année, des centaines de milliers de personnes partent de chez elles et quittent leur pays à la recherche d’une vie meilleure ou pour fuir des violences. Beaucoup sont blessées ou tuées durant leur trajet. Beaucoup d’autres disparaissent sans que leurs proches ne sachent si elles sont vivantes ou mortes, ni ce qui leur est arrivé. Selon le projet Migrants disparus de l’Organisation internationale pour les migrations (OIM), on a ainsi perdu la trace de 45 000 migrants dans le monde depuis 2014, dont 24 000 en Méditerranée. En 2020, Le Groupe INSA (Institut national des sciences appliquées) a été approchée par l’équipe forensique transrégionale du Comité international de la Croix-Rouge (CICR), qui avait pour but d’améliorer le processus d’identification des migrants décédés dans la zone euro-méditerranéenne. Ici, on dénombre beaucoup de noyades – 16 000 depuis 2014 . À notre connaissance, cet effort dirigé par