Accéder au contenu principal

Articles

Affichage des articles du mars, 2013

Comment fonctionne ChatGPT ? Décrypter son nom pour comprendre les modèles de langage

Par  Frédéric Alexandre , Inria On voit passer beaucoup d’avis sur ChatGPT, mais finalement, qu’en sait-on ? Juste que c’est un réseau de neurones artificiels avec des milliards de paramètres, capable de tenir une discussion de haut niveau, mais aussi de tomber dans des pièges grossiers tendus par des internautes facétieux. On nous parle beaucoup de lui mais on en sait finalement très peu sur son fonctionnement. Je vous propose donc de présenter les mécanismes principaux sur lesquels ChatGPT repose et de montrer ainsi que, si le résultat est parfois impressionnant, ses mécanismes élémentaires sont astucieux mais pas vraiment nouveaux. Pour ce faire, passons en revue les différents termes du sigle « ChatGPT ». T comme transformer Un « transformer » est un réseau de neurones qui bénéficie du même algorithme d’apprentissage que les réseaux profonds ( deep networks ), qui a déjà fait ses preuves pour l’entraînement de grosses architectures. Il bénéficie également de deux caractéristi

«Le droit à l'oubli ne peut être qu'européen»

Christophe Alcantara, enseignant-chercheur en Sciences de l'information et Communication au sein de l'IDETCOM de l'Université Toulouse 1 Capitole, a réuni les 21 et 22 mars à Toulouse, un colloque international inédit sur l'e-réputation et les traces numériques. Pourquoi organiser un tel colloque ? D'abord, c'est un enjeu de société. L'e-réputation dépasse le cadre des professionnels du web. Nous sommes tous confrontés à ces enjeux parce que l'e-réputation, si l'on regarde la partie émergée de l'iceberg, ce sont les contenus que l'on va dire sur un sujet donné. Mais pour le chercheur que je suis, c'est bien plus que cela : ce sont les traces numériques que l'on laisse par notre pratique du web. Par exemple, ce sont toutes les données de géolocalisation qui sont collectées lorsque l'on utilise un smartphone. Ces traces permettent de vous identifier. Aujourd'hui, on a dépassé «1984» de George Orwell. En tant que citoyen, c&