Accéder au contenu principal

Comment fonctionne ChatGPT ? Décrypter son nom pour comprendre les modèles de langage

Par  Frédéric Alexandre , Inria On voit passer beaucoup d’avis sur ChatGPT, mais finalement, qu’en sait-on ? Juste que c’est un réseau de neurones artificiels avec des milliards de paramètres, capable de tenir une discussion de haut niveau, mais aussi de tomber dans des pièges grossiers tendus par des internautes facétieux. On nous parle beaucoup de lui mais on en sait finalement très peu sur son fonctionnement. Je vous propose donc de présenter les mécanismes principaux sur lesquels ChatGPT repose et de montrer ainsi que, si le résultat est parfois impressionnant, ses mécanismes élémentaires sont astucieux mais pas vraiment nouveaux. Pour ce faire, passons en revue les différents termes du sigle « ChatGPT ». T comme transformer Un « transformer » est un réseau de neurones qui bénéficie du même algorithme d’apprentissage que les réseaux profonds ( deep networks ), qui a déjà fait ses preuves pour l’entraînement de grosses architectures. Il bénéficie également de deux caractéristi

IoT Valley : 8 nouvelles recrues intègrent le Connected Camp



Toulouse est en train de devenir une place de choix pour l'internet des objets (IoT). Alors que Sigfox est l'une des réussites régionales et un leader mondial pour les réseaux dédiés aux objets connectés, l'incubateur IoT Valley poursuit son développement et sa mission d'accompagnement de jeunes pousses avec son Connected camp.
"Consciente des enjeux liés à l’IoT, des processus d’industrialisation lourds et complexes mais également de l’incontournable nécessité de mettre en relation les startups et les Grands Comptes, l’IoT Valley aide ses startuppers à passer, en 9 mois, de leur prototype à une version industrielle de leur produit, à signer des contrats B to B avec ses partenaires", précise l'incubateur toulousain qui accueille depuis le 14 mars 8 jeunes pousses prometteuses.

Ces dernières vont pouvoir bénéficier des infrastructures du Connected camp et notamment d'un fablab interne, co-financé par la Région Occitanie, de la présence intra-muros de décideurs Grands Groupes et du  Frenchtech Ticket qui favorise l’accueil de start-ups étrangères.

Les 8 nouveaux entrants

AwaCloud
AwaCloud développe des micro-serveurs sécurisés pour les entreprises ayant des employés en situation de mobilité. Les employés ont accès à toutes leurs données, sur tous leurs devices, qu’ils soient online ou offline et de manière complètement sécurisé.
Nationalité : française
www.awacloud.com

EHTech
EHTech est une solution brevetée qui récupère la chaleur des eaux usées de la douche pour réduire sa consommation énergétique de chauffage. EHTech adresse les bailleurs sociaux et promoteurs et permettent de diviser par 3 la consommation en chauffage de l’eau.
Nationalité : française
www.ehtech.fr

Sunbirds
Sunbirds offre à ses clients un drone unique au monde : il utilise l’énergie solaire pour voler toute une journée et cartographier des milliers d’hectares.  Il est léger, facile à utiliser et abordable.
Nationalité : française
www.sunbirds-uas.com/fr/index.html

Sensinov
Sensinov conçoit une plateforme universelle pour l'IoT. Ils permettent à leurs clients de ne pas s’enfermer dans une technologie lorsque ceux-ci déploient des solutions IoT. Les premiers marchés sont les Smart Cities et les bâtiments connectés.
Nationalité : française
www.sensinov.com

WearHealth
WearHealth est une solution analysant les données générées par les « wearables » pour anticiper et alerter des potentiels problèmes de santé. Experts en intelligence artificielle et machine learning, leur solution agit principalement sur les pathologies de diabète, hypertension et stress.
Nationalité : allemande
www.wearhealth.com

Zenodys
Zenodys est une solution dédié à l’industrie 4.0. Elle simplifie la démarche de connection des machines industrielles en proposant une solution end-to-end implémentable sans compétences en développement. Les données sont traitées en local permettant de réduire les coûts de serveur.
Nationalité : slovène
www.zenodys.com

Pro Active Fleet Management
Pro Active Fleet Management optimise le management de votre flotte de véhicules. Grâce à des objets connectés et une plateforme dédiée, il est possible de suivre en temps réel les véhicules pour savoir lesquels peuvent être partagés ou retirés de la flotte.
Nationalité : canadienne
www.proactivefleetmanagementsolutions.com

Pangée
Pangée réduit la barrière à l’entrée des objets connectés sur le marché B2C. Pangée permet de mensualiser les paiements pour les consommateurs. Pour les fabricants et distributeurs, Pangée permet d’augmenter la marge et de fidéliser la clientèle.
Nationalité : française
www.pangee-conseil.fr


Le Connected Camp, un modèle qui fait ses preuves
  • Les 7 startups issues de la Saison 2016 du Connected Camp, restent toutes au sein de l’écosystème. Les équipes de Capturs, Parkisseo, Packedition, Eyelights, Donecle, Flipr et Skylights prennent des bureaux pour héberger plus de 40 collaborateurs, contre 17 quand elles sont arrivées en janvier 2016,
  • Tous leurs produits ou solutions sont désormais industrialisés ou en fin d’industrialisation,
  • Un total de 3,5M d’€ de levée de fonds pour ces 7 startups,
  • Au total, ce sont 25 startups passées par l’accélérateur de l’IoT Valley, depuis son ouverture en 2014.
Labels:

Posts les plus consultés de ce blog

Le bipeur des années 80 plus efficace que le smartphone ?

Par André Spicer, professeur en comportement organisationnel à la Cass Business School (City University of London) : Vous vous souvenez des bipeurs ? Ces appareils étaient utilisés largement avant l'arrivée massive des téléphones portables et des SMS. Si vous aviez un bipeur, vous pouviez recevoir des messages simples, mais vous ne pouviez pas répondre. Un des rares endroits où on peut encore en trouver aujourd’hui sont les hôpitaux. Le Service National de Santé au Royaume-Uni (National Health Service) en utilise plus de 130 000. Cela représente environ 10 % du nombre total de bipeurs présents dans le monde. Une récente enquête menée au sein des hôpitaux américains a révélé que malgré la disponibilité de nombreuses solutions de rechange, les bipeurs demeurent le moyen de communication le plus couramment utilisée par les médecins américains. La fin du bipeur dans les hôpitaux britanniques ? Néanmoins, les jours du bipeur dans les hôpitaux britanniques pourraient être compté
Lire la suite »

Univers parallèles et mondes virtuels : la guerre des métavers est commencée

  Une partie de poker dans le métavers (capture d'écran de la vidéo “Le métavers et comment nous allons le construire ensemble” sur YouTube) Par  Oihab Allal-Chérif , Neoma Business School Le 17 octobre 2021, Mark Zuckerberg a lancé les hostilités de manière assez théâtrale, comme s’il défiait ses concurrents d’en faire autant. Afin de concrétiser son rêve d’enfant, le métavers, il a décidé de mettre en œuvre des moyens colossaux : 10 000 ingénieurs hautement qualifiés seront recrutés en Europe dans les 5 prochaines années. Cette annonce a été faite quelques jours avant celle du changement de nom du groupe Facebook en Meta , le 28 octobre, démontrant ainsi l’engagement total du fournisseur de réseaux sociaux dans la transition vers le métavers. Le 22 juillet 2021, dans une interview à The Verge , le créateur de Facebook racontait : « Je pense à certains de ces trucs depuis le collège quand je commençais tout juste à coder. […] J’écrivais du code
Lire la suite »

La fin des cookies tiers ne répond pas au besoin de contrôle des internautes sur leurs données

Pour le moment, la plupart des solutions alternatives aux cookies privilégient l’objectif commercial aux dépens des attentes des internautes. Piqsels , CC BY-SA Par  Carlos Raúl Sánchez Sánchez , Montpellier Business School – UGEI ; Audrey Portes , Montpellier Business School – UGEI et Steffie Gallin , Montpellier Business School – UGEI Les révélations du Wall Street Journal contenues dans les « Facebook Files » , publiés en septembre dernier, ont une nouvelle fois montré que les utilisateurs s’exposaient à des risques liés à la divulgation des informations personnelles. Les réseaux sociaux ne sont pas les seuls en cause : les nombreux data breach (incidents de sécurité en termes de données confidentielles) rendus publics, illustrent régulièrement la vulnérabilité des individus face à une navigation quotidienne sur les moteurs de recherche, sites de e-commerce et autres ayant recours à des « cookies tiers » , ces fichiers de données envoyés par
Lire la suite »

Midi-Pyrénées l’eldorado des start-up

Le mouvement était diffus, parfois désorganisé, en tout cas en ordre dispersé et avec une visibilité et une lisibilité insuffisantes. Nombreux sont ceux pourtant qui, depuis plusieurs années maintenant, ont pressenti le développement d’une économie numérique innovante et ambitieuse dans la région. Mais cette année 2014 pourrait bien être la bonne et consacrer Toulouse et sa région comme un eldorado pour les start-up. S’il fallait une preuve de ce décollage, deux actualités récentes viennent de l’apporter. La première est l’arrivée à la tête du conseil de surveillance de la start-up toulousaine Sigfox , spécialisée dans le secteur en plein boom de l’internet des objets, d’Anne Lauvergeon, l’ancien sherpa du Président Mitterrand. Que l’ex-patronne du géant Areva qui aurait pu prétendre à la direction de grandes entreprises bien installées, choisisse de soutenir l’entreprise prometteuse de Ludovic Le Moan , en dit long sur le changement d’état d’esprit des élites économiques du pay
Lire la suite »

ChatGPT et cybersécurité : quels risques pour les entreprises ?

Analyse de Proofpoint Les plateformes de génération de texte tel que ChatGPT permettent de créer du contenu de qualité, instantanément, gratuitement, et sur n’importe quel sujet. Comme le confirme le lancement de Bard par Google, nous sommes désormais entrés dans une course à l’IA, ou chaque géant du web cherche à posséder la meilleure solution possible. Si l’avancée technologique est majeure, le risque notamment pour la cybersécurité des entreprises est indéniable. Comment lutter contre des campagnes de phishing de plus en plus ciblées et sophistiquées, maintenant alimentées par des technologies capables de parfaire encore plus la forme et la teneur d’un email malveillant ? En quelques mots, ChatGPT offre une ingénierie sociale très performante, mais une automatisation encore limitée. Concernant la détection de la menace par rançongiciels, comme l’explique Loïc Guézo, Directeur de la stratégie Cybersécurité chez Proofpoint, « Bien que les chatbots puissent générer du texte pour le cor
Lire la suite »

Décryptage de l'attaque par ransomware du Centre Hospitalier de Versailles

  Par Cassie Leroux, Directrice Produit chez Mailinblack Après l’hôpital de Corbeilles Essonnes, c’est au tour de l'établissement hospitalier de Versailles, situé au Chesnay-Rocquencourt (Yvelines), d’être visé depuis samedi soir par une cyberattaque. Comment s’est-elle déroulée, quelles conséquences pour ses patients, et aurait-elle pû être évitée ? Décryptage de Cassie Leroux, Directrice Produit chez Mailinblack. Que savons-nous de cette attaque ? Cette cyberattaque vise l’ensemble de l'établissement, dont l'hôpital André-Mignot, la maison de retraite Despagne et l'hôpital Richaud à Versailles. L’hôpital continue de fonctionner, mais au ralenti ce lundi, ce qui perturbe sérieusement son activité. Le parquet de Paris a ouvert une enquête préliminaire pour tentative d'extorsion.  Cette cyberattaque est de type Ransomware, un logiciel malveillant qui bloque l’accès à aux outils informatiques et aux données en les chiffrant. Dans ce type d’attaque, le hacker demande g
Lire la suite »