Réaliste, contrôlable et évolutive, la plateforme de simulation d'éclairage de conduite autonome LightSim vient d'être lancée

Récemment, des chercheurs de Waabi AI, de l'Université de Toronto, de l'Université de Waterloo et du MIT ont proposé une nouvelle plateforme de simulation d'éclairage de conduite autonome LightSim au NeurIPS 2023. Les chercheurs ont proposé une méthode pour générer des données d'entraînement d'éclairage appariées à partir de données réelles, résolvant ainsi les problèmes de données manquantes et de perte de migration de modèle. LightSim utilise des champs de rayonnement neuronal (NeRF) et des réseaux profonds basés sur la physique pour restituer des vidéos de conduite de véhicules, réalisant pour la première fois une simulation d'éclairage de scènes dynamiques sur des données réelles à grande échelle

• Site Web du projet : https : //waabi .ai/lightsim
• Lien papier : https://openreview.net/pdf?id=mcx8IGneYw

Pourquoi la simulation d'éclairage de conduite autonome est-elle nécessaire ?

En robotique, la simulation de caméra est très importante, notamment pour que les véhicules autonomes perçoivent les scènes extérieures. Cependant, les systèmes de perception par caméra existants fonctionnent mal lorsqu'ils sont confrontés à des conditions d'éclairage extérieur non adaptées. En utilisant la simulation de caméra pour générer divers ensembles de données sur les changements d'éclairage extérieur, la stabilité du système de conduite autonome peut être améliorée. Les méthodes courantes de simulation de caméra sont généralement basées sur des moteurs physiques. Cette méthode restitue la scène en définissant le modèle 3D et les conditions d'éclairage. Cependant, les effets de simulation manquent souvent de diversité et ne sont pas suffisamment réalistes. De plus, en raison du nombre limité de modèles 3D de haute qualité, les résultats du rendu physique ne correspondent pas exactement aux scènes du monde réel. Cela conduit à une faible capacité de généralisation du modèle formé sur des données réelles.

Une autre méthode est basée sur la méthode de simulation basée sur les données. Cette approche utilise la technologie de rendu neuronal pour reconstruire un jumeau numérique du monde réel afin de reproduire les données observées par les capteurs. De cette façon, nous pouvons créer des scènes avec plus de flexibilité et augmenter le réalisme. Cependant, la technologie actuelle intègre les informations d'éclairage de la scène dans le modèle 3D, ce qui limite l'édition du jumeau numérique, comme la modification des conditions d'éclairage ou l'ajout ou la suppression d'objets. Dans un travail réalisé à NeurIPS 2023, des chercheurs de Waabi AI ont démontré une fonctionnalité. système de simulation d'éclairage LightSim basé sur un moteur physique et un réseau neuronal : Simulation d'éclairage neuronal pour les scènes urbaines.

Contrairement aux travaux précédents, LightSim peut atteindre les points suivants en même temps :

1. : Pour la première fois, il peut simuler l'éclairage de scènes dynamiques extérieures à grande échelle et simuler plus précisément les ombres, les effets d'éclairage entre les objets, etc.

2.

 : prend en charge l'édition de scènes de conduite dynamiques (ajout, suppression d'objets, positions et paramètres de caméra, modification de l'éclairage, génération de scènes critiques pour la sécurité, etc.), générant ainsi des vidéos plus réalistes et cohérentes pour améliorer la robustesse du système à l'éclairage et aux conditions de périphérie. 3.

 : Il est facile de s'étendre à davantage de scénarios et à différents ensembles de données. Il suffit de collecter des données une seule fois (un seul passage) pour reconstruire et effectuer des tests de simulation réels et contrôlables.

Construire un système de simulation

Étape 1 : Construire un jumeau numérique rééclairable dans le monde réel

Afin de recréer des scènes de conduite autonome dans le monde numérique, LightSim a d'abord commence à partir de Les données collectées sont divisées en objets dynamiques et scènes statiques. Cette étape utilise UniSim pour reconstruire la scène et supprimer la dépendance à la vue de la caméra dans le réseau. Utilisez ensuite le cube de marche pour obtenir la géométrie, puis convertissez-la en un maillage avec des matériaux de base.

En plus des matériaux et de la géométrie, LightSim peut également estimer l'éclairage extérieur en fonction du soleil et du ciel, les principales sources lumineuses des scènes extérieures de jour, et obtenir une carte d'environnement à plage dynamique élevée (dôme HDR Sky). Grâce aux données des capteurs et à la géométrie extraite, LightSim peut estimer une image panoramique incomplète puis la compléter pour obtenir une vue complète à 360° du ciel. Cette image panoramique et les informations GPS sont ensuite utilisées pour générer une carte de l'environnement HDR qui estime avec précision l'intensité du soleil, la direction du soleil et l'apparence du ciel.

Récapitulatif : La deuxième étape consiste à effectuer une simulation d'éclairage neuronal de scènes urbaines dynamiques

Après avoir obtenu le jumeau numérique, il peut être modifié davantage, par exemple en ajoutant ou en supprimant objets, modifier les trajectoires des véhicules, ou changer l'éclairage, etc., pour générer des représentations en réalité augmentée. LightSim effectuera un rendu basé sur la physique, générant des données liées à l'éclairage pour modifier la scène, telles que la couleur de base, la profondeur, les vecteurs normaux et les ombres. En utilisant ces données liées à l'éclairage et une estimation des conditions d'éclairage source et cible de la scène, le flux de travail LightSim est le suivant.

Bien que les images rendues physiquement soient efficaces pour reconstruire les effets d'éclairage dans une scène, en raison des imperfections de la géométrie et des erreurs de décomposition du matériau/de l'éclairage, les résultats du rendu manquent souvent de réalisme, comme le flou, les réflexions de surface irréalistes. et les artefacts de frontière. Par conséquent, les chercheurs proposent un rendu neuronal différé pour un réalisme amélioré. Ils ont introduit un réseau de synthèse d'images qui génère l'image finale à l'aide d'images sources dans un tampon précalculé et de données liées à l'éclairage générées par le moteur de rendu. Dans le même temps, la méthode décrite dans l'article fournit également au réseau une carte de l'environnement pour améliorer le contexte d'éclairage et génère des images appariées via le jumeau numérique, fournissant ainsi une nouvelle simulation par paire et un schéma de formation de données réelles

Capacités de simulation.

Changement d'éclairage de scène (Scene Relighting)

LightSim peut restituer la même scène de manière cohérente dans le temps dans de nouvelles conditions d'éclairage. Comme le montre la vidéo, la nouvelle position du soleil et l'apparence du ciel modifient les ombres et l'apparence de la scène.

LightSim peut rééclairer automatiquement les scènes par lots. Il peut générer de nouveaux changements d'éclairage 3D, cohérents dans le temps, à partir de cartes d'environnement HDR estimées et réelles identiques à la scène d'origine. La représentation est modifiable et la direction du soleil peut être modifiée, mettant ainsi à jour les changements d'éclairage et les ombres liées. à la direction de la lumière du soleil. En faisant pivoter la carte de l'environnement HDR et en la transmettant au module de rendu neuronal différé, LightSim génère la vidéo suivante

LightSim prend également en charge l'édition par lots des ombres Insertion de caractères prenant en charge l'éclairage

Dans En plus de modifier l'éclairage, LightSim peut également effectuer des ajouts tenant compte de l'éclairage à des objets inhabituels tels que des obstacles architecturaux. Ces objets ajoutés peuvent mettre à jour les ombres d'éclairage de l'objet, occulter avec précision les objets et s'adapter spatialement à l'ensemble de la configuration de la caméra.

Transfert de simulation (généralisation à nuScenes)

Étant donné que le réseau de rendu neuronal différé de LightSim est formé sur plusieurs vidéos de conduite, LightSim peut être généralisé à de nouvelles scènes. La vidéo suivante démontre les capacités de généralisation de LightSim pour piloter des scènes dans nuScenes. LightSim peut créer un jumeau numérique prenant en compte l'éclairage de chaque scène, qui est ensuite appliqué à un modèle de rendu neuronal différé pré-entraîné sur PandaSet. LightSim a de bonnes performances de migration et peut fournir une solution plus robuste pour le rééclairage de scène

Simulation de caméra réelle et contrôlableBasé sur toutes les fonctions présentées ci-dessus, LightSim réalise une simulation de caméra contrôlable, diversifiée et réaliste. La vidéo suivante montre les capacités de simulation de scène de LightSim. Dans la vidéo, une voiture blanche a effectué un changement de voie d'urgence vers la voie SDV, introduisant un nouveau barrage routier, ce qui a fait entrer la voiture blanche dans une scène complètement nouvelle. Les effets générés par LightSim dans diverses conditions d'éclairage dans la nouvelle scène sont les suivants. : .

Dans la vidéo ci-dessous, un nouvel exemple est démontré. De nouveaux obstacles ont été insérés dans les obstacles routiers existants et un nouvel ensemble de véhicules a été ajouté. En utilisant LightSim pour l'éclairage simulé, les véhicules nouvellement ajoutés peuvent être parfaitement intégrés à la scène

Résumé et Outlook

LightSim est une plate-forme de simulation de caméra sensible à l'éclairage qui fournit des services pour traiter des scènes de conduite dynamiques à grande échelle. Il peut créer un jumeau numérique sensible à l'éclairage basé sur des données du monde réel et le modifier pour créer de nouvelles scènes avec différentes dispositions d'objets et perspectives de véhicules autonomes. LightSim est capable de simuler de nouvelles conditions d'éclairage, permettant des simulations de caméra diverses, réalistes et contrôlables pour produire des vidéos cohérentes dans le temps et dans l'espace. Il convient de noter que LightSim peut également être combiné avec le rendu inversé, la simulation météorologique et d'autres technologies pour améliorer encore les performances de simulation

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!