ActSRF: How to segment images with uncertainty

19 May 2023, 16:55
15m
Физтех.Арктика, Поточная аудитория (МФТИ)

Физтех.Арктика, Поточная аудитория

МФТИ

Computer & Data Science Computer & Data Science 19

Speaker

Vsevolod Skorokhodov (MIPT)

Description

В последнее время популярностью пользуется метод «Neural Radiance Field», предлагающий восстановить 3D сцену путем анализа двухмерной фотографии. К несчастью, результат восстановления очень сильно зависит от того, насколько качественными были входные данные - изображения, позы камер, семантические карты. В данной работе представлен новый метод на основе NeRF, который умеет восстанавливать сцену с новых ракурсов, а также карты семантической сегментации и два вида неопределенностей - для цвета и семантики. Кроме того, добавлена возможность активного обучения в нашу модель, когда новые кадры для добавления в обучающий датасет выбираются в зависимости от уменьшения обоих неопределенностей. Также для значительного увеличения производительности и качества использовано позиционным кодированием с помощью хеширования. Код будет находиться тут https://github.com/sevashasla/actsrf.

Primary author

Co-authors

Presentation materials