1. Сети кодера-декодера для самоконтролируемого предварительного обучения и регрессии полосы пропускания сигнала в нисходящем направлении на цифровых антенных решетках (arXiv)

Автор: Раджиб Бхаттачарджа, Натан Уэст.

Аннотация: В этой работе представлены первые приложения обучения с самоконтролем применительно к данным от цифровых антенных решеток. Сети кодер-декодер предварительно обучаются на данных цифрового массива для выполнения самоконтролируемой задачи реконструкции шума, называемой отрисовкой канала, в которой сеть делает вывод о содержимом данных массива, которые были замаскированы нулями. Шаг самоконтроля не требует данных, помеченных человеком. Архитектура кодировщика и веса из предварительной подготовки затем передаются в новую сеть с декодером для конкретной задачи, и новая сеть обучается на небольшом объеме размеченных данных. Мы показываем, что предварительное обучение на немаркированных данных позволяет новой сети выполнять задачу регрессии полосы пропускания на данных цифрового массива лучше, чем эквивалентная сеть, обученная на тех же размеченных данных из случайной инициализации.

2. Самоконтролируемое обучение с помощью интермодальной реконструкции и сетей проецирования признаков для сегментации 3D-to-2D с эффективной маркировкой (arXiv)

Автор: Хосе Морано, Гильерме Ареста, Дмитрий Лачинов, Юлия Май, Урсула Шмидт-Эрфурт, Хрвое Богунович.

Аннотация: Глубокое обучение стало ценным инструментом для автоматизации некоторых задач сегментации медицинских изображений, значительно разгрузив медицинских специалистов. Некоторые из этих задач требуют выполнения сегментации на подмножестве входных измерений, наиболее распространенным случаем является преобразование 3D в 2D. Однако производительность существующих методов сильно зависит от количества доступных помеченных данных, поскольку в настоящее время нет эффективного метода данных, например. трансферное обучение, проверенное на этих задачах. В этой работе мы предлагаем новый метод сверточной нейронной сети (CNN) и самоконтролируемого обучения (SSL) для сегментации 3D-to-2D с эффективной маркировкой. CNN состоит из 3D-кодировщика и 2D-декодера, соединенных новыми блоками 3D-to-2D. Метод SSL состоит в реконструкции пар изображений модальностей разной размерности. Подход был проверен в двух задачах, имеющих клиническое значение: сегментация en-face географической атрофии и ретикулярных псевдодруз в оптической когерентной томографии. Результаты по различным наборам данных показывают, что предлагаемая CNN значительно улучшает современное состояние в сценариях с ограниченными помеченными данными до 8% в баллах Dice. Более того, предлагаемый метод SSL позволяет дополнительно улучшить эту производительность до 23%, и мы показываем, что SSL выгоден независимо от архитектуры сети.