ГОСТ Р 70321.4-2022 Технологии искусственного интеллекта для обработки данных дистанционного зондирования Земли. Алгоритмы искусственного интеллекта для распознавания строящихся зданий на космических снимках, получаемых с космических аппаратов оптико-электронного наблюдения. Типовая методика проведения испытаний

        ГОСТ Р 70321.4-2022

НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ

Технологии искусственного интеллекта для обработки данных дистанционного зондирования Земли

АЛГОРИТМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ДЛЯ РАСПОЗНАВАНИЯ СТРОЯЩИХСЯ ЗДАНИЙ НА КОСМИЧЕСКИХ СНИМКАХ, ПОЛУЧАЕМЫХ С КОСМИЧЕСКИХ АППАРАТОВ ОПТИКО-ЭЛЕКТРОННОГО НАБЛЮДЕНИЯ

Типовая методика проведения испытаний

Artificial intelligence technologies for processing of Earth remote sensing data. Artificial intelligence algorithms for recognition of buildings under construction on satellite images obtained from optical-electronic observation satellites. Typical testing procedure

ОКС 35.240.99

Дата введения 2023-01-01

Предисловие

1 РАЗРАБОТАН Федеральным государственным автономным образовательным учреждением высшего образования "Национальный исследовательский университет "Высшая школа экономики" (НИУ ВШЭ) и Обществом с ограниченной ответственностью "ГЕОАЛЕРТ" (ООО "ГЕОАЛЕРТ")

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 "Искусственный интеллект"

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 28 октября 2022 г. N 1207-ст

4 ВВЕДЕН ВПЕРВЫЕ

Правила применения настоящего стандарта установлены в статье 26 Федерального закона от 29 июня 2015 г. N 162-ФЗ "О стандартизации в Российской Федерации". Информация об изменениях к настоящему стандарту публикуется в ежегодном (по состоянию на 1 января текущего года) информационном указателе "Национальные стандарты", а официальный текст изменений и поправок - в ежемесячном информационном указателе "Национальные стандарты". В случае пересмотра (замены) или отмены настоящего стандарта соответствующее уведомление будет опубликовано в ближайшем выпуске ежемесячного информационного указателя "Национальные стандарты". Соответствующая информация, уведомление и тексты размещаются также в информационной системе общего пользования - на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.rst.gov.ru)

Введение

Настоящий стандарт входит в серию стандартов "Технологии искусственного интеллекта для обработки данных дистанционного зондирования Земли".

Настоящий стандарт развивает положения ГОСТ Р 59898 применительно к оценке функциональной корректности алгоритмов искусственного интеллекта для распознавания строящихся зданий на космических снимках по ГОСТ Р 59753-2021 (статья 32), получаемых с космических аппаратов оптико-электронного наблюдения в видимом и ближнем инфракрасном диапазонах.

Распознавание строящихся зданий может проводиться, например:

- при территориальном планировании, землепользовании и застройке [1];

- планировке и застройке городских и сельских поселений по СП 42.13330;

- благоустройстве территорий поселений, городских округов, внутригородских районов [2];

- благоустройстве территорий муниципальных образований [3];

- для градостроительного планирования развития территории, управления городским хозяйством, цифровых двойников городов и населенных пунктов.

Настоящий стандарт разработан в целях унификации методов испытаний при оценке функциональной корректности алгоритмов искусственного интеллекта для распознавания строящихся зданий на космических снимках.

1 Область применения

Настоящий стандарт распространяется на алгоритмы искусственного интеллекта для распознавания строящихся зданий (далее - алгоритмы ИИ) на космических снимках по ГОСТ Р 59753-2021 (статья 32), получаемых с космических аппаратов оптико-электронного наблюдения в видимом и ближнем инфракрасном диапазонах (далее - снимки).

Настоящий стандарт устанавливает типовую методику проведения испытаний при оценке функциональной корректности по ГОСТ Р 59898-2021 (8.2.3).

Примечание - В контексте настоящего стандарта под алгоритмами ИИ понимают алгоритмы на основе машинного обучения.

Настоящий стандарт может быть применен при испытаниях алгоритмов ИИ при проведении оценки соответствия первой, второй или третьей сторон по ГОСТ ISO/IEC 17000.

Настоящий стандарт также может быть применен при автономных предварительных и приемочных испытаниях по ГОСТ Р 59792 алгоритмов ИИ, входящих в состав автоматизированных систем.

Настоящий стандарт предназначен для применения всеми организациями, участвующими в испытаниях алгоритмов ИИ, независимо от их вида и размера.

Типовая методика проведения испытаний алгоритмов ИИ для распознавания зданий на снимках установлена в ГОСТ Р 70321.1, алгоритмов ИИ для определения типов жилых зданий - в ГОСТ Р 70321.2, алгоритмов ИИ для оценки площадки жилых зданий - в ГОСТ Р 70321.3.

2 Нормативные ссылки

В настоящем стандарте использованы нормативные ссылки на следующие документы:

ГОСТ ISO/IEC 17000 Оценка соответствия. Словарь и общие принципы

ГОСТ Р 52438 Географические информационные системы. Термины и определения

ГОСТ Р 59276 Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения

ГОСТ Р 59753-2021 Данные дистанционного зондирования Земли из космоса. Термины и определения

ГОСТ Р 59754 Данные дистанционного зондирования Земли из космоса. Обработка данных дистанционного зондирования Земли из космоса. Термины и определения

ГОСТ Р 59792 Информационные технологии. Комплекс стандартов на автоматизированные системы. Виды испытаний автоматизированных систем

ГОСТ Р 59898-2021 Оценка качества систем искусственного интеллекта. Общие положения

ГОСТ Р 70321.1-2022 Технологии искусственного интеллекта для обработки данных дистанционного зондирования Земли. Алгоритмы искусственного интеллекта для распознавания зданий на космических снимках, получаемых с космических аппаратов оптико-электронного наблюдения. Типовая методика проведения испытаний

ГОСТ Р 70321.2-2022 Технологии искусственного интеллекта для обработки данных дистанционного зондирования Земли. Алгоритмы искусственного интеллекта для определения типов жилых зданий на космических снимках, получаемых с космических аппаратов оптико-электронного наблюдения. Типовая методика проведения испытаний

ГОСТ Р 70321.3 Технологии искусственного интеллекта для обработки данных дистанционного зондирования Земли. Алгоритмы искусственного интеллекта для оценки площади жилых зданий на космических снимках, получаемых с космических аппаратов оптико-электронного наблюдения. Типовая методика проведения испытаний

ГОСТ Р ИСО 6707-1 Здания и сооружения. Общие термины

СП 42.13330 Градостроительство. Планирование и застройка городских и сельских поселений

Примечание - При пользовании настоящим стандартом целесообразно проверить действие ссылочных стандартов (сводов правил) в информационной системе общего пользования - на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет или по ежегодному информационному указателю "Национальные стандарты", который опубликован по состоянию на 1 января текущего года, и по выпускам ежемесячного информационного указателя "Национальные стандарты" за текущий год. Если заменен ссылочный документ, на который дана недатированная ссылка, то рекомендуется использовать действующую версию этого документа с учетом всех внесенных в данную версию изменений. Если заменен ссылочный документ, на который дана датированная ссылка, то рекомендуется использовать версию этого документа с указанным выше годом утверждения (принятия). Если после утверждения настоящего стандарта в ссылочный документ, на который дана датированная ссылка, внесено изменение, затрагивающее положение, на которое дана ссылка, то это положение рекомендуется применять без учета данного изменения. Если ссылочный документ отменен без замены, то положение, в котором дана ссылка на него, рекомендуется применять в части, не затрагивающей эту ссылку. Сведения о действии сводов правил целесообразно проверить в Федеральном информационном фонде стандартов.

3 Термины и определения

В настоящем стандарте применены термины по ГОСТ ISO/IEC 17000, ГОСТ Р ИСО 6707-1, ГОСТ Р 52438, ГОСТ Р 59276, ГОСТ Р 59753, ГОСТ Р 59754, ГОСТ Р 59276, ГОСТ Р 59898.

4 Общие положения

Общие положения - по ГОСТ Р 70321.1-2022 (раздел 4).

5 Подготовительные работы

5.1 Подготовительные работы проводят по ГОСТ Р 70321.1-2022 (раздел 5), за исключением положений, приведенных в настоящем стандарте.

5.2 Пример базового демонстрационного набора данных для задач сегментации прилагается к настоящему стандарту, состоит из 234 папок, в каждой из которых по одному снимку размером не менее 500

500 пикселей в формате TIF и по 2 файла с разметкой в формате GEOJSON.

5.3 Рекомендуется дополнить существенные факторы по ГОСТ Р 70321.1-2022 (5.6.1) фактором, приведенным в таблице 1.

Таблица 1

Стадия застройки определяет характерный паттерн застройки (контекст, косвенные дешифровочные признаки), влияющий на возможность распознавания строящихся зданий на снимках.

6 Тестирование и оценка показателей

6.1 Тестирование и оценка показателей - по ГОСТ Р 70321.1-2022 (раздел 6), за исключением положений, приведенных в настоящем стандарте.

6.2 Показатели для оценки функциональной корректности алгоритмов ИИ выбирают исходя из специфики решаемой задачи на усмотрение заказчика испытаний. Ниже приведены примеры показателей для различных задач распознавания зданий.

6.2.1 В задачах детекции могут быть использованы, например, показатели для оценки:

- достоверности местоположения ограничивающих рамок - усредненное по всем классам отношение площадей ограничивающих рамок (Intersection over Union, IoU);

- классификации по всем классам - усредненная по всем классам величина средней точности (mean average precision).

Отношение пересечения над объединением IoU рассчитывают по формуле

, (1)

где S - площадь;

A - ограничивающая рамка строящегося здания по результатам работы алгоритма ИИ;

B - ограничивающая рамка строящегося здания из разметки.

Среднюю точность по каждому классу APr рассчитывают по формуле

, (2)

где Pr - точность при условии, что ограничивающая рамка определена верно (т.е. значение IoU выше определенного уровня);

Re - полнота при условии, что ограничивающая рамка определена верно (т.е. значение IoU выше определенного уровня).

Затем среднюю точность усредняют по всем классам.

Отношение пересечения над объединением, средняя точность и усредненная по всем классам средняя точность могут принимать значения от 0 до 1, причем значение 1 соответствует наиболее эффективному качеству работы алгоритмов ИИ.

6.2.2 В задачах сегментации для оценки классификации могут быть использованы, например, следующие показатели:

- усредненная по всем классам попиксельная точность;

- усредненная по всем классам попиксельная полнота;

- усредненная по всем классам попиксельная F-мера.

Попиксельную точность, попиксельную полноту и попиксельную F-меру по каждому классу рассчитывают по формулам (14), (15) и (17) ГОСТ Р 59898-2021 соответственно, причем:

- TP - количество истинно положительных исходов: совокупность пикселей снимка, классифицированных как относящиеся к строящимся зданиям по результатам работы алгоритма ИИ, принадлежит к строящимся зданиям в разметке;

- TN - количество истинно отрицательных исходов: совокупность пикселей снимка, классифицированных как не относящиеся к строящимся зданиям по результатам работы алгоритма ИИ, не принадлежит к строящимся зданиям в разметке;

- FN - количество ложноотрицательных исходов: совокупность пикселей снимка, классифицированных как не относящиеся к строящимся зданиям по результатам работы алгоритма ИИ, принадлежит к строящимся зданиям в разметке.

В задачах сегментации для оценки локализации может быть использован, например, показатель - усредненное по всем классам отношение пересечения над объединением (см. 6.2.1), причем:

- A - множество пикселей, принадлежащих к целевому классу по результатам работы алгоритма ИИ;

- B - множество пикселей, принадлежащих к целевому классу в разметке.

7 Анализ и интерпретация результатов испытаний

Анализ и интерпретация результатов испытаний - по ГОСТ Р 70321.1-2022 (раздел 7).

Библиография