Программное обеспечение контроля качества данных для проектных организаций

 

Куприяновский В.П., НПП «Наука-Сервис» (vpkupriyanovsky@gmail.com),
Синягов С.А., ЭСРИ СНГ (ssinyagov@gmail.com)

 

Software for Data Quality Ensuring for Design&Engineering Compan

Использование ИТ инструментов и информационных моделей в жизненном цикле объектов строительства неразрывно связано с вопросом о качестве получаемых данных и моделей. Особенно, учитывая то, что, в зависимости от необходимости, применяются разные инструментальные средства и приходится обеспечивать неоднократное преобразование данных. Применение ГИС, как основы для хранения пространственной информации об объектах строительства, позволяет проводить в автоматизированном виде целый ряд проверок как моделей, так и данных на целостность, непротиворечивость и по другим критериям. Таким образом появляется возможность математическими (ИТ) средствами проводить экспертизу проектов и получаемых данных, выдавая конкретные формализованные замечания для последующего исправления или оценки рисков.

Ошибки, возникающие на этапе ПИР

В результате проектно-изыскательских работ (ПИР) генерируется большой объём различных данных, которые необходимо интегрировать в единой среде. При этом естественно возникает целый ряд ошибок, связанных как с субъективными, так и с объективными факторами или с особенностями работы тех или иных инструментальных систем. Так как данные ПИР имеют разнородный характер и, в большинстве своем, связаны друг с другом только пространственным (географическим) положением и конфигурацией, практически единственным средством их объединить является применение ГИС.

Использование ГИС-методов позволяет интегрировать разнородную информацию составных частей проектов, входящих в ПИР. Современные математические и инновационные графические методы позволяют вовремя обнаружить некорректность исходных данных и своевременно предупредить возможные ошибки в будущих проектных решениях.

Некорректное наложение разнородной информации в ручном режиме на картографическую подложку является источником множества ошибок, проблем и неоправданного дублирования данных.

Контроль качества данных – проверка корректности введённых данных средствами ГИС на основе настраиваемых правил позволяет минимизировать ошибки в работе внутренних подразделений и субподрядных организаций на больших, протяжённых и разрозненных объектах, обеспечить возможность контроля качества инженерных изысканий путём сравнения разнородной информации.

Важной особенностью средств контроля качества информации на основе ГИС является то, что проверке подвергаются не только прямые соотношения данных, но и семантические связи, например, протяженных или связных объектов. То есть проверяются модели, лежащие в основе определения объектов и имеющие важное значение в практическом применении, поскольку на их основе строятся базовые бизнес процессы, связанные со строительством и последующей эксплуатацией реальных зданий и сооружений.

Программное обеспечение, реализующее функции контроля качества ГИС-данных

На первый взгляд, кажется, что контроль качества модели или данных не связан напрямую со строительной тематикой. Однако использование таких систем как CAD и последующие преобразования CAD-данных, моделей и чертежей в другие представления (рабочие чертежи, паспорта объектов, ГИС модели, BIM и т.п.) с необходимостью порождают изменения и в моделях, и в данных. При этом требуется необходимый уровень соответствия этих измененных данных исходной модели или чертежам.

При преобразовании CAD или других моделей и данных в ГИС форматы возможны автоматизированные (а, в раде случаев, и автоматические) процедуры проверки корректности.

Рассмотрим несколько инструментов, обеспечивающих такого рода контроль и проверки.

Так, компания Esri предоставляет широкий спектр средств поиска и корректировки ошибок, а также отслеживания качества внесенных исправлений. К ним относятся как штатные средства ArcGIS, так и ряд специализированных инструментов: ArcGIS Workflow Manager, Task Assistant Manager, Esri Production Mapping, шаблон Infrastructure Network Editing, расширение Attribute Assistant, дополнительные модули ArcGIS Data Reviewer, ArcGIS Schematics, ArcGIS Data Interoperability, PLTS (их описание приведено в разделе Продукты на сайте esri-cis.ru).

Известен и продукт FME (Feature Manipulation Engine) компании Safe Software, который обеспечивает работу со всеми основными форматами пространственных данных.

Обеспечение качества ГИС-данных с помощью ПО Esri

ArcGIS Workflow Manager – дополнительный модуль к настольным и серверным продуктам Esri, предназначенный для стандартизации и формализации рабочих процессов, важен для контроля качества при редактировании ГИС-данных в многопользовательской среде (рис. 1). С помощью Workflow Manager руководитель может получать отчёты по статусу того или иного процесса: кому были назначены определенные задачи, какие работы превышают время, выделенное на них, и т.д.


Рис. 1. Интерфейс ArcGIS Workflow Manager.

Task Assistant Manager – компонент в составе Workflow Manager, обеспечивающий автоматизацию задач в приложении ArcMap. Он помогает пользователю выполнять определенную последовательность действий в ArcMap: команды и инструменты геообработки, настройку свойств слоёв (например, видимость и свойства замыкания). Использование этих инструментов может предотвратить ошибки и помочь последовательно и контролируемо выполнить сложные рабочие процессы (процессы, в которых задействованы несколько подразделений).

Помимо общеупотребимых средств контроля имеются и уже пред-настроенные шаблоны, которые позволяют анализировать определенные индустриальные модели и построенные на их основе системы.

Шаблон Infrastructure Network Editing специально разработан для предприятий, обслуживающих системы водоснабжения/водоотведения. Он представляет собой проект и набор специализированных инструментов ArcGIS для редактирования, создания отчётов и т.д. Например, в него входят инструменты для решения следующих задач:

  • автоматическое соединение абонентских точек с основной трассой (врезка);
  • трассировка и отчёт по оборудованию, входящему в трассу;
  • построение профиля прохождения всей трассы или её участка.

Также этот шаблон содержит расширение Attribute Assistant, которое использует набор правил для автоматического заполнения некоторых атрибутов при обновлении/добавлении объектов базы геоданных.

Для более основательной проверки, привязанной к конкретным проектам, применяются средства разработки процессов (скриптов), связанных с геообработкой.

Программная среда Esri Production Mapping позволяет установить расширенные правила проверки, которые будут контролировать значения атрибутов при создании новых и редактировании существующих объектов. Если при редактировании пользователь введет некорректное значение атрибута, система предупредит его об этом, и ему придется внести исправление перед записью объекта (рис. 2). Такой тип проверки “на лету” гарантирует, что пользователь не сможет ввести недопустимые сочетания значений для создаваемых шаблонов или редактируемых объектов при записи их в базу геоданных.


Рис. 2. Увеличение эффективности ввода данных за счёт использования проверки объектов “на лету”.

Различные модели геообработки и скрипты можно запускать по расписанию в пакетном режиме. С их помощью можно заранее установить некоторые значения, чтобы избежать ошибок ввода. Такое моделирование может выполняться с использованием специального визуального редактора (рис. 3).


Рис. 3. Пример модели геообработки для поиска вентилей, диаметр которых не соответствует диаметру подводящих труб.

Проверку корректности данных можно проводить и штатными средствами ArcGIS для задания правил на основе экранных шаблонов (рис. 4).


Рис. 4. Создание правила и обнаружение на его основе наложения площадных объектов штатными средствами ArcGIS.

Есть в арсенале и специализированные дополнительные модули ArcGIS, которые нацелены на проверки определенного типа взаимосвязей или настроены на определенного типа функции с данными и моделями.

ArcGIS Schematics – служит для создания схем на основе данных ГИС или непространственных данных. Позволяет контролировать качество сетевых данных, проверять связность сети.

ArcGIS Data Interoperability – возможность работать в одной системе с данными разных форматов. Позволяет осуществлять проверку топологической корректности конвертированных данных.

PLTS – набор приложений для автоматической генерации картографических объектов и управления процессом их разработки, создания баз данных картографических спецификаций и контроля качества. Средства интеллектуальной атрибуции позволяют осуществлять внутрипроцессный контроль качества в соответствии с установленными требованиями.

Для упрощения процедур проверки корректности данных Esri разработан специальный интегрированный продукт ArcGIS Data Reviewer – дополнительный модуль для настольных и серверных приложений ArcGIS, предназначенный для автоматизации и упрощения процедур контроля качества данных (рис. 5). Он обеспечивает:

  • централизованное управление поиском и корректировкой ошибок;
  • отслеживание качества внесённых исправлений;
  • множество инструментов для автоматической проверки данных;
  • поддержание связности объектов, пространственной, атрибутивной и топологической целостности данных.


Рис. 5. ArcGIS Data Reviewer состоит из ряда инструментов, которые поддерживают как автоматизированный, так и визуальный анализ данных.

ArcGIS Data Reviewer позволяет:

  • Упростить процедуру контроля качества данных, используя уже готовые к применению или настраиваемые инструменты.
  • Получить доступ к пакетам обработки данных, учитывающим специфику отрасли пользователя.
  • Автоматически фиксировать информацию о том, кто из специалистов и когда просматривал и корректировал данные.
  • Оптимизировать рабочий процесс поиска и корректировки ошибок за счёт хранения информации обо всех ошибках в централизованном хранилище.
  • Организовать процесс контроля качества данных во всей организации путем передачи пакетов задач между специалистами или подрядчиками.
  • Настраивать специфические для организации пакеты проверки данных.
  • Экономить время и ресурсы, благодаря возможности отложенного запуска проверки данных – в нерабочие часы или в момент минимальной нагрузки системы.
  • Проверять корректность внесенных в версию изменений до согласования и закрепления её в родительской или мастер-версии.

Важной особенностью ArcGIS Data Reviewer является возможность работать в серверном окружении, а, значит, реализовать часть функций в виде сервисов либо автоматически выполняемых скриптов. ArcGIS Data Reviewer for Server позволяет применять функции проверки данных на разных программных платформах, усовершенствуя критический обзор данных с помощью вовлечения большего количества участников в процесс контроля качества. Он включает в себя возможности для сбора, управления и отслеживания ошибок, полученных в результате выполнения «серверных» работ. С ним разработчики могут реализовать контроль качества как новую функцию в существующих веб-приложениях, без затрат на создание рабочих процессов с нуля в отдельном приложении.

Осуществляются анализ и проверка данных с помощью различных методов, которые позволяют проверять как пространственное положение, так и состояние атрибутов. Дополнительно, можно добавить данные для примера, проверить значения метаданных согласно схеме и проверить валентность сетевых объектов. Результаты анализа или проверки сохраняются в таблице, в которой можно обновить исправления или состояние проверки (рис. 6). Сводная таблица проверяемых параметров и данных и выявляемых ArcGIS Data Reviewer ошибок приведена на рис. 7.


Рис. 6. Ключевые возможности ArcGIS Data Reviewer.


Рис. 7. ArcGIS Data Reviewer – выявляемые ошибки.

ПО компании Safe Software

Помимо собственных средств контроля Esri, есть и целый ряд продуктов компаний-партнеров. Примером могут служить продукты компании Safe Software.

FME (Feature Manipulation Engine) – продвинутое решение для пространственных трансформаций, применяемое для обмена данными между ГИС и САПР, а также большого набора других систем, имеющих собственные форматы и модели данных. В том числе и не имеющих ГИС составляющей.

Возможности технологии FME:

  • трансляция пространственных данных из одного формата в другой;
  • трансформация пространственных и обычных данных в полном соответствии с требованиями;
  • 300+ поддерживаемых форматов, 400+ трансформеров (рис. 8).


Рис. 8. Множество форматов и трансформеров FME.

Для примера рассмотрим небольшую часть возможностей, применяемых при преобразовании САПР в ГИС:

  • сохранение меток и атрибутов из текстов, блоков и размеров;
  • интерпретация слоёв, стилей и символов как атрибутов (например, тип дороги, диаметр трубы)
  • чистка геометрии: создание корректных примыканий, создание полигонов из линий;
  • комбинирование геометрий и атрибутов по анализу соседства: точка в полигоне, ближайшая к линии точка;
  • подключение внешних баз по уникальному ID (ms_link).

Приложение GeometryValidator предназначено для проверки геометрических параметров, оно обеспечивает:

  • проверку 2D- и 3D-данных;
  • проверку и исправление ошибок в геометрии;
  • выбор типов ошибок, на которые нужно проверить данные;
  • отчётность по найденным ошибкам в атрибутах и геометрических параметрах данных.

С его помощью выявляются такие ошибки как объекты нулевой длины, повторяющиеся последовательные точки, вырожденная или искажённая геометрия, самопересечения, пропущенные узлы и др. Средства проверки 3D-геометрии включают (рис. 9):

  • проверку твердотельных объектов, перевёрнутых граней, незамкнутых поверхностей и др.;
  • пометку ошибок с помощью атрибутов и выдачу геометрических местоположений ошибок;
  • опцию исправления для 3D-поверхностей и твёрдых тел.


Рис. 9. GeometryValidator – проверка 3D-геометрии, пометка и исправление ошибок.

Возможности средств контроля ошибок для строительной индустрии

Таким образом, использование ГИС в качестве основы для строительных проектов даёт дополнительные возможности для проведения автоматизированного и даже автоматического поиска и коррекции ошибок, возникающих как на этапах проектирования, так и при переходе с одного этапа на другой, при использовании соответствующих ИТ-средств и инструментов.

Особенно важными эти возможности видятся при проведении различного рода экспертиз, учитывая тенденцию принятия ГИС в качестве стандарта представления и предоставления информации в строительных проектах.