Метод опорных векторов в задаче тепловой диагностики конструктивных дефектов радиоэлектронных устройств

ВВЕДЕНИЕ

Совершенствованию процессов проектирования и производства радиоэлектронных устройств (РЭУ) всегда уделялось особое внимание разработчиков, поскольку реализация этих этапов создания РЭУ напрямую влияет на надежностные и эксплуатационные характеристики проектируемой аппаратуры. Основным конструктивным элементом радиоэлектронного средства, в котором реализуется его функционал, является печатный узел (ПУ). Развитие элементной базы, появление новых материалов, внедрение высокоточного оборудования в производственный процесс, с одной стороны, позволяют создавать прецизионные печатные узлы с высокой плотностью монтажа электрорадиоэлементов (ЭРЭ), а с другой – требуют разработки новых методов и средств для решения задач неразрушающего контроля и диагностирования РЭУ.

Тенденция конструктивного усложнения РЭУ на фоне уменьшения их массогабаритных характеристик выводит задачи технической диагностики на первый план. Повышение разрешающей способности диагностических процедур, разработка более чувствительных методов обнаружения скрытых дефектов РЭУ создают условия для управления качеством изделий при массовом характере их производства без изменения технологического процесса. Методы диагностирования играют решающую роль в обеспечении высокого качества промышленных изделий. Расходы на него составляют 3–20 %, а в отдельных случаях — до 70 % от стоимости выпускаемой продукции, имеют тенденцию к возрастанию из-за увеличения сложности объектов контроля [2].

Существуют различные методы диагностики конструктивных дефектов печатных узлов РЭУ. Известны и широко применяются методы электрической, виброударной диагностики, оптической инспекции и рентгеноскопии, ультразвуковой томографии и акустической эмиссии, а также методы, основанные на измерении температурных характеристик электронных устройств. Непрерывный рост сложности ПУ РЭУ и связанное с этим разнообразие дефектов не позволяют решать задачу диагностики в полной мере каким-либо одним методом. Требуется как комплексирование разных методов, так и непрерывное совершенствование существующих на основе использования последних достижений науки и технологий.

Статья посвящена развитию методов температурной диагностики на основе применения компьютерных технологий и искусственных нейронных сетей.

ОСОБЕННОСТИ ТЕПЛОВОГО ДИАГНОСТИРОВАНИЯ РЭУ

Методы диагностирования, основанные на термографии, где в качестве контролируемого параметра выступает температура, оказываются весьма эффективными в задаче обнаружения скрытых дефектов РЭУ, поскольку бóльшая часть энергии таких устройств (70–90 %) преобразуется в тепловую. Любое отклонение теплофизических и геометрических параметров материалов конструкции от своих номинальных значений, а также изменение электрического режима работы РЭУ, обусловленное отклонением параметра какого-либо ЭРЭ от номинала, приводит к изменению температурного (теплового) поля ПУ [2][3].

Тепловое диагностирование, основанное на процессах теплообмена в РЭУ, относится к неразрушающим методам контроля и нашло применение в промышленности и научных исследованиях. При этом исследуют поверхностные температурные поля объектов, поскольку определение внутренних температур является затруднительным из-за непрозрачности объектов для теплового излучения. Более детальное изучение тепловых процессов, протекающих в РЭУ, осуществляется при помощи их моделирования, проведения вычислительных экспериментов и визуализации результатов в специализированных модулях систем автоматизированного проектирования (САПР) [4][12].

В ходе исследования применялись САПР Altium Designer, SolidWorks, NI Multisim. При помощи инструментов Altium Designer был разработан печатный узел усилителя, выполнено размещение ЭРЭ и трассировка проводников, в САПР SolidWorks были созданы твердотельная и тепловая модели усилителя, выполнен расчет температур ЭРЭ, при помощи инструментов NI Multisim проведено схемотехническое моделирование усилителя, рассчитаны значения параметров электрической схемы.

Тепловой контроль – это пассивный метод, который позволяет работать практически со всеми материалами, применяемыми в технологическом процессе, дает возможность создания конвейерного контроля и прогнозировать качество узлов и блоков РЭУ в процессе производства и эксплуатации. Преимущества теплового контроля, который осуществляется при помощи тепловизионных приборов и устройств, заключаются в высокой производительности и скорости обработки информации, высоком разрешении, меньшей зависимости от неровностей поверхности по сравнению с другими методами контроля. Таким образом, на современном этапе развития радиоэлектроники использование тепловых методов является наиболее перспективным для диагностирования ПУ [4–6].

В работе [1] приведены результаты исследования тепловых характеристик печатного узла и классификации дефектов на основе применения алгоритма Кохонена. Была разработана структурная схема метода, определено функциональное назначение каждого блока. На основе самоорганизующихся карт Кохонена выполнена классификация дефектов РЭУ. С помощью тепловизионного прибора проведено физическое диагностирование исследуемого узла, а полученные результаты сравнивались с модельными данными.

Результаты этого исследования показали, что метод, основанный на алгоритме Кохонена, позволяет получить достоверные результаты для конструктивно несложных РЭУ, однако имеет серьезные погрешности для печатных узлов с высокой плотностью компоновки ЭРЭ (рис. 1).

Это послужило основанием для продолжения исследования и поиска более эффективных методов теплового диагностирования. Решение было найдено на основе применения метода опорных векторов.

ИДЕНТИФИКАЦИЯ РЕЗУЛЬТАТОВ ТЕПЛОВОГО ДИАГНОСТИРОВАНИЯ РЭУ
НА ОСНОВЕ МЕТОДА ОПОРНЫХ ВЕКТОРОВ

В продолжение исследования, описанного в [1], был предложен способ теплового диагностирования, основанный на применении технологии машинного обучения [9][10] и метода опорных векторов (Support Vector Machine, SVM). Диаграмма нового подхода к диагностированию, созданная в нотации языка BPMN (Business Process Management Notation), показана на рисунке 2.

BPMN-диаграмма содержит три пула (дорожки). В каждой из них группируются действия и события, характерные для выполняемого процесса.

В верхней части диаграммы описан процесс теплового моделирования. При помощи современных САПР выполняется схемотехническое проектирование, построение 3D-модели печатного узла РЭУ и расчет параметров ЭРЭ (значений температур t_i и рассеиваемых мощностей P_i) [8]. По результатам моделирования теплофизических параметров ЭРЭ проводятся статистические испытания методом Монте-Карло, в результате чего определяются диапазоны допустимых значений параметров. На основе этих данных формируется база характерных неисправностей исследуемого РЭУ.

Центральная часть раскрывает процедуру создания нейронной сети, процесс ее обучения и оценку точности результатов. Следует отметить, что результаты процесса выявления и идентификации дефектов РЭУ во многом зависят от исходных данных (вектора входных параметров), поэтому формирование этого вектора является важной диагностической задачей.

В нижней части BPMN-диаграммы описаны действия, выполняемые при натурных испытаниях РЭУ, и сравнение полученных результатов с экземплярами записей, хранимыми в базе данных (БД) неисправностей. На заключительном этапе формируется отчет о техническом состоянии печатного узла РЭУ.

Метод опорных векторов относится к группе граничных методов, которая определяет классы при помощи границ областей. В теории искусственных нейронных сетей его относят к методам обучения с учителем, реализованным алгоритмически.

При помощи данного метода решаются задачи бинарной классификации. В основе метода лежит понятие плоскостей решений.

Плоскость решения разделяет объекты с разной классовой принадлежностью. Цель метода опорных векторов – найти плоскость, разделяющую два множества объектов. Метод отыскивает образцы, находящиеся на границах между двумя классами, т.е. опорные векторы.

Классификация считается качественной, если область между границами пуста [15]. На рисунке 3 проиллюстрирована разделяющая гиперплоскость в двумерном пространстве, построенная методом SVM.

В случае когда решение задачи на плоскости затруднено, применяется подход, который предусматривает перевод входных векторов в пространство более высокой размерности, и осуществляется поиск разделяющей гиперплоскости с максимальным расстоянием до опорных векторов в этом пространстве. В результате формируется правило для разделения объектов разных классов [11].

Пусть имеется множество исходных векторов X = {x₁, x₂, …, x_N} и соответствующий набор выходных значений (ответов) Y = {y₁, y₂, …, y_N}. Здесь вектор x_i = {x₁, x₂, …, x_d} ∈ R^d, d – размерность пространства входных векторов, а y₁ принимает значение «1» или «–1» в зависимости от класса, к которому принадлежит x_i.

Для разделения входных векторов на 2 класса строится оптимальная разделяющая гиперплоскость вида w^Tx + b = 0. Этот тип задач получил название SVM – задачи c двумя классами разделения.

Для построения оптимальной разделяющей гиперплоскости необходимо из множества исходных векторов выделить опорные векторы и построить гиперплоскость, ближайшую к этим векторам [11].

Расстояние от любой точки множества до разделяющей гиперплоскости имеет аналитическую зависимость вида

(1)

где w и b – векторы, определяющие положение гиперплоскости в пространстве. Расстояние от опорных векторов до разделяющей гиперплоскости определяется по формуле:

(2)

Задача поиска оптимальной разделяющей гиперплоскости сводится к определению значений w и b таких, что

(3)

По свойству метода опорных векторов для всех точек пространства справедливо

y_n (w^Tx_i + b) > 1.

Тогда задача (3) может быть представлена в виде

(4)

при ограничении: y_n(w^Tx_i + b) > 1, ∀n = 1, 2, ..., N.

Иначе можно записать

(5)

при ограничении: 1 – y_n(w^Tx_i + b) ≤ 0, ∀n = 1, 2, ..., N.

Для решения оптимизационной задачи (5) применяется функция Лагранжа, согласно которой:

(6)

где γ = [γ1, γ₂, …, γ_N]^T, γ_n ≥ 0 для ∀n = 1, 2, ..., N.

Тогда уравнение (5) может быть представлено в виде двойственной функции Лагранжа

(7)

где γ = [γ₁, γ₂, …, γ_N]T, γ_n ≥ 0 для ∀n = 1, 2, ..., N.

Для поиска минимального значения функции L из (6) был применен метод градиентного спуска, относящийся к оптимизационным методам первого порядка, поскольку в нем анализируются первые производные исследуемых функций

(8)

(9)

Выполнив расчеты и подставив (8) и (9) в выражение (7), получим

(10)

при γ ≥ 0,

Множитель γ определяется следующим образом:

(11)

при γ ≥ 0,

Основной целью метода опорных векторов SVM является построение оптимальной разделяющей гиперплоскости по значениям w и b. Для достижения поставленной цели на начальном этапе работы алгоритма случайно выбирается вектор x_n, который принимается за опорный. По формуле (8) определяется значение w:

Затем по формуле (6), принимая во внимание условие Каруша – Куна – Таккера (ККТ) для решения задач нелинейного программирования, определяется значение b:

(12)

При γ_n ≠ 0:

(13)

Для проверки, является ли выбранный вектор x_n опорным вектором, используется функция

(14)

При y_n = 1, если для всех x значения функции f(x) ≥ 1 или f(x) < 0, то x_n является опорным вектором. Аналогично, при y_n = –1, если для всех x значение f(x) ≤ –1 или f(x) > 0, то x_n является опорным вектором [13][14].

При помощи метода опорных векторов в задаче технической диагностики печатных узлов РЭУ разрабатывается прогнозирующая модель, которая представляет собой матрицу весовых коэффициентов, полученных после заданного числа циклов обучения сети. Для оценки адекватности полученной модели используется функция потерь – чем меньше значение этой функции, тем достовернее выявляются дефекты печатных узлов РЭУ.

В случае нелинейного распределения данных прямое построение разделяющей гиперплоскости невозможно. Как было отмечено ранее, для решения таких задач разработан способ, предусматривающий перевод входных векторов в пространство более высокой размерности, известный как трюк с ядром (Kernel Trick).

Основная идея этого подхода заключается в том, что если входные данные нелинейно распределяются в одном пространстве, то существует другое пространство большей размерности, при переходе в которое распределение данных станет линейным. Это пространство называется спрямляющим, а функция для перехода данных от исходного пространства в другое – спрямляющим отображением (рис. 4).

Применение метода SVM в этом случае аналогично ранее описанному, но в качестве векторов признаковых описаний используются векторы Φ(x), а не вектор x.

В этом случае формула (11) преобразуется к виду

(15)

где γ ≥ 0,

Функция для классификации данных принимает вид:

(16)

Для сокращения времени и затрат вычислительных ресурсов, осуществляемых в процессе решения задачи классификации, при переходе к пространству большей размерности используют готовые функции спрямляющего отображения. Наибольшее применение в технологии машинного обучения и программировании нашли следующие виды функций:

• линейная (Linear kenel): ;
• полиноминальная (Polinomial Kernel): ;
• гауссово (Gaussian или Radial-Basis Function (RBF) kernel): ;
• сигмоидальная (Sigmoid): .

Для программирования метода SVM на языке Python в библиотеке Sklearn в качестве функции Kernel по умолчанию используется Radial-Basis Function.

В работе [3] значение z_i использовано автором для вычисления вероятности попадания входного вектора в определенный класс. В методе SVM она описывается параметром Margin Δ > 0. Отступ (margin, M_i) – характеристика, оценивающая принадлежность объекта к рассматриваемому классу, т.е. насколько типичным представителем класса он является. Чем меньше значение отступа M_i, тем ближе объект xi подходит к границе классов и вероятность ошибки классификации возрастает. Если выборка линейно разделима, то существует гиперплоскость, отступ от которой до каждого объекта положителен. Отступ M_i отрицателен только тогда, когда алгоритм допускает ошибку на объекте x_i. Отношение между этими значениями представлено на рисунке 5.

Если вектор xn относится к определенному классу y_n, то оценка x_n для класса y_n принимает значение zⁿ_yn. Значение zⁿ_i вектора x_n для класса i характеризует «безопасную» зону и позволяет отнести его к некоторому классу i (i ≠ y_n), пока выполняются граничные условия. Значение, равное zⁿ_j, не позволяет отнести его к рассматриваемому классу y_n и характеризует зону нарушения. Численный показатель уровня нарушения zⁿ_j для каждого входного вектора x_n определяется по формуле

(17)

где zⁿ = w^Tx_n = [zⁿ₁, zⁿ₂, ..., zⁿ_C] ∈ R^C*1 , C – количество классов.

Для входных векторов справедливо:

Для снижения вычислительной нагрузки и объемов памяти в процессе программирования и контроля ширины запрещенной зоны используется среднее значение показателя

(18)

где τ – параметр, прямо пропорциональный ширине запрещенной зоны.

Отмечается, что max(0, Δ − zⁿ_yn + zⁿ_j) = 0 в случае, когда j находится в безопасной области, а max(0, Δ − zⁿ_yn + zⁿ_j) = Δ − zⁿ_yn. + zⁿ_j > 0, если j находится в зоне нарушения.

Когда входные векторы не попадают в зону нарушения, то справедливы соотношения:

для ∀j = 1, 2, ..., N, j ≠ y_n.

На практике значение Δ принимается равным 1. В этом случае функция потерь будет выражаться следующим образом:

(20)

Функция потерь зависит от выбранного значения τ, т.е. от ширины запрещенной зоны margin.

В ходе вычислительного эксперимента была получена зависимость функции потерь от количества дефектов в печатном узле РЭУ, график которой приведен на рисунке 6.

Для решения задачи оптимизации функции (20), как и для линейно разделяемого множества, применялся метод градиентного спуска [14].

ЭКСПЕРИМЕНТАЛЬНАЯ ПРОВЕРКА РАЗРАБОТАННОГО МЕТОДА

Объектом для экспериментального исследования, как и в работе [1], стал электронный усилитель, принципиальная схема которого, 3D-модель и тепловая модель представлены на рисунках 7, 8 и 9.

В рамках проводимого исследования была создана база данных неисправностей РЭУ, содержащая экземпляры записей о результатах моделирования печатного узла в исправном состоянии и десяти состояниях с дефектами [1][7]. Каждое состояние ПУ описывалось своим набором численных значений температур. Для каждого состояния методом статистических испытаний Монте-Карло на основе результатов моделирования были сформированы наборы численных значений температур ЭРЭ, включающие рассчитанное значение для каждого элемента и допустимый диапазон его изменения. Объем БД составил более 24 тыс. записей. Каждое состояние РЭУ было ассоциировано с отдельным классом, представленным уникальной меткой в БД.

База данных неисправностей использовалась в задаче классификации при обучении искусственной нейронной сети (ИНС), построенной с применением метода опорных векторов. Ранее в исследовании [1] эти данные использовались в качестве входных векторов для ИНС, основанной на сети Кохонена.

Для физического эксперимента был разработан макет ПУ усилителя. В ходе испытаний с использованием тепловизионной установки были последовательно получены карты распределения тепловых полей для исправного состояния ПУ и десяти состояний с внесенными дефектами, аналогичными модельным данным.

Сравнительные результаты решения задачи классификации двумя ИНС представлены на рисунке 10.

Для примера, рассмотренного в данной работе, при наличии 10 конструктивных дефектов в печатном узле достоверность метода SVM составила 100 %. Однако, понимая особенности метода, очевидно, что с ростом сложности РЭУ и увеличением количества дефектов достоверность метода будет снижаться. В данной работе не удалось выявить точную функциональную зависимость между достоверностью идентификации дефектов и их количеством в печатном узле для метода SVM.

Для ИНС, основанной на сети Кохонена, снижение достоверности распознавания дефектов имеет нелинейную зависимость, график убывает быстрее, опускаясь до уровня 0,8 (80 %) при диагностировании в РЭУ 6–8 дефектов, а при большем количестве дефектов в ПУ наблюдается резкий спад до уровня 0,6 (60 %), что становится неприемлемым для задачи технической диагностики печатных узлов РЭУ.

ЗАКЛЮЧЕНИЕ

В статье представлены результаты исследования, посвященного диагностированию конструктивных дефектов печатных узлов РЭУ и сочетающем в себе методы тепловой диагностики, математического моделирования, схемотехнического проектирования и применения аппарата ИНС для идентификации дефектов РЭУ. Данное исследование является развитием метода, описанного в [1], и основной акцент здесь сделан на совершенствовании процесса идентификации неисправностей в печатных узлах, повышении его достоверности и снижении ошибки классификации.

Для реализации диагностических процедур и идентификации технического состояния электронного устройства была переработана структура искусственной нейронной сети; для повышения достоверности идентификации конструктивных дефектов печатных узлов в данном случае были применены технологии машинного обучения с учителем и метод опорных векторов. Показано, что новая реализация ИНС имеет бoльшую разрешающую способность и позволяет определять неисправности в печатных узлах с высокой плотностью монтажа, в отличие от ее первой реализации, созданной на основе самоорганизующихся карт Кохонена, у которой наблюдались ошибки классификации при исследовании функционально сложных узлов с большим количественным составом элементов. Перечень характерных дефектов был представлен тем же дискретным набором наиболее часто встречающихся неисправностей печатных узлов, что и в первом исследовании. Это позволило разработать адекватную математическую модель, отвечающую требованиям к погрешностям результатов исследования и затратам вычислительных ресурсов на обработку экспериментальных данных. К достоинствам разработанного метода можно также отнести возможность визуализации результатов при формировании отчетов и рекомендаций для последующего принятия решения о возможности эксплуатации электронного устройства.

В целом можно заключить, что метод опорных векторов SVM может применяться для решения задачи диагностирования высокой размерности (с большим количеством элементов в схеме устройства и видов дефектов и неисправностей в нем). Его применение позволит получить результат классификации с низкой погрешностью, отвечающий требованиям задачи диагностирования. Однако этот метод более трудоемок с точки зрения нагрузки на вычислительные ресурсы системы. Поэтому для исследования функционально несложных узлов рациональнее применять ИНС на основе сети Кохонена, которая успешно справляется с задачей диагностирования меньшей размерности, когда количество диагностируемых дефектов не превышает шести, и позволяет получить удовлетворительные результаты классификации с допустимым значением погрешности.