ПРИЛОЖЕНИЕ НА ИЗКУСТВЕНА НЕВРОННА МРЕЖА И ХАОТИЧНИ СИНХРОНИЗАЦИОННИ СХЕМИ В СИСТЕМА ЗА КОДИРАНЕ НА ИЗОБРАЖЕНИЯ

ПРИЛОЖЕНИЕ НА ИЗКУСТВЕНА НЕВРОННА МРЕЖА И ХАОТИЧНИ
СИНХРОНИЗАЦИОННИ СХЕМИ В СИСТЕМА ЗА КОДИРАНЕ НА
ИЗОБРАЖЕНИЯ

Христина Стойчева       

Hristina Stoycheva

Technical University – Gabrovo, Gabrovo 5300, H.Dimitar str.,4 tel. +359066827571,

e-mail: hsstoycheva@abv.bg

Abstract. In this paper, an object-oriented application for image encoding by means of chaotic synchronization scheme of three couples identical chaotic systems and artificial neural network is presented. Encoding method, based on chaotic masking and adaptive chaotic synchronization are used. The encryption method has been modified by applying an MLP-type ANN, trained to approximate three encoding functions. Three synchronization and encryption schemes based on Lorenz, Van der Pol and Wang systems are designed and built in the developed software library. Graphical results for the synchronization process and figures for the processes of image encoding and decoding are presented.

   Key Words: image encoding, artificial neural network, chaos, chaotic synchronization, object-oriented application.

ВЪВЕДЕНИЕ

С развитието на все повече и нови информационни концепции за управление и комуникация, нараства и необходимостта от защитено предаване на информация. Съхраняването на голям обем от информация, в частност на изображения в различни мобилни устройства и интернет базирани социални платформи, налага търсене на нови и по-сложни методи, осигуряващи конфиденциалността на информацията и съхраняваните изображения. Същевременно с това защитата на данните не бива да причинява на потребителите неудобство, като постоянно изтичащи работни сесии и въвеждане на пароли, които пречат и на нормалната работа на системите.

Един от най-често използваните методи за защита на информация е криптирането. Процесът на криптиране се използва по отношение на зашита на информацията в цяло устройство или на съдържанието на файла на ниво приложение. И в двата случая криптирането използва т.н. ключ посредством, който оторизиран потребител получава достъп до информацията. Като метод за защита, криптирането е най-ефективно след спирането на системата, спиране на използване на устройството за съхранение на данни или блокиране на криптиращия ключ. Именно тези две характеристики се считат за недостатъци. Това налага да се търсят нови алтернативни решения, взети от други области на науката и техниката за решаване на проблемите свързани със защита на данните. Една такава област е теория на хаоса и в частност синхронизацията на хаотични системи [1].

Управлението и синхронизацията на хаотичните системи са теми на интензивни изследвания през последните години. Явлението хаотична синхронизация може да възникне при подходящо свързване на две или повече хаотични системи, които посредством връзката по-между си приспособяват динамиката си една към друга. Съществуват различни видове хаотична синхронизация, сред които са идентична [2], антисинхронизация [3], обобщена [4], адаптивна [5], фазова [6] и др.

Основната сфера на практическо приложение на хаотичната синхронизация са защитените комуникации. Хаотични синхронизационни системи се използват в различни видове комуникационни системи или системи за криптиране на текст, изображения и видео. В тези системи се използва псевдо-случайната природа на хаоса за скриване на предаваната информация. Като се имат в предвид бързоразвиващите се комуникационни технологии през последните години, се наблюдава тенденция на задълбочаване и разширяване на опитите за реализиране на методи за комуникация на основата на хаотична синхронизация с цел да се повиши сигурността на предаваната информация.От друга страна бързото развитие на изкуствените невронни мрежи и приложението им в различни области на науката и техниката се явява добра предпоставка за реализиране на комбинирана защита на базата на хаотична синхронизация, в частност хаотично маскиране и интегрирана към него изкуствена невронна мрежа.

В доклада се представя разработено обектно-ориентирано приложение с вграден програмен модул за криптиране на данни, използващ сигнали от хаотични системи и апарата на многослойните изкуствените невронни мрежи с обратно разпространение на грешката. В приложението са вградени хаотичните системи на Lorenz, Van der Pol и Wang, като за всяка двойка идентични системи са реализирани хаотични синхронизационни схеми с адаптивен метод за синхронизация.

ИЗЛОЖЕНИЕ

В разработката двата елемента на които се базира криптирането на изображения имат за цел да подобрят основната характеристика на една система за криптиране -степента на защита. Повишаването на степента на защита е това към което се стреми всяка една система за защита на информацията, а в текущата система основна роля има избора на хаотична система и метод за синхронизация. Използването и на изкуствена невронна мрежа обучена да модулира кодирания сигнал от хаотичните системи се явява вторичен потребителски ключ. Не явното задаване на този ключ посредством обучение на невронната мрежа с кодиращи функции, ограничава възможността на потребителя неволно да предостави информация за използваната от него защита.

При кодиране на информация използваща хаотичната синхронизация се прибягва до реализиране на една от три основни схеми: хаотично маскиране, хаотично превключване и хаотична модулация. Основната идея и при трите вида хаотично базирани кодиращи схеми е скриването на информационния сигнал от хаотичен, обикновено с много по-голяма амплитуда. При кодирането на изображения най-голямо приложение намира хаотичното маскиране. На фиг.1 е представена принципна схема на хаотично маскиране.

Фиг. 1. Принципна схема на хаотично маскиране

Представената на фиг. 1 схема е основната най-елементарна схема на хаотично маскиране със свързване по X1. Информационния сигнал Si(t) се сумира с хаотичния Xm1 на управляващата система (Master) и бива маскиран от него. По комуникационния сигнал се предава Xm1+ Si(t) при което информацията остава скрита. При този метод се възпроизвеждат всички променливи на състоянието и не се налага прилагане на каскадна синхронизация. Възстановяването на информацията се получава по аналогичен начин, като предадения сигнал се изважда Xs1 на управляваната система (Slave), при което
Sir(t) = Xm1+ Si(t) – Xs1. Добавянето на допълнителен сигнал към свързващия сигнал от гледна точка на синхронизацията е идентично с добавяне на смущаващо въздействие. Тъй като предварително е подбрана устойчива синхронизационна схема, синхронизацията ще бъде стабилна и няма да се повлияе от информационния сигнал.

В разработеното приложение е реализирана модификация на хаотично маскиране по Xm1 с интегрирана невронна мрежа. Базовото хаотично маскиране е подробно описано в [7]. На фиг. 2 е представена обобщена схема на реализирания подход на хаотично кодиране. Чрез обучение на невронната мрежа с кодираща функция се реализира по-сложно хаотично маскиране, което не е просто сумиране от типа Xi(t)+Si(t), а свързващият сигнал е по-сложна функция от типа f(Xi(t))+Si(t) или f(Xi(t),Xj(t))+Si(t).

На схемата на фиг.1 изходите на управляващата и управляваната система са съответно Xm1 и Xs1. С възникване на синхронизация подчинената система настройва динамиката си към управляващата.

Фиг. 2. Схема на хаотично маскиране с ИНМ

Невронната мрежа се обучава с кодираща функция, която представлява полином от nти ред. Предаваната информация се получава от вида f(Xm1(t))+Si(t). Променливата k се използва за допълнителен управляващ сигнал, който разрешава кога двете системи да се синхронизират, определя се предварително и се променя чрез обратна връзка, като по този начин декодирането може да започне след изтичане на преходния процес. При криптирането на изображения тази част от схемата на хаотично маскиране е реализирана на базата на буфери.

АДАПТИВНА СИНХРОНИЗАЦИЯ МЕЖДУ ЕДНОТИПНИ СИСТЕМИ

При използване на процеса на хаотична синхронизация в системи за защита на информация, най-често се използва свойството, че синхронизация между две системи възниква при различни начални условия на системите, което се явява еквивалент на промяна кодиращия ключ на определен интервал от време в конвенционалните криптиращи системи. Степента на защита се повишава, ако се използва и промяна на параметрите в известни граници на използваните системи, което от своя страна е еквивалентно на повишаване на разредността на ключа, при това по две независими една от друга страни.

Повечето видове хаотична синхронизация се базират на точно познаване на структурата на системата и нейните параметри. На практика обаче в една хаотична система някои или всички параметри могат да се изменят във времето. Следователно, за постигане на синхронизация между две такива системи е необходимо синтезирането на такъв тип управление на подчинената система, че да се компенсират измененията в параметрите.

При задачите за синхронизация на хаотични системи най-често се синтезира синхронизационна схема между две еднотипни, непрекъснати системи с еднопосочна връзка между тях. Системата, която осигурява синхронизиращия сигнал се нарича управляваща система (2), а тази която приема този сигнал и настройва своята динамика към тази на управляващата система – управлявана (подчинена) система (3). Двете могат да бъдат представени посредством следният обобщен запис:

                                                             (1)

                                             (2)

където    са векторите на състоянието на системата, и са нелинейни функции, а е управляващ сигнал към системата (2). Началните условия на системата са различни, т.е. .

За да се осъществи идентична синхронизация между системите (1) и (2) се търси такова управление , че да бъде изпълнено условието:

                                                                       (3)

където функцията на разсъгласуване между системите има следния вид:

,                                                (4)

Съответно:

                                                    (5)

След заместване на (1) и (2) в (5) се получава:

                 (6)

където

Синтезът на управление се реализира на основата на втория метод за устойчивост на Ляпунов, където се търси функция , която да отговаря на условията:

                                              (7)

                                                 (8)

                                              (9)

Най-често с цел да се изпълнят трите условия избраната функция на Ляпунов е квадратична функция от отделните съставящи на вектора , например:

                                 (10)

Изпълнението на третото условие ще се търси чрез подходящ синтез на управляващите функции към подчинената система . Те трябва да бъдат така синтезирани, че за първата производна на функцията :

                                  (11)

да се получи отрицателно определен израз, например от типа:

,                 (12)

където при положителни константи се изпълнява условието (10).

Нека се избере управляваща функция от типа:

                                   (13)

където първата част има за цел да елиминира първата съставяща на системата от разсъгласуването (6), а втората част да осигури изпълнението на условието (9). След заместване на (13) в (6) за системата от разсъгласуването се получава:

                                                 (14)

При така синтезирано двукомпонентно управление (13), системата от разсъгласуването (4) ще се стабилизира в точката , която съответства на избраната форма на синхронизация.

Реализирана е адаптивна синхронизация между три двойки идентични системи на Lorenz, Van der Pol и Wang. Първият вариант на адаптивна синхронизационна схема е между две системи на Lorenz, които се описват с уравненията:

(15)

където оптималните стойности на параметрите за които в системата възникват хаотични колебания са , и .

Атракторът на системата е показан на фиг. 3.

Номинални стойности на параметрите на системите са означени с σ, b и r, а впоследствие параметричните неопределености съответно с D, и .

Фиг.3. Хаотичен атрактор на система на Lorenz в пространството на състоянието

Системата от разсъгласуването при функции на разсъгласуване от типа (5) има следния вид:

                                                  (16)

С отчитане на (15), системата от разсъгласуването между (1) и (2) придобива следния вид:

                         (17)

Приемайки, че параметрите на системата се изменят във времето и вземайки в предвид избрания вид (13) за управляващите функции се получава:

               (18)

Където , и са прогнозираните стойности на неопределените параметри σ, b и r. По този начин параметричните неопределености участват не само в управляващия сигнал, а и в системите инициирайки функция на адаптивност.

Замествайки получените управления (18) системата от разсългласуването придобива следния вид:

                 (19)

Дефинират се следните функции:

(20)
След диференциране на (20) спрямо времето се получава:

(21)
Избраната квадратична функция на Ляпунов (10) заедно с функциите (19) добива вида:

,                       (22)

След диференциране спрямо времето като се вземат в предвид (20) и (21), се получава:

                 (23)

На базата на уравнение (23) може да се дефинират следните зависимости за функциите на неопределените параметри:

                       (24)

където са положителни константи. Уравнения (24) се определят на база известен метод за активно управление, който е много популярен при задачи за синхронизация и управление на хаотични системи, включително и такива при които има неопределености на параметрите.

Двете идентични хаотични системи на Lorenz дадени с уравненията (15) са идентично синхронизирани за всички начални стойности посредством управляващите функции (18) и установените зависимости за изменящите се параметри (24), където константите , ) са положителни. Също така грешките от прогнозираните стойности , и клонят към нула.

Доказателство за това твърдение е, че избраната функция на Ляпунов в уравнение (22) е квадратична и положителна функция в множеството . Също така, замествайки (24) в (23) се получава следното уравнение за :

        (25)

От (25) е ясно, че първата производна на е отрицателно определена функция в множеството , с което функцията отговаря на условията на втория метод за устойчивост на Ляпунов.

Синхронизационната схема между управляващата система (1) и подчинената система (2) с уравнения (15), управляващи функции (18) и коефициенти , е симулирана в среда на Simulink. Началните условия на управляващата система са , на подчинената система – , а началните стойности на прогнозираните параметри са , и , като и трите набора са избрани произволно.

Фиг. 4. Функции на разсъгласуване ,

На фиг. 4 са представени получените функции на разсъгласуване (19), които графично потвърждават настъпването на режим на хаотична синхронизация около петата секунда от преходния процес.

Фиг. 5. Съвместна динамика на променливите на двете системи ,

От фиг. 5, на която е показана съвместната динамика на променливите на управляващата и подчинената системи , , става ясно, че след края на преходния процес състоянията на двете системи стават напълно идентични. Подчинената система придобива същата динамика на хаотичните движения която има управляващата система след преходен процес от
около 5 sec.

a) б)
в)

Фиг. 6. Функции на грешките от прогнозиране на параметрите

На фиг. 6 са представени графично функциите на разсъгласуване между началните и прогнозираните стойности на параметрите на хаотичната система. На всеки 5sec ясно се отличават моментите на изменение на стойностите на параметрите σ, r и b в произволно избраните граници , и
. От графиката се вижда, че преходният процес необходим на системата за повторно установяване на грешката в нула е средно около 2,5 sec.

От фиг. 4 и фиг. 6 ясно се вижда, че системата се адаптира към изменението на параметрите на системата и необходимият преходен процес за повторното установяване на грешките , и в нула не оказва влияние на грешките от разсъгласуване на системата.

Така проектираната синхронизационна схема е готова за имплементация в разработената библиотека на обектно ориентираното приложение за кодиране на изображения. По аналогичен начин се процедира при синтеза на хаотична синхронизационна схема и за другите две системи.

 

ПРИЛОЖЕНИЕ НА ИЗКУСТВЕНА НЕВРОННА МРЕЖА И РАБОТОСПОСОБНОСТ НА РАЗРАБОТЕНАТА СИСТЕМА

 

Втория основен елемент в разработената система за кодиране на изображения е интегрирането на изкуствената невронна мрежа (ИНМ). Както вече беше споменато чрез невронната мрежа се реализира по-сложно хаотично маскиране, като информационния сигнал е прикрит от хаотичен от вида f(Xm1(t)).

Изкуствените невронни мрежи се прилагат за решаване на проблеми от разнообразно естество, като класификатори, асоциативни памети, симулатори, апроксиматори и др. В текущата задача се използва ИНМ от типа MPL (многослойна мрежа от перцептрони). Този тип невронни мрежи се използват, като универсални апроксиматори на функции[8,9,10].

Използваната многослойна невронна мрежа е с един вход и един изход, с връзки между невроните само на съседни слоеве. Скритите слоеве между входа и изхода на мрежата са два, като те съдържат изчислителни единици, съответно 10 неврона в първия и 20 неврона във втория. Изборът на броя на скритите слоеве и невроните в тях се базира на теорема Стоун и обобщение представено в [11]. Входно-изходното взаимоотношение на всеки неврон се описва с вход xi, изход y, свързващи тегла wi, прагова стойност θ и диференцируема функция ϕ.

.                                                       (26)

Като правило за обучение се използва т.н. алгоритъм с обратно разпространение на грешката[12]. Алгоритъмът използва градиентен метод за промяна на тегловните коефициенти и праговите стойности, така че грешката между желания изход и изходния сигнал се минимизира. Като диференцируема функция за всеки неврон в скритите слоеве се използва сигмоидална функция, която е ограничена, монотонно нарастваща диференцируема функция. На фиг. 7 е показана архитектурата на използваната невронна мрежа.

Фиг. 7 Изкуствена невронна мрежа от вида 1/10/20/1

В разработеното приложение ИНМ е реализирана чрез компонента в среда на C++ Builder. За да се изследва дали тя решава проблема с възпроизвеждане на функциите е направена и реализация в среда нa Matlab.

Използваната ИНМ представена с архитектура на фиг.7 се обучава да възпроизвежда три функции с нарастваща сложност:

                                                         (27)

Съобразно границите на изменение на Xm1, което зависи от границите на изменение на начални условия на системите на управляваща и подчинена хаотична система, ИНМ трябва да възпроизвежда с желана точност f1(Xm1),f2(Xm1) и f3(Xm1) в границите от 0.58 до 8.97. Броя на обучаващите извадки ще зависи от размера на изображението, като за текущия случай е избрано да не се работи с изображения по-големи от 1920×1080. Поради тази причина като параметри на обучението се избира, броя епохи да е 1000 (epochs=1000) и желана грешка 0.001(goal = 1e-3). Параметрите и архитектурите са еднакви с обучението на ИНМ в разработеното приложение. На фиг. 8 са представени средно квадратичните грешки от обучението на ИНМ с кодиращите функции, като на фиг. 8а) е за функция f1, на фиг. 8б) е за f2 и на фиг. 8в) е за f3.

a) б)
в)

Фиг. 8 Грешки от обучение на ИНМ с трите кодиращи функции

От графиките се вижда, че при обучението невронната мрежа достига желаната грешка и за трите функции, при това за значително по-малко итерации. Логично е че за по-сложните функции са необходими и по-голям брои обучаващи епохи. В реализираното приложение процеса на обучение се прекратява при достигане на желаната грешка или максималния брой епохи.

Разработеното Windows базирано приложение позволява отваряне, визуализиране и съхранение на графични файлове и тяхното криптиране и декриптиране по предложения по-горе подход. На фиг. 9. е показан първоначалният образ на данните записани в графичният файл.

Описаната по-горе схема на кодиране е програмирана и изследвана при следните стойности на параметрите на системите:

  • За системата на Lorenz – σ = 10, b = 8/3, r = 28,
  • За системата на Van der Pol – a= 5, b=-0.4, c=20,
  • За системата на Wang – a= 0.2, b=0.01, c=0.4, d=1.

Като тези стойности се считат за оптимални и при тях системите имат хаотично поведение.

Фиг. 9. Изображение за криптиране

След известен период на „настройка” (свързан с необходимостта от завършване на преходните процеси и обучението на ИНМ) се подават данните за кодиране. След приключване на процеса по кодиране, изображението от фиг. 9. има вида показан на в таблица 1, а в таблица 2 са показани изображенията след декодиране.

От изнесените резултати в таблици 1 и 2 ясно се забелязва степента на кодиране на изображението. Експериментално се доказва зависимостта на нивото на защита на кодирането от сложността на апроксимираната от ИНМ функция.

Таблица 1. Кодирани изображения

Хаотична система

 

 

Кодираща

функция

Lorenz Van der Pol Wang
f1
f2
f3

Таблица 2. Декодирани изображения

Хаотична система

 

 

Кодираща

функция

Lorenz Van der Pol Wang
f1
f2
f3

Декодираните изображения са с качество еднакво с това на входното изображение и доказват наличието на хаотична синхронизация. Явно се открояват по-добрите резултати от хаотичното маскиране със система на Lorenz. Използването на кодираща функция от висок ред, може да повиши значително нивото на кодиране на изображението.

ЗАКЛЮЧЕНИЕ

В статията се представя комбиниран метод за предаване на информация чрез хаотични системи на Lorenz, Van der Pol и Wang, въз основа на хаотично маскиране и изкуствена невронна мрежа с последваща адаптивна синхронизация. Синтезирано е управление към подчинена хаотична система на основата на втория метод за устойчивост на Ляпунов, при което заедно с идентична на нея система се реализира адаптивна хаотична синхронизация. Методът за криптиране, заедно с хаотичната синхронизация за трите вида системи и изкуствена невронна мрежа от тип MLP са имплементирани в обектно-ориентирано приложение за кодиране на изображения. Демонстрирана е работата на разработеното приложение, като са показани резултати от кодиране на изображение с три кодиращи функции. Без особени промени предложения подход може да се модифицира за хиперхаотични системи, което ще повиши степента на защита. Резултатите от разработката могат да намерят практическо приложение при разработването на системи за защитено предаване на информация.

 

ЛИТЕРАТУРА

 

  1. Strogatz, Steven H., Nonlinear dynamics and chaos: with applications to physics, biology, chemistry, and engineering. CRC Press, Second edition, 2015.
  2. Tian, D. Li, X. Sun, Synchronization of N different hyperchaotic systems . Control and Decision Conference, 2009.
  3. Shi, Xue Rong, and Zuolei Wang, Anti-synchronization of hyperchaotic Lorenz system and Liu system, Symposium on Photonics and Optoelectronics. IEEE, 2009.
  4. Gu, Baohua, et al., Generalized projected synchronization of Wang and Chen hyperchaotic systems, 2008 7th World Congress on Intelligent Control and Automation, 2008.
  5. Chen, Xu, et al., Adaptive Synchronization Between Hyperchaotic Lorenz System and Chen System, International Conference on Computational Intelligence and Security, 2009.
  6. Rosenblum, Michael G., Arkady S. Pikovsky, and Jürgen Kurths., Phase synchronization of chaotic oscillators, Physical review letters , 1996.
  7. Deng, Yan-Song, Kai-Yu Qin, and Shi-Quan Shao, Synchronization in coupled fractional order Chen-system and its application in secure communication, International Conference on Communications, Circuits and Systems. IEEE, 2009.
  8. Malakooti, Behnam, and Yingqing Zhou ,Approximating polynomial functions by feedforward artificial neural networks: capacity analysis and design., Applied Mathematics and Computation , 1998.
  9. Sonoda, Sho, and Noboru Murata, Neural network with unbounded activation functions is universal approximator, Applied and Computational Harmonic Analysis, pp.233-268, 2017.
  10. Petersen, Philipp, and Felix Voigtlaender,Optimal approximation of piecewise smooth functions using deep ReLU neural networks, Neural Networks 108 ,pp 296-330, 2018.
  11. Дамянов, Ч., Неразрушаващо разпознаване на качеството в системите за автоматично сортиране на хранителни продукти, Академично издателство на УХТ-Пловдив, 2006.
  12. Lv, Chen, et al, Levenberg–Marquardt backpropagation training of multilayer neural networks for state estimation of a safety-critical cyber-physical system, IEEE Transactions on Industrial Informatics , 3436-3446, 2017
Посещения1390

Бъдете първия коментирал

Вашият коментар:

E-mail адресът Ви няма да бъде публикуван


*