СТРАТЕГІЇ ВИСНОВКУ У ПСШІ
ПЕРЕЛІК ЗНАНЬ ТА НАВИЧОК
Після опанування теми студент має знати:
• визначення системи, що заснована на знаннях;
• класифікацію інформаційних рівнів систем, заснованих на знаннях
• поняття інженерії знань;
• визначення та властивості знань;
• алгоритмічні моделі ПСШІ;
• квазіалгоритми як спосіб визначення множин маршрутів досягнення мети;
• логічний висновок;
• проблемно-орієнтовані правила висновку; має вміти:
• записати алгоритм з упорядкованим списком;
• застосувати логічні правила висновку для логічного виведення;
• пояснити систему підстановок та її алфавіт.
ЗМІСТ ПИТАНЬ З ТЕМИ
11.1. Класифікація рівнів систем, заснованих на знаннях
Знання — перевірений практикою результат пізнання дійсності, правильне її відображення у свідомості людини. Знання бувають життєвими, художніми, науковими (теоретичними та емпіричними).
Розділ 4
Знання — це теоретичне і практичне розуміння проблеми та ПРГ. Знаннями прийнято також називати інформацію, що зберігається в комп’ютері, формалізовану відповідно до певних структурних правил, яку комп’ютер може автономно використовувати під час розв’язання проблем на основі логічного висновку. У загально прийнятому сенсі термін «знання» став надзвичайно популярним, проте цьому терміну складно дати визначення, оскільки він включає переважно філософські елементи. Якщо дотримуватися буквального сенсу терміна, коли мова заходить про представлення знань у комп’ютері, то його загальні концепції розуміються як згаданий обмежений сенс. Тобто оброблення знань у комп’ютері є обробкою їх вмісту правилами перетворення тих форм, якими описуються знання в машині.
Головна характеристика, яка відрізняє ПСШІ від інших інформаційних систем те, що основний акцент ПСШІ — це оброблення інтелектуальних знань (більшою мірою, ніж оброблення даних або інформації). Нині знання визнані головним ресурсом організації. Незважаючи на те, що комп’ютер не може мати (поки що) різноманітний досвід або навчатися, як людський розум, він може використовувати знання, надані йому людьми (експертами). Такі знання містять факти, поняття, теорії, евристичні методи, процедури і відносини.
Знання
— це також інформація, організована і проаналізована, щоб зробити її зрозумілою і застосовною для вирішення завданняабо ухвалення рішень.
База знань (БЗ) — це колекція спільно організованих знань, які належать до завдань, що вирішуються в ПСШІ. Більшість БЗ обмежена в деякій спеціальній, зазвичай вузькій ПРГ, в якій вони зосереджені. При створенні БЗ технологія ПСШІ дозволяє вбудовувати в систему механізм і стратегії висновку, що ґрунтуються на фактах і відносинах, які містяться в БЗ.
При використанні традиційних структурних мов програмування необхідно, щоб знання вміщувалися безпосередньо в прикладну програму й утворювали з нею одне ціле. Однак такий підхід ускладнює розуміння того, як використовуються знання і яку роль вони виконують, тобто знання, закладені в програму, і сама програма їх обробки виявляються жорстко пов’язаними між собою і дозволяють одержувати тільки ті висновки з наявних знань, що передбачені програмою їх обробки. Для розв’язання цієї проблеми використовують системи, засновані на знаннях.
Система, заснована на знаннях, — система програмного забезпечення, основними структурними елементами якої є бази знань і механізм (машина) логічних виведень.
У системі, заснованій на знаннях, знання подаються в конкретній формі в базі знань, що дозволяє їх легко визначати, модифікувати і поповнювати. Функції розв’язання задач реалізуються автономним механізмом логічних виведень, що робляться на знаннях, та зберігаються в базі. Саме вибір методів подання й одержання знань визначає архітектуру системи знань і на практиці виражається у відповідній організації БЗ і схеми керування машиною виведення.
Невід’ємними характеристиками систем, заснованих на знаннях, із практичного погляду вважаються їхня здатність пояснювати лінію суджень та можливість набуття і нарощування знань.
Система, заснована на знаннях, може бути описана класифікацією інформаційних рівнів (у порядку зменшення рівнів ієрархії).
1. Рівень знань (knowledge level) — пов’язаний зі змістом інформації, а також способами її використання та визначає можливості інтелектуальної системи. Самі знання не залежать від формалізмів, використовуваних для їхнього подання, а також виразності обраної мови програмування. На рівні знань зважуються питання про те, які запити є припустимими в системі, які об’єкти і відношення відіграють важливу роль у даній ПРГ, як додати в систему нові знання, чи будуть факти згодом змінюватись, як у системі будуть реалізовані розмірковування про знання, чи має дана ПРГ добре зрозумілу систематику, чи є в ній незрозуміла або неповна інформація.
2. Рівень символів (symbol level) — пов’язаний з конкретними формалізмами, застосовуваними для подання знань у процесі розв’язання задач. На цьому рівні здійснюється вибір конкретного способу подання знань і визначається мова подання для БЗ, зокрема, логічні, онтологічні, семантичні або продукційні правила. Відділення рівня символів від рівня знань дозволяє програмісту розв’язувати проблеми виразності, ефективності і простоти програмування, що не належать до вищих рівнів поводження системи.
3. Рівень алгоритмів і структур даних — визначає семантичні структури даних для подання знань і алгоритми їх обробки.
4. Рівень мов програмування — визначає використовуваний стиль програмування. Хоча гарний стиль програмування припускає поділ конкретних властивостей мови програмування і вищих
5. Рівень компонування — визначає архітектуру і функціональність системи.
6. Рівень апаратних засобів — визначає архітектуру апаратних засобів, обсяг пам’яті та швидкодію процесора.
Багаторівневий підхід дозволяє розробнику ПСШІ відволіктися від складності, що належить до нижніх рівнів, і сконцентрувати свої зусилля на питаннях, які відповідають даному рівню абстракції. Такий підхід дозволяє виділити теоретичні основи ПСШІ й абстрагуватися від деталей конкретної реалізації або мови програмування. Він дозволяє модифікувати реалізацію, підвищуючи її ефективність, або виконати портирування на іншу платформу, не торкаючись поводження системи на вищих рівнях.
Методи представлення знань, розвинені в інтелектуальних БД і в ШІ, не цілком задовільні для використання у розробленні промислових систем управління базами знань (СУБЗ), які покликані забезпечувати створення, супровід і застосування БЗ в інтелектуальних системах.
Для побудови СУБЗ як одного з найважливіших інструментальних засобів нової технології необхідна інтеграція методів подання знань в інтелектуальних БЗ і ПСШІ. Досвід робіт у галузі ПСШІ і в технології баз даних дозволяє сформулювати основні вимоги до такої інтегрованої системи.
Оскільки СУБЗ є інструментальним засобом, з нею працюють передусім програмісти — розробники інтелектуальних систем і адміністратори БЗ (інженери знань) — фахівці, що відповідають за проектування та супровід БЗ в актуальному стані, тобто в такому стані, який правильно відображає зовнішнє середовище.
Основне завдання програмістів-розробників — створення процедурної частини інтелектуальної системи, що працює на основі БЗ. Для вирішення цього завдання є розвинені інструментальні засоби, що забезпечують необхідний рівень ефективності у роботі з великими базами знань. Інтеграція має подолати цей недолік.
Мета інтеграції для розробників ПСШІ — забезпечити створення єдиних інструментальних (мовних) засобів, які успішно та ефективно реалізовують методи доступу до інформації й обробки її, типові і для ШІ, і для технології БД, і не залежні від того, де ця інформація розміщується. Інакше кажучи, вживані методи фізич-
рівнів, специфіка задач ПСШІ вимагає глибокого їх взаємозв’язку.
Мета інтеграції для адміністраторів БЗ — забезпечити низку засобів, представлених в основному в технології БД, але пристосованих до вимог СУБЗ. Це, перш за все:
• засоби автоматизації логічного і фізичного проектування БЗ, що забезпечують, зокрема, допомогу у виборі способів зберігання окремих фрагментів БЗ відповідно до критерію максимальної ефективності функціонування СУБЗ;
• засоби підтримки логічної та фізичної цілісності СУБЗ в процесі її експлуатації, тобто забезпечення надійної роботи системи в умовах можливих збоїв технічних і програмних засобів комп’ютера, помилок користувачів;
• засоби реорганізації БЗ для підвищення ефективності роботи СУБЗ і у зв’язку з глобальними змінами системи знань. Усі ці засоби мають прототипи в технології БД.
Досвід, нагромаджений у технології БД, свідчить про необхідність таких засобів і в технології БЗ.
Оброблення знань у комп’ютері є обробкою їх вмісту правилами перетворення тих форм, якими описуються знання в машині. Отже, при обробці знань найбільш фундаментальною і важливою проблемою є передусім опис смислового вмісту проблем широкого діапазону, а також наявність такої форми опису знань, яка гарантує, що оброблення їх вмісту формальними правилами перетворення здійснюватиметься правильно. Ця проблема називається проблемою представлення знань.
Обговорення технології обробки інформації протягом багатьох років аж до теперішнього часу ведеться здебільшого навколо обчислювальних механізмів машини Тьюринга-фон Неймана, яка впритул підійшла до своєї оптимальної форми. Експертні й інтелектуальні системи обробки знань, що є практичним утіленням, реалізують практично ті самі методи, а їх функції базуються на тих самих механізмах.
Проте під час аналізу цих проблем необхідно проникнути в суть питання з позиції ширшого дослідження процесу розв’язання проблеми. Це пов’язано з тим, що бажана структура систем обробки знань, які володіють можливостями розв’язання складних проблем, ще не визначена повною мірою. Крім того, при інтелектуальній обробці інформації переслідується мета
ної організації БЗ (розміщення її в багаторівневій пам’яті комп’ютера) мають бути прозорі для програміста-розробника. У цьому випадку примітиви доступу до інформації (типові для тієї чи тієї галузі) вибираються програмістом тільки з міркувань зручності.
Сьогодні системи обробки знань, що досягли у своєму розвитку комерційного рівня, реалізовані на комп’ютерах традиційного типу. Проте реальне втілення в життя машинної обробки, що оперує з представленням інформації, орієнтованим на обробку знань, можливо й іншими, відмінними від фоннейманівських, засобів. Суть полягає у привнесенні нових принципів та методів у обробку інформації. Інтенсивний кількісний і якісний розвиток інформаційних і комп’ютерних технологій, виявлення нових когнітивних концепцій дозволяє говорити про можливість практичної реалізації альтернативних методів і підходів до обробки знань. Відмінна риса обробки знань полягає в можливості зміни людино-машинних відносин і відповідно до цього — становлення нового стилю розв’язання проблем.
Наприкінці 1960-х і на початку 1970-х рр. під керівництвом Е. Фейгенбаума в Стенфордскому університеті (США) було створено систему DENDRAL, а пізніше за MYCIN, у ДВНЗ КНЕУ, кафедра ІСЕ, створено систему Super Finance (доц. Г. Ф. Іванченко). Оскільки зазначені системи нагромаджують у пам’яті комп’ютера знання експертів і використовують ці знання для розв’язання проблем, витягуючи їх за необхідності з пам’яті, вони дістали назву експертних, а професор Е. Фейгенбаум, який є одним із творців експертних систем, назвав дану царину техніки «інженерія знань». Інженерія знань є сукупністю моделей, методів і технічних прийомів, націлених на створення систем, які призначені для розв’язання проблем з використанням знань.
Знання — це інформація з обмеженою семантикою, проте з позиції прикладних аспектів необхідно, щоб знання мали таку форму, якій була б певною мірою властива свобода досягнення поставленої мети. В якому саме ступені допустима ця свобода, або яким умовам мають відповідати знання, включаючи і їх описові можливості, залежить від галузі їх застосування. У сфері
створення нового стилю обробки на основі когнітивних людиномашинних відносин, абсолютно відмінних від тих, що прийняті в машині Тюринга-фон Неймана. Отже, для затвердження нових технологій обробки інформації необхідно спочатку проаналізувати поведінку людини під час розв’язання проблем, а потім подивитись, яку частину процесу рішення можна автоматизувати засобами обробки знань, наскільки ефективно можна цими засобами підтримувати розв’язання проблем і якою буде система, котру вдається втілити в реальну дійсність.
Хоча мовне уявлення і обмежене порівняно простими формалізмами, воно не завжди зручне для технічної і економічної галузей. Це пов’язано з їх специфічним характером, оскільки в них усе визначається фактами і об’єктивною реальністю. У подальшому викладі мовний опис, потрібний у прикладних царинах інформації (включаючи мову в широкому її розумінні та графіку), називатиметься мовою подання знань. Для використання подібної інформації у вигляді знань потрібні інтелектуальні функції, що збільшують можливості сучасних комп’ютерів. Подання знань, їх оброблення і використання, що розглядається стосовно конкретної ПРГ, є предметом інженерії знань.
Змістом ПСШІ можна вважати науковий аналіз і автоматизацію інтелектуальних функцій людини. Проте для більшості проблем загальною реальністю є трудність їх машинного втілення. Дослідження стосовно ПСШІ дозволили ствердитися в думці, що достовірно необхідними для розв’язання проблем є знання експертів. Тобто, якщо створити систему, здатну запам’ятовувати і використовувати знання експертів, то вона знайде застосування в практичній діяльності.
Фактично інженерія знань — це теорія, методологія і технологія ПСШІ, які охоплюють методи добування, аналізу і відображення в правилах знань експертів. Інженерія знань тісно пов’язана з усім процесом розроблення інтелектуальних інформаційних систем загалом і ПСШІ зокрема — від виникнення задуму до його реалізації та вдосконалення.
Головними елементами інженерії знань є використання операцій типу узагальнення, генерація гіпотез для індуктивних висновків, підготовка нових програм самими комп’ютерними програмами і т. д.
11.2. Алгоритмічні моделі ПСШІ
Почнемо з такого загального поняття, як алгоритм, який традиційно визначається як система правил для переходу від початкових даних до шуканого результату, що володіє властивістю масовості, детермінованості, результативності, послідовності, однозначності, кроковості.
По суті, усі математичні процедури, що приводять до розв’язання тих чи інших задач, засновані на алгоритмах. Спроба
технічного застосування і в економіці використовується найрізноманітніше середовище уявлення і мовного опису, знань.
1 ? R
1 , Q
2 ? R
2 , ., Q n ? R n .
Вираз Q i R i називається підстановкою. Нехай задано деяке слово L. Підстановка Q i R i застосовується до слова L таким чином. Якщо слово Q i , входить до складу слова L, то його найлівіше входження замінюється на R i . Підстановки впорядковані в записі нормального алгоритму, та існує жорсткий порядок їх виконання. До початкового слова L спочатку завжди застосовується перша за порядком підстановка. Якщо вона змінила слово, то воно розглядається як нове, і до нього знову застосовується перша підстановка. Якщо ж підстановки, які створюють нормальний алгоритм, не змінюють слова, то воно вважається остаточним, і застосування підстановок припиняється.
Якщо порівнювати алгоритмічні схеми Маркова і Тьюринга, то можна легко помітити, що в машині Тьюринга порівняно добре розвинені засоби централізованого управління за слабкої нагоди перетворення інформації, тоді як у нормальних алгоритмах задано багато можливостей перетворення інформації (заміна будь-якого слова на будь-яке інше слово) при нецентралізованому управлінні.
Ці два типи уточнення поняття алгоритм певною мірою послужили основою двох ортогональних підходів до розроблення систем програмування: процедурного і декларативного.
Обидві зазначені алгоритмічні процедури є зразками ясності та чіткості. Жорсткі правила застосування підстановок забезпечують детерміновану процедуру, що задається нормальним алгоритмом. Це характерно і для машин Тьюринга. Детермінованість і результативність, властиві їм, регламентують отримання однозначних результатів за однакових початкових даних.
Послаблення жорстких вимог, уведених в алгоритмічних схемах, дозволяє розглянути гнучкіші процедури. Відмова від детермінованості — є однією з гнучких процедур. Наприклад, можна зробити довільним вибір чергових підстановок на кожному кроці процесу. Процедури подібного роду дістали назву квазіалгоритмів.
піти від інтуїтивного розуміння алгоритму привела до низки математичних уточнень цього поняття. Найвідоміші серед них — машина Тьюринга, машина Поста і нормальні алгоритми Маркова. Для нас найбільший інтерес становить формальне визначення алгоритму, надане А. А. Марковим. Розглянемо його детальніше. Нормальний алгоритм задається впорядкованим списком вигляду: Q
Квазіалгоритм визначається, як спосіб визначення множинмаршрутів досягнення мети заданням початкових елементів (аксіом) і правил висновку, кожне з яких описує, як будувати нові елементи з початкових і вже побудованих. Список, кожен елемент якого є аксіомою або одержаний з попередніх елементів списку по одному з правил висновку, є висновком у квазіалгоритмі.
11.3. Логічний висновок
Якнайповніше вивченими численнями в математичній логіці є числення висловів і числення предикатів першого порядку. З кожною формулою в цих численнях пов’язується поняття інтерпретації (приписування істинних значень), через яке визначаються такі поняття, як суперечність, несуперечність і загальнозначуща формула. Логічне слідство визначається наступним чином. Формула G є логічне слідство формул F
1 , F
2 , ..., F n , тоді і тільки тоді, коли для будь-якої інтерпретації I, якщо формула F
1 ? F
2 ? ... ? F n істинна в I, то G також у ній істинна.
Логічне слідство виходить у результаті застосування логічних правил висновку. Такі правила висновку володіють універсальною істинністю і можуть застосовуватися або для встановлення істинності деякого твердження, або для породження нових висновків. У численні предикатів першого порядку зафіксовано кілька правил висновку (прикладом може служити правило — modus ponens).
Загалом можна стверджувати, що міркування в численні предикатів монотонні — ми ніколи не відмовляємося від одержаних висновків, якщо стає істинним деякий додатковий факт. Такі числення з фіксованим набором логічних правил висновку зазвичай називають чистими, або логічними, а висновок у них — логічним висновком.
Формулювання завдання в численні предикатів розглядаєтьсяяк теорема. Багато проблем можуть бути сформульовані як проблеми доведення теорем. Саме це і визначило прагнення знайти загальну автоматичну процедуру доведення теорем. Важливий прогрес у цій сфері був досягнутий з розробленням методу резолюцій, який виявився досяжним для реалізації на ЕОМ. Саме тому числення предикатів є одним з основних числень, орієнтованих на побудову програм, які володіють інтелектуальними здібностями.
Проте спроби автоматизації вирішення різноманітних класів завдань у рамках класичної логіки іноді приводять до громіздких і неприродних формулювань, перетворюючи прості завдання на практично не вирішувані. Зокрема, саме з цією обставиною пов’язаний деякий скепсис щодо застосовності математичної логіки.
Проте саме логічні числення поклали основу логічному програмуванню і зробили популярною мову Mercury, Visual Prolog, Oz і Fril.
11.4. Прикладні проблемно-орієнтовані правила висновку
Йдучи далі по шляху ослаблення обмежень, можна ввести числення, в яких замість універсальних правил логічного висновку використовуються проблемно-орієнтовані правила висновку. Прикладом таких числень є системи підстановок. де a i , b i — слова в алфавіті С. Нехай деяке слово L починається словом а i . Виконати над L продукцію — означає викреслити з L початковий відрізок а i , і до слова, що залишилося, приписати справа слово b i . Наприклад, застосовуючи до слова aba продукцію abW ? Wc, дістанемо слово са. Існують теореми, котрі показують, що будь-яку систему підстановок можна «вкласти» в систему продукцій. Характерним для систем продукцій Е. Поста є обмеження на форму самих підстановок.
Система підстановок задається деяким алфавітом C = {c i c
2 ,..., с n } і базисними підстановками ? ? ? де ?, ?
— деякі (можливо порожні) слова в алфавіті С. Кожну підстановку можна розглядати як правило виведення Р (х, у), вважаючи, що Р (х, у) істинно, якщо слово у виходить із слова х за допомогою підстановки в х слова ? замість якого-небудь входження слова ?.
До даного класу можна віднести числення, введене Е. Постом, яке він назвав системами продукцій. Система продукцій Е. Поста задається своїм алфавітом і системою підстановок, кожна з яких називається продукцією і має вигляд a i W Wb i (i = 1... n),
Система підстановок задається деяким алфавітом C = {c i c
2 ,..., с n } і базисними підстановками ? ? ? де ?, ?
— деякі (можливо порожні) слова в алфавіті С. Кожну підстановку можна розглядати як правило виведення Р (х, у), вважаючи, що Р (х, у) істинно, якщо слово у виходить із слова х за допомогою підстановки в х слова ? замість якого-небудь входження слова ?.
До даного класу можна віднести числення, введене Е. Постом, яке він назвав системами продукцій. Система продукцій Е. Поста задається своїм алфавітом і системою підстановок, кожна з яких називається продукцією і має вигляд a i W ? Wb i (i = 1... n),
До зазначеного класу числень можна віднести й ті, що породжують граматики, уведені Н. Хомським. Накладення обмежень на ліві й праві частини правил привело до класифікації граматик і відповідно до класифікації мов, що породжуються даними граматика-
Загальним для числень указаного вигляду, які іноді називають нелогічними, є використання їх як формальних систем, для яких досліджуються математичні аспекти і властивості. Так, різні варіанти систем підстановок інтенсивно вивчалися в теорії алгоритмів, а в програмуванні використовувалися у вигляді різного роду граматик, в основному для опису синтаксису мовпрограмування.
Паралельно з дослідженнями, пов’язаними з розробкою нелогічних числень, у ПСШІ до середини 80-х років ХХ ст. усвідомлена необхідність розробити засоби в інструментальних системах для подання знань, оскільки самі по собі загальні методи пошуку рішень не привели до практичних успіхів. Як одна із форм для подання евристичних знань були запропоновані правила вигляду умова? дія, у яких ліва частина описує деяку ситуацію, а права
— ті дії або висновки, які треба зробити, якщо має місце описувана ситуація.
Загальна постановка завдань при використанні безлічі правил формулюється так. Задається початковий і цільовий стан завдання. Система сама на основі закладених у неї правил шукає можливі шляхи рішення переведення початкового стану в цільовий. Знання про ПРГ задають безліч можливих перетворень у просторі ситуацій, кожне з яких обмежене відповідними умовами застосовності даного перетворення в тій чи іншій ситуації. Такі правила почали називати продукціями, а системи, що використовують їх для опису знань, — системами продукцій.
Терміни та поняття до теми
• Знання — це інформація, організована і проаналізована аби зробити її зрозумілою і застосовною для вирішення завдання або ухвалення рішень.
• База знань (БЗ) — колекція спільно організованих знань, які належать до завдань, що вирішуються в системі ПСШІ.
• Система, заснована на знаннях — система програмного забезпечення, основними структурними елементами якої є бази знань і механізм (машина) логічних виведень.
ми. При цьому у фокусі досліджень основною була проблема розпізнавання того, чи належить задане слово мові, що породжується деякою заданою граматикою. Основна сфера застосування даного формалізму — це системи аналізу формальних і природних мов.
• Рівень знань (knowledge level) — пов’язаний зі змістом інформації, а також способами її використання і визначає можливості інтелектуальної системи.
• Рівень символів (symbol level) — пов’язаний з конкретними формалізмами, застосовуваними для подання знань у процесі розв’язання задач.
• Рівень алгоритмів і структур даних — визначає структури даних для подання знань і алгоритми їх обробки.
• Рівень мов програмування — визначає використовуваний стиль програмування.
• Рівень компонування — визначає архітектуру і функціональність операційної системи.
• Рівень апаратних засобів — визначає архітектуру апаратних засобів, обсяг пам’яті і швидкодію процесора.
• Інженерія знань є сукупністю моделей, методів і технічних прийомів, націлених на створення систем, які призначені для розв’язання проблем з використанням знань.
• Квазіалгоритм визначається, як спосіб визначення множин маршрутів досягнення мети заданням початкових елементів (аксіом) і правил висновку.
Питання для самоконтролю
• У якій формі у системі, заснованій на знаннях, подаються знання?
• Наведіть класифікацію інформаційних рівнів систем, заснованих на знаннях.
• Забезпечення яких засобів, представлених в основному в технології баз даних, але пристосованих до вимог СУБЗ, є метою для адміністраторів БЗ?
• Застосування яких правил висновку є логічним наслідком?
• Поясніть систему підстановок, яка використовує проблемноорієнтовані правила висновку.
Завдання для індивідуальної роботи, обов’язкові та додаткові практичні завдання
1. Опишить приклад класифікації інформаційних рівнів системи, заснованої на знаннях.
2. Наведіть приклади логічного слідства та результати застосування логічних правил висновку.
3. Опишить сферу застосування формалізмів при аналізі формальних і природних мов.
Література для поглибленого вивчення матеріалу
1. Люгер Дж. Ф. Искусственный интеллект. — М. : Вильямс, 2005.
— 864 с.
2. Інформаційні системи в економіці : монографія / под ред. Устенко С. В. — К. : КНЕУ, 2011. — 424 с.
3. Іванченко Г. Ф. Системи штучного інтелекту : навч. посіб. — К. : КНЕУ, 2011. — 382 с.
