Технология извлечения знаний из нейронных сетей: апробация, проектирование ПО, использование в психолингвистике
Министерство образования Российской ФедерацииОмский Государственный УниверситетМатематический факультетГорбань Павел АлександровичТЕХНОЛОГИЯ ИЗВЛЕЧЕНИЯ ЗНАНИЙ ИЗ НЕЙРОННЫХ СЕТЕЙ:АПРОБАЦИЯ, ПРОЕКТИРОВАНИЕ ПО, ИСПОЛЬЗОВАНИЕ В ПСИХОЛИНГВИСТИКЕДипломная работаНаучный руководитель: Член-корреспондент РАНВ.В. ШайдуровОмск – 2002ОглавлениеВведение4Цель работы4Основные задачи исследования4Основные результаты работы, полученные лично автором4Апробация работы5Публикации5Глава 1. Проблема извлечения знаний и обзор методов извлечения знаний61.1 Знание и приобретение знаний61.1.1 "Знание"61.1.2. Приобретение знаний81.2. Методы извлечения и приобретения знаний81.2.1. Приобретение знаний, обучение и обобщение по примерам в теории классических экспертных систем91.2.1.1. Трудности при разработке экспертных систем111.2.2. Методы извлечения знаний из таблиц данных121.2.2.1. Технология извлечения знаний из таблиц данных121.2.2.2. Таблица эмпирических данных131.2.2.3. Статистические методы извлечения знаний из таблицы данных151.2.3. Методы идентификации систем151.2.4. Другие методы обработки данных161.3. Требования к технологии извлечения знаний17Глава 2. Нейронные сети192.1. Коннекционизм192.2. Элементы нейронных сетей202.3. Основные архитектуры нейронных сетей212.4. Обучение нейронных сетей как минимизация функции ошибки22Глава 3. Упрощение нейронной сети.273.1. Что такое упрощение нейронной сети и зачем оно нужно273.2. Задача извлечения знаний из нейронной сети283.3. Методы упрощения нейронных сетей293.3.1. Контрастирование синапсов нейросети303.3.2. Контрастирование нейронов нейросети323.3.3. Контрастирование входных сигналов нейросети353.3.4. Бинаризация синапсов363.3.5. Упрощение нелинейных преобразователей нейронов373.3.6. Дополнительные модификации алгоритмов контрастирования373.3.7. Методы модификации структуры обученной сети383.4. Требования к процессу упрощения сети для извлечения знаний383.5. Упрощающие операции над нейронной сетью393.6. Процедура комплексного упрощения нейронной сети40Глава 4. Методы извлечения знаний из искусственных нейронных сетей414.1. Существующие методы извлечения знаний из обученной нейросети414.1.1. Методы на основе квантования сигналов сети424.1.2. Методы извлечения знаний параллельно с обучением нейросети444.1.3. Методы извлечения знаний из обученной нейросети464.2. Методы извлечения знаний: требования к методам504.3. Методология извлечения явных знаний, использующая технологию комплексного упрощения нейросети524.4. Приемы повышения вербализуемости нейронной сети564.4.1. Добавление синдрома в набор входных симптомов564.4.2. Построение иерархии продукционных правил574.4.3. Ручное конструирование сети из фрагментов нескольких логически прозрачных сетей59Глава 5. Нейросетевой анализ структуры индивидуального пространства смыслов605.1. Семантический дифференциал605.2. MAN-многообразия63Литература65Публикации автора по теме диплома69Приложение 1. Плакаты для защиты диплома.
