Добыча знаний и управление ими

Для поиска нужной информации в текстах применяется несколько технологий.

Технология автоматического анализа текста на основе ассоциативно-статистической модели обеспечивает повышение качества векторных моделей, представляющих текст набором составляющих слов, за счет коррелированности появления слов в тексте с помощью семантических связей.

Технология автоматического анализа текста положе

на в основу таких программных продуктов, как Russian Context Optimizer и Oracle InterMedia. Здесь интеллектуальная обработка текста (тематическая классификация, аннотирование) сочетается с поисковыми возможностями, доступными при работе с реляционными базами данных. Большинство возможностей InterMedia оказывается доступно в полной мере лишь для английского языка и в меньшей мере еще для ряда европейских и восточно-азиатских языков.

Адаптацию технологий Oracle к русскоязычным базам данных выполнила российская компания Гарант-Парк-Интернет, которая выпускает продукт Russian Context Optimizer (RCO). Используемое в RCO лингвистическое обеспечение позволяет приводить к нормальной форме все грамматические формы слов русского языка, сводить воедино различные части речи, а также отождествлять близкие по смыслу словосочетания.

Визуализация информационных массивов в Интернете обеспечивает удобное представление для пользователя найденной информации. Для этих целей используются тематические сети TopNet и самоорганизующиеся тематические карты TopSOM.

Для поиска информации в хранилищах данных используются механизмы OLAP-систем, позволяющие получать кубы и их срезы.

3. Добыча знаний

Получить информацию не всегда означает получить знания. Специалисты выделяют три стратегии получения знаний:

- приобретение знаний (способ автоматизированного наполнения базы знаний);

- извлечение знаний (процедура взаимодействия с источником знаний);

- обнаружение знаний в базах данных, (knowledge discovery in databases - KDD) - процесс получения из "сырых" данных потенциально полезной информации.

Благодаря быстрому развитию хранилищ данных, в которых данные предметно ориентированы, интегрированы и хранятся в хронологической последовательности, обнаружение знаний в базах данных вышло на первый план. KDD предполагает накопление "сырых" данных, их отбор, подготовку, преобразование, поиск закономерностей и их обобщение, тем самым превращая информацию (данные) в знания.

Аналитические инструменты, обеспечивающие добычу знаний, относят к области технологий Data Mining (раскопки данных). В их основу положена концепция шаблонов и зависимостей, отражающих многоаспектные связи в данных. Нетривиальность разыскиваемых шаблонов позволяет отражать неочевидные закономерности в данных, составляющие так называемые скрытые знания.

4. Классификация систем DataMining

Сегодня ведется много споров о том, какие системы относить к Data Mining. В той или иной степени к Data Mining можно отнести системы, поддерживающие алгоритмическое обеспечение, описанное ниже.

Статистические пакеты. В современных статистических пакетах, наряду с классическим методиками (корреляционный, регрессионный, факторный анализ), имеют место и элементы Data Mining (http://isl.cemi.rssi.ru). Серьезный недостаток статистических пакетов, ограничивающий их применение в Data Mining, - это статистическая парадигма, построенная на усредненных характеристиках выборки, которые не всегда подходят при исследовании реальных сложных жизненных явлений.

В качестве примеров наиболее распространенных статистических пакетов можно назвать SAS, SPSS, STATGRAPICS, STATISTICA, STADIA, цена которых составляет от $1000 до $15000.

Нейронные сети.

Это большой класс систем, архитектура которых имеет некую аналогию с построением нервной ткани из нейронов. На нейроны самого нижнего слоя подаются значения входных параметров, на основе которых нужно принимать какие-то решения или прогнозировать развитие ситуации. Эти значения рассматриваются как сигналы, передающиеся в следующий слой, ослабляясь или усиливаясь в зависимости от числовых значений (весов), приписываемых межнейронным связям. В результате на выходе нейрона самого верхнего слоя вырабатывается некоторое значение, которое рассматривается как реакция всей сети на значения входных параметров. Основным недостатком нейросетевой парадигмы является необходимость иметь очень большой объем обучающей выборки. К нейросетевым системам относятся BrainMaker, NeuroShell, OWL, thought (Cognos) и SENN Sales (Siemens Nixdorf). Стоимость их довольно значительна ($1500-8000).

CBR-системы.

Для того, чтобы сделать прогноз на будущее или выбрать правильное решение, CBR-системы (case based reasoning) находят в прошлом близкие аналоги имеющей место ситуации и выбирают тот же ответ, который был для них правильным. Основным недостатком этих систем считается то, что они вообще не создают каких-либо моделей или правил, обобщающих предыдущий опыт. К ним относятся KATE tools (Acknosoft), Pattern Recognition Workbench (США).

Деревья решений.

Эти системы создают иерархическую структуру классифицирующих правил типа "ЕСЛИ . ТО ." (if-then), имеющую вид дерева. Популярность подхода связана с наглядностью и понятностью, но деревья решений принципиально не способны находить оптимальные, или лучшие (наиболее полные и точные), правила в данных. Они реализуют простой принцип последовательного просмотра признаков, создавая лишь иллюзию логического вывода. Наиболее известными системами на основе дерева решений являются See5/C5.0 (RuleQuest), Clementine (Integral Solutions), SIPINA (University of Lyon), IDIS (Information Discovery, KnowledgeSeeker (ANGOSS).

Эволюционное программирование.

Российская разработка PolyAnalyst позволяет строить гипотезы о виде зависимости целевой переменной от других переменных в виде программ на некотором внутреннем языке программирования. В системе "выращивается" несколько генетических линий программ, которые "конкурируют" между собой в точности выражения искомой зависимости. Специальный модуль системы PolyAnalyst переводит найденные зависимости с внутреннего языка системы на понятный пользователю язык (математические формулы, таблицы и пр.). Кстати, с помощью этой системы делаются попытки управления портфелем ГКО-ОФЗ. Модель, рассчитанная системой PolyAnalyst, выполняющей периодический пересчет формул индексов привлекательности разных бумаг, импортируется в систему торгов SmartBroker.

Ограниченный перебор.

Эти алгоритмы вычисляют частоты комбинаций простых логических событий в подгруппах данных. Наиболее ярким современным представителем этого подхода является система WizWhy (WizSoff).

5. Добытчик на все руки

Система MineSet от Silicon Graphics представляет собой инструментарий для интеллектуального анализа данных на основе мощной визуальной оболочки. Ее особенностью является использование нескольких взаимодополняющих стратегий добычи, анализа и интерпретации данных. Архитектура MineSet имеет открытый характер, что позволяет работать с информационным хранилищем, построенном на основе реляционных баз данных или "плоских" ASCII-файлах. Процесс анализа начинается с выборки некоторого подмножества данных для дальнейшего исследования, которые могут преобразовываться. Тем самым создается информационная модель в виде, наиболее подходящем для последующего изучения.

 Скачать реферат