Индекс базы данных ИРБИС — различия между версиями
Sokv (обсуждение | вклад) (→Ссылки) |
Sokv (обсуждение | вклад) |
||
| Строка 3: | Строка 3: | ||
Пользователи системы ИРБИС для обозначения ''индекса'' базы данных используют термин ''словарь'' базы данных (см. [[Базы данных ИРБИС#Словарь базы данных ИРБИС (инвертированный файл)|подраздел ''Словарь базы данных ИРБИС (инвертированный файл)'' статьи ''Базы данных ИРБИС'']]). | Пользователи системы ИРБИС для обозначения ''индекса'' базы данных используют термин ''словарь'' базы данных (см. [[Базы данных ИРБИС#Словарь базы данных ИРБИС (инвертированный файл)|подраздел ''Словарь базы данных ИРБИС (инвертированный файл)'' статьи ''Базы данных ИРБИС'']]). | ||
| − | + | Описание механизма актуализации инвертированного файла в связи с изменением отдельной записи см. в статье [[Механизм актуализации записи]]. | |
| + | |||
| + | ==Структура ''индекса'' базы данных ИРБИС== | ||
| + | |||
| + | ''Индекс'' базы данных ИРБИС представляет собой совокупность двух структур: ''словарь поисковых терминов'' в структуре бинарного дерева и список ''индексных ссылок'', соответствующих каждому термину. | ||
| + | |||
| + | Система связывает с каждым ''поисковым термином'' список ''индексных ссылок'', обеспечивающих требуемую связь с записями. Каждый термин имеет столько ''индексных ссылок'', сколько раз он встречается в базе данных. | ||
| + | |||
| + | Для поддержки развитых средств поиска, имеющихся в языке поиска, таких, например, как поиск по ключевым словам в определенных элементах описания, каждая индексная ссылка содержит помимо MFN записи некоторую дополнительную информацию, имеющую отношение к расположению термина в записи. | ||
| + | |||
| + | Индексная ссылка имеет следующие 4 компоненты: | ||
| + | # MFN записи, содержащей термин. Эта компонента вводится в состав индексной ссылки при актуализации/формировании словаря автоматически. | ||
| + | # Идентификатор поля, используемый в процессе поиска при указании [[Язык запросов ИРБИС#Прямой поиск|квалификатора]]. Эта компонента вводится в состав индексной ссылки на основе ТВП. Обратите внимание на то, что один и тот же идентификатор поля может быть присвоен различным полям, указанным в формате выборки. | ||
| + | # Номер экземпляра (повторения) повторяющегося поля, необходимый для осуществления поиска на уровне поля и операторов близости расположения терминов в повторяющихся полях (в АРМах ИРБИС это используется при поиске по логике «И (в поле)»). Для того, чтобы можно было использовать указанный метод поиска (обычно для этого необходим метод индексирования 4 или 8), необходимо определить формат в ТВП таким, чтобы в его выходных данных между экземплярами повторяющегося поля располагался знак процента (%), для чего нужно задать его в качестве повторяющегося суффикс-литерала. Например, строка ТВП для инвертирования повторяющегося поля 10 должна содержать формат v10|%|. Система перед обработкой каждой строки ТВП устанавливает номер повторения в 1 и затем увеличивает его на 1 всякий раз, когда в созданном форматом тексте встречается символ %. | ||
| + | # Последовательный номер термина, необходимый для осуществления поиска по близости расположения терминов (в АРМах ИРБИС это используется при поиске по логике «И (фраза)»). Управление присвоением данного номера происходит следующим образом: он устанавливается в 1 перед обработкой каждой строки ТВП и при изменении номера повторения и увеличивается на 1 для каждого элемента, созданного указанным методом индексирования. Например, предположим, что в повторяющемся поле 331 содержится краткое содержание литературного источника, причем каждое повторение состоит из одного абзаца. Пусть данное поле проиндексировано методом 4. Если определить формат выборки данных mdl,v331|%|, то начиная с каждого абзаца краткого содержания словам будет присваиваться последовательный номер, начиная с 1 в каждом абзаце, а если бы формат выборки был равным mdl,v331, то словам присваивался бы сквозной последовательный номер по всему краткому содержанию, например, первое слово второго абзаца имело бы последовательный номер на 1 больше номера последнего слова первого абзаца. | ||
| + | |||
| + | ==Построение ''индекса'' базы данных ИРБИС== | ||
| + | |||
| + | Построение ''индекса'' базы данных ИРБИС определяется [[Таблица выбора полей#ТВП для инвертированного файла|''таблицей выбора полей для инвертированного файла'']]. | ||
| + | |||
| + | Использование ''ТВП для инвертированного файла'' не сводится только к порождению ''элементов'' на основе записей данных. | ||
| + | |||
| + | На основе полученных с помощью ТВП ''элементов'' (список поисковых терминов) строится ''словарь поисковых терминов''. | ||
| + | |||
| + | ''Словарь поисковых терминов'' в совокупности с ''индексными ссылками'', созданные с использованием ''ТВП для инвертированного файла'' на основе всех ''записей'' (''документов'') базы данных, образуют [[Инвертированный файл|словарь (инвертированный файл)]] базы данных. | ||
| + | |||
| + | Для ИРБИС версии 2012.1 и старше дополнительно к ''таблице выбора полей'' используется ''таблица актуализации''. Подробнее см. в статье [[Механизм актуализации записи]]. | ||
| − | |||
| − | == | + | ==Файлы ''индекса'' базы данных ИРБИС== |
| − | + | ''Индекс'' базы данных ИРБИС хранится на файловой системе в виде трёх файлов: ''словарь поисковых терминов'' в файлах <tt>.n01</tt> и <tt>.l01</tt>; список ''индексных ссылок'' в файле <tt>.ifp</tt>. | |
В бинарном дереве файл с расширением <tt>.n01</tt> содержит узлы дерева и файл с расширением <tt>.l01</tt> – листья. Записи с листьями указывают на файл ссылок <tt>.ifp</tt>. | В бинарном дереве файл с расширением <tt>.n01</tt> содержит узлы дерева и файл с расширением <tt>.l01</tt> – листья. Записи с листьями указывают на файл ссылок <tt>.ifp</tt>. | ||
| Строка 23: | Строка 48: | ||
Смещение на запись в файле <tt>.ifp</tt> сохраняется в файле <tt>.l01</tt> и имеет длину 64 байта (в данной реализации используется только младшее слово этого смещения). | Смещение на запись в файле <tt>.ifp</tt> сохраняется в файле <tt>.l01</tt> и имеет длину 64 байта (в данной реализации используется только младшее слово этого смещения). | ||
| − | ==Формат файлов <tt>.n01</tt> и <tt>.l01</tt>== | + | ===Формат файлов <tt>.n01</tt> и <tt>.l01</tt>=== |
Файлы состоят из записей (блоков) постоянной длины. Записи состоят из трех частей: лидера, справочника и ключей переменной длины. | Файлы состоят из записей (блоков) постоянной длины. Записи состоят из трех частей: лидера, справочника и ключей переменной длины. | ||
| Строка 68: | Строка 93: | ||
* '''Размер записи''' зависит от реализации и может быть равен в байтах: 512, 1024, 2048, 4096. | * '''Размер записи''' зависит от реализации и может быть равен в байтах: 512, 1024, 2048, 4096. | ||
| − | ==Формат файла <tt>.ifp</tt>== | + | ===Формат файла <tt>.ifp</tt>=== |
Файл содержит список ссылок для каждого термина словаря. | Файл содержит список ссылок для каждого термина словаря. | ||
| Строка 76: | Строка 101: | ||
Такая схема оптимизирует работу с диском в процессе инвертирования записи в базах данных, характеризующихся большим количеством ссылок на термин. | Такая схема оптимизирует работу с диском в процессе инвертирования записи в базах данных, характеризующихся большим количеством ссылок на термин. | ||
| − | ===Обыкновенный формат записи <tt>.ifp</tt>=== | + | ====Обыкновенный формат записи <tt>.ifp</tt>==== |
Запись состоит из заголовка и упорядоченного набора ссылок. | Запись состоит из заголовка и упорядоченного набора ссылок. | ||
| Строка 110: | Строка 135: | ||
Признак последнего блока – LOW = HIGH = -1 | Признак последнего блока – LOW = HIGH = -1 | ||
| − | ===Специальный формат записи <tt>.ifp</tt>=== | + | ====Специальный формат записи <tt>.ifp</tt>==== |
В этом случае первой записью является специальный блок, который представляет собой заголовок (обыкновенного формата), в котором смещения имеют специальные значения = -1001, и набор вхождений следующего формата: | В этом случае первой записью является специальный блок, который представляет собой заголовок (обыкновенного формата), в котором смещения имеют специальные значения = -1001, и набор вхождений следующего формата: | ||
| Строка 125: | Строка 150: | ||
Число вхождений кратно 4. Записи, на которые ссылается специальный блок связаны между собой как описано выше. Общее количество ссылок для данного термина сохраняется только в специальном блоке. | Число вхождений кратно 4. Записи, на которые ссылается специальный блок связаны между собой как описано выше. Общее количество ссылок для данного термина сохраняется только в специальном блоке. | ||
| − | ===Модификация записей файла <tt>.ifp</tt>=== | + | ====Модификация записей файла <tt>.ifp</tt>==== |
При выполнении актуализации инвертированного файла могут создаваться новые дополнительные записи при добавлении новых ссылок. В этом случае создается новая запись размером, равным общему количеству ссылок, если нет специального блока, и размером, равным количеству ссылок в данной записи, если есть. Новая запись создается таким образом, чтобы не нарушалась возрастающая последовательность следования ссылок. Новая запись связывается с существующими через поле NXT_, ссылки распределяются равномерно между старой и новой записью. | При выполнении актуализации инвертированного файла могут создаваться новые дополнительные записи при добавлении новых ссылок. В этом случае создается новая запись размером, равным общему количеству ссылок, если нет специального блока, и размером, равным количеству ссылок в данной записи, если есть. Новая запись создается таким образом, чтобы не нарушалась возрастающая последовательность следования ссылок. Новая запись связывается с существующими через поле NXT_, ссылки распределяются равномерно между старой и новой записью. | ||
| Строка 131: | Строка 156: | ||
==Ссылки== | ==Ссылки== | ||
| − | См. также: | + | '''См. также:''' |
* [[Базы данных ИРБИС]] | * [[Базы данных ИРБИС]] | ||
* [[Таблица выбора полей]] | * [[Таблица выбора полей]] | ||
| Строка 138: | Строка 163: | ||
* [http://nbuv.gov.ua/books/19/isis/24.htm The UNESCO micro CDS/ISIS Software. Приложение 7. Структура инвертированного файла и форматы записей] | * [http://nbuv.gov.ua/books/19/isis/24.htm The UNESCO micro CDS/ISIS Software. Приложение 7. Структура инвертированного файла и форматы записей] | ||
| − | Источники информации: | + | '''Источники информации:''' |
| + | * [[Общее описание системы ИРБИС64]] | ||
* [http://lib.omgtu.ru/irb/doc ИРБИС 64/128. Общее описание системы] | * [http://lib.omgtu.ru/irb/doc ИРБИС 64/128. Общее описание системы] | ||
Версия 18:48, 30 мая 2014
Инвертированный файл (также используется название инверсный файл) используется в качестве индекса базы данных ИРБИС.
Пользователи системы ИРБИС для обозначения индекса базы данных используют термин словарь базы данных (см. подраздел Словарь базы данных ИРБИС (инвертированный файл) статьи Базы данных ИРБИС).
Описание механизма актуализации инвертированного файла в связи с изменением отдельной записи см. в статье Механизм актуализации записи.
Содержание
Структура индекса базы данных ИРБИС
Индекс базы данных ИРБИС представляет собой совокупность двух структур: словарь поисковых терминов в структуре бинарного дерева и список индексных ссылок, соответствующих каждому термину.
Система связывает с каждым поисковым термином список индексных ссылок, обеспечивающих требуемую связь с записями. Каждый термин имеет столько индексных ссылок, сколько раз он встречается в базе данных.
Для поддержки развитых средств поиска, имеющихся в языке поиска, таких, например, как поиск по ключевым словам в определенных элементах описания, каждая индексная ссылка содержит помимо MFN записи некоторую дополнительную информацию, имеющую отношение к расположению термина в записи.
Индексная ссылка имеет следующие 4 компоненты:
- MFN записи, содержащей термин. Эта компонента вводится в состав индексной ссылки при актуализации/формировании словаря автоматически.
- Идентификатор поля, используемый в процессе поиска при указании квалификатора. Эта компонента вводится в состав индексной ссылки на основе ТВП. Обратите внимание на то, что один и тот же идентификатор поля может быть присвоен различным полям, указанным в формате выборки.
- Номер экземпляра (повторения) повторяющегося поля, необходимый для осуществления поиска на уровне поля и операторов близости расположения терминов в повторяющихся полях (в АРМах ИРБИС это используется при поиске по логике «И (в поле)»). Для того, чтобы можно было использовать указанный метод поиска (обычно для этого необходим метод индексирования 4 или 8), необходимо определить формат в ТВП таким, чтобы в его выходных данных между экземплярами повторяющегося поля располагался знак процента (%), для чего нужно задать его в качестве повторяющегося суффикс-литерала. Например, строка ТВП для инвертирования повторяющегося поля 10 должна содержать формат v10|%|. Система перед обработкой каждой строки ТВП устанавливает номер повторения в 1 и затем увеличивает его на 1 всякий раз, когда в созданном форматом тексте встречается символ %.
- Последовательный номер термина, необходимый для осуществления поиска по близости расположения терминов (в АРМах ИРБИС это используется при поиске по логике «И (фраза)»). Управление присвоением данного номера происходит следующим образом: он устанавливается в 1 перед обработкой каждой строки ТВП и при изменении номера повторения и увеличивается на 1 для каждого элемента, созданного указанным методом индексирования. Например, предположим, что в повторяющемся поле 331 содержится краткое содержание литературного источника, причем каждое повторение состоит из одного абзаца. Пусть данное поле проиндексировано методом 4. Если определить формат выборки данных mdl,v331|%|, то начиная с каждого абзаца краткого содержания словам будет присваиваться последовательный номер, начиная с 1 в каждом абзаце, а если бы формат выборки был равным mdl,v331, то словам присваивался бы сквозной последовательный номер по всему краткому содержанию, например, первое слово второго абзаца имело бы последовательный номер на 1 больше номера последнего слова первого абзаца.
Построение индекса базы данных ИРБИС
Построение индекса базы данных ИРБИС определяется таблицей выбора полей для инвертированного файла.
Использование ТВП для инвертированного файла не сводится только к порождению элементов на основе записей данных.
На основе полученных с помощью ТВП элементов (список поисковых терминов) строится словарь поисковых терминов.
Словарь поисковых терминов в совокупности с индексными ссылками, созданные с использованием ТВП для инвертированного файла на основе всех записей (документов) базы данных, образуют словарь (инвертированный файл) базы данных.
Для ИРБИС версии 2012.1 и старше дополнительно к таблице выбора полей используется таблица актуализации. Подробнее см. в статье Механизм актуализации записи.
Файлы индекса базы данных ИРБИС
Индекс базы данных ИРБИС хранится на файловой системе в виде трёх файлов: словарь поисковых терминов в файлах .n01 и .l01; список индексных ссылок в файле .ifp.
В бинарном дереве файл с расширением .n01 содержит узлы дерева и файл с расширением .l01 – листья. Записи с листьями указывают на файл ссылок .ifp.
Об особенностях размещения файлов .n01, .l01 и .ifp см. подраздел Файлы баз данных ИРБИС статьи Файлы ИРБИС.
Взаимосвязи между файлами .n01 и .l01 обеспечиваются ссылками, которые представляют собой относительные адреса соответствующих записей. Относительный адрес это порядковый номер записи в данном файле.
Структура записи одинакова для .n01 и .l01 файлов. Размер (длина) записи зависит от реализации (512, 1024, 2048, 4096). Таким образом, максимальный размер файлов .l01 и .n01 определяется как 2 Гб * размер записи. В данной реализации размер записи 2048.
Адрес корневой записи файла .n01 сохраняется как номер первой записи.
Смещение на запись в файле .ifp сохраняется в файле .l01 и имеет длину 64 байта (в данной реализации используется только младшее слово этого смещения).
Формат файлов .n01 и .l01
Файлы состоят из записей (блоков) постоянной длины. Записи состоят из трех частей: лидера, справочника и ключей переменной длины.
Формат лидера записи:
| Число бит | Параметр | Описание |
|---|---|---|
| 32 | NUMBER | номер записи (начиная с 1; в .n01 файле номер первой записи равен номеру корневой записи дерева) |
| 32 | PREV | номер предыдущей записи (если нет = -1) |
| 32 | NEXT | номер следующей записи (если нет = -1) |
| 16 | TERMS | число ключей в записи |
| 16 | OFFSET_FREE | смещение на свободную позицию в записи (от начала записи) |
Справочник это таблица, определяющая поисковый термин. Каждый ключ переменной длины, который есть в записи, представлен в справочнике одним вхождением следующего формата:
| Число бит | Параметр | Описание |
|---|---|---|
| 16 | LEN | длина ключа |
| 16 | OFFSET_KEY | смещение на ключ (от начала записи) |
| 32 | LOW | В .n01 файле: ссылка на запись файла .n01 (если LOW > 0) или файла .l01 (если LOW < 0), у которых 1-й ключ равен данному.
Положительное значение LOW определяет ветку индекса иерархически более низкого уровня. Самый низкий уровень индекса (LOW < 0) соответствует ссылкам на записи (листья) файла .l01. В .l01 файле: младшее слово 8-байтового смещения на ссылочную запись в .ifp. |
| 32 | HIGH | В .n01 файле: всегда 0.
В .l01 файле: старшее слово 8 байтового смещения на ссылочную запись в .ifp. |
Ключи переменной длины записываются начиная с конца записи, так что порядок входов, соответствующих им, определяется алфавитным порядком ключей. Сами ключи располагаются вплотную друг к другу без разделителей в порядке поступления на запись.
- Длина справочника 12 * TERMS.
- Длина ключей = [Размер записи] – OFSET_FREE.
- Размер свободного места в записи = 16 + 12 * TERMS - [длина ключей].
- Размер записи зависит от реализации и может быть равен в байтах: 512, 1024, 2048, 4096.
Формат файла .ifp
Файл содержит список ссылок для каждого термина словаря.
Список ссылок может быть представлен в 2-х различных форматах. Выбор формата размещения ссылок осуществляется при загрузке словаря из файла .lk1 (этот файл формируется после отбора и сортировки терминов) в зависимости от общего числа ссылок для данного термина. Обыкновенный формат – это заголовок блока и набор упорядоченных ссылок. По превышении определенного числа ссылок (MIN_POSTINGS_IN_BLOCK – в данной реализации 256) формат включает специальный блок и набор блоков обыкновенного формата размер которых определяется по следующей схеме: блоки 4, 8, 16, 32 Кб для общего числа ссылок соответственно 256-32000, 32000-64000, 64000-128000, 128000 и более.
Такая схема оптимизирует работу с диском в процессе инвертирования записи в базах данных, характеризующихся большим количеством ссылок на термин.
Обыкновенный формат записи .ifp
Запись состоит из заголовка и упорядоченного набора ссылок.
Ссылка имеет следующий формат:
| Число бит | Параметр | Описание |
|---|---|---|
| 32 | PMFN | номер записи |
| 32 | PTAG | идентификатор поля, назначенный при отборе терминов в словарь |
| 32 | POCC | номер повторения |
| 32 | PCNT | номер термина в поле |
Заголовок имеет следующий формат:
| Число бит | Параметр | Описание |
|---|---|---|
| 32 | LOW | младшее слово смещения на следующую запись (если нет 0) |
| 32 | HIGH | старшее слово смещения на следующую запись (если нет 0) |
| 32 | TOTP | общее число ссылок для данного термина (только в первой записи); число ссылок в данном блоке (в следующих записях) |
| 32 | SEGP | число ссылок в данном блоке |
| 32 | SEGC | вместимость записи в ссылках |
Признак последнего блока – LOW = HIGH = -1
Специальный формат записи .ifp
В этом случае первой записью является специальный блок, который представляет собой заголовок (обыкновенного формата), в котором смещения имеют специальные значения = -1001, и набор вхождений следующего формата:
| Число бит | Параметр | Описание |
|---|---|---|
| 32 | POSTING | 1-я ссылка из записи обыкновенного формата |
| 32 | LOW | младшее слово смещения на следующую запись (если нет 0) |
| 32 | HIGH | старшее слово смещения на следующую запись (если нет 0) |
Число вхождений кратно 4. Записи, на которые ссылается специальный блок связаны между собой как описано выше. Общее количество ссылок для данного термина сохраняется только в специальном блоке.
Модификация записей файла .ifp
При выполнении актуализации инвертированного файла могут создаваться новые дополнительные записи при добавлении новых ссылок. В этом случае создается новая запись размером, равным общему количеству ссылок, если нет специального блока, и размером, равным количеству ссылок в данной записи, если есть. Новая запись создается таким образом, чтобы не нарушалась возрастающая последовательность следования ссылок. Новая запись связывается с существующими через поле NXT_, ссылки распределяются равномерно между старой и новой записью.
Ссылки
См. также:
- Базы данных ИРБИС
- Таблица выбора полей
- Механизм актуализации записи
- Файлы ИРБИС
- The UNESCO micro CDS/ISIS Software. Приложение 7. Структура инвертированного файла и форматы записей
Источники информации:
