Полнотекстовые базы данных ИРБИС — различия между версиями
Sokv (обсуждение | вклад) |
Sokv (обсуждение | вклад) |
||
| Строка 91: | Строка 91: | ||
* ''относительные'' – ссылки на тексты, находящиеся в папке базы данных; | * ''относительные'' – ссылки на тексты, находящиеся в папке базы данных; | ||
* ''абсолютные'' – полный путь, включающий имя компьютера, в формате UNC (например, <tt>\\ComputerName\SharedFolder\Resource.pdf</tt>); | * ''абсолютные'' – полный путь, включающий имя компьютера, в формате UNC (например, <tt>\\ComputerName\SharedFolder\Resource.pdf</tt>); | ||
| − | * ссылки в формате URL. | + | * ссылки в формате URL; |
| + | * ссылки на тексты, находящиеся в архиве (<tt>.zip</tt> или <tt>.rar</tt>). | ||
Дополнительно к основной ссылке может [[#Индексирование документов, из которых невозможно извлечение текста|может присутствовать ссылка на ''подложку'']]. | Дополнительно к основной ссылке может [[#Индексирование документов, из которых невозможно извлечение текста|может присутствовать ссылка на ''подложку'']]. | ||
| Строка 149: | Строка 150: | ||
====Интерпретация ссылок==== | ====Интерпретация ссылок==== | ||
| − | + | В каждой записи полнотекстовой базы данных ИРБИС в поле 952 (по умолчанию) в совокупности подполей <tt>^B</tt>, <tt>^C</tt>, <tt>^I</tt> хранится ссылка на один объект полнотекстового поиска. Поле 952 не повторяющееся. Различные подполя используются в зависимости от [[#Виды ссылок на полные тексты|вида объекта полнотекстового поиска и вида ссылки]]. | |
| − | Если подполе <tt>^ | + | Если заполнено подполе <tt>^I</tt>, то ссылка представляет собой URL (HTTP или FTP), который и содержится в данном подполе. |
| − | Если подполе <tt>^C</tt> заполнено, то | + | Если подполе <tt>^C</tt> не заполнено, то считается, что в подполе <tt>^B</tt> хранится относительная или абсолютная ссылка на текст целиком. |
| + | |||
| + | Если подполе <tt>^C</tt> заполнено, то совокупность подполей <tt>^B</tt> и <tt>^C</tt> содержит ссылку на текст в архиве или на страницу PDF или DJVU документа. | ||
| + | |||
| + | В этих случаях в подполях <tt>^B</tt> и <tt>^C</tt> хранятся значения, которые можно рассматривать как некие виртуальные ссылки "в формате Windows" (совокупность пути и имени файла). | ||
| + | |||
| + | Если в подполе <tt>^C</tt> "расширение файла" <tt>.pdf</tt> или <tt>.djvu</tt>, то в этих подполях ссылка на страницу PDF или DJVU документа. | ||
| + | |||
| + | Тогда, если из подполя <tt>^B</tt> взять "путь к файлу", а из подполя <tt>^C</tt> взять "имя файла", то получится путь и имя PDF или DJVU файла. Получить номер страницы можно, имея в виду следующее правило: виртуальное "имя файла" из подполя <tt>^B</tt> представляет собой исходное имя PDF или DJVU файла + суффикс, отделяющий имя от номера страницы (по умолчанию два знака подчёркивания __) + номер страницы, дополненный лидирующими нулями до 4 символов + расширение исходного файла. | ||
При использовании HTTP-ссылок формат файла определяется по заголовку HTTP. Во всех остальных случаях по расширению файла. | При использовании HTTP-ссылок формат файла определяется по заголовку HTTP. Во всех остальных случаях по расширению файла. | ||
| Строка 183: | Строка 192: | ||
При индексировании полнотекстовой базы данных для каждого [[#Объекты полнотекстового поиска в ИРБИС|объекта полнотекстового поиска]] (то есть, для каждой ''записи'') индексированию подлежит текст, получаемый из файла, соответствующего ссылке. Ссылка [[#Интерпретация ссылок|интерпретируется в соответствии с правилами, оговоренными в подразделе ''Интерпретация ссылок'']]. | При индексировании полнотекстовой базы данных для каждого [[#Объекты полнотекстового поиска в ИРБИС|объекта полнотекстового поиска]] (то есть, для каждой ''записи'') индексированию подлежит текст, получаемый из файла, соответствующего ссылке. Ссылка [[#Интерпретация ссылок|интерпретируется в соответствии с правилами, оговоренными в подразделе ''Интерпретация ссылок'']]. | ||
| − | Если установлена ассоциация документа с текстом-подложкой, то индексированию подлежит текст из ''подложки''. В этом случае (при индексировании) основной файл объекта полнотекстового поиска не используется. | + | Если установлена ассоциация документа с текстом-подложкой, то индексированию подлежит текст из ''подложки''. В этом случае (при индексировании) основной файл объекта полнотекстового поиска не используется. В соответствии со ссылкой на основной файл объекта полнотекстового поиска определяется местонахождение файла ''подложки''. |
О дальнейшем порядке индексирования в соответствии с методом 9 см. [[Таблица выбора полей#Метод индексирования 9|в подразделе ''Метод индексирования 9'' статьи ''Таблица выбора полей'']]. | О дальнейшем порядке индексирования в соответствии с методом 9 см. [[Таблица выбора полей#Метод индексирования 9|в подразделе ''Метод индексирования 9'' статьи ''Таблица выбора полей'']]. | ||
Версия 01:25, 16 января 2013
Полнотекстовые базы данных ИРБИС являются видом баз данных ИРБИС 64. Полнотекстовые базы данных ИРБИС и программные продукты ИРБИС 64 для полнотекстовых баз данных обеспечивают возможность полнотекстового поиска по коллекциям текстовых документов.
Содержание
- 1 Основные возможности ИРБИС 64 по работе с полнотекстовыми базами данных
- 2 Отличие возможности включения полнотекстовых документов в базу данных от возможности связывания документов базы данных с внешними объектами
- 3 Программные продукты для работы с полнотекстовыми базами данных ИРБИС 64
- 4 Концепция полнотекстовых баз данных ИРБИС
- 5 Структура полнотекстовых баз данных ИРБИС
- 6 Индексирование полнотекстовых баз данных ИРБИС
- 7 Устаревшие возможности ИРБИС 64 по работе с полнотекстовыми базами данных
- 8 Возможность размещения полнотекстовых документов в специально предназначенном архиве (не поддерживается с версии 2010.1)
- 9 Ссылки
Основные возможности ИРБИС 64 по работе с полнотекстовыми базами данных
Возможности для создателей электронных коллекций текстовых документов:
- Сформировать полнотекстовую базу данных ИРБИС, которая обеспечит возможность полнотекстового поиска по коллекции текстовых документов.
- С помощью программного обеспечения ИРБИС предоставить пользователям доступ к коллекции в локальной сети, Интернет или на CD/DVD.
Возможности для пользователей: получить доступ к коллекции текстовых документов для полнотекстового поиска и просмотра найденных документов.
Полнотекстовые базы данных ИРБИС обеспечивают возможность работы с текстовыми документами в форматах: HTML, TXT, RTF, PDF, DJVU, DOC, XLS, PPT.
Отличие возможности включения полнотекстовых документов в базу данных от возможности связывания документов базы данных с внешними объектами
Не следует путать возможность включения полнотекстовых документов с возможностью связывания документов базы данных с внешними объектами.
Сходства возможностей:
- Обе эти возможности позволяют установить связь документов базы данных с внешними объектами.
Различия возможностей:
- Возможность связывания документов базы данных с внешними объектами ограничивается обеспечением простоты перехода пользователя от документа базы данных к внешнему объекту.
- Возможность включения полнотекстовых документов в базу данных обеспечивает полнотекстовый поиск, а также переход пользователя к найденным внешним объектам.
Программные продукты для работы с полнотекстовыми базами данных ИРБИС 64
Функциональность по работе с полнотекстовыми базами данных ИРБИС 64 обеспечивают следующие программные продукты:
- АРМ Администратор полнотекстовых БД – рабочее место специалиста, которое позволяет формировать полнотекстовые базы данных и обслуживать их.
- АРМ Читатель для полнотекстовых БД – рабочее место пользователя электронных коллекций.
- Веб-шлюз ИРБИС для полнотекстовых БД – обеспечивает доступ к коллекциям полнотекстовых документов пользователей Интернета (и/или локальной сети) с помощью веб-браузера.
Концепция полнотекстовых баз данных ИРБИС
Объекты полнотекстового поиска в ИРБИС
Полнотекстовые базы отличаются тем, что обеспечивают возможность поиска текстов.
Поиск текстов реализован как поиск неких объектов полнотекстового поиска. Объект полнотекстового поиска (текст или часть текста) рассматривается как некая самостоятельная единица, которая может быть найдена и выдана по запросу пользователя.
В ИРБИС предусмотрены объекты полнотекстового поиска следующих видов:
- текстовые файлы целиком (любого формата из списка, приведённого в подразделе Основные возможности ИРБИС 64 по работе с полнотекстовыми базами данных) и
- отдельные страницы текстовых файлов (формата PDF или DJVU).
Понятие объекта полнотекстового поиска является одним из ключевых в концепции полнотекстовых баз данных:
- в процессе формирования в базе данных сохраняются ссылки на объекты полнотекстового поиска;
- именно они подлежат индексированию;
- и именно объекты полнотекстового поиска (соответствующие поисковому запросу) будут выданы конечному пользователю в качестве результатов поиска.
Формирование полнотекстовой базы данных
Формирование полнотекстовой базы данных предполагает добавление в полнотекстовую базу данных ссылок на тексты и последующее индексирование текстов.
Добавление в полнотекстовую базу данных ссылки на текст (объект полнотекстового поиска) принято называть включением текста в базу данных или добавлением текста в базу данных.
Включение текстов в базу осуществляется с помощью АРМ Администратор, подробнее см. в подразделе Включение текстов в полнотекстовую базу данных статьи АРМ Администратор полнотекстовых БД.
Индексированием текстов (объектов полнотекстового поиска) называется процесс пополнения словаря полнотекстовой базы данных словами из этих текстов.
Индексирование текстов (объектов полнотекстового поиска), обеспечивает возможность полнотекстового поиска. Подробнее об индексировании см. в подразделе Индексирование полнотекстовых баз данных ИРБИС.
Особенности выбора вида объектов полнотекстового поиска
Для файлов PDF и DJVU выбор вида объектов полнотекстового поиска (текстовый файл целиком или отдельная страница) определяется при добавлении текстов в полнотекстовую базу в зависимости от выбранных опций.
В зависимости от этого в базу будут добавлены:
- один объект полнотекстового поиска, соответствующий файлу, или
- набор объектов полнотекстового поиска, соответствующий набору страниц текста.
При добавлении файлов других форматов такая возможность выбора отсутствует.
Если пользователь в результате поиска получил отдельную страницу текста, он имеет возможность перейти к другим страницам.
Структура полнотекстовых баз данных ИРБИС
Структура полнотекстовых баз данных ИРБИС основывается на возможностях логической структуры баз данных ИРБИС 64.
При формировании полнотекстовой базы в соответствие каждому объекту полнотекстового поиска в базе создаётся запись, содержащая ссылку на соответствующий файл.
Каждому объекту полнотекстового поиска соответствует одна ссылка на файл. За исключением случаев использования "подложек", представляющих собой текстовый слой, вынесенный в отдельный файл.
Ссылки на полные тексты
Виды ссылок на полные тексты
В полнотекстовых базах данных ИРБИС используется несколько видов ссылок на тексты (объекты полнотекстового поиска).
Виды ссылок по видам объектов полнотекстового поиска:
- ссылка на текст целиком,
- ссылка на страницу текста (для документов в формате PDF и DJVU).
Виды ссылок по способу адресации:
- относительные – ссылки на тексты, находящиеся в папке базы данных;
- абсолютные – полный путь, включающий имя компьютера, в формате UNC (например, \\ComputerName\SharedFolder\Resource.pdf);
- ссылки в формате URL;
- ссылки на тексты, находящиеся в архиве (.zip или .rar).
Дополнительно к основной ссылке может может присутствовать ссылка на подложку.
Примечание: до введения в ИРБИС 2011.1 соответствующего запрета в АРМ Администратор было возможно введение абсолютных ссылок, начинающихся с имени диска.
Форма записи ссылок на полные тексты в базе данных
Для ссылок на файлы полных текстов в полнотекстовой базе данных используется выбранное для этого поле (по умолчанию метка поля 952).
Поле доступно на рабочем листе Технологическая в АРМ Каталогизатор.
В зависимости от вида, ссылка определённым образом хранится в соответствующих подполях, а также по определённому алгоритму интерпретируется при считывании из данных подполей.
Подполя, содержащие ссылку на файл текста:
- А – имя файла полного текста. Данное подполе используется только для хранения ссылок на полнотекстовые документов в архиве с именем базы данных и расширением .izp, находящемся в папке базы данных. Начиная с версии 10.1 данный вид ссылок не поддерживается.
- B – в зависимости от вида ссылки это относительный, полный или виртуальный путь к файлу полного текста, или же некоторые данные, дополняющие гиперссылку. Относительный путь используется для полнотекстовых документов, хранящихся в папке базы данных (относительный путь начинается с точки). Полные пути используются для ссылок на полнотекстовые документы, находящиеся вне папки базы данных. Виртуальные пути к текстовым документам используются для ссылок на полнотекстовые документы, хранящиеся в архивах .zip и .rar, а также в случае ссылок на отдельные страницы многостраничных документов .pdf и .djvu. Виртуальная ссылка, хранящаяся в этом подполе, позволяет узнать имя файла внутри архива или номер страницы многостраничного документа, но не имя файла архива или многостраничного документа.
- C – полный путь к файлу zip/rar/pdf/djvu. Данное подполе используется для ссылок на полнотекстовые документы в архиве или отдельные страницы многостраничного документа.
- I – URL текста, перенесённого из электронного каталога.
Дополнительные подполя:
- T – ссылка на файл подложки. Представляет собой имя текстового файла, подразумевается, что местонахождение файла подложки обязательно соответствует местонахождению полнотекстового документа.
- U – введено для технологических целей в версии 2010.1, объединяет в себе информацию из подполей B, C и I. Фактически не используется.
Примечание: особенность ссылок на отдельную страницу документа в том, что относительные или абсолютные ссылки отличаются подполем ^B, а в подполе ^C в обоих случаях хранится абсолютный путь (который не используется). Эта избыточность сложилась исторически. Избыточность стала причиной ошибки, которая была исправлена в версии 2011.1 (см. ошибочное использование абсолютного пути из подполя ^C в случае относительных ссылок с разбиением на страницы).
Примеры заполнения подполей:
- Относительная ссылка на документ
^B.\texts\irbis64_2008.doc
- Абсолютная ссылка на документ
^B\\ComputerName\SharedFolder\FullTexts\doc\ИРБИС_документация\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ.doc
- Ссылка на 69-ю страницу pdf-документа (относительная ссылка на документ)
^B.\FullTexts\pdf\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ__0069.pdf^CC:\irbisFT-2010-02-15\IRBIS64\Datai\TEST-PDF\FullTexts\pdf\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ.pdf
- Ссылка на 1-ю страницу pdf-документа (абсолютная ссылка на документ)
^B\\ComputerName\SharedFolder\FullTexts\pdf\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ__0001.pdf^C\\ComputerName\SharedFolder\FullTexts\pdf\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ.pdf
- Ссылка на документ в архиве
^B\\ComputerName\SharedFolder\FullTexts\rar\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ.pdf^C\\ComputerName\SharedFolder\FullTexts\rar\ИРБИС_документация.rar
- Ссылка на документ в архиве .izp
^AТехническая документация для WEB ИРБИС64 и WEB ИРБИС32.doc
- Абсолютная ссылка на текстовый документ с подложкой
^B\\127.0.0.1\FullTexts\!test cases\pdf\external text layer\1.pdf^T1.pdf.txt^Uuri:irbis:\\127.0.0.1\FullTexts\!test cases\pdf\external text layer\1.pdf
Интерпретация ссылок
В каждой записи полнотекстовой базы данных ИРБИС в поле 952 (по умолчанию) в совокупности подполей ^B, ^C, ^I хранится ссылка на один объект полнотекстового поиска. Поле 952 не повторяющееся. Различные подполя используются в зависимости от вида объекта полнотекстового поиска и вида ссылки.
Если заполнено подполе ^I, то ссылка представляет собой URL (HTTP или FTP), который и содержится в данном подполе.
Если подполе ^C не заполнено, то считается, что в подполе ^B хранится относительная или абсолютная ссылка на текст целиком.
Если подполе ^C заполнено, то совокупность подполей ^B и ^C содержит ссылку на текст в архиве или на страницу PDF или DJVU документа.
В этих случаях в подполях ^B и ^C хранятся значения, которые можно рассматривать как некие виртуальные ссылки "в формате Windows" (совокупность пути и имени файла).
Если в подполе ^C "расширение файла" .pdf или .djvu, то в этих подполях ссылка на страницу PDF или DJVU документа.
Тогда, если из подполя ^B взять "путь к файлу", а из подполя ^C взять "имя файла", то получится путь и имя PDF или DJVU файла. Получить номер страницы можно, имея в виду следующее правило: виртуальное "имя файла" из подполя ^B представляет собой исходное имя PDF или DJVU файла + суффикс, отделяющий имя от номера страницы (по умолчанию два знака подчёркивания __) + номер страницы, дополненный лидирующими нулями до 4 символов + расширение исходного файла.
При использовании HTTP-ссылок формат файла определяется по заголовку HTTP. Во всех остальных случаях по расширению файла.
Индексирование полнотекстовых баз данных ИРБИС
Возможность полнотекстового поиска обеспечивает механизм индексирования. Специально разработанный для полнотекстовых баз данных метод индексирования 9 позволяет индексировать включённые в базу данных файлы полных текстов.
В словарь попадают только те термины, которые присутствуют в полнотекстовых документах в текстовом виде (не в виде графического изображения).
Получение текста в пригодной для индексирования форме из файлов, включённых в базу данных, называется в данной документации извлечением текста.
Подробнее о возможностях АРМ Администратор ИРБИС полнотекстовых БД по работе со словарём см. в подразделе Обслуживание словаря базы данных ИРБИС статьи АРМ Администратор и в подразделе Обслуживание словаря полнотекстовых баз данных ИРБИС статьи АРМ Администратор полнотекстовых БД.
Индексирование документов, из которых невозможно извлечение текста
Если при включении полнотекстового документа найдена соответствующая ему подложка, то в соответствующем подполе базы данных сохраняется ссылка на файл подложки. Таким образом происходит ассоциация полнотекстового документа с соответствующей подложкой.
Если с полнотекстовым документом ассоциирована подложка, то при построении словаря будет использован содержащийся в подложке текст. Для показа пользователю будет использован сам включённый в базу документ.
Подробнее см. в подразделе Ассоциация текста-подложки с включаемым в полнотекстовую базу документом статьи АРМ Администратор полнотекстовых БД.
Индексирование файлов PDF, защищённых паролем
В ИРБИС возможно индексирование файлов PDF, защищённых паролем. Предусмотрена возможность использования только одного пароля. Подробнее см. в подразделе Извлечение текстовых данных из PDF-файлов, защищённых паролем статьи АРМ Администратор полнотекстовых БД.
Порядок получения текста при индексировании с помощью 9 метода
При индексировании полнотекстовой базы данных для каждого объекта полнотекстового поиска (то есть, для каждой записи) индексированию подлежит текст, получаемый из файла, соответствующего ссылке. Ссылка интерпретируется в соответствии с правилами, оговоренными в подразделе Интерпретация ссылок.
Если установлена ассоциация документа с текстом-подложкой, то индексированию подлежит текст из подложки. В этом случае (при индексировании) основной файл объекта полнотекстового поиска не используется. В соответствии со ссылкой на основной файл объекта полнотекстового поиска определяется местонахождение файла подложки.
О дальнейшем порядке индексирования в соответствии с методом 9 см. в подразделе Метод индексирования 9 статьи Таблица выбора полей.
Устаревшие возможности ИРБИС 64 по работе с полнотекстовыми базами данных
Возможность размещения полнотекстовых документов в специально предназначенном архиве (не поддерживается с версии 2010.1)
Примечание: начиная с версии 2010.1 данная возможность не поддерживается, в связи с чем не рекомендуется к использованию.
Опции включения полнотекстовых документов, совместимые с данной:
- Возможно включение как указанных пользователем документов, так и всех документов из указанной папки.
Достоинства:
- Компактное хранение полнотекстовых документов (это относится к документам, хорошо поддающимся сжатию при архивации).
- При перемещении папки с базой данных не требуется изменений в ссылках на файлы, поскольку ссылки являются относительными (только имя документа в архиве).
Недостатки:
- Дополнительные затраты времени на разархивирование при обеспечении доступа к полнотекстовому документу.
- Тексты не доступны через Веб-ИРБИС.
Ссылки
См. также:
- Развёртывание программного обеспечения ИРБИС 64 для полнотекстовых баз данных
- Известные проблемы и их решения, касающиеся работы с полнотекстовыми базами ИРБИС
- Базы данных ИРБИС
- АРМ Администратор полнотекстовых БД
- АРМ Администратор
- Рекомендации по обслуживанию баз данных ИРБИС
- Связывание документов базы данных ИРБИС с внешними объектами
- Метод индексирования 9
Источники информации:
