Полнотекстовые базы данных ИРБИС — различия между версиями

Материал из Wikipedia
Перейти к: навигация, поиск
(→‎Ссылки)
(→‎Ссылки)
 
(не показано 11 промежуточных версий этого же участника)
Строка 1: Строка 1:
−
''Полнотекстовые базы данных ИРБИС'' являются видом [[Базы данных ИРБИС#Виды баз данных ИРБИС 64|баз данных ИРБИС 64]]. ''Полнотекстовые базы данных ИРБИС'' и программные продукты ''ИРБИС 64 для полнотекстовых баз данных'' [http://intranet.gpntb.ru/subscribe/?journal=ntb&year=2005&num=11&art=13 обеспечивают возможность ранжированного полнотекстового поиска] по коллекциям текстовых документов.
+
''Полнотекстовые базы данных ИРБИС'' – [http://intranet.gpntb.ru/subscribe/?journal=ntb&year=2005&num=11&art=13 решение, обеспечивающее возможность ранжированного полнотекстового поиска по коллекциям текстовых документов].
 +
 
 +
В основе данного решения:
 +
* программные продукты ''ИРБИС 64 для полнотекстовых баз данных'', в которых реализован [[Механизм полнотекстового поиска]] и
 +
* [[Полнотекстовая база данных (вид баз данных ИРБИС)|''полнотекстовые базы данных ИРБИС'']] – как вид [[Базы данных ИРБИС#Виды баз данных ИРБИС 64|баз данных ИРБИС 64]].
  
 
==Основные возможности ИРБИС 64 по работе с полнотекстовыми базами данных==
 
==Основные возможности ИРБИС 64 по работе с полнотекстовыми базами данных==
  
−
Возможности для создателей электронных коллекций текстовых документов:
+
'''Возможности для создателей электронных коллекций текстовых документов''':
−
* Сформировать полнотекстовую базу данных ИРБИС, которая обеспечит возможность полнотекстового поиска по коллекции текстовых документов.
+
* Сформировать полнотекстовую базу данных ИРБИС – указать текстовые документы, по которым система обеспечит возможность полнотекстового поиска.
 
* С помощью программного обеспечения ИРБИС предоставить пользователям доступ к коллекции в локальной сети, Интернет или на CD/DVD.
 
* С помощью программного обеспечения ИРБИС предоставить пользователям доступ к коллекции в локальной сети, Интернет или на CD/DVD.
  
−
Возможности для пользователей: получить доступ к коллекции текстовых документов для ранжированного полнотекстового поиска и просмотра найденных документов.
+
'''Возможности для пользователей''': получить доступ к коллекции текстовых документов для ранжированного полнотекстового поиска и просмотра найденных документов.
  
 
Полнотекстовые базы данных ИРБИС обеспечивают возможность работы с текстовыми документами в форматах: HTML, TXT, RTF, PDF, DJVU, DOC, XLS, PPT.
 
Полнотекстовые базы данных ИРБИС обеспечивают возможность работы с текстовыми документами в форматах: HTML, TXT, RTF, PDF, DJVU, DOC, XLS, PPT.
Строка 47: Строка 51:
 
Формирование полнотекстовой базы данных предполагает добавление в полнотекстовую базу данных ''текстов'' (также принято называть ''включение текстов в базу данных'') и их последующее индексирование.
 
Формирование полнотекстовой базы данных предполагает добавление в полнотекстовую базу данных ''текстов'' (также принято называть ''включение текстов в базу данных'') и их последующее индексирование.
  
−
Фактически, при добавлении ''текстов'', они рассматриваются как [[#Объекты полнотекстового поиска в ИРБИС|объекты полнотекстового поиска]], в соответствие каждому из которых в базе создаётся ''запись'', содержащая [[#Ссылки на полные тексты|ссылку]] на данный объект. Подробнее см. в [[#Структура полнотекстовых баз данных ИРБИС|подразделе ''Структура полнотекстовых баз данных ИРБИС'']].
+
Фактически, при добавлении ''текстов'', они рассматриваются как [[#Объекты полнотекстового поиска в ИРБИС|объекты полнотекстового поиска]], в соответствие каждому из которых в базе создаётся ''запись'', содержащая [[Схема полнотекстовой базы данных#Ссылка на объект полнотекстового поиска|ссылку]] на данный объект. Подробнее см. в [[Схема полнотекстовой базы данных|статье ''Схема полнотекстовой базы данных'']].
  
 
Включение текстов в базу осуществляется с помощью АРМ Администратор, подробнее см. [[АРМ Администратор полнотекстовых БД#Включение текстов в полнотекстовую базу данных|в подразделе ''Включение текстов в полнотекстовую базу данных'' статьи ''АРМ Администратор полнотекстовых БД'']].
 
Включение текстов в базу осуществляется с помощью АРМ Администратор, подробнее см. [[АРМ Администратор полнотекстовых БД#Включение текстов в полнотекстовую базу данных|в подразделе ''Включение текстов в полнотекстовую базу данных'' статьи ''АРМ Администратор полнотекстовых БД'']].
Строка 117: Строка 121:
 
* полнотекстовый поиск, дополненный ограничением по элементам описания;
 
* полнотекстовый поиск, дополненный ограничением по элементам описания;
 
* возможность уточнять полнотекстовый поиск при помощи ''поиска в найденном'' по элементам описания.
 
* возможность уточнять полнотекстовый поиск при помощи ''поиска в найденном'' по элементам описания.
−
 
−
==Структура полнотекстовых баз данных ИРБИС==
 
−
 
−
Подробности см. в статье [[Схема полнотекстовой базы данных]].
 
−
 
−
===Ссылки на полные тексты===
 
−
 
−
Ссылка на текст представляет собой структуру, предназначенную для хранения информации, достаточной для обеспечения доступа к объекту полнотекстового поиска.
 
−
 
−
====Виды ссылок на полные тексты====
 
−
 
−
Ссылки на тексты из внешних файлов различаются в зависимости от [[#Объекты полнотекстового поиска в ИРБИС|объекта полнотекстового поиска]] и особенностей доступа.
 
−
 
−
Виды ссылок по способу доступа к [[#Объекты полнотекстового поиска в ИРБИС|объектам полнотекстового поиска]]:
 
−
* Объект полнотекстового поиска находится на файловой системе.
 
−
* Текстовый файл доступен по URL (HTTP или FTP).
 
−
 
−
Виды ссылок по размещению [[#Объекты полнотекстового поиска в ИРБИС|объектов полнотекстового поиска]] на файловой системе:
 
−
* Текстовый файл на файловой системе.
 
−
* Текстовый файл в архиве ZIP или RAR.
 
−
 
−
Виды ссылок в зависимости от [[#Объекты полнотекстового поиска в ИРБИС|объекта полнотекстового поиска]] (только в случае размещения текстового файла непосредственно на файловой системе):
 
−
* Текстовый файл.
 
−
* Страница многостраничного документа PDF или DJVU.
 
−
* Файл с текстовой "подложкой".
 
−
 
−
При нахождении текстового файла непосредственно на файловой системе ссылки различают по способу адресации:
 
−
* ''относительные'' – в ссылке используется относительный путь (начинается с точки, например <tt>.\texts\irbis64_2008.doc</tt>);
 
−
* ''абсолютные'' – в ссылке используется полный путь, включающий имя компьютера, в формате UNC (например, <tt>\\ComputerName\SharedFolder\Resource.pdf</tt>).
 
−
 
−
Относительный путь указывает местоположение файла относительно пути, указанного [[Файлы ИРБИС#Размещение баз данных ИРБИС 64 на файловой системе|в 11-й строке <tt>.par</tt>-файла]], по умолчанию – это папка базы данных.
 
−
 
−
При нахождении текстового файла в архиве ссылки также разделяются на ''относительные'' и ''абсолютные'', в зависимости от того, используется ли в ссылке относительный или абсолютный путь к архиву.
 
−
 
−
''Примечание: до введения в ИРБИС 2011.1 [[Отличия ИРБИС 2011.1 от предыдущей версии|соответствующего запрета в АРМ Администратор]] было возможно введение абсолютных ссылок, начинающихся с имени диска.''
 
−
 
−
''Примечание: [[Файлы ИРБИС#Размещение баз данных ИРБИС 64 на файловой системе|11-я строка <tt>.par</tt>-файла]] появилась начиная с [[Отличия ИРБИС 2012.1 от предыдущей версии|версии 2012.1]], в более ранних версиях относительный путь указывает местоположение файла относительно папки базы данных.''
 
−
 
−
====Поле для хранения ссылки====
 
−
 
−
Метка поля, используемого для хранения ссылки, задаётся в параметре <tt>Full_Text_Name</tt> конфигурационных файлов [[АРМ Администратор полнотекстовых БД]] и [[АРМ Читатель для полнотекстовых БД]] (описание параметра см. в статье [[Конфигурационные параметры ИРБИС для полнотекстовых БД]]).
 
−
 
−
По умолчанию, для хранения ссылки используется [[Использование в ИРБИС полей из блока локального использования формата RUSMARC|метка поля <tt>952</tt>]].
 
−
 
−
Данное поле не повторяющееся.
 
−
 
−
Поле доступно на рабочем листе ''Технологическая'' в [[АРМ Каталогизатор]].
 
−
 
−
====Элементы ссылки====
 
−
 
−
Ссылка на ''объект полнотекстового поиска'' в общем случае содержит следующие структурные элементы:
 
−
* ''URL''
 
−
* ''Путь к текстовому файлу''
 
−
* ''Номер страницы''
 
−
* ''Путь к файлу архива''
 
−
* ''Путь к файлу внутри архива''
 
−
* ''Имя файла с текстом-"подложкой"''
 
−
* ''Полный путь для относительной ссылки'' (является избыточным и поддерживается по историческим причинам)
 
−
 
−
В зависимости от [[#Виды ссылок на полные тексты|вида]] ссылка содержит те или иные элементы.
 
−
 
−
=====Структура, используемая для хранения ссылки в базе данных=====
 
−
 
−
Структура, используемая для хранения ссылки в базе данных представляет собой совокупность подполей <tt>^B^C^I^T^U</tt>:
 
−
* <tt>B</tt> – в зависимости от вида ссылки это относительный, полный или виртуальный путь к файлу полного текста, или же некоторые данные, дополняющие гиперссылку. Относительный путь используется для полнотекстовых документов, хранящихся в папке базы данных (относительный путь начинается с точки). Полные пути используются для ссылок на полнотекстовые документы, находящиеся вне папки базы данных. Виртуальные пути к текстовым документам используются для ссылок на полнотекстовые документы, хранящиеся в архивах <tt>.zip</tt> и <tt>.rar</tt>, а также в случае ссылок на отдельные страницы многостраничных документов <tt>.pdf</tt> и <tt>.djvu</tt>. Виртуальная ссылка, хранящаяся в этом подполе, позволяет узнать имя файла внутри архива или номер страницы многостраничного документа, но не имя файла архива или многостраничного документа.
 
−
* <tt>C</tt> – полный путь к файлу <tt>zip/rar/pdf/djvu</tt>. Данное подполе используется для ссылок на полнотекстовые документы в архиве или отдельные страницы многостраничного документа.
 
−
* <tt>I</tt> – URL текста, перенесённого из электронного каталога.
 
−
* <tt>T</tt> – ссылка на файл [[АРМ Администратор полнотекстовых БД#Ассоциация текста-подложки с включаемым в полнотекстовую базу документом|подложки]]. Представляет собой имя текстового файла, подразумевается, что местонахождение файла подложки соответствует местонахождению полнотекстового документа.
 
−
* <tt>U</tt> – введено для технологических целей [[Отличия ИРБИС 2010.1 от предыдущей версии|в версии 2010.1]]. Подполе <tt>^U</tt> было задумано как универсальная замена подполям <tt>^B^C^I</tt> с возможностью расширения, однако было признано неудобным с точки зрения его разбора средствами языка форматирования. Как следствие, подполе <tt>^U</tt> остаётся вспомогательным, и используется наряду с другими подполями.
 
−
 
−
Подполе <tt>^U</tt> всегда начинается с префикса
 
−
uri:irbis:
 
−
Дальнейшее содержимое зависит от объекта полнотекстового поиска.
 
−
 
−
''Примечание: особенность ссылок на отдельную страницу многостраничного документа (то же касается и текстов в архиве) в том, что относительные или абсолютные ссылки отличаются подполем <tt>^B</tt>, а в подполе <tt>^C</tt> в обоих случаях хранится абсолютный путь (который не используется). Эта избыточность сложилась исторически. Избыточность стала причиной ошибки, которая была [[Отличия ИРБИС 2011.1 от предыдущей версии#Исправления ошибок|исправлена в версии 2011.1 (см. ''ошибочное использование абсолютного пути из подполя <tt>^C</tt> в случае относительных ссылок с разбиением на страницы'')]].''
 
−
 
−
=====Составление ссылки=====
 
−
 
−
Ниже приведены примеры составления ссылки в зависимости от [[#Объекты полнотекстового поиска в ИРБИС|объекта полнотекстового поиска]] и особенностей доступа.
 
−
 
−
:'''Ссылка на текстовый файл'''
 
−
 
−
Объект полнотекстового поиска: текстовый файл.
 
−
 
−
Доступ: на файловой системе.
 
−
 
−
Элементы ссылки: ''путь к текстовому файлу''.
 
−
 
−
Пример относительной ссылки на текстовый файл:
 
−
^B.\texts\irbis64_2008.doc
 
−
 
−
Пример абсолютной ссылки на текстовый файл:
 
−
^B\\ComputerName\SharedFolder\FullTexts\doc\ИРБИС_документация\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ.doc
 
−
 
−
:'''Ссылка на отдельную страницу многостраничного документа'''
 
−
 
−
Объект полнотекстового поиска: отдельная страница многостраничного документа (формата PDF или DJVU).
 
−
 
−
Доступ: на файловой системе.
 
−
 
−
Элементы ссылки: ''путь к текстовому файлу'', ''номер страницы''.
 
−
 
−
Подполя: <tt>^B^C^U</tt>.
 
−
 
−
Подполе <tt>^B</tt> конструируется следующим образом:<br>
 
−
<tt><путь к файлу (без имени файла)> + <имя файла (без расширения)> + <суффикс> + <номер страницы> + <расширение файла></tt><br>
 
−
где:
 
−
* <tt><путь к файлу (без имени файла)></tt> – путь (относительный или абсолютный) к исходному многостраничному документу, без имени файла;
 
−
* <tt><имя файла (без расширения)></tt> – имя файла исходного многостраничного документа без расширения;
 
−
* <tt><суффикс></tt> – последовательность символов, которая отделяет имя файла от номера страницы (по умолчанию два знака подчёркивания <tt>__</tt>, вообще определяется [[Конфигурационные параметры ИРБИС для полнотекстовых БД|конфигурационным параметром <tt>FULL_TEXT_FileNamePrefixDiv</tt>]]);
 
−
* <tt><номер страницы></tt> – номер страницы, дополненный лидирующими нулями до 4 символов;
 
−
* <tt><расширение файла></tt> – расширение исходного многостраничного документа <tt>.pdf</tt> или <tt>.djvu</tt>.
 
−
 
−
Подполе <tt>^C</tt> представляет собой: АБСОЛЮТНЫЙ путь к файлу и имя исходного многостраничного файла. По историческим причинам в данном подполе хранится АБСОЛЮТНЫЙ путь даже в том случае, если ссылка является относительной. ''Примечание: хранение пути к файлу в подполях <tt>^B</tt> и <tt>^C</tt> представляет собой факт наличия избыточной информации; более того, АБСОЛЮТНЫЙ путь в относительной ссылке представляет собой не только избыточную, но также и потенциально недостоверную информацию, которая не должна использоваться (данная информация игнорируется при [[#Интерпретация ссылки|интерпретации ссылки]]).''
 
−
 
−
Подполе <tt>^U</tt> также содержит ''путь к текстовому файлу'' и ''номер страницы'', и игнорируется при [[#Интерпретация ссылки|интерпретации ссылки]].
 
−
 
−
Пример ссылки на 69-ю страницу <tt>pdf</tt>-документа (относительная ссылка на документ):
 
−
^B.\FullTexts\pdf\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ__0069.pdf^CC:\irbisFT-2010-02-15\IRBIS64\Datai\TEST-PDF\FullTexts\pdf\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ.pdf
 
−
 
−
Пример ссылки на 1-ю страницу <tt>pdf</tt>-документа (абсолютная ссылка на документ):
 
−
^B\\ComputerName\SharedFolder\FullTexts\pdf\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ__0001.pdf^C\\ComputerName\SharedFolder\FullTexts\pdf\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ.pdf
 
−
 
−
:'''Ссылка на текстовый файл в архиве ZIP или RAR'''
 
−
 
−
Объект полнотекстового поиска: текстовый файл.
 
−
 
−
Доступ: на файловой системе, в архиве ZIP или RAR.
 
−
 
−
Элементы ссылки: ''путь к файлу архива'', ''путь к файлу внутри архива''.
 
−
 
−
Подполе <tt>^B</tt> конструируется следующим образом:<br>
 
−
<tt><путь к файлу архива> + <путь к файлу внутри архива></tt><br>
 
−
где:
 
−
* <tt><путь к файлу архива></tt> – относительный или абсолютный путь к файлу архива, без имени архива (записывается с использованием символа <tt>"\"</tt> – обратный слэш, и завершается данным символом);
 
−
* <tt><путь к файлу внутри архива></tt> – путь к файлу внутри архива, включая имя текстового файла (записывается с использованием символа <tt>"/"</tt> – прямой слэш).
 
−
 
−
Подполе <tt>^C</tt> представляет собой: АБСОЛЮТНЫЙ полный путь к архиву (путь и имя). По историческим причинам в данном подполе хранится АБСОЛЮТНЫЙ путь даже в том случае, если ссылка является относительной. ''Примечание: хранение пути к архиву в подполях <tt>^B</tt> и <tt>^C</tt> представляет собой факт наличия избыточной информации; более того, АБСОЛЮТНЫЙ путь в относительной ссылке представляет собой не только избыточную, но также и потенциально недостоверную информацию, которая не должна использоваться (данная информация игнорируется при [[#Интерпретация ссылки|интерпретации ссылки]]).''
 
−
 
−
Подполе ^U конструируется следующим образом: <''путь к файлу архива''> + ":" + <''путь к файлу внутри архива''>, и игнорируется при [[#Интерпретация ссылки|интерпретации ссылки]].
 
−
 
−
''Примечание: Одновременно с введением подполя <tt>^U</tt> изменилась логика формирования подполя <tt>^B</tt>. С этого момента в подполе <tt>^B</tt> используются только символы <tt>\</tt> и НЕ используются символы <tt>/</tt>. Следствием стало то, что в версиях 2010.1, 2011.1 и 2012.1 присутствует ошибка при интерпретации относительной ссылки, которая может проявляться случае перемещения базы данных. В такой ситуации проблема может быть решена при помощи глобальной корректировки: чтобы ошибка не проявлялась, в подполе <tt>^C</tt> должен присутствовать полный путь к архиву. Именно для устранения данной ошибки в версии 2013.1 при разборе ссылки по возможности используется подполе <tt>^U</tt>.''
 
−
 
−
Пример:
 
−
^B\\ComputerName\SharedFolder\FullTexts\rar\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ.pdf^C\\ComputerName\SharedFolder\FullTexts\rar\ИРБИС_документация.rar
 
−
 
−
:'''Ссылка на файл, ассоциированный с текстом-"''подложкой''"'''
 
−
 
−
Объект полнотекстового поиска: файл, ассоциированный с текстом-"''подложкой''".
 
−
 
−
Доступ: на файловой системе.
 
−
 
−
Элементы ссылки: ''путь к текстовому файлу'', ''имя файла с текстом-"подложкой"''. Первый текстовый файл используется для показа пользователю, а индексированию подлежит текст из ''"подложки"''.
 
−
 
−
Подполя: <tt>^B^T^U</tt>. Подполе <tt>^B</tt> содержит ''путь к текстовому файлу'' (подполе <tt>^U</tt> также содержит данный путь). Подполе <tt>^T</tt> содержит ''имя файла с текстом-"подложкой"''.
 
−
 
−
Пример:
 
−
^B\\127.0.0.1\FullTexts\!test cases\pdf\external text layer\1.pdf^T1.pdf.txt^Uuri:irbis:\\127.0.0.1\FullTexts\!test cases\pdf\external text layer\1.pdf
 
−
 
−
:'''Ссылка на текстовый файл, доступный по URL'''
 
−
 
−
Объект полнотекстового поиска: текстовый файл.
 
−
 
−
Доступ: по URL.
 
−
 
−
Элементы ссылки: ''URL''.
 
−
 
−
Подполя: <tt>^B^I</tt>. Подполе <tt>^I</tt> содержит URL. Подполе <tt>^B</tt> содержит дополнительную информацию.
 
−
 
−
Пример:
 
−
<nowiki>^Ihttp://www.sweden.se/ru/Start/Education/^Bindex.html : http://www.sweden.se/ru/Start/Education/</nowiki>
 
−
 
−
=====Устаревшие элементы структуры=====
 
−
 
−
Подполе <tt>^А</tt> – имя файла полного текста. Данное подполе используется только для хранения ссылок на полнотекстовые документов в архиве с именем базы данных и расширением <tt>.izp</tt>, находящемся в папке базы данных. Начиная с версии [[Отличия ИРБИС 2010.1 от предыдущей версии|2010.1]] данный вид ссылок не поддерживается.
 
−
 
−
Пример ссылки на документ в архиве <tt>.izp</tt>:
 
−
^AТехническая документация для WEB ИРБИС64 и WEB ИРБИС32.doc
 
−
 
−
==Механизм доступа к объектам полнотекстового поиска==
 
−
 
−
Механизм доступа к объектам полнотекстового поиска обеспечивает:
 
−
* получение текста из внешних файлов при индексировании полнотекстовой базы данных (подробнее об индексировании см. в [[Таблица выбора полей#Метод индексирования 9|подразделе ''Метод индексирования 9'' статьи ''Таблица выбора полей'']]);
 
−
* показ найденного текста пользователю.
 
−
 
−
В словарь попадают только те термины, которые присутствуют в полнотекстовых документах в текстовом виде (не в виде графического изображения).
 
−
 
−
===Получение ссылки при использовании ''метода индексирования 9''===
 
−
 
−
Начиная с версии [[Отличия ИРБИС 2013.1 от предыдущей версии|2013.1]] предусмотрена возможность получения ссылки на объект полнотекстового поиска из формата ТВП для инвертированного файла. Также возможно получение ссылки способом, реализованным в предыдущих версиях ИРБИС.
 
−
 
−
Для более ранних версий ИРБИС ссылка непосредственно считывается из [[#Поле для хранения ссылки|соответствующего поля базы данных, предназначенного для хранения ссылки]].
 
−
 
−
====Получение ссылки на объект полнотекстового поиска через формат====
 
−
 
−
Для включения/выключения данной возможности предназначен параметр <tt>method9_tryNotUseDirectDBAccess</tt> (описание параметра см. в статье [[Конфигурационные параметры ИРБИС для полнотекстовых БД]]).
 
−
 
−
Ожидается, что ''формат'' передаст ссылку в следующем виде: префикс <tt>"FT-DB-LNK:"</tt>, после которого перечислены компоненты ссылки <tt>^B^C^I^T^U</tt> в той же форме, в которой они хранятся в базе данных, например:
 
−
FT-DB-LNK:^B.\FullTexts\pdf\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ__0069.pdf^CC:\irbisFT-2010-02-15\IRBIS64\Datai\TEST-PDF\FullTexts\pdf\ТЕХНИЧЕСКАЯ ДОКУМЕНТАЦИЯ.pdf
 
−
 
−
===Интерпретация ссылки===
 
−
 
−
При необходимости доступа к файлу полного текста (при индексации, отображении на экране) [[#Компоненты ссылки|компоненты ссылки]] интерпретируются в соответствии с определёнными правилами, которые описаны ниже.
 
−
 
−
'''Ссылка на текстовый файл, доступный по URL'''
 
−
 
−
Если заполнено подполе <tt>^I</tt>, то интерпретируем данную ссылку как ''ссылку на текстовый файл, доступный по URL''. Содержимое подполя <tt>^I</tt> является ''URL'' (HTTP или FTP).
 
−
 
−
Объект полнотекстового поиска – файл, доступный по указанному URL.
 
−
 
−
''Примечание: при использовании HTTP-ссылок формат файла определяется по заголовку HTTP, во всех остальных случаях – по расширению файла.''
 
−
 
−
'''Объект полнотекстового поиска находится на файловой системе'''
 
−
 
−
Иначе полагаем, что объект полнотекстового поиска находится на файловой системе.
 
−
 
−
'''Объект полнотекстового поиска – текстовый файл, находящийся непосредственно на файловой системе'''
 
−
 
−
Если подполе <tt>^C</tt> не заполнено, то считается, что в подполе <tt>^B</tt> хранится ''путь к текстовому файлу'' (относительный или абсолютный), и данный файл является объектом полнотекстового поиска.
 
−
 
−
'''Файл, ассоциированный с текстом-"''подложкой''"'''
 
−
 
−
Если при этом заполнено подполе <tt>^T</tt>, то объект полнотекстового поиска – ''файл, ассоциированный с текстом-"подложкой"''.
 
−
 
−
Первый текстовый файл используется для показа пользователю, а индексированию подлежит текст из ''"подложки"''.
 
−
 
−
Подполе <tt>^T</tt> содержит имя файла с текстом-''"подложкой"''. Местонахождение файла ''подложки'' соответствует местонахождению основного файла.
 
−
 
−
'''Отдельная страница многостраничного документа или текстовый файл в архиве'''
 
−
 
−
Если подполе <tt>^C</tt> заполнено, то объект полнотекстового поиска не доступен непосредственно, и является:
 
−
* отдельной страницей многостраничного файла (<tt>.pdf</tt> или <tt>.djvu</tt>) или
 
−
* текстом в архиве (<tt>.zip</tt> или <tt>.rar</tt>).
 
−
 
−
В этих случаях для доступа к объекту полнотекстового поиска необходимо соответственно:
 
−
* извлечь страницу из исходного многостраничного файла (или из кеша извлечённых страниц), либо
 
−
* извлечь текст из архива.
 
−
 
−
Необходимая для извлечения дополнительная информация содержится в подполях <tt>^B</tt> и <tt>^C</tt>.
 
−
 
−
'''Отдельная страница многостраничного документа'''
 
−
 
−
Если расширение файла в подполе <tt>^C</tt> – <tt>.pdf</tt> или <tt>.djvu</tt>, то объектом полнотекстового поиска является ''отдельная страница многостраничного документа''.
 
−
 
−
''Путь к текстовому файлу'' (полный, включая имя файла) можно получить следующим образом: из подполя <tt>^B</tt> взять ''путь к файлу'', а из подполя <tt>^C</tt> взять ''имя файла''.
 
−
 
−
''Номер страницы'' можно получить из подполя <tt>^B</tt>, которое, как описано [[#Составление ссылки|в подразделе ''Составление ссылки'']], составляется следующим образом:<br>
 
−
<tt><путь к файлу (без имени файла)> + <имя файла (без расширения)> + <суффикс> + <номер страницы> + <расширение файла></tt>
 
−
 
−
'''Текстовый файл в архиве'''
 
−
 
−
Если в подполе <tt>^C</tt> ''расширение файла'' <tt>.zip</tt> или <tt>.rar</tt>, то объектом полнотекстового поиска является текстовый файл, находящийся в архиве.
 
−
 
−
НЕ допускаются ссылки на отдельные страницы многостраничного документа, находящегося в архиве.
 
−
 
−
Начиная с версии 2013.1 по возможности при интерпретации используется подполе <tt>^U</tt>, иначе подполя <tt>^B^C</tt>.
 
−
 
−
Получение ''пути к файлу архива'' и ''пути к файлу внутри архива'' из подполя <tt>^U</tt> очевидно исходя из его описания [[#Составление ссылки|в подразделе ''Составление ссылки'']].
 
−
 
−
Подполя <tt>^B^C</tt> для получения ''пути к файлу архива'' и ''пути к файлу внутри архива'' используются следующим образом:
 
−
* Подполе <tt>^B</tt> разбирается в соответствии со следующими правилами: с последним вхождением символа <tt>\</tt> (обратный слэш) заканчивается путь к архиву, дальше начинается относительный путь внутри архива; путь внутри архива записывается с использованием символа <tt>/</tt> (прямой слэш).
 
−
* Подполе <tt>^C</tt> содержит имя файла архива. Примечание: данное подполе также содержит также полный путь к архиву, что является, как минимум, избыточной информацией, а в случае использования относительных путей, также и недостоверной информацией.
 
−
 
−
===Кэширование объектов полнотекстового поиска===
 
−
 
−
АРМ Администратор полнотекстовых БД создаёт копии файлов PDF перед расшифровкой, разбиением на страницы и извлечением из них текста. Создание копий позволяет избежать проблем при работе утилит, связанных с ограничениями, накладываемыми на имена файлов (русские буквы, слишком длинные имена и т.п.). Кроме того, при работе с зашифрованными файлами PDF, АРМ Администратор полнотекстовых БД создаёт незашифрованную копию. Все эти временные копии удаляются сразу же после выполнения соответствующей операции.
 
−
 
−
Кроме этого, если в процессе работы АРМ Администратор полнотекстовых БД были извлечены страницы PDF- или DJVU-файла, то эти извлечённые страницы будут сохранены до окончания работы АРМ, и могут быть использованы, при необходимости, без повторного извлечения. Например, при добавлении в базу PDF-файлов с разбиением на страницы, все страницы будут извлечены. Если создавать словарь до выхода из программы, то страницы не будут извлекаться повторно. Если закрыть АРМ Администратор, извлечённые страницы PDF-документов будут удалены, и при новом запуске АРМ Администратор при создании словаря они будут извлекаться заново.
 
  
 
==Устаревшие возможности ИРБИС 64 по работе с полнотекстовыми базами данных==
 
==Устаревшие возможности ИРБИС 64 по работе с полнотекстовыми базами данных==
Строка 406: Строка 142:
  
 
См. также:
 
См. также:
−
* [[Развёртывание программного обеспечения ИРБИС 64 для полнотекстовых баз данных]]
 
−
* [[Известные проблемы и их решения, касающиеся работы с полнотекстовыми базами ИРБИС]]
 
 
* [[АРМ Администратор полнотекстовых БД]]
 
* [[АРМ Администратор полнотекстовых БД]]
 
* [[АРМ Читатель для полнотекстовых БД]]
 
* [[АРМ Читатель для полнотекстовых БД]]
 +
* [[Установка и использование ИРБИС 64 для полнотекстовых баз данных]]
 +
* [[Возможности АРМ Каталогизатор по работе с полнотекстовыми базами данных]]
 +
* [[Известные проблемы и их решения, касающиеся работы с полнотекстовыми базами ИРБИС]]
 
* [[Рекомендации по обслуживанию баз данных ИРБИС]]
 
* [[Рекомендации по обслуживанию баз данных ИРБИС]]
 
* [[Связывание документов базы данных ИРБИС с внешними объектами]]
 
* [[Связывание документов базы данных ИРБИС с внешними объектами]]
−
* [[Базы данных ИРБИС]]
+
* [[Механизм полнотекстового поиска]]
 +
* [[Полнотекстовая база данных (вид баз данных ИРБИС)]]
 
* [[Схема полнотекстовой базы данных]]
 
* [[Схема полнотекстовой базы данных]]
−
* [[Таблица выбора полей#Метод индексирования 9|Метод индексирования 9]]
 
  
 
Источники информации:
 
Источники информации:
Строка 422: Строка 159:
 
[[Категория:Функциональные возможности ИРБИС]]
 
[[Категория:Функциональные возможности ИРБИС]]
 
[[Категория:Тексты документации, поставляемой с системой ИРБИС 64]]
 
[[Категория:Тексты документации, поставляемой с системой ИРБИС 64]]
 +
[[Категория:Анонсированные статьи]]

Текущая версия на 01:37, 17 февраля 2016

Полнотекстовые базы данных ИРБИС – решение, обеспечивающее возможность ранжированного полнотекстового поиска по коллекциям текстовых документов.

В основе данного решения:

Содержание

Основные возможности ИРБИС 64 по работе с полнотекстовыми базами данных

Возможности для создателей электронных коллекций текстовых документов:

  • Сформировать полнотекстовую базу данных ИРБИС – указать текстовые документы, по которым система обеспечит возможность полнотекстового поиска.
  • С помощью программного обеспечения ИРБИС предоставить пользователям доступ к коллекции в локальной сети, Интернет или на CD/DVD.

Возможности для пользователей: получить доступ к коллекции текстовых документов для ранжированного полнотекстового поиска и просмотра найденных документов.

Полнотекстовые базы данных ИРБИС обеспечивают возможность работы с текстовыми документами в форматах: HTML, TXT, RTF, PDF, DJVU, DOC, XLS, PPT.

Отличие возможности включения полнотекстовых документов в базу данных от возможности связывания документов базы данных с внешними объектами

Не следует путать возможность включения полнотекстовых документов с возможностью связывания документов базы данных с внешними объектами.

Сходства возможностей:

  • Обе эти возможности позволяют установить связь документов базы данных с внешними объектами.

Различия возможностей:

  • Возможность связывания документов базы данных с внешними объектами ограничивается обеспечением простоты перехода пользователя от документа базы данных к внешнему объекту.
  • Возможность включения полнотекстовых документов в базу данных обеспечивает полнотекстовый поиск, а также переход пользователя к найденным внешним объектам.

Программные продукты для работы с полнотекстовыми базами данных ИРБИС 64

Функциональность по работе с полнотекстовыми базами данных ИРБИС 64 обеспечивают следующие программные продукты:

  • АРМ Администратор полнотекстовых БД – рабочее место специалиста, которое позволяет формировать полнотекстовые базы данных и обслуживать их.
  • АРМ Читатель для полнотекстовых БД – рабочее место пользователя электронных коллекций.
  • Веб-шлюз ИРБИС для полнотекстовых БД – обеспечивает доступ к коллекциям полнотекстовых документов пользователей Интернета (и/или локальной сети) с помощью веб-браузера.

Концепция полнотекстовых баз данных ИРБИС

Полнотекстовые базы данных ИРБИС отличаются возможностью индексирования текстов из внешних файлов. Что обеспечивает возможность организовать поиск этих текстов.

Эта концепция позволяет реализовать перечисленные выше возможности ИРБИС 64 по работе с полнотекстовыми базами данных.

Индексирование текстов из внешних файлов основывается на следующих идеях:

  • Связывать записи полнотекстовой базы данных с текстами из внешних файлов, чтобы воспользоваться механизмом индексирования в ИРБИС.
  • Реализовать специальный метод индексирования 9, позволяющий индексировать тексты из внешних файлов, связанные с записями полнотекстовой базы данных.

Для описания механизма связывания записи полнотекстовой базы данных с текстами из внешних файлов вводятся следующие понятия:

  • Понятие объекта полнотекстового поиска – что может быть связано с записью полнотекстовой базы данных (и впоследствии проиндексировано).
  • Понятие ссылки на объекта полнотекстового поиска, посредством которой запись полнотекстовой базы данных связывается с объектом полнотекстового поиска.

Формирование полнотекстовой базы данных

Формирование полнотекстовой базы данных предполагает добавление в полнотекстовую базу данных текстов (также принято называть включение текстов в базу данных) и их последующее индексирование.

Фактически, при добавлении текстов, они рассматриваются как объекты полнотекстового поиска, в соответствие каждому из которых в базе создаётся запись, содержащая ссылку на данный объект. Подробнее см. в статье Схема полнотекстовой базы данных.

Включение текстов в базу осуществляется с помощью АРМ Администратор, подробнее см. в подразделе Включение текстов в полнотекстовую базу данных статьи АРМ Администратор полнотекстовых БД.

Объекты полнотекстового поиска в ИРБИС

Концепция полнотекстовых баз данных ИРБИС предусматривает следующие виды объектов полнотекстового поиска:

Внешний текстовый файл

Файл допустимого типа. Список допустимых форматов приведён в подразделе Основные возможности ИРБИС 64 по работе с полнотекстовыми базами данных.

Отдельная страница многостраничного документа

Отдельная страница многостраничного документа (формата PDF или DJVU).

Файл, ассоциированный с текстом-"подложкой"

Файл допустимого типа, сопровождающийся текстовым файлом, содержащим текстовый слой. Список допустимых форматов приведён в подразделе Основные возможности ИРБИС 64 по работе с полнотекстовыми базами данных.

Понятие объекта полнотекстового поиска является одним из ключевых в концепции полнотекстовых баз данных:

  • в процессе формирования в базе данных сохраняется ссылка на объект полнотекстового поиска;
  • текст, связанный с объектом полнотекстового поиска подлежит индексированию;
  • список объектов полнотекстового поиска (соответствующих поисковому запросу) будет выдан конечному пользователю в качестве результатов поиска.

Функциональные возможности ИРБИС 64 для полнотекстовых баз данных

Добавление файлов в полнотекстовую базу данных

При добавлении файла в полнотекстовой базе данных создаётся запись, в которой сохраняется ссылка на внешний файл.

Файлы для добавления могут быть указаны выборочно или может быть указана папка, из которой будут добавлены файлы.

Можно установить список расширений, чтобы были добавлены только файлы соответствующих типов.

Добавление многостраничных документов с разбиением на страницы

Файл PDF или DJVU может быть добавлен в полнотекстовую базу с разбиением на страницы (если выбрана соответствующая опция).

В этом случае объектом полнотекстового поиска является отдельная страница PDF или DJVU документа.

В полнотекстовой базе данных создаётся запись, соответствующая каждой странице добавляемого файла, а в каждой записи сохраняется ссылка с указанием номера страницы.

Если пользователь в результате поиска получил отдельную страницу текста, он имеет возможность перейти к другим страницам.

Примечание: с разбиением на страницы НЕ могут быть добавлены файлы PDF или DJVU, находящиеся в архиве.

Индексирование полнотекстовой базы данных

Индексирование полнотекстовой базы данных – процесс наполнения словаря базы данных словами из текстов из внешних файлов, добавленных в базу данных.

Индексирование документов, из которых невозможно извлечение текста

Если при включении полнотекстового документа найдена соответствующая ему подложка, то в соответствующем подполе базы данных сохраняется ссылка на файл подложки. Таким образом происходит ассоциация полнотекстового документа с соответствующей подложкой.

Если с полнотекстовым документом ассоциирована подложка, то при построении словаря будет использован содержащийся в подложке текст. Для показа пользователю будет использован сам включённый в базу документ.

Подробнее см. в подразделе Ассоциация текста-подложки с включаемым в полнотекстовую базу документом статьи АРМ Администратор полнотекстовых БД.

Индексирование файлов PDF, защищённых паролем

В ИРБИС возможно индексирование файлов PDF, защищённых паролем. Предусмотрена возможность использования только одного пароля. Подробнее см. в подразделе Извлечение текстовых данных из PDF-файлов, защищённых паролем статьи АРМ Администратор полнотекстовых БД.

Поисковые возможности

В ИРБИС для полнотекстовых БД предусмотрены следующие поисковые возможности:

  • полнотекстовый поиск;
  • поиск по элементам описания полных текстов (по умолчанию предусмотрен поиск по элементам Dublin Core);
  • полнотекстовый поиск, дополненный ограничением по элементам описания;
  • возможность уточнять полнотекстовый поиск при помощи поиска в найденном по элементам описания.

Устаревшие возможности ИРБИС 64 по работе с полнотекстовыми базами данных

Возможность размещения текстов в специально предназначенном архиве (не поддерживается с версии 2010.1)

Примечание: начиная с версии 2010.1 данная возможность не поддерживается, в связи с чем не рекомендуется к использованию.

Опции включения полнотекстовых документов, совместимые с данной:

  • Возможно включение как указанных пользователем документов, так и всех документов из указанной папки.

Достоинства:

  • Компактное хранение полнотекстовых документов (это относится к документам, хорошо поддающимся сжатию при архивации).
  • При перемещении папки с базой данных не требуется изменений в ссылках на файлы, поскольку ссылки являются относительными (только имя документа в архиве).

Недостатки:

  • Дополнительные затраты времени на разархивирование при обеспечении доступа к полнотекстовому документу.
  • Тексты не доступны через Веб-ИРБИС.

Ссылки

См. также:

Источники информации:

Источник — «http://wiki.elnit.org/index.php?title=Полнотекстовые_базы_данных_ИРБИС&oldid=2450»