Файловая репликация — различия между версиями

Материал из YourcmcWiki
Перейти к: навигация, поиск
м
м
 
Строка 30: Строка 30:
 
=== События Inotify ===
 
=== События Inotify ===
  
<tab sep=tab class=simpletable head=left>
+
<tab sep=bar class=simpletable head=left>
IN_ACCESS Чтение из файла.
+
IN_ACCESS | Чтение из файла.
IN_ATTRIB Изменение метаданных файла — прав доступа, владельца и группы, времени доступа, количества жёстких ссылок (в версиях ядер >= 2.6.25) и т. п.
+
IN_ATTRIB | Изменение метаданных файла — прав доступа, владельца и группы, времени доступа, количества жёстких ссылок (в версиях ядер >= 2.6.25) и т. п.
IN_CLOSE_WRITE Закрытие файла, ранее открытого для записи.
+
IN_CLOSE_WRITE | Закрытие файла, ранее открытого для записи.
IN_CLOSE_NOWRITE Закрытие файла без записи.
+
IN_CLOSE_NOWRITE | Закрытие файла без записи.
IN_CREATE Файл/каталог создан внутри наблюдаемого каталога.
+
IN_CREATE | Файл/каталог создан внутри наблюдаемого каталога.
IN_DELETE Файл/каталог внутри наблюдаемого каталога удалён.
+
IN_DELETE | Файл/каталог внутри наблюдаемого каталога удалён.
IN_DELETE_SELF Удалён '''сам''' наблюдаемый файл/каталог.
+
IN_DELETE_SELF | Удалён '''сам''' наблюдаемый файл/каталог.
IN_MODIFY Запись в файл.
+
IN_MODIFY | Запись в файл.
IN_MOVE_SELF Перемёщён '''сам''' наблюдаемый файл/каталог.
+
IN_MOVE_SELF | Перемёщён '''сам''' наблюдаемый файл/каталог.
IN_MOVED_FROM Перемещение файла («из» указанного в событии).
+
IN_MOVED_FROM | Перемещение файла («из» указанного в событии).
IN_MOVED_TO Перемещение файла («в» указанный в событии). Пары связанных событий IN_MOVED_TO и IN_MOVED_FROM обозначаются одинаковым атрибутом «cookie».
+
IN_MOVED_TO | Перемещение файла («в» указанный в событии). Пары связанных событий IN_MOVED_TO и IN_MOVED_FROM обозначаются одинаковым атрибутом «cookie».
IN_OPEN Открытие файла.
+
IN_OPEN | Открытие файла.
 
</tab>
 
</tab>
  
 
=== Флаги ===
 
=== Флаги ===
  
<tab sep=tab class=simpletable head=left>
+
<tab sep=bar class=simpletable head=left>
IN_IGNORED Наблюдение отменено — либо явно, либо автоматически при удалении файла или размонтировании ФС.
+
IN_IGNORED | Наблюдение отменено — либо явно, либо автоматически при удалении файла или размонтировании ФС.
IN_ISDIR Субъект данного события — каталог.
+
IN_ISDIR | Субъект данного события — каталог.
IN_Q_OVERFLOW Переполнение очереди событий.
+
IN_Q_OVERFLOW | Переполнение очереди событий.
IN_UNMOUNT Размонтирование файловой системы, содержащей субъект события.
+
IN_UNMOUNT | Размонтирование файловой системы, содержащей субъект события.
 
</tab>
 
</tab>
  
 
=== Корректные реакции на события ===
 
=== Корректные реакции на события ===
  
<tab sep=tab class=simpletable head=left>
+
<tab sep=bar class=simpletable head=left>
Начало мониторинга rsync всего каталога.
+
| Начало мониторинга rsync всего каталога.
IN_CREATE rsync отдельного файла.
+
IN_CREATE | rsync отдельного файла.
IN_DELETE Удалить файл на удалённой стороне. Rsync с этим, бывает, тормозит.
+
IN_DELETE | Удалить файл на удалённой стороне. Rsync с этим, бывает, тормозит.
IN_DELETE_SELF Видимо, также удалить, либо ошибка обработки.
+
IN_DELETE_SELF | Видимо, также удалить, либо ошибка обработки.
IN_MODIFY Ничего не делать! Событий модификации может быть много, а завершатся они, только когда записывающий процесс закроет файл — событием IN_CLOSE_WRITE.
+
IN_MODIFY | Ничего не делать! Событий модификации может быть много, а завершатся они, только когда записывающий процесс закроет файл — событием IN_CLOSE_WRITE.
IN_ATTRIB rsync с флагами -lptEAX и, возможно, -og (если удалённый rsync работает под рутом)
+
IN_ATTRIB | rsync с флагами -lptEAX и, возможно, -og (если удалённый rsync работает под рутом)
IN_CLOSE_WRITE rsync, ибо файл изменился.
+
IN_CLOSE_WRITE | rsync, ибо файл изменился.
IN_MOVE_SELF Либо удалить, либо ошибка обработки.
+
IN_MOVE_SELF | Либо удалить, либо ошибка обработки.
Пара IN_MOVED_* Переместить файл на удалённой стороне. Если целевой файл на удалённой стороне существует — переименовать его в «имя.(n+1)» (n — число). Rsync этого не умеет, придётся открывать отдельное соединение и ставить демон на удалённую сторону.
+
Пара IN_MOVED_* | Переместить файл на удалённой стороне. Если целевой файл на удалённой стороне существует — переименовать его в «имя.(n+1)» (n — число). Rsync этого не умеет, придётся открывать отдельное соединение и ставить демон на удалённую сторону.
IN_Q_OVERFLOW Часть событий потеряна, так что rsync всего каталога после небольшой задержки, ибо мы не знаем, какие файлы поменялись.
+
IN_Q_OVERFLOW | Часть событий потеряна, так что rsync всего каталога после небольшой задержки, ибо мы не знаем, какие файлы поменялись.
IN_UNMOUNT Ошибка обработки!
+
IN_UNMOUNT | Ошибка обработки!
 
</tab>
 
</tab>
  

Текущая версия на 16:11, 30 апреля 2013

lsyncd

  • Написан на C+Lua.
  • Сильно прогрессировал с того момента, как я последний раз на него смотрел. Вполне возможно, что стал нормальным решением.
  • (?) Существуют лимиты на корректность имён файлов.
  • (?) Существует лимит на количество наблюдаемых файлов (открывается только 1 дескриптор inotify).
  • (?) Не обрабатывает ошибки соединения. Причём, здесь ещё хуже — синхронизации файла не произойдёт до следующего изменения хотя бы одного файла в том же подкаталоге, либо до перезапуска lsyncd.

inosync

  • Не умеет следить за несколькими каталогами сразу.
  • Не поддерживаются фильтры rsync’а, что приводит к лишним его вызовам.
  • Rsync всегда вызывается целиком на каталоге, а не на отдельных файлах, что вряд ли приведёт к хорошей производительности.
  • Не очень корректная схема работы — спим 10 секунд, просыпаемся, анализируем события, снова спим… И т. п. С одной стороны, может синхронизировать файлы в середине записи в них, с другой стороны, неидеально «уменьшает поток» событий в случае большого числа модификаций.
  • Не обрабатывает перемещения файлов — они приводят к передаче файлов целиком.
  • Не обрабатывает ошибки соединения — до следующего изменения синхронизации не будет.
  • Написан на Python, дописывать неохота. А учитывая исключительную простоту (меньше 200 строк кода), и дописывать-то особенно нечего.

iwatch

iwatch — простой inotify-монитор, который может по событиям вызывать заданные команды.

Как делать правильно

  • Обязательно дожидаться события IN_CLOSE_WRITE, чтобы не синхронизировать файл в середине записи в него.
  • Можно группировать изменения файлов с целью повышения производительности.
  • Обрабатывать ошибки синхронизации.
  • Обрабатывать времена модификации файлов, проносить изменения в обе стороны.

События Inotify

IN_ACCESS Чтение из файла.
IN_ATTRIB Изменение метаданных файла — прав доступа, владельца и группы, времени доступа, количества жёстких ссылок (в версиях ядер >= 2.6.25) и т. п.
IN_CLOSE_WRITE Закрытие файла, ранее открытого для записи.
IN_CLOSE_NOWRITE Закрытие файла без записи.
IN_CREATE Файл/каталог создан внутри наблюдаемого каталога.
IN_DELETE Файл/каталог внутри наблюдаемого каталога удалён.
IN_DELETE_SELF Удалён сам наблюдаемый файл/каталог.
IN_MODIFY Запись в файл.
IN_MOVE_SELF Перемёщён сам наблюдаемый файл/каталог.
IN_MOVED_FROM Перемещение файла («из» указанного в событии).
IN_MOVED_TO Перемещение файла («в» указанный в событии). Пары связанных событий IN_MOVED_TO и IN_MOVED_FROM обозначаются одинаковым атрибутом «cookie».
IN_OPEN Открытие файла.

Флаги

IN_IGNORED Наблюдение отменено — либо явно, либо автоматически при удалении файла или размонтировании ФС.
IN_ISDIR Субъект данного события — каталог.
IN_Q_OVERFLOW Переполнение очереди событий.
IN_UNMOUNT Размонтирование файловой системы, содержащей субъект события.

Корректные реакции на события

Начало мониторинга rsync всего каталога.
IN_CREATE rsync отдельного файла.
IN_DELETE Удалить файл на удалённой стороне. Rsync с этим, бывает, тормозит.
IN_DELETE_SELF Видимо, также удалить, либо ошибка обработки.
IN_MODIFY Ничего не делать! Событий модификации может быть много, а завершатся они, только когда записывающий процесс закроет файл — событием IN_CLOSE_WRITE.
IN_ATTRIB rsync с флагами -lptEAX и, возможно, -og (если удалённый rsync работает под рутом)
IN_CLOSE_WRITE rsync, ибо файл изменился.
IN_MOVE_SELF Либо удалить, либо ошибка обработки.
Пара IN_MOVED_* Переместить файл на удалённой стороне. Если целевой файл на удалённой стороне существует — переименовать его в «имя.(n+1)» (n — число). Rsync этого не умеет, придётся открывать отдельное соединение и ставить демон на удалённую сторону.
IN_Q_OVERFLOW Часть событий потеряна, так что rsync всего каталога после небольшой задержки, ибо мы не знаем, какие файлы поменялись.
IN_UNMOUNT Ошибка обработки!

Ссылки

См. также: