<html><head><meta http-equiv="Content-Type" content="text/html; charset=UTF-8" /></head><body style='font-size: 10pt; font-family: Verdana,Geneva,sans-serif'>
<p>Now I'm noticing for instance, for moving data between Xapian databases.. you need to launch something like : </p>
<pre><br />sudo -u cyrus /usr/cyrus/bin/squatter -C /usr/local/etc/imapd.conf -v -z archive -t temp,meta,data,archive -u user/egoitz@sarenet.es<br /><br /><br />perhaps would be better to do :<br /><br /></pre>
<pre>sudo -u cyrus /usr/cyrus/bin/squatter -C /usr/local/etc/imapd.conf <span style="text-decoration: underline;"><strong>-F</strong></span> -v -z archive -t temp,meta,data,archive -u user/egoitz@sarenet.es<br /><br /></pre>
<pre>But then, having two Squatter processes running at same time, one for rolling mode and one for moving/repacking data, should not be an issue?.<br /><br /><br />Thanks mates!!<br /><br /><br /></pre>
<div>---<br />
<div class="firmasarenet" style="clear: both; text-align: left;">
<div class="imgsarenet" style="margin: 0 0 10px 0;"><img src="https://www.sarenet.es/estaticos/LogoSarenetEmails.png?newlogo" alt="sarenet" /></div>
<div class="titulosarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: bold; font-size: 14px; color: #333333;"><strong>Egoitz Aurrekoetxea</strong></div>
<div class="dptosarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 12px; color: #333333;">Departamento de sistemas</div>
<div class="textosarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 12px; color: #333333;">944 209 470<br />Parque Tecnológico. Edificio 103<br />48170 Zamudio (Bizkaia)</div>
<div class="lnksarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 12px; color: #007ac4; line-height: 1.2;"><a id="mailto" style="font-size: 12px; color: #007ac4; text-decoration: underline;" href="mailto:egoitz@sarenet.es"><label id="label_email">egoitz@sarenet.es</label></a></div>
<div class="lnksarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 12px; color: #007ac4; line-height: 1.2;"><a style="font-size: 12px; color: #007ac4; text-decoration: underline;" href="http://www.sarenet.es">www.sarenet.es</a></div>
<br />
<div class="imprimirsarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 10px; color: #a0c361;">Antes de imprimir este correo electrónico piense si es necesario hacerlo.</div>
</div>
</div>
<p><br /></p>
<p>El 11-02-2019 11:22, Egoitz Aurrekoetxea escribió:</p>
<blockquote type="cite" style="padding: 0 0.4em; border-left: #1010ff 2px solid; margin: 0"><!-- html ignored --><!-- head ignored --><!-- meta ignored -->
<p>Hi Bron,</p>
<p><br /></p>
<p>So, it would be interesting to run once a day... for instance in cyrus.conf in events section :</p>
<p>repack_xapian      cmd="squatter -F" at=0200</p>
<p>Is it needed top stop the other rolling Squatter we run, in same cyrus.conf as :</p>
<p>START {<br />  # do not delete this entry!<br />  recover       cmd="ctl_cyrusdb -r"<br /><br />  squatter cmd="squatter -R"<br />}</p>
<p><br /></p>
<p>Thank you so much for all the clarifications mate :) really :)</p>
<p><br /></p>
<p>Cheers!</p>
<div>---<br />
<div class="firmasarenet" style="clear: both; text-align: left;">
<div class="imgsarenet" style="margin: 0 0 10px 0;"><img src="https://www.sarenet.es/estaticos/LogoSarenetEmails.png?newlogo" alt="sarenet" /></div>
<div class="titulosarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: bold; font-size: 14px; color: #333333;"><strong>Egoitz Aurrekoetxea</strong></div>
<div class="dptosarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 12px; color: #333333;">Departamento de sistemas</div>
<div class="textosarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 12px; color: #333333;">944 209 470<br />Parque Tecnológico. Edificio 103<br />48170 Zamudio (Bizkaia)</div>
<div class="lnksarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 12px; color: #007ac4; line-height: 1.2;"><a id="mailto" style="font-size: 12px; color: #007ac4; text-decoration: underline;" href="mailto:egoitz@sarenet.es"><label id="label_email">egoitz@sarenet.es</label></a></div>
<div class="lnksarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 12px; color: #007ac4; line-height: 1.2;"><a style="font-size: 12px; color: #007ac4; text-decoration: underline;" href="http://www.sarenet.es" target="_blank" rel="noopener noreferrer">www.sarenet.es</a></div>
<br />
<div class="imprimirsarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 10px; color: #a0c361;">Antes de imprimir este correo electrónico piense si es necesario hacerlo.</div>
</div>
</div>
<p><br /></p>
<p>El 11-02-2019 10:23, Bron Gondwana escribió:</p>
<blockquote style="padding: 0 0.4em; border-left: #1010ff 2px solid; margin: 0;">
<div style="font-family: Arial;">Conversations.db is an index over lots of interesting bits of the message, but the key part that's used by Xapian is the mapping from G key (aka: GUID, aka: sha1 of the message RFC822 data) to individual email.  It's used for deduplication and for mapping from results to messages.</div>
<div style="font-family: Arial;"> </div>
<div style="font-family: Arial;">The data in conversations.db is added and removed in real time as messages are appended and updated in the cyrus.index.</div>
<div style="font-family: Arial;"> </div>
<div style="font-family: Arial;">The data in the xapian databases on the other hand is append only - so you can wind up with hits that no longer map to existing emails.  The way to solve that is with a xapian repack that filters messages - which can be done using the -F flag to squatter.</div>
<div style="font-family: Arial;"> </div>
<div style="font-family: Arial;">Cheers,</div>
<div style="font-family: Arial;"> </div>
<div style="font-family: Arial;">Bron.</div>
<div style="font-family: Arial;"> </div>
<div style="font-family: Arial;">On Sat, Feb 9, 2019, at 23:04, Egoitz Aurrekoetxea wrote:</div>
<blockquote id="fastmail-quoted">
<p>Good morning,</p>
<p><br /></p>
<p>As far as I understood, for Xapian you first create it's conversation database in order to work. Later you create database(s) for each mailbox where Xapian can search in. You can move data between them, new mails become indexed for instance Squatter in rolling mode... that's ok... and understood I  think. I was wondering, what happens when mail indexed in the archive database in removed and then does not exist any more in the database... does Squatter rolling log manage that too?.</p>
<p><br /></p>
<p>By the way. I was wondering if mail gets indexed in the tier databases (for instance in Fastmail in temp, meta, data, archine...) what's the role or function of conversations databases you create with ctl_conversationsdb -b -r ?.</p>
<p><br /></p>
<p>Cheers!</p>
<div>
<div style="font-family: Arial;">--</div>
<div style="font-family: Arial;"> </div>
<div class="fastmail-quoted-firmasarenet" style="clear: both; text-align: left;">
<div class="fastmail-quoted-imgsarenet" style="margin: 0px 0px 10px 0px;"><img src="https://www.sarenet.es/estaticos/LogoSarenetEmails.png?newlogo" alt="sarenet" /></div>
<div class="fastmail-quoted-titulosarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: bold; font-size: 14px; color: #333333;"><strong>Egoitz Aurrekoetxea</strong></div>
<div class="fastmail-quoted-dptosarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 12px; color: #333333;">Departamento de sistemas</div>
<div class="fastmail-quoted-textosarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 12px; color: #333333;">
<div style="font-family: Arial;">944 209 470</div>
<div style="font-family: Arial;">Parque Tecnológico. Edificio 103</div>
<div style="font-family: Arial;">48170 Zamudio (Bizkaia)</div>
</div>
<div class="fastmail-quoted-lnksarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 12px; color: #007ac4; line-height: 1.2;"><label id="fastmail-quoted-label_email">egoitz@sarenet.es<br /></label></div>
<div class="fastmail-quoted-lnksarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 12px; color: #007ac4; line-height: 1.2;"><a style="font-size: 12px; color: #007ac4; text-decoration-line: underline; text-decoration-style: solid; text-decoration-color: currentcolor;" href="http://www.sarenet.es" target="_blank" rel="noopener noreferrer">www.sarenet.es</a></div>
<div style="font-family: Arial;"> </div>
<div class="fastmail-quoted-imprimirsarenet" style="font-family: Helvetica, Arial, sans-serif; font-weight: normal; font-size: 10px; color: #a0c361;">Antes de imprimir este correo electrónico piense si es necesario hacerlo.</div>
</div>
</div>
<div>----</div>
<div>Cyrus Home Page: http://www.cyrusimap.org/</div>
<div>List Archives/Info: http://lists.andrew.cmu.edu/pipermail/info-cyrus/</div>
<div>To Unsubscribe:</div>
<div>https://lists.andrew.cmu.edu/mailman/listinfo/info-cyrus</div>
</blockquote>
<div style="font-family: Arial;"> </div>
<div id="sig56629417">
<div class="signature">--</div>
<div class="signature">  Bron Gondwana, CEO, FastMail Pty Ltd</div>
<div class="signature">  brong@fastmailteam.com</div>
<div class="signature"> </div>
</div>
<div style="font-family: Arial;"> </div>
<br />
<div class="pre" style="margin: 0; padding: 0; font-family: monospace;">----<br /> Cyrus Home Page: <a href="http://www.cyrusimap.org/" target="_blank" rel="noopener noreferrer">http://www.cyrusimap.org/</a><br /> List Archives/Info: <a href="http://lists.andrew.cmu.edu/pipermail/info-cyrus/" target="_blank" rel="noopener noreferrer">http://lists.andrew.cmu.edu/pipermail/info-cyrus/</a><br /> To Unsubscribe:<br /> <a href="https://lists.andrew.cmu.edu/mailman/listinfo/info-cyrus" target="_blank" rel="noopener noreferrer">https://lists.andrew.cmu.edu/mailman/listinfo/info-cyrus</a></div>
</blockquote>
</blockquote>
</body></html>