Beiträge zum Thema: Technisches

RSS-Feed

Alles mögliche rund um freie Software, Tools und was mir sonst noch über den weg läuft und irgendwie was mit Hard- oder Software zu tun hat

maildrop-Fallstricke und was man dagegen tun kann

Wenn maildrop-Filter mit der Zeit wachsen und komplexer werden steigt das Risiko, dass sich irgendwo ein Fehler einschleicht. Da die Debugging und Fehlererkennungsmechanismen von maildrop eher rudimentär ausfallen – besonders bei verteilten Filtern in mehreren Dateien – kann ein solcher Fehler schnell zum Verlust von E-Mails führen.

Probleme mit den Dateirechten

maildrop ist sehr empfindlich was die Dateirechte der Hauptfilterdatei (~/.mailfilter) angeht. Sind diese nicht auf 0600 gesetzt, verweigert maildrop jeglichen Dienst. Da ich meine Filter über git versioniere und git Dateirechte schlicht aus der umask generiert (Ausnahme ist das +x-Flag) kam es hier gelegentlich zu Problemen.

Die Lösung ist so einfach wie wirkungsvoll. Über die .qmail-Datei rufe ich ein Wrapper-Script auf, welches die Übergabe an maildrop versucht. Sollte ein Fehler auftreten, wird versucht die Rechte zu korrigieren und anschließend ein weiterer Versuch gestartet.

Der Vollständigkeit halber hier auch die entsprechende .qmail-Datei:

Fehler im Filter

Um bei Fehlern im Filtercode dennoch zumindest eine Zustellung zu ermöglichen, habe ich eine grundlegende Filterkonfiguration in die ~/.mailfilter gepackt. Daher sollte es an dieser eigentlich keine Änderungen geben, die Fehler verursachen können.

Der simple aber wirkungsvolle Gedanke dahinter – packe alles was irgendwie kritisch werden könnte in einen exception-Block, der alle möglichen Fehler auffängt. Wird die E-Mail innerhalb dieses Blocks zugestellt, passiert nichts mehr. Kann jedoch nicht zugestellt werden, wird die E-Mail in (fast) jedem Fall ins Standard-Maildir ~/Maildir zugestellt.

WordPress Fehler: Connection timed out

Jedes Mal wenn ich bei einer lokalen WordPress Installation das Dashboard aufrief, dauerte dies mehrere Sekunden und es erschien die Fehlermeldung WP HTTP Error: Resolving timed out after 3512 milliseconds. Nach einigem Suchen habe ich die betreffende Stelle in der wp-includes/class-http.php gefunden, die diesen Fehler ausgegeben hat.

Im nächsten Schritt habe ich dann mittels curl_getinfo( $handle ); das Ziel der Anfrage herausgefunden, https://api.wordpress.org/plugins/update-check/1.1/. Nach einigem herumprobieren habe ich versucht die selbe Abfrage im Terminal durchzuführen, also curl -vv --connect-timeout 3 https://api.wordpress.org/plugins/update-check/1.1/. Und siehe da, auch hier reichen 3s (wie von WordPress vorgegeben) nicht aus.

Durch eine Google Suche stieß ich auf eine cURL-Mailingliste wo unter anderem IPv6 als mögliche Ursache genannt wird. Also nochmal die cURL-Doku gewälzt und die Option --ipv4 gefunden. Mit dieser lässt sich die Abfrage problemlos ausführen. Die Ursache für den Fehler war, dass cURL jeweils 15s lang versucht hat per DNS über IPv6 den Hostnamen aufzulösen, was mangels funktionierendem IPv6 am Telekomiker Anschluss nicht ging. Bis cURL auf IPv4 zurückgefallen war, war das von WordPress definierte Timeout (3 Sekunden) abgelaufen.

Ein auf die schnelle eingefügtes curl_setopt( $handle, CURLOPT_IPRESOLVE, CURL_IPRESOLVE_V4 ); in die class-http.php löste den Fehler auch in WordPress. Da Core-Dateien zu verändern immer schlecht ist (Updates und so) gibt es praktischerweise vor der Ausführung des HTTP-Request einen Hook, mit dem sich das $handle manipulieren lässt. Daraus ergibt sich dieses (MU-)Plugin:

Blacklist für maildrop halbautomatisch erstellen

Auf meinem Uberspace nutze ich eine Kombination aus maildrop und Spamassassin um nervigem Spam schnell und ohne manuelles Eingreifen aus dem Verkehr zuziehen. Manchmal kommt es jedoch vor, dass eine E-Mail nicht als Spam erkannt wird oder – ebenfalls blöd – erwünschte Mails herausgefischt werden.

Mein Setup sieht vor das Mails zunächst gegen eine Whitelist geprüft werden, anschliesend folgt eine Blacklist und zuletzt, wenn weder Whitelist noch Blacklist angeschlagen haben folgt der Spamassassin. Wenn jetzt eine E-Mail von einem Spamabsender doch mal durchkommt habe ich bisher über SSH die Blacklist angepasst. Diese ist mittels der lookup-Funktion von maildrop angebunden.
Diesen Vorgang wollte ich nun Vereinfachen und habe ein kleines Script geschrieben, welches ein bestimmtes Verzeichnis im Maildir einliest und alle Mailadressen im ersten From-Header Zeilenweise in eine Blacklist schreibt. Die Einträge werden alphabetisch Sortiert und Dubletten entfernt.
So muss dann die entsprechende E-Mail nur noch in das Verzeichnis verschoben oder kopiert werden, um einen Blacklist-Eintrag zu erhalten.
Dieses Script, das nebenbei nach dem gleichen Muster auch eine Whitelist erstellt (falls der Spamassassin mal zu übereifrig ist), lasse ich mittels Runwhen einmal täglich ausführen. Nach der dem Durchlauf des Scripts können die Mails dann wieder aus dem Verzeichnis entfernt werden, die Einträge bleiben dabei natürlich erhalten.

Konfigurieren muss man bei Verwendung des Scripts die Variablen OUTPUT und INPUT:

  • OUTPUT – Hier gehört das Verzeichnis hinein wohin das Script die Listen schreiben soll, natürlich muss dieses Beschreibbar sein
  • INPUT – Diese Variable wird erst für den Durchlauf der Blacklist konfiguriert, hier gehört der Pfad zum Blacklist-Maildir hin
  • INPUT –Beim zweiten mal für den Durchlauf der Whitelist gehört der Pfad zum Whitelist-Maildir hin

Hier noch das gesamte Script:

Weitere Informationen zu maildrop und zur Einrichtung eines runwhen-Dienstes finden sich im Wiki der Ubernauten.

Update

Jetzt auch als Gist auf GitHub unter https://gist.github.com/golderweb/e02d405699588af09383 verfügbar, zum einfachen klonen oder forken.

Happy Birthday WP – 11 Jahre WordPress

Am 27. Mai 2003 wurde WordPress 0.71 veröffentlicht, die erste offizielle WordPress Version. In elf Jahren ist aus dem einfachen Blogging-System ein hochfunktionales und flexibles CMS geworden, das nicht von ungefähr eines der am meisten verwendeten ist.

Meine eigene Geschichte mit WordPress begann Anfang 2010 mit Version 2.9. Seit her hat sich einiges verändert, große Neuerungen waren z. B. die Custom Post Types (WP 3.0), die jährlich neuen Standard-Themes der „Twenty X“-Reihe (ab WP 3.0), die Adminbar (WP 3.1), der neue Uploader (WP 3.3), Autosave (WP 3.6), Automatische Updates (WP 3.7) und nicht zuletzt das Redesign des Admin-Bereichs (WP 3.8).

Was mir an WordPress gefällt ist die große Vielfalt an Aufgabenstellungen für die WordPress einsetzbar ist: Vom Ursprünglichen Zweck der ersten Versionen von WordPress ein simples Weblog zu erstellen über ein vollwertiges Webportal, ggf. mit Social-Komponente über BuddyPress bis zum Web Application Framework. Dazu kommt die einfache Anpassbarkeit, fehlende oder spezielle Funktionen lassen sich über eines der unzähligen Plugins nachrüsten, über Themes kann jeder seinem WordPress einen indiviuellen Anzug anziehen.

Außerdem gefällt mir, dass WordPress freie Open Source Software ist (GPLv2). Die Weiterentwicklung von WordPress folgt damit den Wünschen und Bedürftnissen seiner Community und nicht kommerziellen Interressen.

In diesem Sinne: „Liebes WordPress, ich wünsche dir (mindestens) weitere elf erfolgreiche Jahre als beliebtestes CMS, mit vielen interressanten Neuerungen.“

Kleiner Tipp am Rande, anlässlich dieses Geburtstages lässt das eine oder andere einschlägige Portal etwas springen, z. B. WordPress Deutschland.

Mein persönliches Uberspace-Init Script

Ich habe mir ein kleines Script gebastelt, mit dem ich neuen Uberspaces mit wenigen Befehlen einge Voreinstellungen verpassen kann.

Die Funktion in Kürze:

  • Einen Symlink für das Übergeordnete Verzeichnis der Pseudo-DOCUMENT_ROOTs. Zwar nicht unbedingt notwendig aber cd www ist schneller getippt wie cd /var/www/virtual/$USER
  • Vorbereitung für die Daemontools: uberspace-setup-svscan
  • Ein bin– und ein git-Verzeichnis – benötige ich öfters.
  • E-Mail Weiterleitung zu einer auszuwählenden E-Mail-Adresse, oder ins Maildir.
  • Außerdem hole ich mir noch angepasste bash Konfigurationsdateien, die ich bei github abgelegt habe.

Mit dem Parameter bash-config-update wird nur der letzte Punkt ausgeführt. Mit dem Parameter cleanup werden Sicherungskopien der bash Konfiguration von bash-config-update nach /dev/null befördert.

Wenn dir das Uberspace-Init Script gefällt darfst du es gerne unter den Bedingungen der GNU GPLv3 weiterverwenden. Du findest es unter https://gist.github.com/golderweb/4feb43ed41b49bd7bc27. Einfach den Quelltext kopieren, mit git clonen oder einen Github-Fork erstellen.

Warum ich ein Ubernaut wurde

Dieses Blog wird bei Uberspace.de gehostet. Auf die Ubernauten stieß ich zufällig in diesem Blog-Beitrag von Dominik Schilling auf wpGrafie.de.
Mal kurz weiter gesurft und den wohl flexibelsten Sharedhosting-Provider Deutschlands gefunden. PHP, MySQL, Mail, IMAP, 10 GB Plattenplatz, 100 GB Traffic und ein vollwertiger SSH-Zugang, um nur einige der sehr vielen Feautures zu nennen. 10mal besser als irgendwelche fummeligen Weboberflächen, die überall anders aussehen oder als Dateien schubsen per FTP.
Das alles hat natürlich seinen Preis, doch auch den bestimmst Du selbst. Die einzige Vorgabe ist ein Mindestpreis von gerade mal einem Euro. Doch spätestens wenn Du einmal mit dem Support zu tun hattest willst du ganz von alleine mehr bezahlen. Die Jungs sind alle Admins und Meister ihres Fachs – es ist keine Seltenheit zu jeder Tages und Nachtzeit innerhalb von Minuten eine Antwort zu bekommen.
Wenn Du also zumindest grundlegende Kenntnisse vom Umgang mit einer Konsole hast und keine Angst vor langen, aber sehr informativen Texten im Wiki, dann kannst du unter https://uberspace.de gleich loslegen.

Kleiner Hinweis am Rande, für diesen Artikel bekomme ich von den Ubernauten rein gar nichts. Ich schreibe das aus Überzeugung, das Uberspace ein guter Provider ist und ich möchte das noch mehr Leute den Service kennen lernen dürfen. Die Ubernauten selbst schreiben dazu auf ihrer Website:

Wer sich entscheidet, selbst Ubernaut zu werden, will das oft nicht für sich behalten. Und wir fühlen uns geehrt: Wir haben nämlich kein Referrer-Programm zum Mitverdienen und bezahlen auch niemanden dafür, besonders wohlwollend über uns zu schreiben. Wer uns empfiehlt, tut das aus Überzeugung und steht dafür mit seinem Namen – darauf sind wir dann doch mal ein wenig stolz, denn echtes Lob muss man sich eben verdienen. Bleibt die Frage: Wann stellst du uns selbst auf die Probe?
Eure Meinung – Uberspace.de