Linux/Datei/Pipe

Pipe - Datenstrom zwischen zwei Prozessen durch einen Puffer mit dem Prinzip First In – First Out (FIFO)

Beschreibung

Eine Pipe oder Pipeline (englisch Rohrleitung) ist ein Datenstrom zwischen zwei Prozessen durch einen Puffer mit dem Prinzip First In – First Out (FIFO).

• Das bedeutet vereinfacht, dass ein Ergebnis eines Computerprogramms als Eingabe eines weiteren Programms verwendet wird.
• Pipes wurden 1973 von Douglas McIlroy für das Betriebssystem Unix entwickelt.

Funktionsweise

Beispiel

ls -R ./Bilder | grep -ic '\.jpg$'

Im Beispiel sind die zwei kleinen Programme ls und grep über eine Pipe (Symbol |) verbunden.

• Entsprechend der Unix-Philosophie sind beides Programme, die eine einzelne Aufgabe erledigen, auf Textströmen basieren und zusammen arbeiten können.
• das Programm ls dient dazu, den Inhalt von Dateipfaden in Textform zu listen
• grep ist ein Programm, das Texte nach Zeichenketten durchsuchen kann

Im Beispiel wird ls angewiesen, das Verzeichnis Bilder einschließlich der Unterverzeichnisse (Schalter R) zu listen.

• Das Ergebnis (einen Text) schickt ls in eine Pipe.

In der Pipe nimmt das Programm grep den Text in Empfang.

• Es wird angewiesen, den Text nach der Zeichenkette .jpg zu durchsuchen (der Punkt von „.jpg“ wird mit einem Backslash maskiert, weil er für grep zwei Bedeutungen hat).
• Dem Programm grep wurden noch die Schalter i und c mitgegeben. i bewirkt, dass bei der Zeichenkette Groß- und Kleinbuchstaben gleich behandelt werden (es wird also auch „JPG“ gefunden); der Schalter c weist grep an, nicht die Fundstellen zu listen, sondern deren Anzahl auszugeben.

Das Ergebnis der Pipe ist also die Anzahl der JPG-Bilder unterhalb des Verzeichnisses ./Bilder.

Auf den ersten Blick erscheint es einfacher, wenn man das Programm ls mit mehr Funktionalität ausstattet, um die umständliche Schreibweise der Pipe zu umgehen (wie der Befehl dir bei DOS und dessen Nachfolger).

• Anhänger der Unix-Philosophie betonen aber, dass das Aufteilen eines größeren Problems in Teilprobleme für entsprechend spezialisierte Programme effektiver sei.

Erzeugen einer Pipe

Unter den meisten Betriebssystemen und Programmiersprachen werden nach Anforderung einer Pipe durch den Systemaufruf pipe() vom Betriebssystem zwei Zugriffskennungen (engl.: handles) zurückgeliefert, die zum Schreiben in die bzw.

• Lesen aus der Pipe benötigt werden.
• Auch Kindprozesse erben den Zugriff auf diese handles.
• Mit der Beendigung des letzten Prozesses, der Zugriff auf eine aktive Pipe hat, wird diese vom Betriebssystem beendet.

Pipe-Varianten

Anonyme Pipes

Einschränkungen

• Sie können nur in eine Richtung verwendet werden: ein Prozess schreibt, der andere liest.
• Sie können nur für die Kommunikation zwischen eng verwandten Prozessen benutzt werden.
• Die maximale Datenmenge, die eine Pipe enthalten kann, ist relativ klein.

Benannte Pipes

Named Pipes

• können dagegen auch zur Kommunikation zwischen Prozessen eingesetzt werden, die nicht miteinander verwandt sind und sich darüber hinaus auf unterschiedlichen Rechnern innerhalb eines Netzwerkes befinden dürfen.
• Sie sind flexibler als anonyme Pipes und eignen sich für sogenannte Client-Server-Anwendungen (es lassen sich auch RPCs realisieren).
• Benannte Pipes ermöglichen die gleichzeitige Kommunikation in beide Richtungen, das heißt, Daten können im Vollduplexbetrieb zwischen den Prozessen ausgetauscht werden.
• Jeder Prozess, der den Namen einer benannten Pipe kennt, kann über diesen Namen die Verbindung zur Pipe und damit zu anderen Prozessen herstellen.

Pipes in Betriebssystemen

Pipes sind in verschiedenen Betriebssystemen realisiert, die meisten bieten sowohl anonyme als auch benannte Pipes.

Unix

Anonyme Pipes

Pipes sind unter Unix und unixoiden Betriebssystemen eines der mächtigsten Werkzeuge, um die sequentielle Abarbeitung von Befehlen auf einem bestimmten Datenbestand zu ermöglichen.

Bei einer anonymen Pipe ist die Kommunikation dabei auf mehrere Prozesse gleichen Ursprungs beschränkt.

• Diese (Ursprungs-)Beziehung entsteht meistens durch Forks.
• In der Shell wird eine anonyme Pipe zum Startzeitpunkt der Programme durch Eingabe eines „|“-Zeichens erzeugt.
• Die Shell ist dann der (gemeinsame) Elternprozess aller Prozesse und erledigt die Forks automatisch.

Beispiel

grep '.sshd.*Invalid user' /var/log/messages | awk '{print $NF}' | sort -u

Hier wird die System-Logdatei nach dem Suchbegriff „sshd“ durchsucht, dem in derselben Zeile der Text „Invalid user“ folgt.

• Anschließend wird das letzte Feld aus der Meldung herausgeschnitten („awk …“), das hier die IP-Adresse des Rechners enthält, von dem aus der ssh-Zugriff ausging.
• Zum Schluss werden diese IP-Adressen so sortiert, dass sie nicht mehrfach auftreten („sort --unique“).

Die an einer solchen Pipe beteiligten Programme nehmen (bis auf das erste) Eingabedaten von ihrer Standardeingabe entgegen und stellen (bis auf das letzte) Ausgabedaten auf ihrer Standardausgabe bereit, siehe auch Filter (Unix).

• Verlangt eine Anwendung die Angabe von Dateinamen für die Ein- oder Ausgabe, so kann man oft durch die Angabe eines Minuszeichens als Dateiname erreichen, dass auf die Standardausgabe geschrieben bzw.
• von der Standardeingabe gelesen wird.
• Wenn sie diese Konvention implementiert haben, ist so das Schreiben in bzw. das Lesen aus einer Pipe auch mit solchen Anwendungen realisierbar.

Beispiel

tar cf - /home/user/ogg/mycolouringbook | ssh -l user server "cd /var/ogg && tar xvf -"

Hier wird der Inhalt eines Verzeichnisses mit tar zu einem Archiv zusammengepackt, über eine SSH-Verbindung zu einem anderen Rechner verschickt und dort entpackt.

Named Pipe

Eine Named Pipe, auch FIFO (von first-in-first-out) genannt, ist eine Pipe, die von zwei Prozessen zur Laufzeit über einen Dateinamen zum Lesen oder Schreiben geöffnet werden kann.

• Bei einer Named Pipe müssen die Prozesse keinen gemeinsamen Ursprung haben, die Prozesse müssen lediglich zum Zugriff auf die Pipe autorisiert sein und den Namen der Pipe kennen.

Beispiel

mkfifo einefifo
cat /var/log/messages > einefifo &
grep sshd < einefifo

FIFOs überdauern die sie verwendenden Prozesse, weil sie Bestandteil des Dateisystems sind.

• Allerdings kann eine FIFO keinen Inhalt haben, solange sie von keinem Prozess geöffnet ist.
• Das bedeutet, dass der gepufferte Inhalt verloren geht, wenn ein schreibender Prozess sein Ende der Pipe schließt, ohne dass ein lesender Prozess das andere Ende geöffnet hat.

Verwendung einer unidirektionalen Unix-Pipe

Dieser Sourcecode bewirkt das gleiche wie die Shellanweisung who | sort

#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
#include <sys/wait.h>

int main(void){

// pipe_verbindung[0] zum Lesen und pipe_verbindung[1] zum Schreiben
int pipe_verbindung[2];

//Initialisierung durch die Funktion Pipe
pipe(pipe_verbindung);

//Kindprozess erzeugen
if (fork()==0){
        // dup2 verbindet den Filedeskriptor der Pipe mit dem Filedeskriptor der Standardausgabe
        dup2(pipe_verbindung[1],1);

        // der Leseausgang muss geschlossen werden, da dieser Prozess nichts liest
        close(pipe_verbindung[0]);

         // Kommando ausführen, Standardausgabe des Kommandos ist mit der Pipe verbunden
        execlp("who","who",NULL);
        }
// dann zweiten Kindprozess erzeugen
else if (fork()==0){
        dup2(pipe_verbindung[0],0);
        close(pipe_verbindung[1]);
        execlp("sort","sort",NULL);
        }
}

Der schreibende Prozess (Prozess 1) hat zunächst auch lesenden Zugriff auf die Pipe (unidirektional)

• Deshalb muss er seinen Filedeskriptor(0) zum Lesen sperren.
• Genauso hat der lesende Prozess (Prozess 2) zunächst schreibenden Zugriff auf die Pipe.
• Deshalb muss er seinen Filedeskriptor(1) zum Schreiben sperren.

Werden die nicht benötigten Deskriptoren nicht gesperrt, kommt es zu Komplikationen

Wenn zum Beispiel Prozess 1 keine Daten mehr zu versenden hat, terminiert er.

• Allerdings wird Prozess 2 nicht terminieren, da noch ein Filedeskriptor(1) zum Schreiben (sein eigener) für weitere Eingaben auf die Pipe gesetzt ist.
• Er wartet, aber es kommen keine Daten.

Ein anderes denkbares Szenario ist, dass Prozess 1 nicht terminieren kann, weil er Lesezugriff auf die Pipe hat und für immer und ewig auf Daten des Gegenspielers wartet, aber niemals welche ankommen werden, da er erstens schon längst terminiert ist und zweitens auch niemals welche gesendet hat.

Windows

Windows kennt anonyme und benannte Pipes.

• Benannte Pipes lassen sich über das Pipe-API analog zu den SMB-Freigaben als \\ServerName\pipe\PipeName ansprechen.

Anonyme Pipes sind in der Windows-Eingabeaufforderung möglich, um z. B.. mit dem find-Befehl in der Ausgabe eines dir-Befehls nur die Ausgaben zu erhalten, die bestimmte Zeichenketten im Pfad oder Dateinamen enthalten (was durch die dir-Syntax nicht immer vollständig abgedeckt ist): So gibt folgende Befehlseingabe alle Unterverzeichnisse mit enthaltenen .java Dateien aus, in denen im Pfad das Wort Render enthalten ist, sowie die .java Dateien selbst, in dessen Dateiname Render enthalten ist:

dir *.java /s | find "Render"

Anhang

Siehe auch

• Linux/Datei/Pipe

---

• Netcat

Links

Weblinks

1. https://de.wikipedia.org/wiki/Pipe_(Informatik)
2. Dokumentation des Windows Pipe API Microsoft Developer Network [MSDN]