Laborator 3 - Functii de Intrare / Iesire

• Slide-uri
• lab02-refcard.pdf

• TLPI - Chapter 4, File I/O: The Universal I/O model

Fișierul este una dintre abstractizările fundamentale în domeniul sistemelor de operare; cealaltă abstractizare este procesul. Dacă procesul abstractizează execuția unei anumite sarcini pe procesor, fișierul abstractizează informația persistentă a unui sistem de operare. Un fișier este folosit pentru a stoca informațiile necesare funcționării sistemului de operare și interacțiunii cu utilizatorul.

Un sistem de fișiere este un mod de organizare a fișierelor și prezentare a acestora utilizatorului. Din punctul de vedere al utilizatorului, un sistem de fișiere are o structură ierarhică de fișiere și directoare, începând cu un director rădăcină. Localizarea unei intrări (fișier sau director) se realizează cu ajutorul unei căi în care sunt prezentate toate intrările de până atunci. Astfel, pentru calea /usr/local/file.txt directorul rădăcină '/' are un subdirector usr care include subdirectorul local ce conține un fișier file.txt.

Fiecare fișier are asociat, așadar, un nume cu ajutorul căruia se face identificarea, un set de drepturi de acces și zone conținând informația utilă.

Sistemele de fișiere suportate de sistemele de operare de tip Unix și Windows sunt ierarhice. Sistemele Linux/Unix sunt case-sensitive (Data este diferit de data), iar sistemele Windows sunt case-insensitive.

Ierarhia sistemului de fișiere Unix are un singur director cunoscut sub numele de root și notat '/', prin care se localizează orice fișier (a nu se confunda cu directorul /root, care este home-ul utilizatorului privilegiat, root). Notația Unix pentru căile fișierelor este un șir de nume de directoare despărțite prin '/', urmat de numele fișierului. Există și căi relative la directorul curent '.' sau la directorul părinte '..'.

În Unix nu se face nicio deosebire între fișierele aflate pe partițiile discului local, pe CD sau pe o mașină din rețea. Toate aceste fișiere vor face parte din ierarhia unică a directorului root. Acest lucru se realizează prin montare: sistemele de fișiere vor fi montate într-unul dintre directoarele sistemului de fișiere rădăcină.

În Windows există mai multe ierarhii, câte una pentru fiecare partiție și pentru fiecare loc din rețea. Spre deosebire de Unix, delimitatorul între numele directoarelor dintr-o cale este '\', și pentru căile absolute trebuie specificat numele ierarhiei în forma C:\, E:\ sau \\FILESERVER\myFile (pentru rețea). Ca și Unix, Windows folosește '.' pentru directorul curent și '..' pentru directorul părinte.

În Unix, un descriptor de fișier este un întreg care indexează o tabelă cu pointeri spre structuri care descriu fișierele deschise de un proces. În cazul în care un program rulează într-un shell Unix, procesul părinte (shell-ul) deschide pentru procesul copil (programul respectiv) 3 fișiere standard având descriptori de fișiere cu valori speciale:

• standard input (0) - citirea de la intrarea standard (tastatură)
• standard output (1) - afișarea la ieşirea standard (consolă)
• standard error (2) - afișarea la ieşirea standard de eroare (consolă)

Un fișier are asociat cursorul de fișier (file pointer) care indică poziția curentă în cadrul fișierului. Cursorul de fișier este un întreg care reprezintă deplasamentul (offset-ul) față de începutul fișierului.

Operațiile specifice pentru lucrul cu fișiere:

• deschiderea/crearea unui fișier - înseamnă asocierea unui descriptor de fișier identificat prin numele său ¹⁾. ( Linux )
• închiderea unui fișier - înseamnă eliberarea structurilor de fișier asociate procesului și a descriptorului acelui fișier - doar dacă nu mai există nici o intrare în tabela file descriptorilor care să puncteze spre acea structură ²⁾. ( Linux )
• citirea dintr-un fișier - înseamnă copierea unui bloc de date într-un buffer; după ce se realizează citirea se actualizează cursorul de fișier ³⁾. ( Linux )
• scrierea într-un fișier - înseamnă copierea unui bloc de date dintr-un buffer în fișier; efectuarea scrierii înseamnă și actualizarea cursorului de fișier ⁴⁾. ( Linux, Windows )
• poziționarea într-un fișier - înseamnă schimbarea valorii cursorului de fișier; citirile sau scrierile ulterioare vor porni din locul indicat de acest cursor de fișier ⁵⁾. ( Linux )
• schimbarea atributelor unui fișier - înseamnă stabilirea unor parametri pentru fișier ⁶⁾. ( Linux)

Pentru a putea utiliza funcții de manipulare a fișierelor în Python, vom importa biblioteca os.

import os

Pentru deschiderea/crearea unui fișier se folosește funcția open.

os.open(path, flags) #deschidere
os.open(path, flags, mode) #creare      

Valori posibile pentru flags sunt:

• os.O_RDONLY open for reading only
• os.O_WRONLY open for writing only
• os.O_RDWR open for reading and writing
• os.O_NONBLOCK do not block on open or for data to become available
• os.O_APPEND append on each write
• os.O_CREAT create file if it does not exist
• os.O_TRUNC truncate size to 0
• os.O_EXCL error if * O_CREAT and the file exists
• os.O_SHLOCK atomically obtain a shared lock
• os.O_EXLOCK atomically obtain an exclusive lock
• os.O_NOFOLLOW do not follow symlinks
• os.O_SYMLINK allow open of symlinks
• os.O_EVTONLY descriptor requested for event notifications only
• os.O_CLOEXEC mark as close-on-exec

Valorile flags sunt reprezentate prin biti, astfel ca pot fi combinate prin operatorul | (sau pe biti).

# open a file in write only and delete all its contents (truncate to 0)
os.open(pathname, O_WRONLY | O_TRUNC, mode);

Valoarea lui mode este reprezentata de drepturile noului fisier creat (pe biti). In general, se foloseste un numar in baza 8. Acesta are trei cifre, fiecare cu trei biti.

• r - read
• w - write
• x - execute

Fiecare cifra se refera la:

• prima cifra - permisiunile utilizatorului care detine fisierul
• a doua cifra - permisiunile grupului care detine fisierul
• a treia cifra - permisiunile utilizatorulor care nu detin fisierul si nici nu fac parte din grupul care detine fisierul

Închiderea de fișiere se realizează cu close:

os.close(fd)

Ștergerea efectivă a unui fișier de pe disk se realizează cu funcția unlink:

os.unlink(pathname)

Dacă, spre exemplu, dorim să deschidem fișierul in.txt pentru citire și scriere, cu eventuala creare a acestuia, iar fișierul out.txt pentru scriere, cu trunchiere putem folosi următoarea secvență de cod:

import os
 
try:
    fd1 = os.open("in.txt", O_RDWR | O_CREAT, 0644)
 
    # will fail if out.txt does not exist
    fd2 = os.open("out.txt", O_WRONLY | O_TRUNC)
 
    os.close(fd1)
    os.close(fd2)
 
except Exception as e:
    print ("Error: {}".format (e))

Atenție! O greșeală frecventă este omiterea drepturilor de creare a fișierului (0644 în exemplul de mai sus) când se apelează open cu flag-ul O_CREAT setat.

Funcția read e folosită pentru citirea din fișier a maxim count octeți:

os.read(fd, count)

Funcția read întoarce un bytestring care contine octetii cititi, cel mult count. Când se ajunge la sfârșitul de fișier se va întoarce un bytestring gol.

Funcția write e folosită pentru scrierea în fișier a datelor din str:

os.write(fd, str)

Valoarea întoarsă este numărul de octeți ce au fost efectiv scriși. În mod implicit nu se garantează că la revenirea din write scrierea în fișier s-a terminat. Pentru a forța actualizarea se poate folosi fsync sau fișierul se poate deschide folosind flagul O_FSYNC, caz în care se garantează că după fiecare write fișierul a fost actualizat.

Observație: Pentru read/write există versiunile pread/https://docs.python.org/3/library/os.html#os.pwrite, care permit specificarea unui offset în fișier de la care să se efectueaze operația de citire/scriere.

Funcția lseek permite mutarea cursorului unui fișier la o poziție absolută sau relativă.

 os.lseek(fd, offset, whence)

Parametrul whence reprezintă poziția relativă de la care se face deplasarea:

• os.SEEK_SET - față de poziția de început
• os.SEEK_CUR - față de poziția curentă
• os.SEEK_END - față de poziția de sfârșit

Observație lseek permite și poziționări după sfârșitul fișierului. Scrierile care se fac în astfel de zone nu se pierd, ceea ce se obține fiind un fișier cu goluri, o zonă care este sărită - nu este alocată pe disc.

Pe lângă trunchierea la 0 care se poate face prin apelul open cu flag-ul O_TRUNC, se poate specifica trunchierea unui fișier la o dimensiune specificată, prin apelurile de sistem ftruncate și truncate:

os.ftruncate(fd, length)        
os.truncate(path, length)

În cazul ftruncate, parametrul fd este file descriptorul obținut cu un apel open, care a asigurat drept de scriere. În cazul truncate, fișierul reprezentat prin path trebuie să aiba drept de scriere.

import os
 
# Print the last 100 bytes from a file
 
try:
    # open file 
    fd = os.open("file.txt", O_RDONLY)
 
    # set file pointer at 100 characters _before_ the end of the file
    rc = os.lseek(fd, -100, SEEK_END)
 
    # read the last 100 characthers 
    msg = os.read(fd, 100)
    bytes_read = len(msg)
 
    print ("the last " + bytes_read + " bytes")
    print (buf.decode("utf-8"))
 
    # close file
    os.close(fd)
except Exception as e:
    print ("Error: {}".format (e))

În Linux redirectările se realizează cu ajutorul funcțiilor de duplicare a descriptorilor de fișiere dup și dup2 (observați diferența dintre cele 2 în link-urile anterioare):

os.dup(fd)
os.dup2(fd1, fd2, inheritable=True)

De exemplu, pentru redirectarea ieșirii în fișierul output.txt, sunt necesare două linii de cod:

try:
    fd = os.open("output.txt", O_RDWR|O_CREAT|O_TRUNC, 0600)
    os.dup2(fd, STDOUT_FILENO)
except Exception as e:
    print ("Error: {}".format (e))

Intrați în directorul 1-redirect și urmăriți conținutul fișierului redirect.py.

Rulați programul folosind comanda python3 redirect.py.

Deschideți alt terminal și rulați comanda:

 watch -d lsof -p $(pidof redirect) 

lsof este un utilitar care afișează informații despre fișierele deschise (ce fișiere sunt deschise în sistem, ce fișiere a deschis un anumit user etc). Căutați în manual (man 8 lsof) pentru a identifica semnificația coloanei FD și a coloanei TYPE.

Folosiți comanda ENTER pentru a continua programul. În paralel urmăriți cum se modifică tabela de file-descriptori.

În cod, observați parametrii cu care s-a realizat redirectarea cu ajutorul funcțieidup2 (dup2(fd2, 2)). Observați ce se întamplă dacă parametrii sunt în ordine inversă.

• revedeți secțiunea de redirectări

mergeti in directorul 2-read-write si deschideti fisierul read-write.py.

Puneti numele vostru in variablila name. Afisati variabila pe ecran folosind doar functia write. Urmariti liniile cu TODO 1.

Cititi de la tastatura variabila name folosind doar functia read.

Functia read citeste buffer-e binare, astfel incat nu adauga caracterul \0 in capat. Adaugati caracterul \0.

Afisati noul nume pe ecran folosind functia write.

Urmariti liniile cu TODO 2.

Scrieti-va numele intr-un fisier numit output.txt folosind functia write.

Urmariti linii cu TODO 3.

Intrați în directorul 3-lseek și urmăriți codul sursă din lseek.py. Ce valoare va întoarce al doilea apel al funcției lseek? Decomentați linia de afișare, compilați și rulați pentru verificare.

Sursa închide doar file descriptorul fd1. Este nevoie să se închidă și file descriptorul fd2? De ce?

Intrați în directorul 4-mcat.

Completați fișierul astfel încât programul rezultat mcat să aibă funcționalitate similară cu a utilitarului cat (urmăriți comentariile cu TODO 1)

Programul mcat va primi ca argument în linia de comandă numele unui fișier al cărui conținut îl va afișa la ieșirea standard. Nu aveți voie să citiți tot fișierul în memorie. Puteți citi doar bucăți de dimensiune maximum BUFSIZE.

Verificați codul de eroare întors de apelurile de sistem. Revedeți secțiunile Crearea, deschiderea și închiderea fișierelor și Scrierea și citirea fișierelor.

Testați cu o comandă de genul:

python3 mcat.py Makefile 

Extindeți funcționalitatea astfel încât output-ul să fie redirectat într-un fișier primit ca al doilea argument - funcționalitate similară cu a utilitarului cp. (urmăriți comentariile cu TODO 2)

Revedeți secțiunea de redirectări.

Testați funcționalitatea:

python3 mcat.py Makefile out ; python3 mcat.py out 

Inițializați fișierul /dev/nasty:

./set_nasty.sh

Încercați funcționalitatea de copiere pe fișierul /dev/nasty:

./mcat /dev/nasty
./mcat /dev/nasty out ; ./mcat out 

Dacă apar diferențe, fiți atenți la ce întorc funcțiile read și write (eventual afișați aceste valori) și reparați problema.

Testați scrierea cu:

python3 mcat.py Makefile /dev/nasty ; cat /dev/nasty

• Operații cu fișiere în Python
• Studiați exemplele din arhivă, citiți documentația și observați diferențele între API-uri

Solutii

1. Low level I/O (info libc “Low-Level I/O”)
2. Duplicating descriptors (info libc “Duplicating Descriptors”)
3. Low level I/O (Advanced Linux Programming)