====== Tema 2 PP 2023 ====== **DEADLINE 28 aprilie 2023** * Temele trebuie submise pe curs.upb.ro, in assignment-ul numit ''Tema 2''. * Temele ce nu sunt acceptate de validatorul de arhive **NU** vor fi puncate. * Va sugeram ca dupa ce ati incarcat o arhiva, sa o descarcati si sa o testati cu validatorul de arhive. **Folosiți un stil de programare funcțional. NU se vor accepta:** * **Efecte laterale** (de exemplu modificarea parametrilor dați ca input la funcție) * **var** (**val** este ok!) Scheletul se poate găsi la: {{:pp:2023:pp-tema2-skeleton.zip|}} Validatorul de arhive se poate găsi la: {{:pp:2023:archive_validator_hw2.zip|}} \\ Formatul arhivelor este: * util/Util.scala * Table.scala * TestTables.scala * ID.txt - acest fisier va contine o singura linie, formata din ID-ul unic al fiecarui student Numele arhivelor trebuie sa fie de forma **___T2.zip** (daca aveti mai multe prenume sau nume, le puteti separa prin '-') ====Scopul temei==== /* Scala este un limbaj de programare care a fost dezvoltat initial pentru a fi utilizat in proiectele de mare scalabilitate si in special pentru a procesa date in big data. Acesta are o serie de caracteristici care il fac foarte util pentru a lucra cu big data. * Performanta: Scala este un limbaj de programare puternic si rapid, care poate procesa un volum mare de date intr-un timp scurt. Acest lucru il face foarte util in proiectele de big data care necesita performanta ridicata. * Scalabilitate: Scala este conceput pentru a fi scalabil si poate fi utilizat in proiecte mari care necesita procesarea a milioane sau chiar miliarde de inregistrari. * Imutabilitatea: Scala pune accent pe imutabilitate, ceea ce inseamna ca datele nu se pot schimba dupa ce au fost create. Acest lucru face ca codul sa fie mai usor de inteles si mai usor de gestionat in proiectele de big data. * Functii pure: Scala pune accentul pe functiile pure, care nu au efecte secundare si nu modifica starea sistemului. Aceste functii sunt utile in proiectele de big data, deoarece putem fi siguri ca nu vom modifica accidental datele in mod neasteptat. Tocmai de accea, o modalitate de a aplica cunostiintele de programare functionala dobandite pana acum este aceea de a manipula date tabelare. */ Cerintele temei va vor ghida pentru a implementa operatii uzuale pe tabele, folosind tipuri de date definite de voi pentru a facilita implementarea. In final, veti obtine un Query Language ce ofera posibilitatea de a aplica operatii complexe si de a manipula datele din tabele intr-un mod flexibil si usor de extins cu noi functionalitati. ==== Tabele ==== Un tabel este in esenta o matrice ce contine elemente de tip ''String'', alaturi de cate un **nume** asociat fiecarei coloane, necesar pentru a descrie cu usurinta operatii peste acestea. In aceasta tema, vom folosi doua reprezentari pentru o linie a unei matrici, fiecare potrivita in contexte diferite: * ''Line'' - este pur si simplu o lista cu valorile liniei corespunzatoare. * ''Row'' - este un Map in care asociaza numelui coloanei valoarea de pe linia respectiva. type Row = Map[String, String] type Line = List[String] ====1. Tipul de date Table si parsarea datelor (10p) ==== Pentru inceput, trebuie sa definim o clasa prin care sa modelam ce este un tabel. Vom implementa clasa ''Table'' in acest sens: class Table (column_names: Line, tabular: List[List[String]]) { ??? } Pentru a putea rula checkerul, este nevoie sa putem parsa input si output. Prin urmare, avem nevoie de o functie de citire si una de afisare a unui tabel. **1.1. (5p)** Suprascrieti metoda ''toString'' a unui tabel, astfel incat sa puteti reprezenta un tabel in forma csv. Liniile vor fi separate prin ''\n'', iar coloanele vor fi delimitate prin '',''. **1.2. (5p)** Definiti functia ''apply'' intr-un companion object al clasei ''Table''. Functia trebuie sa parseze un sir de caractere si sa returneze un tabel. def apply(s: String): Table = ??? ====2. Functii de procesare a datelor (50p)==== In continuare, vom implementa operatii pe tabele, ca **membri** ai clasei ''Table''. **2.1. (5p)** Implementati functia ''select'' care selecteaza valorile din tabel asociate unor coloane date ca input. Daca operatia face referire la coloane inexistente, ea va intoarce ''None''. def select(columns: Line): Option[Table] = ??? **2.2. (20p)** Implementati functia ''filter'' care aplica un filtru pe liniile din tabel, fiind pastrate doar acele linii care verifica conditia. Daca conditia de filtrare face referiri la coloane inexistente, operatia va intoarce ''None''. def filter(cond: FilterCond): Option[Table] = ??? Pentru acest exercitiu, este nevoie sa implementam si filtrele ce se aplica pe o linie din tabel. Definim un filtru recursiv, astfel: ::= && | || | ( ) Unde '''' este un nume de coloana, iar este un predicat ce poate sau nu sa fie satisfacut de valoarea de la coloana respectiva. trait FilterCond { // these are useful for the intuitive infix notation // e.g. the following expression is a filter condition: // Field("PL", x=>true) && Field("PL", x=> false) def &&(other: FilterCond): FilterCond = ??? def ||(other: FilterCond): FilterCond = ??? // fails if the column name is not present in the row def eval(r: Row): Option[Boolean] } case class Field(colName: String, predicate: String => Boolean) extends FilterCond{ override def eval(r: Row): Option[Boolean] = ??? } case class And(f1: FilterCond, f2: FilterCond) extends FilterCond { override def eval(r: Row): Option[Boolean] = ??? } case class Or(f1: FilterCond, f2: FilterCond) extends FilterCond { override def eval(r: Row): Option[Boolean] = ??? } **2.3. (5p)** Implementati functia ''newCol'' ce adauga o noua coloana la finalul unui tabel, fiecare intrare in acea coloana asociata unei linii fiind completata cu o valoare default. def newCol(name: String, defaultVal: String): Table = ??? **2.4. (20p)** Implementati functia ''merge'' care uneste 2 tabele. Identificarea liniilor ce trebuie combinate se va face folosind coloana comuna ''key''. Daca exista suprapuneri intre valorile asociate unei chei in cele doua tabele, se vor pastra amandoua valorile (daca sunt diferite) sub forma unui singur sir de caractere (cele doua intrari vor fi separate prin '';''), iar acolo unde nu exista corespondent in unul dintre tabele, coloanele ramase necompletate vor fi umplute cu un sir de caractere gol. Daca coloana ''key'' nu exista in vreunul din tabele, se va intoarce ''None''. def merge(key: String, other: Table): Option[Table] = ??? TABEL 1: PL Functional Description Haskell yes nice Scala yes cool Python yes good TABEL 2: PL OO Description Scala yes cool Python yes whoa MERGE intre TABEL 1 si TABEL 2 cu cheia PL: PL Functional Description OO Haskell yes nice "" Scala yes cool yes Python yes good;whoa yes ====3. Query Language (40p)==== Obiectivul acestui task este acela de a: * permite programatorilor sa **combine** functiile de procesare a tabelelor intr-un mod flexibil * crea o **separare** intre ceea ce fac functiile si modul in care sunt implementate --> acest lucru este folositor din mai multe motive: * se pot integra **functionalitati noi** foarte usor * debug, testare **3.0. (25p)** Veti implementa un Query Language ce reprezinta un API pentru o varietate de transformari de tabele, deja implementate anerior ca functii. Un ''Query'' este o secventa/ combinatie de astfel de transformari. Query-urile sunt descrise recursiv astfel: ::= // query atomic - reprezinta tabelul initial pe care se va realiza query-ul. | Select //selecteaza o lista de coloane dintr-un tabel dat, //esueaza daca se doreste o coloana ce nu se gaseste in tabel | NewCol //creeaza o noua coloana cu nume dat intr-un tabel, completand coloana cu o valoare default //operatia e posibila doar daca cheia se gaseste in ambele tabele | Merge //combina 2 tabele pe baza unei chei comune //operatia e posibila doar daca cheia se gaseste in ambele tabele | Filter //aplica un filtru pe liniile tabelei Spre exemplu, pentru a evalua query-ul: ''Select "PL" '', se va evalua intai query-ul '''' apoi se va efectua operatia //Select// pe rezultatul intors de ''Q''. Scheletul de implementare pentru Query-uri se gaseste mai jos: trait Query { def eval: Option[Table] } case class Value(t: Table) extends Query { override def eval: Option[Table] = ??? } case class Select(columns: Line, target: Query) extends Query { override def eval: Option[Table] = ??? } case class Filter(condition: FilterCond, target: Query) extends Query{ override def eval: Option[Table] = ??? } case class NewCol(name: String, defaultVal: String, target: Query) extends Query{ override def eval: Option[Table] = ??? } case class Merge(key: String, t1: Query, t2: Query) extends Query { override def eval: Option[Table] = ??? } In finalul acestei teme, vom scrie propriul nostru Query, folosind tabelele Functional, Object-Oriented si Imperative, ce contin doar 3 coloane: "Language", "Original purpose", "Other paradigms". **3.1. (5p)** Creati tabelul ''TestTables.programmingLanguages1'' combinand functiile ''newCol'' si ''merge'': * creati o noua colana in fiecare tabel ce contine tipul limbajului, avand acelasi nume ca tabela si valoare default "Yes" * aplicati merge intre noile tabele dupa numele limbajelor de programare **3.2. (5p)** Păstrați doar limbajele al caror scop original este "Application" si sunt "concurrent". Rezultatul se va numi ''TestTables.programmingLanguages2''. **3.3. (5p)** Selectati doar coloanele "Language", "Object-Oriented" si "Functional" din tabelul obtinut anterior. Rezultatul se va numi ''TestTables.programmingLanguages3''.