Differences
This shows you the differences between two versions of the page.
| Both sides previous revision Previous revision Next revision | Previous revision | ||
|
pp:2024:tema1 [2024/03/25 12:54] alexandra.udrescu01 |
pp:2024:tema1 [2024/04/01 14:22] (current) alexandra.udrescu01 |
||
|---|---|---|---|
| Line 3: | Line 3: | ||
| Deadline: ''12 aprilie 2024'' | Deadline: ''12 aprilie 2024'' | ||
| - | Schelet de cod: {{:pp:2024:tema1:t1.zip|}} | + | Schelet de cod: {{:pp:2024:tema1:t1_v2.zip|}} |
| - | <note warning>Schelet actualizat 24 martie - adaugat teste pentru Regresie.</note> | + | |
| + | /* {{:pp:2024:tema1:t1.zip|}} */ | ||
| + | |||
| + | <note warning>Schelet actualizat 24 martie - adaugat teste pentru Regresie.</note> | ||
| + | <note warning>Cerinta actualizata 26 martie - update cerinta ''split'' & schelet actualizat pentru testarea lui ''split''.</note> | ||
| <note warning> | <note warning> | ||
| Folosiți un stil de programare funcțional. | Folosiți un stil de programare funcțional. | ||
| Line 113: | Line 116: | ||
| def split(percentage: Double): (Dataset, Dataset) = ??? | def split(percentage: Double): (Dataset, Dataset) = ??? | ||
| </code> | </code> | ||
| - | care imparte setul de date in doua seturi. Valoarea ''percentage'' este intre ''0'' si ''0.5'' si reprezinta procentul din dataset ce va fi pastrat pentru evaluare, din totalul de intrari ale dataset-ului. Metoda va intoarce o pereche de dataset-uri: unul mai mare (numit "de antrenare") si unul mai mic ("de testare/validare"). Pentru aceasta impartire, urmatii pasii urmatori: | + | care imparte setul de date in doua seturi. Valoarea ''percentage'' este intre ''0'' si ''0.5'' si reprezinta procentul din dataset ce va fi pastrat pentru evaluare, din totalul de intrari ale dataset-ului. Metoda va intoarce o pereche de dataset-uri: unul mai mare (numit "de antrenare") si unul mai mic ("de testare/validare"). Pentru aceasta impartire, urmati pasii urmatori: |
| - Sortati setul de date crescator dupa prima coloana | - Sortati setul de date crescator dupa prima coloana | ||
| - | - Parcurgeti lista de intrari (de la sus in jos) | + | - Pentru fiecare $math[ 1 / percentage - 1] intrari consecutive din dataset-ul sortat, adaugati o intrare in dataset-ul de evaluare, iar restul - in cel de training. |
| - | - La fiecare pas, verificati cate din elementele procesate au fost adaugate in setul de date de evaluare | + | |
| - | - Daca procentul e mai mic decat cel tinta, adaugati elementul in setul de date de antrenare, altfel, in cel de validare | + | |
| <note warning>Aveti grija la randul de cap de tabel. Aceasta nu este considerat o intrare si trebuie sa apara in ambele dataseturi construite. </note> | <note warning>Aveti grija la randul de cap de tabel. Aceasta nu este considerat o intrare si trebuie sa apara in ambele dataseturi construite. </note> | ||
| Line 212: | Line 213: | ||
| - **Gradient Descent:** Pentru un numar predefinit de pasi (''gradient_descent_steps''), se executa urmatorii sub-pasi: | - **Gradient Descent:** Pentru un numar predefinit de pasi (''gradient_descent_steps''), se executa urmatorii sub-pasi: | ||
| - **Calculul estimarilor:** Folosind atributele fiecarei locuinte si ipoteza de la pasul curent (coeficientii asociati fiecarui atribut), vom inmulti matricea ''X'' de dimensiune $math[m * (n + 1)] cu vectorul de coeficienti ''W'' de dimensiune $math[(n + 1) * 1], rezultand un **vector de estimari** de dimensiune $math[m * 1]. Acest vector de estimari reprezinta practic pretul prezis de regresia noastra pentru fiecare din cele m locuinte din setul de date. Cu alte cuvinte, daca ''W'' are coeficientii $math[W_0, W_1, ..., W_n] iar o locuinta are atributele $math[1, X_1, X_2, ..., X_n], noi vom calcula pretul prezis ca fiind $math[W_0 + W_1 * X_1 + W_2 * X_2 + ... + W_n * X_n]. | - **Calculul estimarilor:** Folosind atributele fiecarei locuinte si ipoteza de la pasul curent (coeficientii asociati fiecarui atribut), vom inmulti matricea ''X'' de dimensiune $math[m * (n + 1)] cu vectorul de coeficienti ''W'' de dimensiune $math[(n + 1) * 1], rezultand un **vector de estimari** de dimensiune $math[m * 1]. Acest vector de estimari reprezinta practic pretul prezis de regresia noastra pentru fiecare din cele m locuinte din setul de date. Cu alte cuvinte, daca ''W'' are coeficientii $math[W_0, W_1, ..., W_n] iar o locuinta are atributele $math[1, X_1, X_2, ..., X_n], noi vom calcula pretul prezis ca fiind $math[W_0 + W_1 * X_1 + W_2 * X_2 + ... + W_n * X_n]. | ||
| - | - **Calculul erorii:** In continuare, vrem sa facem astfel incat pretul prezis sa se apropie cat mai mult cu pretul real al locuintelor, definind astfel o functie de eroare egala cu diferenta dintre pretul real si cel prezis (preturile prezise sunt valorile din vectorul de estimari), in modul. Pretul real pentru toate locuintele se va retine ca un vector ''Y'' cu dimensiunea $math[m * 1]. Astfel eroarea va avea, de asemenea, dimensiunea $math[m * 1]. | + | - **Calculul erorii:** In continuare, vrem sa facem astfel incat pretul prezis sa se apropie cat mai mult cu pretul real al locuintelor, definind astfel o functie de eroare egala cu diferenta dintre pretul prezis si cel real (preturile prezise sunt valorile din vectorul de estimari). Pretul real pentru toate locuintele se va retine ca un vector ''Y'' cu dimensiunea $math[m * 1]. Astfel eroarea va avea, de asemenea, dimensiunea $math[m * 1]. |
| - **Calculul gradientului:** Gradientul reprezinta directia (crestem sau scadem) si marimea ajustarii necesare pentru coeficientii ''W'', pentru a reduce eroarea. Se calculeaza inmultind transpusa matricei ''X'' (de dimensiune $math[(n+1) * m]) cu vectorul de eroare (de dimensiune $math[m * 1]), si apoi se imparte fiecare element la m pentru a obtine media aritmetica. Rezultatul este un vector de dimensiune $math[(n+1) * 1]. | - **Calculul gradientului:** Gradientul reprezinta directia (crestem sau scadem) si marimea ajustarii necesare pentru coeficientii ''W'', pentru a reduce eroarea. Se calculeaza inmultind transpusa matricei ''X'' (de dimensiune $math[(n+1) * m]) cu vectorul de eroare (de dimensiune $math[m * 1]), si apoi se imparte fiecare element la m pentru a obtine media aritmetica. Rezultatul este un vector de dimensiune $math[(n+1) * 1]. | ||
| - **Actualizarea ipotezei (W):** Se actualizeaza ''W'' scazand produsul dintre gradient si un pas de invatare (alpha, un scalar), din valorile curente ale lui ''W''. Acest pas determina cat de repede invatam sau ajustam parametrii - influentand viteza de convergere la valorile optime. Noua valoare a lui ''W'' va fi folosita in urmatoarea iteratie a algoritmului. | - **Actualizarea ipotezei (W):** Se actualizeaza ''W'' scazand produsul dintre gradient si un pas de invatare (alpha, un scalar), din valorile curente ale lui ''W''. Acest pas determina cat de repede invatam sau ajustam parametrii - influentand viteza de convergere la valorile optime. Noua valoare a lui ''W'' va fi folosita in urmatoarea iteratie a algoritmului. | ||
| - | - Acum ca avem coeficientii regresiei, pentru ca am calculat matricea ''W'' dupa ''gradient_descent_steps'' pasi, vrem sa vedem cat de buna este estimarea noastra. Acum vom lua setul de date de validare si vom calcula predictiile regresiei noastre pentru fiecare locuinta. In continuare, vom calcula eroarea ca media aritmetica intre modulul diferentei dintre pretul prezis si cel real pentru fiecare locuinta din acest set de date de validare. | + | - Acum ca avem coeficientii regresiei, pentru ca am calculat matricea ''W'' dupa ''gradient_descent_steps'' pasi, vrem sa vedem cat de buna este estimarea noastra. Acum vom lua setul de date de validare si vom calcula predictiile regresiei noastre pentru fiecare locuinta. In continuare, vom calcula eroarea ca media aritmetica intre diferentei dintre pretul prezis si cel real pentru fiecare locuinta din acest set de date de validare. |
| - Vom intoarce ipoteza finala ''W'' si eroarea pe setul de validare. | - Vom intoarce ipoteza finala ''W'' si eroarea pe setul de validare. | ||
| Line 250: | Line 251: | ||
| ==== 3.1. Regresia pentru o lista de atribute - 30p ==== | ==== 3.1. Regresia pentru o lista de atribute - 30p ==== | ||
| - | <note important>In fisierul TestRegression exista 16 teste unitare. Fiecare valorează 1.875p din punctul aferent temi. Cu alte cuvinte cele 16 teste se scaleaza la 30p. </note> | + | <note important> |
| + | In fisierul TestRegression exista 10 teste unitare. Fiecare valorează 3p din punctul aferent temi. Cu alte cuvinte cele 10 teste se scaleaza la 30p. | ||
| + | </note> | ||
| Implementati functionalitatea metodei ''regression'' in interiorul clasei ''Regression''. Aceasta metoda trebuie sa execute urmatorii pasi, presupunand ca lucram cu ''n'' atribute selectate pentru a realiza regresia liniara. Matricea de intrare ''X'' va contine ''n + 1'' coloane: ''n'' coloane pentru atributele selectate si o coloana suplimentara care contine constanta ''1'' pentru a gestiona termenul liber al regresiei. | Implementati functionalitatea metodei ''regression'' in interiorul clasei ''Regression''. Aceasta metoda trebuie sa execute urmatorii pasi, presupunand ca lucram cu ''n'' atribute selectate pentru a realiza regresia liniara. Matricea de intrare ''X'' va contine ''n + 1'' coloane: ''n'' coloane pentru atributele selectate si o coloana suplimentara care contine constanta ''1'' pentru a gestiona termenul liber al regresiei. | ||