This shows you the differences between two versions of the page.
irva:laboratoarevr:01 [2024/10/07 13:16] andrei.lapusteanu WIP updating first VR lab |
irva:laboratoarevr:01 [2024/10/16 00:22] (current) andrei.lapusteanu Edited title |
||
---|---|---|---|
Line 1: | Line 1: | ||
- | ===== Laborator AR 01. Google Cardboard ===== | + | ===== Laborator VR 01. Google Cardboard XR ===== |
==== Înainte de a începe laboratorul... ==== | ==== Înainte de a începe laboratorul... ==== | ||
Line 10: | Line 10: | ||
* Vă recomandăm să urmăriți pașii descriși în [[irva:resurse:gitguide|acest ghid]] pentru setup-ul proiectului împreună cu Git. Vă va ușura munca pe parcursul semestrului. | * Vă recomandăm să urmăriți pașii descriși în [[irva:resurse:gitguide|acest ghid]] pentru setup-ul proiectului împreună cu Git. Vă va ușura munca pe parcursul semestrului. | ||
</note> | </note> | ||
+ | |||
+ | Link către [[https://github.com/UPB-Graphics/IRVA|GitHub repo]]. | ||
==== Introducere ==== | ==== Introducere ==== | ||
- | **Google Cardboard (XR Plugin for Unity)** este un SDK ce permite dezvoltatorilor să creeze experințe în realitate virtuală folosind dispozitive mobile (smartphone-uri) în motorul de jocuri Unty. Acest plugin este destinat utilizării împreună cu Google Cardboard (vezi imaginea de mai jos), un dispozitiv de tip holder pentru telefoane, ce permite o variantă low-cost de a experimenta cu realitatea virtuală. | + | **Google Cardboard (XR Plugin for Unity)** este un SDK ce permite dezvoltatorilor să creeze experințe în realitate virtuală folosind dispozitive mobile (smartphone-uri) în motorul de jocuri Unity. Acest plugin este destinat utilizării împreună cu Google Cardboard (vezi imaginea de mai jos), un dispozitiv de tip holder pentru telefoane, ce permite o variantă low-cost de experimentare a realitații virtuale. |
{{ :irva:laboratoare:l6_cardboardgif.gif?400 |}} | {{ :irva:laboratoare:l6_cardboardgif.gif?400 |}} | ||
- | Aceste dispozitive de tip holder se pot achiziționa de la diverse brand-uri – se pot achiziționa, de asemenea, controller-e de tip joystick ce comunică pe Bluetooth cu telefonul, pentru a avea un control sporit în scenele virtuale (de exemplu, se poate implementa movement-ul sau diferite interacțiuni folosing aceste controller-e). | + | Aceste dispozitive de tip holder se pot achiziționa de la diverse brand-uri – se pot achiziționa, de asemenea, controller-e de tip joystick ce comunică pe Bluetooth cu telefonul, pentru a avea un control sporit în scenele virtuale (de exemplu, se poate implementa movement-ul sau diferite interacțiuni folosind aceste controller-e). |
{{ :irva:laboratoare:l6_bt_controller.jpg?200 |}} | {{ :irva:laboratoare:l6_bt_controller.jpg?200 |}} | ||
- | În continuare puteți studia un demo ce prezintă laboratorul cu task-urile rezolvate (fără bonus-uri): | + | === Highlights tehnologie === |
- | + | ||
- | <video here, eventually> | + | |
- | + | ||
- | === Higlights tehnologie === | + | |
* **Compatibilitate**: Există suport atât pentru Android cât și pentru iOS | * **Compatibilitate**: Există suport atât pentru Android cât și pentru iOS | ||
Line 31: | Line 29: | ||
* **Feature-uri**: Suport pentru head tracking (folosind senzorii giroscopici și accelerometrele găsite în telefoane), randare stereoscopică (un render pentru fiecare ochi – se desenează fiecare render pe jumătate din ecranul dispozitivului), precum și diverse metode implementate în software, precum gaze interaction, ce permite interacțiunea cu diverse obicte prin simpla privire a acestora | * **Feature-uri**: Suport pentru head tracking (folosind senzorii giroscopici și accelerometrele găsite în telefoane), randare stereoscopică (un render pentru fiecare ochi – se desenează fiecare render pe jumătate din ecranul dispozitivului), precum și diverse metode implementate în software, precum gaze interaction, ce permite interacțiunea cu diverse obicte prin simpla privire a acestora | ||
- | <note tip>În mod evident, soluțiile dedicate pentru VR (HTC Vive, Meta Quest 2/3, Meta Pro, etc.) oferă o experiență virtuală mult superioară procesării posibile pe un smartphone, dar acest plugin ne permite să avem un “taste” al tehnologiei VR într-un mod accesibil.</note> | + | <note tip>În mod evident, soluțiile dedicate pentru VR (HTC Vive, Meta Quest 2/3, Meta Pro, etc.) oferă o experiență virtuală mult superioară procesării posibile pe un smartphone, dar acest plugin ne permite să avem un prim sneak peek al tehnologiei VR într-un mod accesibil.</note> |
==== Overview laborator ==== | ==== Overview laborator ==== | ||
În cadrul acestui laborator: | În cadrul acestui laborator: | ||
- | * Prezentăm pe scurt modalitatea de integrare a plugin-ului într-un proiect de Unity | + | * Prezentăm pe scurt modalitatea de **integrare a plugin-ului** într-un proiect de Unity |
- | <note important>Google Cardboard XR Plugin for Unity este deja intergrat și configurat (pentru Android).Quickstart-ul pentru setup se poate găsi aici: https://developers.google.com/cardboard/develop/unity/quickstart </note> | + | * **Testăm** demo sample-ul pentru a valida funcționarea corectă a plugin-ului |
- | * Testăm demo sample-ul pentru a valida funcționarea corectă a plugin-ului | + | * Implementăm cateva feature-uri pentru un joc simplu (balloon popper), ce funcționează pe conceptul de **gaze interaction** |
- | * Implementăm cateva feature-uri pentru un joc simplu (balloon popper), ce funcționează pe conceptul de gaze interaction | + | |
<note tip>În mod ideal, testarea funcționalităților din laborator se face folosind un dispozitiv de tip holder VR pentru smartphone, dar se poate testa și în absența acestuia. De asemenea, nu este necesară folosirea unui joystick pentru mobile.</note> | <note tip>În mod ideal, testarea funcționalităților din laborator se face folosind un dispozitiv de tip holder VR pentru smartphone, dar se poate testa și în absența acestuia. De asemenea, nu este necesară folosirea unui joystick pentru mobile.</note> | ||
- | În continuare puteți studia un demo ce prezintă laboratorul cu task-urile rezolvate (fără bonus-uri): | + | ==== Integrare Google Cardboard XR Plugin în proiect ==== |
- | <video here, eventually> | + | <note warning> |
+ | Asigurați-vă că aveți [[https://git-scm.com|Git]] instalat pe sistemul vostru! Nu veți putea adăuga pachete via managerul de pachete din Unity folosit URL-uri git daca nu-l aveți. | ||
+ | </note> | ||
+ | |||
+ | Întrucât pașii pentru integrarea acestui pachet sunt bine descriși în [[https://developers.google.com/cardboard/develop/unity/quickstart|acest]] acest ghid, vă recomandăm să-l urmați și voi - cel mai probabil veți face acești pași împreună cu asistentul de laborator. | ||
+ | |||
+ | Instalați, pe baza ghidului, sample-ul inclus în pachet. | ||
+ | |||
+ | {{ :irva:laboratoarevr:irva_2024_vr_l1_cardboardsamples.png?500 |}} | ||
+ | |||
+ | **⚠️ Atenție ⚠️** la build-urile pe Android! S-ar putea ca API-ul grafic Vulkan să nu ruleze deloc pe smartphone-ul vostru. Așadar, când ajungeți la pasul de setup al API-ului grafic: | ||
+ | * Asigurați-vă ca din **File -> Build Settings** este selectată platofrma **Android** | ||
+ | * Din **Player Settings -> Other Settings** debifați opțiunea **Auto Graphics API** | ||
+ | * Navigați la **Player Settings -> Other Settings -> Graphics APIs** și setați ''OpenGLES3'' ca primul din listă | ||
+ | |||
+ | {{ :irva:laboratoarevr:irva_2024_vr_l1_graphicsapis.png?500 |}} | ||
+ | |||
+ | ==== Pre-build setup ==== | ||
+ | |||
+ | Îndată ce se încheie instalarea pachetului Google Cardboard XR Plugin, ar trebui să vă apară în toolbar-ul (de sus) din Unity un nou menu item, pe care va trebui să-l folosiți pentru a seta o serie de dependințe ce țin de bibliotecile XR. | ||
+ | |||
+ | În proiectul Unity de VR veți include, pe parcursul laboratoarelor, diverse SDK-uri necesare pentru rezolvarea acestora. Întrucât integrarea tuturor acestora într-un singur proiect poate crea unele probleme, a fost implementat un editor script custom (accesat din acest meniu) care se ocupă de configurarea soluției dependent de laboratorul pentru care doriți să faceți build. | ||
+ | |||
+ | {{ :irva:laboratoarevr:irva_2024_vr_l1_xrloader.png?300 |}} | ||
+ | |||
+ | <note warning> | ||
+ | În cazul în care toate elementele din meniu sunt grayed out și prmiți null ref-uri în consolă, încercați să restartați editorul. | ||
+ | </note> | ||
+ | |||
+ | <note important> | ||
+ | * Notați existența acestui meniu întrucât la trebui să-l folosiți și să selectați opțiunea corespunzătoare și în următoarele laboratoare de VR. | ||
+ | * În cazul în care nu vă apare acest meniu, sau dacă sunt actualizări ale acestuia, stergeți din proiect folder-ul **Assets -> Project Setup -> CustomXRPluginProvider** si reimportați ultima versiune a pachetului ''IRVA_ProjectSetup_XRPluginProviderController'', care se găsește în folder-ul **UnityPackages** din folder-ul root al proiectului, după care restartați Unity. | ||
+ | </note> | ||
+ | |||
+ | Pentru acest laborator va trebui să setați activă opțiunea **Set Cardboard XR Loader**. Funcționarea este marcată în felul următor: | ||
+ | * Mesajele de tip info denotă o configurație aplicată cu succes | ||
+ | * Mesajele de tip warning denotă faptul că probabil nu aveți un anume SDK instalat - este normal pentru acest prim laborator de VR! | ||
+ | * Mesajele de tip eroare indică o posibilă problemă | ||
+ | |||
+ | {{ :irva:laboratoarevr:irva_2024_vr_l1_xrpluginmessages.png?600 |}} | ||
==== Testarea scenei sample ==== | ==== Testarea scenei sample ==== | ||
- | * Mergeți în File > Build Settings și asigurați-vă că platforma pentru care doriți să faceți build este corectă. În caz contrar, faceți switch pe platforma dorită | + | * Mergeți în **File > Build Settings** și asigurați-vă că platforma pentru care doriți să faceți build este corectă. În caz contrar, faceți switch pe platforma dorită (Android sau iOS) |
- | * Vom testa scena Assets -> Samples -> Google Cardboard XR Plugin for Unity -> 1.22.0 -> Hello Cardboard -> Scenes -> HelloCardboard. Mergeți în File -> Build Settings și setați această scenă ca fiind singura activă (folosing checkbox-ul) în panoul de Scenes In Build | + | * Vom testa scena **Assets -> Samples -> Google Cardboard XR Plugin for Unity -> <versiune> -> Hello Cardboard -> Scenes -> HelloCardboard**. |
- | * În continuare, puteți crea un Build pe care să-l testați pe telefon | + | * Mergeți în **File -> Build Settings** și setați această scenă ca fiind singura activă (folosind checkbox-ul) în panoul de **Scenes In Build** |
+ | |||
+ | {{ :irva:laboratoarevr:irva_2024_vr_l1_buildscenes.png?600 |}} | ||
+ | |||
+ | * Vom realiza un build acum pe smartphone! Pașii următori sunt specifici unui telefon Android: | ||
+ | * **Conectați-vă telefonul** prin cablu la laptop / PC | ||
+ | * Puneți telefonul în modul de **transfer de fișiere** | ||
+ | |||
+ | * În continuare, puteți crea un **Build** pe care să-l testați pe telefon. Pentru a realiza acest build, din acesași panoul (Build Settings), selectați **Build** sau **Build And Run**: | ||
+ | * **Build** va crea un fișier ''.apk'' pe care-l va trebui apoi manual să-l copiați pe telefon și să-l instalați | ||
+ | * **Build And Run** va crea un fișier ''.apk'', și-l va instala automat pe telefon | ||
+ | |||
+ | <note important>**Build And Run** e destul de picky și câteodata s-ar putea să nu funcționeze conform așteptărilor. Din acest motiv, vă recomandăm în general **Build** și instalarea manuală.</note> | ||
Scena demo sample: | Scena demo sample: | ||
Line 63: | Line 111: | ||
=== Testarea scenei sample === | === Testarea scenei sample === | ||
- | * **CubeRoom** reprezinta modelul envroment-ului scenei | + | * **CubeRoom** reprezinta modelul environment-ului scenei |
* **Treasure** reprezinta un obiect interactibil – daca îl studiați în inspector, veți observa că are atașat un script de tip **ObjectController** | * **Treasure** reprezinta un obiect interactibil – daca îl studiați în inspector, veți observa că are atașat un script de tip **ObjectController** | ||
* Camera are un obiect copil numit **CardboardReticlePointer** ce reprezintă reticle-ul / crosshair-ul direcției de vizualizare. Script-ul atașat pe acesta interacționează cu script-urile de tip **ObjectController**, căruia îi transmite mesaje de tip **OnPoinerEnter** și **OnPointerExit**, ceea ce denotă acțiunea de gaze (privire) asupra obiectelor | * Camera are un obiect copil numit **CardboardReticlePointer** ce reprezintă reticle-ul / crosshair-ul direcției de vizualizare. Script-ul atașat pe acesta interacționează cu script-urile de tip **ObjectController**, căruia îi transmite mesaje de tip **OnPoinerEnter** și **OnPointerExit**, ceea ce denotă acțiunea de gaze (privire) asupra obiectelor | ||
Line 71: | Line 119: | ||
Veți avea de implementat un joculeț în care se spawnează în mod contnuu baloane, care pot fi sparte dacă player-ul le privește pentru un timp îndelungat – așadar, ne folosim de acest concept de gaze interaction. O parte a jocului este deja implementată, voi va trebui sa urmăriți todo-urile din cod pentru rezolva complet laboratorul. | Veți avea de implementat un joculeț în care se spawnează în mod contnuu baloane, care pot fi sparte dacă player-ul le privește pentru un timp îndelungat – așadar, ne folosim de acest concept de gaze interaction. O parte a jocului este deja implementată, voi va trebui sa urmăriți todo-urile din cod pentru rezolva complet laboratorul. | ||
- | * Deschideți scena Assets -> L6_GoogleCardboard -> Scenes -> L6_BalloonPopper | + | ==== Import schelet laborator ==== |
- | {{ :irva:laboratoare:l6_game-hierarchy.png?200 |}} | + | * Importați ultima versiune a pachetului ''IRVA_L1_VR_GoogleCardboardXR_Skeleton'' care se găsește în folder-ul **UnityPackages** din folder-ul root al proiectului |
+ | * Folder-ul **Assets -> L1_VR_GoogleCardboard** conține asset-urile suport pentru acest laborator | ||
+ | * Deschideți scena **Assets -> L1_VR_GoogleCardboard -> Scenes -> L1_VR_GoogleCardboard_BalloonPopper** | ||
+ | |||
+ | {{ :irva:laboratoarevr:irva_2024_vr_l1_skeletonscene.png?200 |}} | ||
* **BaloonSpawner** este obiectul care va instanția baloanele în scenă. Acesta se află în zona podelei scenei. Are o componentă de tip BoxCollider, în volumul căreia trebuie instanțiate baloanele la locații random | * **BaloonSpawner** este obiectul care va instanția baloanele în scenă. Acesta se află în zona podelei scenei. Are o componentă de tip BoxCollider, în volumul căreia trebuie instanțiate baloanele la locații random | ||
* **BaloonController** (nu se regăsește în ierarhie, este un script atașat prefab-ului ‘Baloon’) reprezintă obiectul de tip balon – acesta trebuie să fie translatat pe Y și va conține logica de interacțiune cu reticle-ul player-ului | * **BaloonController** (nu se regăsește în ierarhie, este un script atașat prefab-ului ‘Baloon’) reprezintă obiectul de tip balon – acesta trebuie să fie translatat pe Y și va conține logica de interacțiune cu reticle-ul player-ului | ||
* **BalloonPopper** are atașat un script ce distruge baloanele dacă există overlap cu collider-ul obiectelor de tip balon. Acesta este definit în zona de tavan a scenei | * **BalloonPopper** are atașat un script ce distruge baloanele dacă există overlap cu collider-ul obiectelor de tip balon. Acesta este definit în zona de tavan a scenei | ||
- | * **ScoreCanvas** conține logică pentru scor și poate seta textul unui element de UI definit în worldspace | + | * **ScoreCanvas** conține logică pentru scor și poate seta textul unui element de UI definit în world space |
==== Task-uri ==== | ==== Task-uri ==== | ||
- | - Realizați un build folosing scena sample din plugin – validați funcționarea corectă a acestui build – ar trebui sa aveți un render stereoscopic, să se realizeze head tracking-ul, iar obiectul ‘Treasure’ din scenă ar trebui să-și schime culoarea dacă reticle-ul player-ului interacționează cu aceasta | + | - Realizați un build folosind scena sample din plugin. Validați funcționarea corectă a acestui build: |
- | - Instanțiați obiectele de tip balon din script-ul de spawner. Calculați, de asemenea, poziția acestora de instanțiere | + | * Ar trebui sa aveți un render stereoscopic |
- | - Realizați translația baloanelor instanțiate – în cel mai simplu mod, translatați-le cu o viteză constantă pe axa Y | + | * Ar trebui să se realizeze head tracking-ul |
- | - Implementați mecanica de spargere a baloanelor – întâi, setați flag-ul ce denotă faptul că un balon este privit (targeted), iar apoi, implementați logica de timer. În esență, atât timp cât balonul este privit, acest timer trebuie incrementat – daca timpul contorizat este mai mare decât o limită impusă, spargeți balonul folosind metodele deja implementate | + | * Obiectul 'Treasure' din scenă ar trebui să-și schimbe culoarea dacă reticle-ul player-ului interacționează cu aceasta |
- | - Implementați funcționalitatea de scor – un balon spart de player reprezintă un punct primit, un balon spart de catre BalloonPopper reprezintă un punct scăzut. **ScoreController** și **BalloonPopper** conțin todo-urile relevante acestui task | + | - Importați scheletul de laborator |
- | + | * Din toolbar-ul editor-ului, **Assets -> Import Package -> Custom Package** | |
+ | * Selectați ultima versiune a pachetului ''IRVA_L1_VR_GoogleCardboard_Skeleton'' care se găsește în folder-ul **UnityPackages** din folder-ul root al proiectului | ||
+ | - Instanțiați obiectele de tip balon | ||
+ | * Instanțiați obiectele din script-ul de spawner la o poziție random in volumul ''BoxCollider''-ului atașat de obiectul spawner | ||
+ | * Calculați, de asemenea, poziția acestora de instanțiere | ||
+ | - Realizați translația baloanelor instanțiate | ||
+ | * În cel mai simplu mod, translatați-le cu o viteză constantă pe axa Y | ||
+ | - Implementați mecanica de spargere a baloanelor | ||
+ | * Aveți în script-ul ce controlează baloanele metodele ''OnPointerEnter'' și ''OnPointerExit'', care sunt apelate în mod automat atunci când un balon este privit sau când se încheie privirea acestuia | ||
+ | * **Cât timp** un balon este **targeted**, incrementați timer-ul intern | ||
+ | * **În momentul** în care un balon **nu mai este targeted**, restetați timer-ul intern | ||
+ | * Dacă timer-ul intern **depășește** valoarea maximă definită (variabila ''requiredTimeToPop''), **spargeți balonul** | ||
+ | - Implementați funcționalitatea de **scor** | ||
+ | * Un balon spart de jucător va **incrementa** scorul | ||
+ | * Un balon spart de tavan (ratat de jucător) va **decrementa** scorul | ||
+ | * Folosiți-vă de ''ScoreController'' pentru a ține cont de scor și pentru a actualiza componenta text |