Big datan hallinta ja analysointi Power BI:n avulla web-ympäristössä
Nodeon on useiden vuosien ajan kehittänyt liikennetietojen hallintaan keskittyviä pilvipohjaisia järjestelmiä kaupunkien, liikennesuunnittelijoiden ja -tutkijoiden tarpeisiin. Liikennetietojen hallinnassa kyse on aina hyvin suurista tietomassoista. Tietoa ja erityisesti siitä tehtäviä analyysejä kohtaan asetetaan erittäin monipuolisia vaatimuksia. Nämä piirteet ovat varmasti tuttuja myös muidenkin toimialojen IoT-, tietovarastointi- ja analysointiratkaisuissa.
Nodeon aloitti liikennetietojen parissa tehtävän tuotekehitystoiminnan luultavasti hyvin samankaltaisin eväin, kuin monet muutkin. Web-pohjaista keskitettyä tietojen keruu- ja analysointiympäristöä lähdettiin kehittämään kyvykkään pilvialustan päälle (Microsoft Azure) ja tiedon visualisointiin valittiin monipuolisia ominaisuuksia sisältävä graafikomponenttikirjasto. Ensimmäiset kehitysaskeleet tapahtuvat sujuvasti ja työ päästään tekemään rauhassa. Tuoteomistaja ja ensimmäiset asiakkaatkin ovat tyytyväisiä. Yhtäkkiä ollaan kuitenkin tilanteessa, jossa datan määrä jatkaa kasvuaan ja vaatimukset jos jonkinlaisille uusille näkymille ja tunnusluvuille kasvavat. Uusien analyysien tekeminen on työlästä ja vaati runsaasti sekä tietokanta- että käyttöliittymätyötä. Työjonot kasvavat ja tyytymättömyys yrityksen toimintaa ja ratkaisun kehitystä kohtaan kasvaa.
Yhtäkkiä ollaan kuitenkin tilanteessa, että datan määrä jatkaa kasvuaan ja vaatimukset jos jonkinlaisille uusille näkymille ja tunnusluvuille kasvavat.
Kuinka käyttöliittymän kehitystyötä ja kehittyneiden data-analyysien luomista voidaan nopeuttaa? Tämä kysymys nousi meillä esille noin vuoden kehitystyön jälkeen. Vaatimuksiksi tälle kehitystyölle asetettiin, että uuden ratkaisun tulisi keventää erityisesti visuaalista käyttöliittymän kehitystyötä, tietokannoissa tapahtuvaa itse kehitettyä laskentaa olisi hyvä saada kevennettyä ja ratkaisu ei saisi lisätä kohtuuttomasti yrityksen ja/tai asiakkaiden kustannuksia. Kaiken tämän lisäksi tietysti entistä näyttävämmät ja monipuolisemmat analyysit olisivat iso plussa.
Kuinka käyttöliittymän kehitystyötä ja kehittyneiden data-analyysien luomista voidaan nopeuttaa?
Aika monta vaatimusta ja suunnittelunvaiheen jälkeen päätimme kääntää katseemme kohti Microsoftin Power BI -alustaa. Web-ympäristö ja jatkuvasti kasvava ympäristöä käyttävä asiakasjoukko asettivat kuitenkin omia erityisvaatimuksia tekniselle toteutukselle. Tämä ohjasi meidät tutkimaan Power BI:n embedded-toiminnallisuuksia. Tarkoituksena oli upottaa Power BI:llä rakennetut raportit saumattomasti interaktiiviseksi osaksi olemassa olevaa web-sovellusta.
Meillä oli tässä vaiheessa jo käyttäjiä, joilla oli tietysti tunnukset järjestelmään. Emme halunneet heidän joutuvan huolehtimaan ylimääräisistä lisensseistä, joten valitsimme käyttöön Power BI:n App Owns Data -mallin (nykyisin myös "Embed for customers"). Tässä mallissa luodaan vain yksi master-tunnus, jonka oikeuksia Power BI -palvelu käyttää ladatessaan dataa. Tietysti meidän tuli myös varmistaa, että asiakkaat näkevät vain itselleen kuuluvan datan. Koska pellin alla toimiva master-tunnus on kaikille sama, oli lisäksi käytettävä käyttäjän identiteettiä osana Row Level Securitya (RLS). Käytännössä käyttäjän perusteella rajattiin käyttöliittymän kartalla näkyviä objekteja, sekä raportilla näkyvää dataa.
Ensimmäisissä versioissa käytimme suoraan raportin sisäisiä kontrolleja (esimerkiksi päivämäärävalintoja) datan suodattamiseen, mutta myöhemmin koimme ne visuaalisilta piirteiltään liian rajoittaviksi, ja integroimme mukaan myös itse tehtyjä, raportin ulkopuolisia kontrolleja. Itse tehdyt suodattimet keskustelevat raportin kanssa JavaScript-rajapinnan kautta. Tämä on osittain askel taaksepäin Power BI:n tuomasta helppoudesta, mutta tahdoimme löytää meille oikean toteutuksen helppokäyttöisyyden ja muokattavuuden suhteen, ja tähän olemme olleet tyytyväisiä. Kun tilanne sen sallii, voimme yhä käyttää nopeasti luotavia raportin sisäisiä suodattimia, ja visuaalisesti tai muutoin vaativammissa tapauksissa voimme luoda kontrollit ja niiden logiikan itse. Mikäli vaatimus omalle kontrollille on puhtaasti visuaalinen, niin toteutusta voidaan nopeuttaa ohjaamalla omalla kontrollilla suoraan raportilla olevaa valmista, näkymättömäksi asetettua suodatinta.
Tahdoimme löytää meille oikean toteutuksen helppokäyttöisyyden ja muokattavuuden suhteen.
Kuvassa valitun mittapisteen tiedot sisältävä osio sekä suodatusvalinnat on rakennettu itse. Varsinainen Power BI -upotus on sivun alaosassa. Jo pelkästään valitsemalla raporttiin ja sivun muihin osiin samat värt, näyttäytyy kokonaisuus käyttäjälle varsin yhtenäisenä. Visuaalisista syistä myös raportin eri sivujen välillä navigointi on toteutettu itse sen sijaan, että käytettäisiin raportin omia painikkeita. Tämän johdosta voimme myös paremmin kontrolloida, mitkä sivut näkyvät kellekin.
Myöhemmin, kun skaalasimme palvelua suuremmalle käyttäjä- ja datamäärälle, otimme käyttöön myös Azure Analysis Servicesin (AAS) tietovaraston ja raportoinnin väliin. Tällä saimme nopeutettua hitaimpia kyselyitä moninkertaisesti, ja varmistimme, että järjestelmällä on valmius käsitellä myös kaikkea tulevaa dataa, jota tässä vaiheessa on kertynyt kantaan jo pari miljardia riviä. Dataa pystyttiin tästä summaamaan meidän tapauksessamme jonkin verran, mutta vaatimuksena oli pystyä raportoimaan mille tahansa mittapisteelle ja valitulle aikavälille liikennemäärät ja keskinopeudet sekä voida porautua jopa 15 minuutin tarkkuuteen.
Myöhemmin, kun skaalasimme palvelua suuremmalle käyttäjä- ja datamäärälle, otimme käyttöön myös Azure Analysis Servicesin (AAS) tietovaraston ja raportoinnin väliin.
Power BI toi paljon nopeutta ja helppoutta raporttien kehitykseen. Ensin toki raportin ja tietomallin rakentaminen tyhjästä otti tovin, mutta sen jälkeen uusien graafien lisääminen ja vanhojen muokkaaminen on ollut todella nopeaa. Korjauksien ajaminen tuotantoon kestää parhaimmillaan vain muutamia minuutteja. Nopeuden lisäksi Power BI on mahdollistanut myös entistä useamman henkilön osallistumisen raporttien kehitykseen, kun graafien piirtämiseen ei enää tarvita koodaustaitoja.
Lisätietoja
Tagit
Liiketoimintaprosessi
BI ja raportointi |
Erikoisosaaminen
Analytiikka | |
Big Data | |
IoT |
Toimialakokemus
Kuljetus, liikenne ja logistiikka |
Teknologia
Azure | |
Microsoft |
Tarjonnan tyyppi
Konsultointi | |
Toteutustyö |
Nodeon - Asiantuntijat ja yhteyshenkilöt
Timo Majala
Director
Intohimoinen ja poikkitieteellinen suhtautuminen liiketoimintaan ja yrittäjyyteen. Humanistisesta otteesta huolimatta pitkä ja monipuolinen tausta teknologia-aloilla, .. | |
timo.majala@nodeon.com +358 40 7511 790 |
|
Nodeon - Muita referenssejä
Nodeon - Muita bloggauksia
It- ja ohjelmistoalan työpaikat
- Laura - Mobiilikehittäjä, Android
- Laura - Ohjelmistoarkkitehti, Tampere/Oulu
- Laura - Development Team Manager, Sports Games
- Taito United Oy - Senior Full Stack -kehittäjä
- Webscale Oy - Head of Sales, Cloud Services
- Laura - Hankinta-asiantuntija, tietohallinto
- Laura - Development Manager, Operations
Premium-asiakkaiden viimeisimmät referenssit
- SD Worx - Kehitystyö SD Worxin kanssa takaa Clas Ohlsonille parhaat palkanmaksun prosessit kasvun tiellä
- Digiteam Oy - Case Esperi Care Oy: Ketterä kumppanuus vei Esperin verkkosivu-uudistuksen maaliin sujuvasti ja aikataulussa
- Kisko Labs Oy - Howspace Hub - Mukautuva oppimisen hallintajärjestelmä kasvaviin oppimisalustavaatimuksiin
- Kisko Labs Oy - Sanoma Pro: Multimediasisältöjen hallinnan uudistaminen
- Kisko Labs Oy - Svean helppokäyttöinen palvelu asiakkaan verkko-ostosten hallintaan
- Kisko Labs Oy - Yhtenäinen käyttöliittymä luovien alojen ammattilaisille
- Codemate - Digitaalisen murroksen nopeuttaminen Flutterin avulla
Tapahtumat & webinaarit
- 27.11.2024 - Green ICT -ekosysteemitapaaminen III: Ohjelmistojärjestelmien virrankulutuksen mittaaminen ja kasvihuonepäästöjen arviointi
- 27.11.2024 - Digitaalisen asiakaskokemuksen uusi aikakausi
- 28.11.2024 - Webinaari: Keskity myyntityön laatuun!
- 28.11.2024 - Copilot-webinaari – Mielekkäämpää tietotyötä turvallisesti
- 04.12.2024 - Kuinka oikea matka- ja kululaskujärjestelmä tehostaa prosesseja?
- 05.12.2024 - Green ICT VICTIS -hankkeen kick off -tilaisuus
- 15.01.2025 - Datavastuullisuuden valmennus: hanki valmiudet vastuulliseen datan ja tekoälyn hyödyntämiseen
Premium-asiakkaiden viimeisimmät bloggaukset
- Kisko Labs Oy - Heroku: Millaisiin projekteihin se sopii ja mitkä ovat sen todelliset hyödyt ja haitat?
- Zimple Oy - Pipedrive vai Hubspot? Kumpi kannattaa valita?
- SC Software Oy - Jatkuvat palvelut – asiakaslähtöistä kumppanuutta projekteista ylläpitoon
- Timeless Technology - Ohjelmoitavat logiikat (PLC): Ratkaisevat työkalut automaatioon ControlByWebiltä.
- Kisko Labs Oy - Heroku: Ohjelmistokehittäjän ykköstyökalu skaalautuvien sovellusten rakentamiseen
- SD Worx - Näin luot vakuuttavan Business Casen palkkahallinnon ulkoistukselle
- Timeless Technology - Kyberriskien tunnistaminen Profitap IOTA verkkoanalysaattorin avulla.
Digitalisaatio & innovaatiot blogimediaBlogimediamme käsittelee tulevaisuuden liiketoimintaa, digitaalisia innovaatioita ja internet-ajan ilmiöitä |