Adatbányászat Blog

Az Adatbányász Blogon a dmlab szakértőinek írásait olvashatod a big data és data science területéről.

dmlab.hu - Big data és data science tanácsadás
"Ha örülsz, hogy fejedre nőttek az adatok."

Keress minket bátran:
- Nagy-Rácz István +36704595669
- Gáspár Csaba +36208234154
- info@dmlab.hu

Hírlevél

Iratkozz fel hírlevelünkre, hogy mindig naprakészen tudjunk tájékoztatni.
Feliratkozás
Leiratkozás

Címkék

10éves (1) 2007 (1) 2010 (23) 2011 (27) 2012 (13) 2013 (23) 2014 (5) 2015 (6) 2016 (10) 2017 (4) adaptív (1) adat- és médiainformatika (1) adatárusítás (1) adatbányászat (10) adatbányászati algoritmusok (1) adatbányászati alkalmazások (2) adatbányászati meetup (1) adatbányászati oktatás (1) adatbányászati technológiák (4) adatelemzés (1) adatelemzési platformok (1) adattárház (5) adattárház fórum (6) adattárolás (1) adattisztítás (1) adatvédelem (2) advise (2) aegon (1) aglitás (1) agy (2) ajánló (11) ajánlórendszerek (1) aktivitás felismerés (1) algoritmus (1) alkalmazás (3) állásajánlat (1) amazon ec2 (1) ambiens (1) ami (1) analitika (1) analytics (1) andego (3) apache (1) api (2) Arató Bence (3) bank (1) Barabási (2) barabási (2) beharangazó (1) beharangozó (18) bejelentés (2) belami (1) best practice (9) beszámoló (14) Bi (1) BI (3) bi (13) bi-trek (1) biconsulting (7) bigdata (22) Big Data (2) big data (5) biopen (1) biztosító (1) BI Akadémia (1) bi consulting (1) bi start (1) blog (5) bme (2) BME (14) bootcamp (1) brainstorming (1) bsp (1) budapest (1) business analytics (1) business analytics szakirány (1) churn (2) ci (1) címkefelhő (2) CIO (1) clementine (1) Clementine Consulting (1) cloud computing (2) cognos (1) credit scoring (1) crisp-dm (1) crm (2) csalásdetektálás (1) DataExpert (1) dataexplorer (1) datapest (1) datascience (1) data mining (1) data science (5) diplomamunka (1) dmla1o (1) dmlab (12) döntési fák (1) drill (1) e-commerce (1) előadás (21) előrejelzés (1) élő közvetítés (1) Enbrite.ly (1) energetika (1) esemény (2) esettanulmány (3) etikus (1) etl (2) évforduló (2) fejlesztés (2) felmérés (5) felsőoktatás (1) felület (1) felvásárlás (3) film (1) fizetés (1) forecasting (1) forgalomelőrejelzés (2) foursquare (1) fraud detection (1) freebase (1) gartner (2) gazdasagi informatikus (2) gépi tanulás (4) google (8) google analytics (1) graphlab (1) gravity (3) greenplum (1) gyakorlat (1) hadoop (10) hallgatók (2) hálózatelemzés (3) hálózatkutatás (2) hálózatok (3) hazai (2) hiba (4) hírlevél (2) hive (1) honlap (1) HR (1) HVG (1) i5 (1) ibm (6) ibm modeler (1) ibm spss (3) icdm (1) idc (2) idősor (1) idősorok (1) ieee (1) iir (1) infobright (1) információbróker (1) innováció (5) innovatívBI (1) innovativ bi (4) inspiráció (1) intelligencia (2) Internet Hungary (1) iqsymposium (19) iqsys (16) iroda (4) jelentkezés (2) jmp (2) kaggle (2) kampánymenedzsment (1) kapcsolati hálók (1) karrier (1) kdd (3) kdnuggets (2) képzés (4) kérdés (1) kérdőív (1) kerekasztal (1) keresés (1) kereső (1) keresztvalidáció (4) klaszterezés (2) knime (1) kockázati tőke (1) kollaboratív munka (1) kompetencia (1) konferencia (70) könyv (6) környezet (1) közlekedés (1) közösség (2) közösségi hálózatok (4) közvetítés (6) kritika (1) küldetés (1) kürt akadémia (1) kutatás (2) lemorzsolódás (1) licensz (1) live (1) logisztika (1) magyar telekom (2) mahout (1) mapreduce (1) marketplace (1) média (2) meetup (11) mellékspecializáció (1) mém (3) memóriacentrikus (1) menedzsment (3) metaadat (1) metodika (1) microsoft (1) mobil (5) mobil bi (4) modeler (2) modell (3) morgan stanley (1) motion chart (1) munkaerő (1) mysql (1) mytraffic (4) nemzetközi (5) nemzetközi összehasonlítás (1) netflix prize (1) networking (1) next big thing (1) nips (1) nosql (1) nyílt forráskód (4) nyomkövetés (1) offline áruházak (1) okostelefon (1) oktatás (23) olvasók (1) online áruházak (1) online kutatás (1) open source (19) open source bi (3) operatorfa (1) osbi (12) összehasonlítás (1) ötletek (2) pandas (2) paradoxon (1) pascal (1) pentaho (1) personal data mining (1) phd (2) philips (1) piac (3) pikk (1) pilot (1) PISA-felmérés (1) pmml (1) politika (2) powerpivot (1) prága (1) praktiker (1) prediktív analitika (2) prediktív analitka (1) prediktiv modellezés (5) prediktív modellezés (1) prezi (15) privacy (1) privacy preserving data mining (1) projekt (1) projektmenedzsment (4) publikáció (1) python (9) radoop (12) random forest (1) rapid-i (2) rapidanalytics (7) RapidMiner (2) rapidminer (40) rcomm (7) refine (1) Rexer Analytics (1) rsctc (1) R nyelv (7) saas (1) sap (1) SAS (20) sas enterprise miner (2) sas enterpris guide (1) sas entprise miner (1) sas fórum (1) sas forum (3) siker (3) simptech (1) sixtep (2) smarthabits (1) spike sorting (1) sportanalitika (1) spss (13) SPSS (3) spss clementine (3) spss hungary (5) spss modeler (6) ssd (1) starschema (2) startup (9) statisztika (1) survey (1) svm (1) szabad szoftver (1) szakmai (1) szavazó eljárások (2) szélenergia (1) szélerőmű (1) szervezetfejlesztés (1) szociális hálók (1) szoftver (5) szöveg (1) szövegbányászat (2) sztaki (2) tableau (1) talend (2) támogatás (1) tanulmány (1) tanulság (1) távolság (1) technológia (1) tedx (1) telekommunikáció (2) teradata (2) teszt (1) text mining (1) tmit (6) toborzás (1) tőzsdei előrejelzés (1) tracking (1) trendek (8) tudományos (1) tunedit (1) twitter (17) ügyfél (1) üzleti intelligencia (3) üzleti modell (3) üzleti reggeli (3) választható tárgy (1) validáció (4) válogatás (1) válság (1) változás (1) vélemény (1) véleméy (1) verseny (20) vezetői képzés (1) videó (3) vizualizáció (5) web (4) web2 (2) webanalitika (3) webshop (1) weka (2) wikipedia (2) workshop (1) yahoo (2) Címkefelhő

TWitter a csapat tagjaitól

2014.11.17. 10:00 Ragány Csaba

RapidMiner tippek - A Building Block-ok

Címkék: best practice rapidminer

A tervezettnél egy kicsit hosszabb szünet után újra a billentyűzet mögé ültem blogírás céljából. A téma továbbra is a RapidMiner, bár mostanában ritkábban használom (használjuk) ezt a szoftvert, ennek ellenére bőven van mit írni róla. Persze itt nem kilométeres “how-to” leírásokra gondolok; - ahogy eddig, úgy ezután is olyan témákat szeretnék elővenni, melyekről máshol nemigen, vagy csak nagyon elvétve lehet olvasni. A korábbi három bejegyzésem néhány apró, de annál inkább zavaró hiányosságot illetve azok megoldásait, kikerülési lehetőségeit tartalmazta. Ezzel szemben a mostani írásom inkább a RapidMiner-ben rejlő egyik nagyszerű képesség kiaknázásáról, nevezetesen a “Building Block-okról” szól.

wood toys 28 Blocks colorful waldorf building blocks

De mik is azok a Building Block-ok (továbbiakban “BB”)? Nem kell semmi különösre gondolni, ugyanis a név magáért beszél: a BB-ok RapidMiner építőelemek, gyakorlatilag olyan Subprocess-ek, melyeket az aktuális folyamat építésekor - ha valami nagyszerűt hoztunk létre - önállóan el lehet menteni későbbi, más folyamatokban való felhasználásra. A normál folyamatként való elmentéstől abban különböznek, hogy nem process-ként “.rmp” kiterjesztéssel kerülnek eltárolásra, hanem “építőelemként” “.buildingblock” kiterjesztéssel a felhasználó “.RapidMiner5” mappájába (vagyis a mentés során nincs lehetőség más hely megadására). Megjegyzendő, hogy egy BB állomány fájlszinten ugyanolyan XML formátumú adat, mint az “.rmp” kiterjesztésű processz. A két mentési forma közti legnagyobb különbség az, hogy ha egy jól bevált operátor-együttest processzként mentünk el, és később használni szeretnénk, akkor ezt csak egy meglehetősen korlátozott formában tehetjük meg: meg kell nyitnunk ezt a folyamatot, el kell mentenünk más néven, majd hozzá kell látni a teljes folyamat további építéséhez az aktuális feladatunknak megfelelően. Ha közben szeretnénk egy másik, korábban már létrehozott operátor-együttest is felhasználni ugyanebben a folyamatban, akkor arra ilyen formában nincs lehetőség. (Persze bármelyik folyamatot megnyithatjuk, és kimásolhatjuk belőle a megfelelő operátor-együttest.) Ezzel szemben a BB-ok esetén egy elkezdett folyamatba tetszőleges módon, helyen és számban helyezhetünk el elmentett építőelemeket pontosan úgy, mintha azok egyszerű operátorok lennének.

BB-ok elmentéséhez az aktuális folyamatunkban ki kell jelölni a menteni kívánt operátorokat, melyeket bele kell tenni egy tartalmazó (pl. Subprocess) operátorba, majd ezen a tartalmazó operátoron jobb egérgombbal való kattintás után a “Save as Building Block…” opciót kell választani. A megjelenő panelen megadható az építőelem neve, és opcionálisan egy leírás hozzá. Ha a menteni kívánt rész pl. egy Loop operátorban, vagy bármilyen más tartalmazó operátorban van, akkor nem szükséges ezt az egy operátort beletenni egy Subprocess operátorba. Több különálló operátort nem lehetséges elmenteni tartalmazó operátor nélkül, vagyis minden esetben pontosan csak egy darab operátor menthető el, mint BB, de ez természetesen tartalmazhat számos más operátort is. A BB-ok felhasználása hasonló módon történik a mentésükhöz: egy már létrehozott folyamat tervezőasztalára jobb egérgombbal kattintva a “New Building Block” almenüből kiválasztható a kívánt BB. BB-ok mentésekor érdemes figyelemmel lennünk az elmentendő operátorok pozíciójára, ugyanis az elmentett építőelem újra használatakor a RapidMiner tervezőasztalán pontosan ugyanazon pozíción fog megjelenni a BB, mint ahol a mentés pillanatában volt. Ha tehát pl. egy nagy és vertikálisan (vagy horizontálisan) hosszú processz aljáról (vagy jobb végéről) mentünk el néhány operátort BB-ként, akkor egy új folyamatban, mely akár egyetlen operátort sem tartalmaz még, a beillesztett BB nem felül és balra igazítva jelenik meg, hanem az eredeti, vertikálisan (vagy horizontálisan) hosszú folyamatnak megfelelően alul (vagy messze jobb oldalon). Így tehát adott esetben elég sokat kell görgetnünk az egérrel, hogy láthassuk a BB beillesztésének eredményét. A BB-ok pozíciója természetesen utólag is módosítható fájlszinten a “.buildingblock” kiterjesztésű XML fájl - BB neve és leírása utáni - második, "<operator" kezdetű sorának a végén az "x="10" y="10">" értékek megváltoztatásával.

A RapidMiner 5 tartalmaz néhány beépített építőelemet, melyekkel a bemeneti attribútumok alakíthatók binominális, nominális vagy numerikus típusúvá úgy, hogy közben a hiányzó értékek az átlagértékkel helyettesítésre kerülnek. Illetve találunk még egy-egy lineáris regressziót illetve döntési fát tartalmazó keresztvalidációt is. Megjegyzendő, hogy a RapidMiner 6-os verziójának ingyenes változata nem tartalmaz beépített BB-okat.

Most, hogy tudunk menteni és beemelni építőelemeket a RapidMiner folyamatunkba, talán ideje lenne tisztázni, hogy igazából mire is jók a BB-ok? A RapidMiner szoftver egyik nagy előnye, hogy használatával autodidakta módon meg lehet tanulni számos alapvető adatelemzési eljárást illetve különböző technikák sajátíthatók el, mely tanulási folyamat elején még érdekes kihívás, később egyenesen jóleső érzés, az idő előrehaladtával azonban kellemetlen és fárasztó szükségszerűség ugyanazokat illetve nagyon hasonló módszereket újra és újra “leimplementálni”. Hát..., ez utóbbi érzést kerülhetjük el a BB-ok használatával. Nézzünk is erre gyorsan néhány példát:

Melyik adatbányász ne végzett volna már pl. aggregálást és / vagy osztályozást (stb.) egy adathalmazon, és ha ezt RapidMiner-ben tesszük, melyikünk ne bosszankodott volna a kimeneti attribútumok megmagyarázhatatlan elnevezési konvenciója miatt? (Ezt a bagatell hibát vajon mikor javítják ki végre?) Igen, itt a zárójelek használatára gondolok, amikor pl. egy bemeneti “attr_1” nevű attribútum ‘sum’ aggregációja után egy olyan “sum(attr_1)” elnevezésű attribútumot generál a RapidMiner Aggregate operátora, amit később maga a RapidMiner nem tud helyesen kezelni a zárójelek miatt. Ugyanis egy ilyen attribútumot például lehetetlenség helyesen felhasználni a Generate Attributes operátorban, mivel a névben szereplő “sum()” részt a Generate Attributes a saját függvényének tekinti, így az operátor a már tipikusan a bemenetére nem is kerülő “attr_1” nevű attribútumot szeretné összegezni, amit egyrészt nem tud, másrészt mi biztosan nem ezt szerettük volna, hiszen már korábban elvégeztük ezt a műveletet. Hasonló a helyzet pl. egy osztályozó modell alkalmazásakor is. Megjegyzem, hogy a Radoop szoftver ilyen és ehhez hasonló hibákat nem tartalmaz - nem véletlenül vásárolták fel őket -, a kérdés tehát már csak az, hogy ezek az “apróságok” mennyi idő elteltével szivárognak át a Radoop-ból a teljes RapidMiner szoftverbe.

Tehát RapidMiner esetén minden rendes folyamatban az Aggregate vagy Apply Model operátorokat egy Rename operátornak kell követnie, ahol átnevezzük a “sum(attr_1)” illetve ”confidence(0)” típusú attribútumokat zárójel nélküli változatokra (szóközök és mindenféle egyéb karakterek is kerülendők, vagyis csak a ‘\w’ azaz ‘[a-zA-Z\_0-9]’ karaktereket használjuk). Önmagában csak erre a két-két operátorra létrehozni egy BB-ot felesleges, ugyanis ezt minden esetben ugyanúgy fel kellene konfigurálnunk, mint BB nélküli esetben, hiszen előre nem tudhatjuk, hogy pl. mi az aggregálandó attribútum, vagy egy osztályozásnál mi a célváltozó neve, nem is beszélve arról, ha nem egy aggregációt hajtunk végre, hanem pl. 20-at, 30-at (lásd a lentebbi példát), vagy éppen nem binominális osztályozást végzünk, hanem egy többváltozósat. Ilyen esetekben keletkezhet 10-20-30… darab zárójelet tartalmazó attribútumunk is, melyeket egyesével átnevezni még a RapidMiner XML szerkesztő felületét használva is meglehetősen monoton és kiábrándító feladat. Ha azonban létrehozunk egy Loop Attributes operátor alapú BB-ot, mely operátor ‘attribute filter type’ paraméterében megadjuk a ”regular_expression” értéket, az így megjelenő ‘regular expression’ paraméterben pedig a “.*\(.*\)” értéket (természetesen a kezdő- és záró idézőjelek nélkül), illetve bepipáljuk az ‘include special attributes’ opciót (a “confidence”, “prediction”... szerepkörű attribútumok miatt), akkor végigiterálhatunk a zárójeleket tartalmazó attribútumokon, melyeket makrók segítségével automatikusan átnevezhetünk zárójelek nélküli változatokra anélkül, hogy tudnánk ezen attribútumok darabszámát illetve teljes nevét.

A Loop Attributes operátoron belül szükségünk lesz közvetlenül egymás után két Generate Macro operátorra, ahol az elsőben létrehozunk egy ideiglenes makrót ("m_temp") az alábbi kifejezéssel: “replaceAll(macro("l_attribute"), "\\(", "_")”, ahol az “l_attribute” változó a Loop Attributes operátor iterációs makrója. Ezzel a művelettel lecseréltük a kezdő zárójelet egy aláhúzás karakterre. A második Generate Macro operátorban hasonlóan járunk el, csak ott már az ideiglenes makró szerepel az iterációs makró helyett, illetve a záró zárójelet cseréljük le egy üres karakterre: “replaceAll(macro("m_temp"), "\\)", "")”. Ne feledjük, hogy a ‘replace()’ függvény nem kezeli a reguláris kifejezéseket, illetve hogy az escape karaktert a zárójel karakterek előtt a Java nyelvre való fordítás miatt duplázva kell alkalmazni. Végezetül már csak egy Rename operátorra van szükségünk, ahol az ‘old name’ paraméterben megadjuk az iterációs makró értékét: “%{l_attribute}”, ami tehát az eredeti, zárójeles attribútum-neveket tartalmazza, a ‘new name’ paraméterben pedig a második Generate Macro operátorban létrehozott makró értékét, amely már zárójel nélküli sztringeket tartalmaz. Miután elmentettük ezt az operátor-együttest BB-ként, minden további folyamatunkba pár kattintással beilleszthetjük azt, elkerülve ezzel a fenti kellemetlenségeket.

Egy másik BB példámban különböző operátorok futási idejét lehet könnyen megmérni és olvasható formára hozni, de a futási idő témaköréről bővebben is érdemes szót ejteni (a RapidMiner ezen a területen is adós még ezzel-azzal), így ennek részletezése egy következő bejegyzésre marad.

BB-ok használata a fentieknél sokkal összetettebb esetekben is elképzelhető, sőt, éppen ilyen folyamatok, projektek során domborodik ki hihetetlen előnyük. Képzeljük el például, hogy egy webportálról valós időben gyűjtünk felhasználói adatokat, melyeken valamilyen elemzést szeretnénk végrehajtani, pl. valamilyen módon osztályoznunk kell a felhasználókat (pl. fog-e vásárolni vagy sem). Ehhez szükségünk van egy olyan modellre, amely előállítja a kívánt kimenetet a valós időben gyűjtött adatok alapján. Egy ilyen feladatnál számos probléma felmerül (pl. annak eldöntése és helyes kezelése, hogy egy felhasználóhoz tartoznak-e már eltárolt rekordok vagy - új felhasználóról lévén szó - nem), melyek megoldása során RapidMiner-ben akár 10-20-30 operátort is fel kell használnunk csupán egyetlen egy részfeladat megoldásakor. Ez többszöröződik azáltal, hogy idősor alapú adatokon tipikusan úgy tanítjuk a modellt, hogy a korábban legyűjtött attribútumokból különböző aggregációk során újakat hozunk létre. És itt ahány bemenetet szeretnénk a hagyományos modellező algoritmusunknak átadni, a fenti 10-20-30 operátoros blokkot annyiszor el kellene készítenünk (a többszörözés történhet az aggregálandó attribútum illetve az aggregáció típusa (pl. sum, count, average...) szerint egyaránt). Ehhez pedig vegyük még hozzá, hogy milyen érzés lehet a teljes folyamatot a nulláról újra felépíteni, ha megváltozik a modellezés feladata (pl. vásárlás előrejelzésről churn analízisre), vagy csak egyszerűen ki szeretnénk próbálni kedvenc osztályozó algoritmusunk hatékonyságát másféle bemeneteken. Nos, ilyen esetekben igencsak jól tud jönni, ha már az elején Building Block-ok létrehozásában gondolkodunk, melyek egyik első operátora célszerűen egy Set Macros, miáltal egyetlen dolgunk beállítani az aggregálandó attribútumot és az aggregáció típusát tartalmazó makrókat, és ezzel egy perc alatt le is gyártottuk a kódját egy újabb jellemzővektor létrehozásának a modell tanításához.

Végezetül két kiegészítést illetve frissítést tennék korábbi írásaimhoz. Az egyik, hogy 2014.10.16-a óta elérhető a Web Mining Extension 5.3.2-es verziója, melyben azonban még mindig nem javították ki az itt említett Crawl Web hiányosságokat (úgy tűnik, a RapidMiner-nél nem olvassák a blogunkat... :-). A másik pedig a numerikus-nominális konverzióról szóló írásomhoz tartozik, miszerint a Transpose operátor meglepő módon helyesen, azaz teljes egészében, csonkolás nélkül alakítja át a valós attribútumokat nominálissá, amennyiben a bemeneti adattábla tartalmaz legalább egy nominális attribútumot is a valós típusúak mellett. Ha nem tartalmaz ilyet, akkor természetesen nincs szükség típuskonverzióra a transzponálás során.

A kép forrása.

Szólj hozzá!

A bejegyzés trackback címe:

http://adatbanyaszat.blog.hu/api/trackback/id/tr846882483

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben.

Nincsenek hozzászólások.