From: Petter Reinholdtsen Date: Fri, 22 Nov 2013 12:30:51 +0000 (+0000) Subject: New post. X-Git-Url: https://pere.pagekite.me/gitweb/homepage.git/commitdiff_plain/18cbf24d03a39d17caf566b5a41a3e6b7156266a New post. --- diff --git a/blog/data/2013-11-22-doffin-fritekstsok.txt b/blog/data/2013-11-22-doffin-fritekstsok.txt new file mode 100644 index 0000000000..82ab370fbb --- /dev/null +++ b/blog/data/2013-11-22-doffin-fritekstsok.txt @@ -0,0 +1,56 @@ +Title: RSS-feed med fritekstsøk i offentlige anbud hos Doffin +Tags: norsk, nuug, offentlig innsyn +Date: 2013-11-22 13:40 + +

I fjor sommer lagde jeg en +offentlig +tilgjengelig SQL-database over offentlig anbud basert på skraping +av HTML-data fra Doffin. Den har stått og gått siden da, og har nå +ca. 28000 oppføringer. Jeg oppdaget da jeg tittet innom at noen +oppføringer var ikke blitt med, antagelig på grunn av at de fikk +tildelt sekvensnummer i Doffin en godt stund før de ble publisert, +slik at min nettsideskraper som fortsatte skrapingen der den slapp +sist ikke fikk dem med seg. Jeg har fikset litt slik at skraperen nå +ser litt tilbake i tid for å se om den har gått glipp av noen +oppføringer, og har skrapet på nytt fra midten av september 2013 og +fremover. Det bør dermed bli en mer komplett database for kommende +måneder. Hvis jeg får tid skal jeg forsøke å skrape "glemte" data fra +før midten av september 2013, men tør ikke garantere at det blir +prioritert med det første.

+ +

Men målet med denne bloggposten er å vise hvordan denne +Doffin-databasen kan brukes og integreres med en RSS-leser, slik at en +kan la datamaskinen holde et øye med Doffin-annonseringer etter +nøkkelord. En kan lage sitt eget søk ved å besøke +API-et +hos Scraperwiki, velge format rss2 og så legge inn noe ala dette i +"query in SQL":

+ +

+select title, scrapedurl as link, abstract as description,
+       publishdate as pubDate from 'swdata'
+   where abstract like '%linux%' or title like '%linux%'
+   order by seq desc limit 20
+

+ +

Dette vil søke opp alle anbud med ordet linux i oppsummering eller +tittel. En kan lage mer avanserte søk hvis en ønsker det. URL-en som +dukker opp nederst på siden kan en så gi til sin RSS-leser (jeg bruker +akregator selv), og så automatisk få beskjed hvis det dukker opp anbud +med det aktuelle nøkkelordet i teksten. Merk at kapasiteten hos +Scraperwiki er begrenset, så be RSS-leseren kun hente ned en gang hver +dag eller noe slikt.

+ +

Du lurer kanskje på hva slags informasjon en kan få ut fra denne +databasen. Her er to RSS-kilder, med søkeordet +"linux" +søkeordet +"fri +programvare" +og søkeordet +"odf". +Det er bare å søke på det en er interessert i. Kopier gjerne +datasettet og sett opp din egen tjeneste hvis du vil gjøre mer +avanserte søk. SQLite-filen med Doffin-oppføringer kan lastes med fra +Scraperwiki for de som vil grave dypere.

+