Lunarstorm (LS) föddes 1996 som en vision om en mötesplats på nätet, helt utan affärsmässiga baktankar. Under 90-talets glada it-boom kom det investerare som tyckte att man skulle kunna tjäna pengar på communities och entusiasterna byggde upp företaget Lunarworks 1999.

När Spray började växa och Boo.com fortfarande fanns hade man en föreställning om att användare var värda en viss mängd pengar. Antalet användare växte men det fanns få idéer om hur man skulle dra nytta av det.

Det blev lite dyrt att driva webbplatsen utan intäkter och de första annonserna började läggas ut. 2002 provade man betalning för attraktiva tjänster som var dyra att drifta, med stor framgång.

strömsladdarStark ström. Bladservrarna har inga egna nätaggregat utan försörjs från dubbla aggregat i rackens botten. Det rör sig om tiotals kilowatt per skåp, så femvoltsledningarna är tjocka som (små) ormar.

LS är oerhört populär bland ungdomar, som använder den för att skicka meddelanden och bilder till varandra, chatta med mera, ja, helt enkelt att hantera en stor virtuell kamratkrets. Med 1 050 000 användare är det lönsamt att sälja reklamutrymme. Lunarworks karaktäriserar LS som den självklara mötesplatsen för ungdomar i Sverige.

Affärsnyttan består av att sälja tjänster av premiumkaraktär,
medielösningar, banners och integrerade lösningar till annonsörer som vill rikta sin annonsering mot målgruppen 12-24 år.

Joacim ÅstedhHand med sladdar. Han har hela världen i sin hand, eller i alla fall en bit av den. It-chefen Joacim Åstedt håller Lunarstorms san-trafik i ett järngrepp, nämligen fibrerna till san-växeln.

Röster kring kaffebordet på Lunarworks it-avdelning:

– Det var inte helt problemfritt att införa banners. Det var känslomässigt krävande att byta inriktning från vår vision till att fysiskt göra åverkan på sajten och sätta in en stor ful banner. Det var en strid mellan de som ville och de som inte ville.

Det är väl få som bräcker dryga en miljon användare?
– Ja, och vi är hårda på definitionen. Den som inte har varit aktiv på tre månader rensas bort. Och det går automatiskt. Vi har skrivit alla provisioneringssystem själva.

Normalt är webbplatsen viktig för ett företags image och måste alltid hållas igång. I det här fallet är företaget webbplatsen. Skulle den sluta fungera finns inte företaget längre.

LunchledigtLunchledigt. Här sitter killarna som gör’et: Tobias Hedberg (infrastruktur), Andreas Ödman (chef driftgruppen), Joacim Åstedt (it-chef), Kenny Med Anställningsnummer
Ett (support), Dennis (databasfrågor) och Niklas Richardsson (infrastruktur).Djup filosofi som Sagan om Ringen och Monty Pythons flygande cirkus står på dagordningen medan kebabpizzorna med ultrastark sås försvinner ned i magarna.


Imponerande diskvägg


LS i Sverige driftas av Internet Border Technologies på Norra Stationsgatan i Stockholm. Det finns även en dansk och en engelsk sajt, placerade i samma hall som den svenska. Lagringssystemet är en hel jättevägg uppmurad med hårddiskar som murstenar.

serverlagringKapacitetsreserv. Lunarstorms diskarrayer på 28 terabyte bara
sitter där och väntar
på att bli fyllda. Det är egentligen två speglade halvor med en tredje
som backup.

Några av de 28 terabyte som finns i Stockholm fungerar också som backup för de danska och engelska sajterna.

– Vi har 32 webbservrar som vänder ut mot internet och av dem har vi råd att förlora åtta utan att så mycket kommer att hända. Alla servrar lastdelas och ingen av dem har någon fastlagd arbetsuppgift, förklarar Niklas Richardsson, som jobbar med infrastrukturen.

lunarstorm nätverkskarta
Välbyggd serversamling. Maskinparken är tämligen enkelt och rättframt uppbyggd. Huvudlasten tas av de 32 webbservrarna och de kommande fyra mediaservrarna.

Klicka för större bild!

– Vi har en grupp servrar som hanterar webben och sedan har vi en svit av tjänsteservrar i par som hanterar externa tjänster som är en del av sajten, till exempel betalplattform, sms-tjänster, statistikverktyg, lokala annonser och så vidare. Två servrar tar hand om wap-trafiken.

Anläggningen har fyra lastbalanserare som balanserar mellan
två internetleverantörer. Länge har man haft två gånger en gigabit per sekund in i anläggningen, men i och med den ständigt ökande mängden media, alltså bilder och filmklipp, har man varit tvungen att kontra med två nya linor på tio gigabit per sekund med två lastbalanserare på.

De ansluter till samma publika interna nät som webbservrarna
och kommer att ta hand om en del av trafiken om det blir för hårt för de två ursprungliga ledningarna. Det är lite svårt att veta hur den nya satsningen på media kommer att slå, så man har velat säkra med gott om kapacitet från början.

Viktiga cacheservrar


Sajtens verkliga arbetshästar är cacheservrarna som sitter
kopplade direkt på lastdelarna. De tar över om det kommer en databassökning mot bilder och video och minskar belastningen på webbservrarna betydligt.

Ungt Val är en funktion man byggde tillsammans med Aftonbladet, där ungdomarna kunde kommentera riksdagsvalet. Tillsammans med Coca Cola byggde man tjänsten Guru, som används för interna omröstningar, till exempel veckans snyggaste krypin och liknande. Den interna sökfunktionen Theca kommer från Lundbaserade Apptus Technologies AB.


Mycket att vaka över. Den ståtligaste övervakningsskärm vi någonsin har sett. En sammanfattning
av hela LS driftläge.

De fyra rena filservrarna har bland annat till uppgift att leverera ut någon av de 40 miljoner presentationsbilder och galleribilder användarna har lagt in.

– Användarna tankar upp ungefär 66 000 nya bilder per dygn. Det är en del av det som gör det här så svårt att hantera, hehe.

Byter filformat


Media levereras ut från en separat servergrupp, som har två IFS-monterade back-end mediefilservrar som hämtar upp det från san:et.

På grund av att det finns så väldigt många bild- och ljudformat, och för att en del av dem är väldigt utrymmeskrävande, konverterar LS alla användarnas filer så långt det går till tre fastlagda format. Formaten är valda för att de ska vara ”lättspelade” över internet. Alla ljudfiler blir till mp3, alla bilder till jpg och alla filmer till flash. Servrarna Chrunch1 och Crunch2 tar hand om detta på heltid.

Ni kör inga brandväggar?
– Jo, vi hade en en gång men den brann upp efter 20 minuter. Det var första gången en brandvägg levde upp till sitt namn. Redan i begynnelsen, när vi hade mindre trafik, var det omöjligt. Vi toppar numera på 800 megabit per sekund okomprimerad http-trafik och det skulle bli mycket dyrt att skaffa brandväggar som klarade det. Vi tar inte emot inkommande smtp-mejl och lagrar inga, så vi har inga problem med spam och virus.

Virtualisering på gång


Så här många servrar och bara Microsoft?
– Yes, bara Microsoft. Till 99,9 procent, faktiskt. Vi kör bara IIS 6, SQL Server 2005 och Windows Server 2003.

Just nu är bladservrarna ojämnt belastade. Olika tjänster är olika populära och eftersom populariteten växlar är det svårt att planera var kraften ska sättas in. För säker drift måste man dessutom alltid ha en viss överkapacitet och den måste finnas på alla ställen där det kan tänkas uppträda kapacitetstoppar.

Kraftjobb. Med så många servrar och för tillfället ingen virtualisering är yttre lastbalansering av nöden. Här är det två Nortel AS 3408 E Application Server som får jobba.

Med Vmworks räcker det med betydligt mindre överkapacitet
eftersom den med Vmove 3 kan ”driva omkring” i systemet och utnyttjas där den för tillfället behövs bäst. Det kommer att få till resultat att LS faktiskt kommer att kunna minska antalet fysiska servrar och därmed elåtgång och rackhyra. Man räknar med att tio virtualiserade servrar levererar lika mycket kraft som 30 fysiska dito, på grund av att de 30 fysiska inte kan utnyttjas till fullo.

Extra kapacitet på natten


Egentligen kan man öka antalet servrar och det behövs, inte för att mängden minne skulle vara slut eller så utan för att Windows inte är så bra på många samtidiga anslutningar. Då får man klona fram flera servrar i stället. Frigjord webbkapacitet nattetid kan dessutom användas för databaskörningar.

På lagringssidan har virtualisering varit införd länge. I och med att alla servrar delar på i/o-kapaciteten får den funktion som för tillfället är populärast dra mera i/o och när användarna tappar intresset kan någon ny funktion dra nytta av kapaciteten.

LS regelsida är full av bestämmelser för vad man får och inte får göra och allt måste kollas manuellt. Säkerhetsavdelningen tar emot mellan 100 och 200 ärenden varje dag, även på helgerna, och undersöker dem.


Eget krypin på webben

Snabba klick. Användarkontot kallas Krypin och kan dekoreras med bilder och text. En presentationsbild måste alla användare ha och den ska likna en människa och vara skarp. Damen med det rappa pekfingret bedömer en bild i sekunden.


För att man ska få ett LS-konto måste man lämna in en presentationsbild på sig själv. Och den ska faktiskt föreställa användaren och inte hans eller hennes hund eller en varmkorv. Dessutom ska den vara vältagen.

Alla inlämnade bilder verifieras av en människa som avvisar dem om de inte uppfyller kraven. Bildverifieringen går som en blixt. Eftersom 2 500 nya bilder måste verifieras varje dag vill det till att processen är snabb. Verifieraren klarar en bild i sekunden, så en dags bilder är avklarade på en timme. Även denna tillämpning är gjord in-house.

I mobilen. Lunarstorm finns
även som wap-sajt.
Det är exakt samma data
som på webben, även om
grafiken är reducerad för
att klara den mindre
bandbredden.

Letar efter problemord


Säkerhetstänkandet är dessutom distribuerat till ägare av olika forum. Eftersom all text skrivs direkt in i systemet kan systemet också kontrollera den mot listor. Det sker ingen censur, men användaren får en varning om han eller hon använder stötande ord.

Lunarstorm måste vara ett av de bästa exemplen på nytta kombinerad med nöje. Användarna kan ha kul, spela och tävla och annonsörerna blir nöjda. It-avdelningen kan i lugn och ro avtala dagens systemhändelser över the ever popular Pizza ”Varberg”. Tråkigare kan man ha.

 Så går du vidare, länkar:

Fakta

500 megabitstrafik mellan klockan 20-21 på kvällen.

  • 68 terabyte data matas ut per år.
  • 28 terabyte lagras i san:et.
  • 70 miljoner grafiska filer lagras i systemet.
  • 66 000 nya grafiska filer tankas in per dag.
  • 3,5 miljoner nya textinlägg skrivs i olika forum per dag.
  • 1 050 000 unika användarkonton.
  • 400 000 unika besök per dag.
  • 2 500 presentationsbilder valideras per dag.
  • 100-200 abuseärenden tas emot och hanteras alla veckodagar.
  • Användarnas genomsnittsålder är 18 år.

strukturgraf lunarstormFler möjligheter att kommunicera än så här behövs väl knappast?
(klicka för större bild)

Att räkna medlemmar
Lunarstorm och Playahead är två vänliga konkurrenter med samma inriktning. PA visar ständigt att de har fler inloggade än LS och vi frågar hur det går till? LS tycker det är ”underligt. Deras besökssiffror verkar väldigt, väldigt höga”.

Där blottläggs ett svårt problem för dagens kommersiella webbar: Hur räknar man tillförlitligt antalet användare i en anslutningslös miljö som http? LS anser att PA har ungefär hälften så många unika besökare under en månad, medan PA alltid går ut med ett högre antal än LS.

En räknemetod är cookies, men eftersom vissa regelbundet suddar sina cookies och många har spärrat dem helt beräknar analysföretaget Comscore att en webbplats kan missta sig med upp till 150 procent på grund av detta.

Problemet tas upp i detalj på go.techworld.se/53


Webbfrontändor.
LS är en enda stor webbplats. Här sitter 24 webbservrar i bladform och det finns ytterligare några intill. Det behövs när man ska ut med 800 megabit per sekund.


Fyra i rad.

Cacheservrarna är de fyra blå lådorna överst. Under dem sitter servrarna som tack vare Windows mindre bra hantering av uppkopplingar måste få hjälp av dem.