Denne artikkelen er produsert og finansiert av NTNU - les mer.

Forskere ved NTNU har utviklet maskinvare som kutter kjøretid og strømforbruk. Det betyr at datasentrene i Norge kan gjøre den samme jobben med omtrent 85.000 færre servere.
Forskere ved NTNU har utviklet maskinvare som kutter kjøretid og strømforbruk. Det betyr at datasentrene i Norge kan gjøre den samme jobben med omtrent 85.000 færre servere.

Datamaskiner bruker mindre strøm og jobber raskere med denne norske oppfinnelsen 

Forskere har utviklet maskinvare som får datasystemer til å jobbe smartere og raskere, og bruke mindre energi.

Alle som kan noe om å kjøre dataprogrammer, vet at det tar tid. Og alle vil at programmet de kjører, skal ta så kort tid som mulig. 

Den lille maskinvare-enheten dataforskerne har designet, skal bygges inn prosessoren. Det er selve hjernen i en datamaskin.

Derfra gjør den det enklere for utviklere å skrive programmer som tar kort tid.

Yter mer med mindre strøm

– Den forteller en utvikler hva programmet hen har skrevet bruker tid på og hvorfor, forteller professor Magnus Jahre ved Institutt for datateknologi og informatikk på NTNU.

– Når utvikleren vet dette, kan hen endre programmet sitt. Slik gjør det den samme jobben mer effektivt.

Magnus Jahre.
Magnus Jahre.

Sammen med forsker Björn Gottschall og professor Lieven Eeckhout fra Universitetet i Gent har Jahre utviklet to varianter av maskinvaren, TIP og TEA. Begge er søkt patentert.

Dette er TIP og TEA, og slik fanger de tidstyver:

  • TIP står for Time-Proportional Instruction Profiling.
  • TEA bygger på TIP. Forkortelsen står for Time-Proportional Event Analysis.
  • TIP sitter som en bitteliten, supersmart detektiv inne i prosessoren, eller databrikken. Den sørger for å utføre oppgavene et dataprogram skal løse.
  • Den finner og forteller utvikleren nøyaktig hvor dataprogrammet bruker mye tid.
  • TEA er hakket mer avansert. Den hjelper til med å fortelle utvikleren mer om hvorfor programmet bruker mye tid akkurat der det gjør det.
  • TEA kan også gi en enkel pekepinn på hva som må gjøres for å fjerne tidstyvene.

Mer bærekraftig databehandling

Tidsbruk er en kritisk faktor for å få til en mer bærekraftig databehandling. Én måte å få ned strømforbruket på er å bruke datamaskinene mindre. Altså over kortere tid. ­­Til det trengs programmer som utnytter maskinvaren maksimalt.

– Og det er nøyaktig det TEA og TIP bidrar til, sier Magnus Jahre.

Når tidstyvene i programvaren tas, kan andre store utfordringer også løses. For eksempel kan kampen om strømmen blir mindre når datautstyret blir mer effektivt. 

Da slipper vi å lage stadig nye servere. Dermed trenger vi langt færre strømslukende datasentre enn vi kanskje tror vi gjør.

18 datasentre og 1 million servere

I dag finnes 18 datasentre i Norge. Til sammen har disse omtrent 1 million datamaskiner, eller servere. 

Magnus Jahre har regnet ut at TIP og TEA gjør det mulig å kutte CO2-utslippene med omtrent 63.000 tonn. Det er fordi kjøretiden på programmene går ned. 

Regnestykket forutsetter at alle prosessorene kjører med den nye maskinvaren og at programmene er omtrent like effektive som de NTNU-forskerne har brukt.

Norges største datasenter på Hamar står snart klart til å gi strøm til kinesiske TikToks videoer. Samlet investerer driftsselskapet Green Mountain og TikTok rundt 37 milliarder kroner i anlegget som vil kreve rundt 1 prosent av Norges kraftforbruk, ifølge NRK.
Norges største datasenter på Hamar står snart klart til å gi strøm til kinesiske TikToks videoer. Samlet investerer driftsselskapet Green Mountain og TikTok rundt 37 milliarder kroner i anlegget som vil kreve rundt 1 prosent av Norges kraftforbruk, ifølge NRK.

Trenger 85.000 færre servere

Siden norske datasentre bruker fornybar energi, vil CO2-utslippene i Jahres oppsett stort sett komme fra produksjonen av serverne i datasenteret. 

Hvis alt virker slik det skal, fører raskere kjøretid til at datasentrene kan gjøre den samme jobben med omtrent 85.000 færre servere. Det tilsvarer omtrent halvparten av utslippene til Stjørdal kommune i 2021 ifølge Miljødirektoratet.

Denne forbedringen vil også frigjøre omtrent 400 gigawattimer (GWh) med energi. 

Med utgangspunkt i Statistisk sentralbyrås statistikk er det like mye som går til rundt 23.000 husstander i et år.

Bra for værmelding og medisiner

Bedre ytelse betyr at mer kan gjøres på samme tid. 

Værmeldingene kan bli mer presise fordi de kan kjøres med høyere oppløsning. Medisiner kan bli mye mer effektive når datamaskinene får gjort mange flere analyser av hvordan de virker på kortere tid.

Chat GPT og andre språkmodeller vil gi oss raskere eller bedre svar på det vi spør om, selv om de gjør mye større søk enn i dag, ifølge forskerne.

Ekstrem forskjell i strømforbruk

I dag kan ytelsen til et program variere ekstremt. Det vil altså si hvor mye det forbruker av tid og strøm. Ett design kan ha flere titalls tusen ganger høyere ytelse enn et annet som gjør nøyaktig samme jobb.

At kjøretiden faktisk kan variere fra noen få sekunder til mange minutter, viser behovet for smartere og mer bærekraftige løsninger. 

Oppfinnelsen fra NTNU gjør det enklere for utviklere å skrive programmer som tar kort tid.
Oppfinnelsen fra NTNU gjør det enklere for utviklere å skrive programmer som tar kort tid.

Moores lov snart ut på dato

Det er snart 60 år siden Gordon E. Moore lanserte antagelsen om at yteevnen i kretsene på én databrikke ville dobles hver 24. måned. Diskusjonen går om spådommen, som også kalles Moores lov, snart går ut på dato. Lufta er uansett begynt å sive ut av ballongen, ifølge Jahre.

– Siden prosessorene ikke blir automatisk raskere i samme grad som før, blir det enda viktigere at programvaren utnytter maskinvaren mer effektivt.

Det er uhyre krevende å få til.

Brikkene brukes overalt

Alle de store produsentene Intel, IBM, ARM og AMD lager kraftige prosessorer med høy ytelse. Markedet er formidabelt.

Brikkene brukes i alt av sky-infrastruktur, i alle datasentre, samt i bærbare og stasjonære datamaskiner og smarttelefoner. Det er flere av dem i TV-en din, og bilen din er full av dem.

Utfører 500 ulike ordrer samtidig

De kraftigste prosessorene jobber med opptil 500 instruksjoner på en gang. De gjør bitte litt på hver av dem samtidig. 

Programvaren derimot, baserer seg på at instruksjonene utføres én og én av gangen. Omtrent som når du følger en matoppskrift trinn for trinn. 

– Nøkkelproblemet er å se på alt dette samtidig og finne nøyaktig hvilke av de 500 instruksjonene programmet bruker tid på akkurat nå. Det er akkurat dette TIP løser, forklarer dataprofessoren.

Kaster bort tid og gir feil svar

Produsentene har utstyrt brikkene sine slik at de kan analysere hva programmene bruker tid på. Alle har hver sine løsninger. 

Forskerne ved NTNU har testet fire av dem. De har påvist at alle gjør systematiske feil. De gir dermed feil svar.

– De er faktisk så upresise at det blir vanskelig for utvikleren å forstå hvorfor programmet yter som det gjør. Det er svært krevende å forstå hva det bruker tid på. Dermed kan hen heller ikke vite hva som skal gjøres med det. Bytter de ut disse enhetene med TIP og TEA, blir det riktig, sier Magnus Jahre.

Tungregning og supersimulator

Det er først og fremst tungregneanlegget IDUN på NTNU som har gjort det mulig for forskerne å utvikle TIP og TEA. 

De har også brukt simulatoren FireSim som er utviklet ved Berkeley. 

Tungregneanlegget på NTNU har hjulpet forskerne til å kjøre realistiske simuleringer med enormt store datasett.
Tungregneanlegget på NTNU har hjulpet forskerne til å kjøre realistiske simuleringer med enormt store datasett.

De som tester nye maskinvare-løsninger, bruker gjerne programvare som simulerer hvordan maskinvaren oppfører seg. 

Da kan de se på noen hundre millioner instruksjoner av gangen. Oppsettet på NTNU gjør det mulig å se på milliarder av instruksjoner. Det er det ikke så mange i verden som kan.

Kundene har mest nytte

NTNU eier rettighetene til TIP og TEA, og NTNU Technology Transfer (TTO) har søkt patent og jakter på kommersielle partnere. 

Strengt tatt løser ikke oppfinnelsen noe problem for brikkeprodusentene. Det er kundene deres som først og fremst vil ha nytte av oppfinnelsen, ifølge Magnus Jahre.

Så lenge Intel, Arm og de andre holder tritt med konkurrentene, vil de trolig mene at prosessorene de har, er effektive nok og lite lystne på å bruke penger, tid og ressurser på noe helt nytt.

Bevisbyrden ligger hos forskerne 

Dersom en produsent bestemmer seg for å ta NTNU-oppfinnelsen i bruk i dag, så vil det allikevel ta flere år før TEA og TIP finnes i noe du kjøper i butikken.

– En prosessor med høy ytelse er et ekstremt komplisert produkt. Tusenvis på tusenvis av årsverk er brukt for å lage dem. Når vi forskere, som attpåtil kommer fra verdens utkant, kommer og forteller produsentene at de må gjøre ting på en helt annen måte, så ligger bevisbyrden på oss.

– Vi må forklare dem at det virker og at de bør ta det i bruk. Det er en ganske krevende øvelse, sier Magnus Jahre.

Amazon, Google og Apple

Forretningsutvikler Lodve Berre i TTO sier at de sikter de seg inn mot aktører som lager både sin egen maskinvare og programvare, som Amazon, Google og Apple.

Tid- og strømforbruk i dataprogrammer kan variere ekstremt. Ett design kan ha flere titalls tusen ganger høyere ytelse enn et annet som gjør nøyaktig samme jobb.
Tid- og strømforbruk i dataprogrammer kan variere ekstremt. Ett design kan ha flere titalls tusen ganger høyere ytelse enn et annet som gjør nøyaktig samme jobb.

– Disse vil kunne ta ut verdien av TIP og TEA direkte i sine dedikerte sky-løsninger og server-parker. Det gir et fortrinn overfor andre aktører som kjører på tradisjonell maskinvare, sier han.

Bedre ytelse, lengre levetid 

Teknologien fra NTNU vil bety at for eksempel Apple enklere kan identifisere feil og flaskehalser, både i operativsystem og annen programvare. Dermed kan de øke både ytelse og batterilevetid på sine enheter – både MacBooks, mobiltelefoner og nettbrett, ifølge Lodve Berre.

Og hvor er TIP og TEA om fem år?

– Da tenker jeg det er tatt i bruk og på vei til en butikk nær deg, sier professor Magnus Jahre.

Referanser:

Björn Gottschall, Lieven Eeckhout og Magnus Jahre: TIP: Time-Proportional Instruction Profiling. 54th Annual IEEE/ACM International Symposium on Microarchitecture, 2021. Sammendrag. Doi.org/10.1145/3466752.3480058

Björn Gottschall, Lieven Eeckhout og Magnus Jahre: TEA: TimeProportional Event Analysis (PDF). In Proceedings of the 50th Annual International Symposium on Computer Architecture (ISCA ’23), 2023. Doi.org/ 10.1145/3579371.3589058

Powered by Labrador CMS