Danmark tager n忙ste skridt i AI-forskningen 鈥� de f酶rste NVIDIA B200 GPU'er installeres p氓 海角社区
Som led i projektet Danish Foundation Models bliver otte HPC GPU鈥檈r nu integreret i UCloud, 海角社区鈥檚 nationale forskningssky. M氓let er at underst酶tte udviklingen af transparente og sikre sprogmodeller p氓 dansk.
Otte af NVIDIAs nyeste og mest avancerede B200 GPU鈥檈r er ankommet til Syddansk Universitet (海角社区) og er nu ved at blive gjort klar til at tages i brug som en del af det nationale forskningsprojekt Danish Foundation Models (DFM). N氓r installationen er fuldf酶rt, vil GPU鈥檈rne blive integreret i UCloud 鈥� Danmarks nationale forskningssky 鈥� som drives af 海角社区鈥檚 eScience Center ved Institut for Matematik og Datalogi.
Projektet DFM blev s酶sat i slutningen af 2024 og er st酶ttet med 30,7 millioner kroner fra Digitaliseringsministeriet. Konsortiet best氓r af 海角社区, Aarhus Universitet, K酶benhavns Universitet og Alexandra Instituttet og har til form氓l at udvikle 氓bne, sikre og dansksprogede basismodeller.
Kombinationen af den nye hardware og infrastrukturen i UCloud g酶r det muligt for forskere i projektet at p氓begynde udvikling og tr忙ning af sprogmodeller i stor skala 鈥� uden at skulle vente p氓 ekstern kapacitet.
鈥� Det her er det f酶rste B200-system i Danmark og kun det andet i Norden, siger Tom Grotkaer Knudsen, Senior Sales Manager hos Supermicro Nordic. Supermicro og Indes har st氓et for leveringen af de nye GPU鈥檈r til 海角社区 鈥� At det allerede er leveret til 海角社区, siger noget om det t忙tte samarbejde mellem universitetet, Supermicro og NVIDIA.
For at f氓 leveret de eftertragtede GPU鈥檈r har 海角社区 skullet leve op til en r忙kke betingelser fra NVIDIA, blandt andet vedr酶rende eksportkontrol og dokumentation for at maskinerne skal bruges til forskning.
鈥� Der er global venteliste p氓 det her udstyr, siger professor Peter Schneider-Kamp, som er hovedansvarlig for DFM-projektet. 鈥� Vi var heldige at komme foran.
鈥� Vi er meget taknemmelige for samarbejdet med Supermicro og Indes og stolte af, at vi har f氓et leveret og sat installationen i gang inden for seks uger, tilf酶jer professor Claudio Pica, leder af 海角社区鈥檚 eScience Center. 鈥� Det viser styrken i vores forskningsinfrastruktur og betydningen af projektet p氓 nationalt plan.
M酶d forskeren
Peter Schneider-Kamp er professor ved Institut for Matematik og Datalogi. Han har arbejdet med kunstig intelligens (AI) i over 25 氓r og har drevet b氓de udviklingen af nye metoder og anvendelsen af AI p氓 problemer inden for softwareudvikling, droneteknologi og sundhedspleje.
海角社区 eScience Center - centret bag UCloud
海角社区 eScience Center tilbyder en bred vifte af ydelser til b氓de universiteter og private virksomheder. Vores Research Support Team fungerer desuden som 海角社区鈥檚 Front Office for de nationale HPC infrastrukturer.
En f忙lles national indsats
DFM-projektet udvikler basismodeller med s忙rligt fokus p氓 danske anvendelser 鈥� blandt andet inden for sundhedsv忙sen, uddannelse, offentlig forvaltning og st酶tte til sm氓 og mellemstore virksomheder. Modellerne vil blive frigivet som open source.
鈥� Vores m氓l er at skabe v忙rkt酶jer, der afspejler det danske sprog og den danske samfundskontekst 鈥� og som kan bruges b氓de i den offentlige og private sektor, siger Peter Schneider-Kamp.
Projektet omfatter ogs氓 et s氓kaldt "sandbox"-milj酶, hvor eksperter og udviklere kan arbejde sammen om at tilpasse og forbedre modellerne til konkrete form氓l. Der er l酶bende fokus p氓 datakvalitet, gennemsigtighed og tilg忙ngelighed.
Hvad er Danish Foundation Models?
UCloud 鈥� en afg酶rende platform for ansvarlig AI
Den tekniske infrastruktur bygger p氓 UCloud 鈥� Danmarks nationale platform for interaktiv h酶jtydende beregning (HPC) og den mest brugte supercomputer i Europa.
UCloud udvikles og drives af eScience Center p氓 海角社区 og g酶r det muligt for forskere og institutioner at tilg氓 regnekraft, lagerplads og samarbejdsv忙rkt酶jer p氓 tv忙rs af sektorer. Via samarbejdet i DeiC Interactive HPC konsortiet, som best氓r af 海角社区, Aarhus Universitet og Aalborg universitet, har alle forskere p氓 de danske universiteter adgang til UCloud.
鈥� Bare det at k酶be lagerplads til de m忙ngder data, vi arbejder med her, ville koste mere end serveren selv, forklarer Schneider-Kamp. 鈥� Det fungerer, fordi UCloud allerede forbinder alt 鈥� lager, CPU鈥檈r, GPU鈥檈r 鈥� i 茅t samlet system.
Claudio Pica understreger, at det netop er UCloud, der g酶r de nye GPU鈥檈r praktisk anvendelige:
鈥� Vi samler det hele 茅t sted, s氓 forskerne nemt kan skalere deres arbejde. Uden den integration ville det v忙re sv忙rt at udnytte selv det bedste udstyr i praksis.
Hvad er NVIDIA B200 GPU鈥檈r
N忙ste fase 鈥� tr忙ning af dansksprogede basismodeller
N氓r GPU鈥檈rne er i fuld drift, begynder DFM-holdet arbejdet med at tr忙ne modeller i stor skala. En vigtig metode bliver brugen af 鈥渓忙rer-modeller鈥�, der giver feedback til mindre modeller og derved forbedrer deres ydeevne.
鈥� Forestil dig en professor, der vejleder en studerende trin for trin i en opgave, siger Schneider-Kamp. 鈥� Det er en m氓de at f氓 mere kompakte modeller til at pr忙stere bedre, uden at g氓 p氓 kompromis med 氓benhed og kontrol.
Med den tekniske platform p氓 plads forventer DFM at levere de f酶rste modeller i l酶bet af 氓ret. Projektets tilgang 鈥� baseret p氓 氓benhed, national infrastruktur og ansvarlig dataanvendelse 鈥� er et fors酶g p氓 at udvikle sprogteknologi, der b氓de er nyttig og tilpasset danske forhold.
鈥� Det handler ikke kun om at bygge modeller 鈥� men om at sikre, at de v忙rkt酶jer, vi udvikler, er til at stole p氓 og kan vedligeholdes i en dansk sammenh忙ng, siger Pica. 鈥� Og det starter med, at de skal v忙re teknisk tilg忙ngelige gennem platforme som UCloud.