Her kommer vinteren; Sannsyns nyeste nyhetsbrev

Her kommer vinteren. Og hvis du synes vinteren faktisk har vaert her en stund…

*|MC:SUBJECT|*

Her kommer vinteren

Her kommer vinteren
Her kommer den kalde, fine tida
Her kommer vinteren
Endelig fred å få til å lese Sannsyns helt rykende ferske nyhetsbrev

– Fritt etter Jokke & Valentinerne

Og hvis du synes vinteren faktisk har vært her en stund, så kan jeg fortelle deg en aldri så liten hemmelighet: Sannsyn har hatt masse å gjøre de siste månedene, så når jeg skrev de første setningene, så hadde vi akkurat fått de første snøfnuggene i Oslo. Og plutselig var det jul. Godt jeg har en hel formiddag i morgen til å gjøre all gaveshopping. Fordelen med å være sent ute er at kaoset har gitt seg på kjøpesenterne. Er jeg riktig heldig, så har noen butikker til og med startet salget?

Men nå, over til nyhetene….
Google med «Code Red» etter lansering av ChatGPT

OpenAIs ChatGPT har tatt verden med storm (prøv selv her). Denne er basert på modellen InstructGPT, som er laget for å kunne respondere på menneskelige instruksjoner og er en forbedring av den tidligere omtalte GPT-3 (som du nå kan få innebygd i til og med noe så eksotisk som en skrivemaskin). ChatGPT er forøvrig overraskende god også på norsk og fikk over 1 mill brukere allerede første uken. Til sammenligning brukte Facebook 10 måneder på tilsvarende antall brukere.

ChatGPT har imidlertid noen forbedringspunkter? Eller er den bare for ærlig? Noen spurte den om den kunne skrive en historie om at AI tar over jobbene til skribenter og kunstnere slik at de sultet ihjel. ChatGPT leverte. Den kan også ta hånd om parkeringsbøter for deg. 

Lanseringen har imidlertid også skapt panikk hos Google, som blitt svært bekymret over hva dette kan bety for deres søkemotor. CEO Sundar Pichai har nedsatt en rekke team for å refokusere deres satsing på maskinlæring i følge et memo. Googles viktigste inntektskilde er annonser, og selskapet har derfor ikke ønsket å levere en egen chatbot, da dette fryktes å kannibalisere markedet for å vise annonser. De er også bekymret for selskapets rykte om de beveger seg for fort.

Fra brukerens side er det kanskje enda verre at Google ikke har hatt mål om å gi brukeren (eller kan det kalles produktet?) et perfekt søkeresultat. Grunnen er veldig enkel: Finner du det du vil ha med en gang, så klikker du ikke på annonser. Dette hensynet har ikke OpenAI og ChatGPT tatt. Gode søkealternativer er forøvrig Brave og Duck.
Selvkjørende i ny by og med nytt kjøretøy

Selvkjørende biler blir bedre og bedre, selv om de nok har litt igjen til å levere på alt vi trodde de skulle for noen år siden. Men nå har det britiske selskapet Wayve lykkes i to nye milepæler for industrien: 1) Generalisere til en ny og ukjent by, og 2) generalisere på tvers av to plattformer. Det betyr at de raskt og billig kan rulle ut teknologien i nye byer og i nye type kjøretøy. Tradisjonelt har treningen av bilene skjedd i hver geografi og for en bestemt størrelse kjøretøy, som har begrenset utrullingen og bruksområdene
Spesielle julekort er visst en egen genre
USA forsøker å stoppe Kina

Kampen om ledertrøyen innen AI og teknologi har dratt seg til den siste tiden. Kina, har som vi har skrevet i tidligere nyhetsbrev strammet til mulighetene for sine teknologiselskap å vokse fritt. Nå forsøker amerikanerne å begrense de kinesiske mulighetene for å ta ledertrøyen innen maskinlæring. USA forbyr nå eksport av high-end maskinlæringschips til Kina. Dette gjelder i stor grad NVIDA og AMD, hvorpå førstnevnte står for ca 95% av salget av denne typen chips i Kina. Kritikere mener dette vil ha motsatt effekt, og vil således kunne bidra til å gi kinesiske chipprodusenter bedre muligheter til å ta igjen forspranget. I dag er ikke de kinesiske leverandørene konkurransedyktige, men ved bortfall av amerikanske alternativer vil de øke salget betydelig, og vil således kunne få ressurser til å ta igjen forspranget på lengre sikt. 

Dette kommer i tillegg til restriksjonene som nylig ble lagt på amerikanske statsborgere og greencard-innehavere, som med umiddelbar virkning må si opp sine stillinger i den kinesiske semiconductor-industrien, eller miste sitt amerikanske statsborgerskap.

Dette står i sterk kontrast til blant annet tyske myndigheter som nylig godt at Kina fikk kjøpe både en tysk chipsprodusent og havnen i Hamburg. 
Det nye gullrushet

Det er alltid noen nytt og spennende innenfor tech som skal endre verden, og som alle kaster seg på. La oss ta en kjapp refresh fra de siste tiårene. Sikkert mye som mangler, men en slik liste kan ikke være uttømmende:

2002 – Biometrics / Grid-computing
2004 – Open Source
2005 – Biometrics / P2P Voice
2006 – Web 2.0
2008 – Green IT
2009 – Cloud computing
2011 – Internet TV
2012 – Bring Your Own Device / 3D Printing
2014 – IoT
2016 – Blockchain
2017 – Deep Learning
2018 – Digital Twin
2021 – NFT


Det som nok kommer til å stå igjen som 2022s store vinner er Generative AI. (Se beskrivelse litt lenger ned i dette nyhetsbrevet). 

Det betyr at om du skal hente penger i Silicon Valley, så er det Generative AI som gjelder i disse dager. Et eksempel er Stability.ai som hentet inn $101 millioner på en verdsettelse på en milliard dollar, og det før de hadde lansert. De har riktignok lansert nå, og resultatet ser jo unektelig bra ut. 



Før du tenker at min småsarkastiske tone tilsier at jeg tror dette bare er tull og humbug, så vil jeg si at det ikke er det. Prisingen man kan oppnå når man henter inn investorpenger er nok i visse tilfeller helt fjernet fra virkeligheten. Men sikkert ikke verre enn hva de som har prøvd seg på Euronext Growth

Men når det er sagt, så lanserer Microsoft et nytt produkt:
Microsoft lanserer Generative AI i sin Office-pakke

Microsoft investerte som kjent en milliard dollar i OpenAI i 2019. OpenAI har vi omtalt i flere utgaver av dette dette nyhetsbrevet så langt. Med tanke på at vi kun har gitt ut to utgaver, så er det naturlig å tenke seg at OpenAI faktisk er av betydning i maskinlæringsverden. Så Microsoft har nok ikke gått feil der. OpenAI har som kjent levert DALL-E 2, som genererer bilder og GPT-3 som genererer tekst. Microsoft har tidligere fått en eksklusiv lisens til å benytte sistnevte i sine produkter. 

Nå har imidlertid Microsoft lansert et nytt produkt, med det kanskje ikke like revolusjonerende navnet Designer, som er basert på DALL-E 2. 

Designer opererer foreløpig med en venteliste. Men produktet vil integreres i Office 365 når de har fått luket ut de store feilene, og sannsynligvis også sørget for at man ikke kan generere «krenkende» eller på andre måte uønskede bilder. PowerPoint ville nok neppe blitt det samme, om Microsoft ga brukerene frie tøyler
Er det ikke slik julen ofte fortoner seg?
AI leverer et stort steg fremover i kampen mot kreft

Kreftforskningen er for tiden i stor grad drevet av maskinlæring. Nå har forskere nådd en ny milepel hvor det er utviklet tusenvis av «kommando-ord» som kan sørge for at immunforsvaret kan «programmeres» til å drepe kreftceller.  Føler jeg er litt på tynn is her når jeg skal forklare dette, da min bakgrunn innen medisin er svært begrenset, for å si det forsiktig. Men vi får stole på professoren: «This is a vital shift for the field»
Southpark som deep-fake?

Ok. Kanskje å dra det litt langt? Uansett, Trey Parker og Matt Stone, som står bak South park har spunnet ut et selskap med navnet Deep Voodoo som skal fokusere på deepfake. De har hentet inn $20m i investeringsmidler og har allerede produsert sin første musikkvideo med Kendrick Lamar, hvor rapperens fjes transformeres til OJ Simpson, Jussie Smollett osv. 
EU satser på Metaverse

Vi har tidligere skrevet om Metas noe manglende suksess med Metaverse. Nå har EU Kommisjonen kastet seg på. De brukte rundt 4 millioner kroner på å hoste en virtuell fest. Kun 6 personer dukket opp, hvorav 5 forsvant ganske fort. Sistemann var journalist, og ikke i målgruppen. Han fikk iallfall en god historie. Eventet fikk forøvrig totalt 44 «Likes» etter å ha blitt promotert mer enn 500 000 ganger på Facebook og Twitter. 
Hva er Generative AI ?

Utviklingen innen AI (maskinlæring) beveger seg svært raskt, og modellenes kapasitet har doblet seg hver 3.4 måned siden 2012. Dette er langt bedre enn Moore’s Law, som har vært med oss i 60 år. 

Det betyr at det alltid kommer noe nytt og spennende. Og det mest spennende nå er det som kalles Generative AI. Det er modeller som kan generere noe selv. Eksempler er for eksempel GPT-3 for tekst eller DALL-E2 for bilder. For kort og godt, så er Generative AI en samlebetegnelse for alle typer unsupervised maskinlæring som benyttes til å lage bilder, video, lyd, tekst eller kode. 

Denne typen maskinlæring skiller seg fra det som har vært normen for algoritmene inntil relativt nylig; de har vært fokusert på å ta en beslutning vedrørende et nytt input. Målsetningen med Generative AI er imidlertid å skape syntetiske data som skal kunne klare Turingtesten. (Turingtesten er en test som etter Alan Turing går ut på om en maskin klarer å utgi seg for å være et menneske, uten at en menneske skjønner at det er en maskin). Å gå fra å ta beslutning basert på et input, som f.eks. hvilket produkt en kunde, basert på handelshistorikk, ønsker å kjøpe krever veldig mye mindre datakraft enn å skape noe helt selv. 



Bildet ovenfor skapte en del baluba i september, da det vant pris for beste kunstverk i Colorado State Fair, et arrangement med mer enn 150 års historie. Bildet var imidlertid generert av Midjourney.

Enkelt fortalt, så gis Generative AI-modeller et relativt begrenset antall parametere når de trenes. Dette gjør at algoritmene selv må komme frem til de viktigste karakteristikkene i treningsdataene.

Bak Generative AI ligger ofte Generative Adversarial Network (GAN), Transformers eller Variational Autoencoder (VAE)

Kilde: The Economist, 11. juni 2022
Lære noe nytt i julen?

Julen er forhåpentligvis en tid for å kunne roe litt ned. Vi i Sannsyn lukker butikken og gir alle fri mellom jul og nyttår (uten at det teller mot feriedagene. Så søk jobb nå 😉 Og har man litt ekstra tid, så kan det jo hende man ønsker å lære noe nytt. Her er et par forslag som kanskje kan være av interesse? 

Deep Learning Illustrated – Et bilde sier jo som sagt mer enn 1000 ord
Fighting Churn with Data – Ingen vil vel miste kunder?

What Companies Need to Know Before Investing in AI – Artikkel fra HBR; ikke bok. Denne kommer du nok igjennom 😉

Apache Superset (GitHub) – Perfekt for visualisering av data
Hugging Face (GitHub) – Ferdig trente transformers 
Gradio (GitHub) – Flotte interfaces for maskinlæringsmodeller
SV2TTS – Klon stemmer med et par sekunders opptak. (Hadde det ikke vært for CallerID så kunne jo den gamle tradisjonen med «bølleringing» fått helt nye dimensjoner)
MediaPipe – Bildebibliotek som vil gjøre maskinlæring med video til en lek
DeepSpeed (GitHub) – Svært effektivt språkbibliotek

Og til slutt, et par research-papers verdt å nevne fra året som har gått:

TSInterpret: A unified framework for time series interpretability
Long-term forecasting with transformers
Galactica: A Large Language Model for Science

Et sted må vi sette strek. Men det betyr ikke at denne listen burde vært veldig mye lenger. Så bare ta kontakt om du vil diskutere litt mer av det vi kunne ha tatt med.

Da gjenstår det bare å ønske deg en riktig god jul og et godt nytt år når vi kommer dit. Så snakkes vi på nyåret


Med vennlig hilsen,
Øyvind Dale Spørck

oeyvind@sannsyn.com
Mobil: 92 444 777
Sannsyn AS
Har du fått tilsendt dette nyhetsbrevet, og gjerne vil ha det direkte? Da er det bare å hoppe over hit, så slipper du å gå glipp av noe som helst
Har du forøvrig ikke sett videoen vår enda, så gjør det nå. Under 2 min, og faktisk ganske morsom om jeg skal si det selv.