Chat GPT kan kosta 2,5 miljoner kronor om året

Med 200 000 SEK/månad blir det billigare att anställa en organisk forskare och ge denna organiska forskare tillgång till lokala och/eller vissa betalda LLM:er i samband med sina arbetsuppgifter.

Den organiska forskaren har dessutom förmågan att utöka sin mängd "träningsdata" (inklusive lära sig av sitt "hallucinerande"), är frigående/kan ta initiativ, kan många gånger ha bättre "resonerande", och drar mycket mindre ström trots att den kan se, höra, läsa, lukta, smaka och fysiskt känna av olika former av data.

Visst, nackdelarna är att den organiska forskaren inte kan vara igång dygnet runt, inte alltid är lika snabb i sitt arbetande, kan råka ut för tillfälliga driftstörningar (sjukdomsfrånvaro), och även den kommer att begå misstag. Åtminstone kommer den att förhoppningsvis upptäcka sina misstag, lära sig utav dem, och sen gå vidare istället för att självsäkert påstå att allt den säger och gör alltid är rätt.

Mvh,
WKF.

Med 200 000 SEK/månad blir det billigare att anställa en organisk forskare och ge denna organiska forskare tillgång till lokala och/eller vissa betalda LLM:er i samband med sina arbetsuppgifter.

Den organiska forskaren har dessutom förmågan att utöka sin mängd "träningsdata" (inklusive lära sig av sitt "hallucinerande"), är frigående/kan ta initiativ, kan många gånger ha bättre "resonerande", och drar mycket mindre ström trots att den kan se, höra, läsa, lukta, smaka och fysiskt känna av olika former av data.

Visst, nackdelarna är att den organiska forskaren inte kan vara igång dygnet runt, inte alltid är lika snabb i sitt arbetande, kan råka ut för tillfälliga driftstörningar (sjukdomsfrånvaro), och även den kommer att begå misstag. Åtminstone kommer den att förhoppningsvis upptäcka sina misstag, lära sig utav dem, och sen gå vidare istället för att självsäkert påstå att allt den säger och gör alltid är rätt.

Mvh,
WKF.

Jag jobbar på ett stort globalt företag och vi har som alla andra stora mycket av vår support i Indien och andra låglöneländer. Vi hade ett stort AI projekt i samarbete med Microsoft för drygt ett år sedan och en av de första punkterna som kom upp var att så länge människor i låglöneländer är billigare så är det här AI projektet endast av akademisk karaktär.

Så MS, och troligen alla andra AI giganter, är väl medvetna om behovet vs kostnaden.

Men de tänker sig nog inte att man ersätter EN anställd med sin AI för 200k/månad utan kanske en hel avdelning? Och då blir det mer intressant rent ekonomiskt.

Enbart energi för att driva framtida AI modeller spås uppgå till 327GW per år 2030.

Genomsnittligt utsläpp är 600g CO2 per kWh

Det ger runt 1.718.712.000 ton med CO2 per år.
En människa ger runt 345 ton över sin livstid

Det innebär att du kan ha runt 5 miljoner människors hela livstider jämfört med vad din AI modell kräver över ett år.

Men visst, problemet är teneriffaresan en gång per år

Edit.
Och då snackar vi enbart energin som krävs, inte ädelmetaller för komponenter, infrastruktur, underhåll etc…

Plötsligt billigt med en helt maxad Mac Studio Ultra och köra även stora modeller lokalt

Det är så det fungerar. Ge bort saker gratis, skapa beroende, börja ta ordentligt betalt, ka-ching!

Kan du berätta lite mer var du hittade siffrorna?
Co2 per kWh varierar kraftigt över världen, och vi kommer inte ha datacenter i koleldade hus. Sverige ligger just nu på runt 17g/Co2 vad jag kan se. https://www.nowtricity.com/country/sweden/

De bästa modellerna kommer man ju inte kunna köra lokalt, då måste man betala.

Det är så det fungerar. Ge bort saker gratis, skapa beroende, börja ta ordentligt betalt, ka-ching!

Enbart energi för att driva framtida AI modeller spås uppgå till 327GW per år 2030.

Genomsnittligt utsläpp är 600g 475gCO2 per kWh (så lite mindre miljoner människor än som står nedan)

Det ger runt 1.718.712.000 ton med CO2 per år.
En människa ger runt 345 ton över sin livstid

Det innebär att du kan ha runt 5 miljoner människors hela livstider jämfört med vad din AI modell kräver över ett år.

Men visst, problemet är teneriffaresan en gång per år

Edit.
Och då snackar vi enbart energin som krävs, inte ädelmetaller för komponenter, infrastruktur, underhåll etc…

I viss utsträckning går det att arbeta hemifrån. Forskarens kontra AI:ns bidragande miljöförstöring är en separat diskussion.

Bara för att AI:n gör saker på sekunder betyder inte att allt är av allra högsta kvalité. Och att använda en ytterligare AI för att granska en annans AI:s kvalité har också begränsad kvalité i sig. Nuvarande "AI" i form av LLM:er har fortfarande noll faktisk förståelse av sin egen "träningsdata" jämfört med en människa som skulle kunna ha tagit del av samma "träningsdata" om än ej lika fort.

Exempelvis detta YT-klipp går igenom Googles nya hajpde "forskningsassistent" vilket skulle kunna ta fram helt nya hypoteser utifrån nuvarande inmatad forskning i LLM:en.

Kortfattat klargör videon hur experter inom området där detta testades av Googles SWEs visade sig "inte vara något nytt öht" utan bara tidigare föreslagna hypoteser djupt nedgrävda i ännu ej publicerad forskning. Således en viss nivå av intellektuell oärlighet(?) från Googles sida.

Jag väntar fortfarande på att dessa AI-bolag har ersatt sin egen tekniskt anställda personal (t.ex. SWEs) med dessa så kallade "AI-agenter". Är det inte konstigt att ett företag inte själv verkar vilja använda något fullt ut samtidigt som de vill pracka på alla andra företag att ersätta sin personal med?🤔

Det är lite som att jag försöker sälja dig en spade som jag aldrig själv skulle få för mig att använda till samma sak, nästan som om jag vet något mycket viktigt om spaden men vägrar att berätta för dig...

(Här finns över 50+ jobbpositioner för människor relaterade till "engineering" hos OpenAI (nästan som om de inte riktigt till 100 % litar på sina egna AI-agenters utförda arbeten...): https://openai.com/careers/search/

Mvh,
WKF.

Enbart energi för att driva framtida AI modeller spås uppgå till 327GW per år 2030.

Genomsnittligt utsläpp är 600g 475gCO2 per kWh (så lite mindre miljoner människor än som står nedan)

Det ger runt 1.718.712.000 ton med CO2 per år.
En människa ger runt 345 ton över sin livstid

Det innebär att du kan ha runt 5 miljoner människors hela livstider jämfört med vad din AI modell kräver över ett år.

Men visst, problemet är teneriffaresan en gång per år

Edit.
Och då snackar vi enbart energin som krävs, inte ädelmetaller för komponenter, infrastruktur, underhåll etc…

Nej. Inte dagens AI iaf. Min och andra experters erfarenhet är att AIn idag är ytterst opålitlig när det kommer till spjutspetskompetens. (Men desto bättre på att rapa upp en hyffsat korrekt beskrivning av välkänd fakta som t ex kan stå i skolböcker eller baktill på mjölkpaket).

Forskning du inte kan lita på är värre än skräp.

Alla som idag okritiskt köper en AI som påstås "motsvara en forskare med PhD" förtjänar att förlora sina pengar.

AI inom forskning kan idag användas till okritisk brainstormning och språkgranskning. Detta gäller iaf inom medicin. Inom t ex mjukvara ser det kanske annorlunda ut.