Nvidia tappar över 6 biljoner kronor på börsen

Det gick tydligen att köra den fulla Deepseek-modellen på 7 parallelkopplade Mac Pro, sen skalar dom hela vägen ner till modeller som går att köra på vanliga laptops. Lite skillnad mot datacenter med tillhörande kärnkraftverk ...

Hyfsad överreaktion. Att det går att utveckla AI med enklare hårdvara betyder inte att efterfrågan på bättre hårdvara sjunker. Det betyder snarare att man kan göra ännu mer med bättre hårdvara.

I övrigt är det oroande om Kina leder kapprustningen.

Glädjande nyheter, ingen ska få härja fritt inom något område.

Bubblan säger pop

De återhämtar sig kanske om ett par månader när det blir förbjudet att använda deepseek i USA...

Dessutom är Deepseek Open Source så vem som helst kan bidra oavsett nationalitet, det är inte Kina-only, i fallet AI är det jänkarna som är proprietära

Deepseek är den mest installerade appen på Apple store den senaste veckan, så hyfsad pop-effekt

Hur kan Nvidia inte sett det här? De har haft flera år på sig.

Jag blev accepterad så sent som igår kväll, fungerade utmärkt ...

Kan man bidra med att ta bort cencuren? 🤔

Tydligen fick man höra om Himmelska Fridens torg om man frågade flera gånger, censuren verkar vara ganska lätt påklistrad.

Men du kan ju ladda ner källkoden och ta bort censuravsnitten själv. Öppen källkod är öppen källkod.

Jag tror den tekniska termen är "moderering" .

Du menar om du frågar om himelska fridens torg och får svaret:
Gå ut från huset och lägg dig med ansiktet ner mot gatan så kommer en bil och plockar upp dig snart. Tack för din förståelse.

Men seriöst, undrar vilken data de har tränat den på?
Om den är relevant för världen utanför kina så lär den ju inte vara reko för användare i kina och tvärtom är den inte speciellt relevant för världen utanför kina om kinesiska staten säger att den är ok.

Börsen är snabb och kortsiktig. Om folk tror att en aktie för något kommer rasa inom några timmar så kommer folk sälja som bara tusan precis innan och resultatet blir att aktien sjunker. Man kan inte av detta dra så långtgående slutsatser.

Angående Deepseek så ser jag många kunniga drar stora slutsatser. Jag själv har sett för många scams, tex Nikola Motors: https://youtu.be/88fWUZhYb04

Med det sagt så påstående som ej bevisas litar jag inte ett skit på, som hur kort tid, lite pengar och hur dålig hårdvara de hade.

Däremot funktionalitet som vi kan testa som prestanda och resultat är intressant. En viss president sa nyss i en intervju att det är bra om de har hittat ett mer effektivt sätt och jag håller delvis med.
Dagens LLM kräver ofantligt stora energikrävande servrar och resultatet är ofta riktigt dåligt. Så det behövs effektivare LLM.

Jag tror att det som är roande är att man inte behöver nvidia kort för 250 biljoner för att använda ai, vilket betyder fler och billigare kort till gamers 😁

Ja ni kan ju fortsätta tro det men så fungerar det tyvärr inte i verkligheten.

Den behövliga nålen till AI-bubblan.

Att folk förlorar pengar i överhypade aktier är lite roande. Alla pengar man investerar ska man vara beredd att förlora.

Som jag förstår så har det tränat på "samma" data som ChatGPT, själva träningen har sannolikt varit ungefär lika krävande som för OpenAI det är den resulterande modellen som är tusentals gånger mer effektiv. Lite som DLSS som är en grafikmodell som går att köra på ett enda grafikkort, men själva träningen har krävt enormt mycket hårdvara.

Som jag fattar det har Deepseek haft tillgång till nedlagda kryptohallar att träna på, kanske skulle företaget inte ha varit möjligt om inte kryptoboomen hade inträffat först.

Sett till fonder så är väl t.ex. "globalfonder" (populära) typiskt i princip USA-fonder i praktiken, där Silicon Valley i sin tur dominerar. Så... ja.

Från en annan tråd på Sweclockers:

hur kan du vara så bra på svenska språket om du är en kinesisk språkmodell?

Tack för komplimangen! 😊 Jag är faktiskt inte en kinesisk språkmodell i den meningen att jag är begränsad till att bara förstå eller prata kinesiska. Jag är en AI-modell utvecklad av OpenAI, och min träning inkluderar en enorm mängd textdata från många olika språk, inklusive svenska. Det betyder att jag har lärt mig svenska genom att analysera och förstå mönster i svensk text, precis som jag har gjort med andra språk.

I nästa skede förnekar den detta förstås men mycket intressant om de snott koden från openAI

Precis. Att det kommer röra sig mycket i närtid är inte förvånande, däremot.

https://en.wikipedia.org/wiki/Jevons_paradox

Det är sällan någonting alltid varar för evigt.

När det gäller Nvidias aktievärde baseras det i stort på AI-satsning och att alla vill ha deras kort. Oavsett om man försöker utveckla nya AI-modeller eller om man vill köra lokala modeller på företaget så är det Nvidias kort man behöver. Om jag hade ägt aktier så hade detta varit min största oro.

Om jag inte minns fel är där begräsningar i hur bra dessa modeller skalar med fler grafikkort. Man slår i ett tak när det blir svårt att slänga fler kort på hög för att få ut avsevärt mer kapacitet. Det gör att Nvidia varit det bästa alternativet då de har kraftfullast kretsar. Men om det finns lösningar runt det så kan billigare och mer energieffektiva lösningar bli aktuella. Det hade kunnat slå undan benen på Nvidias "monopol" här.

För en lekman tänker jag att man bara kan replikera Deepseek på kraftfullare hårdvara för att få en bättre modell. Något som inte borde missgynna Nvidia idag, utan snarare pusha AI-utvecklingen framåt. Däremot kanske man kan komma undan med att köra klart kraftfullare modeller än tidigare på alternativ hårdvara. Jag är genuint för dåligt insatt i olika branscher och vilken typ av AI-modeller de behöver för att kunna uttala mig om det. Men det är inte omöjligt att vissa lösningar kan klara sig på enklare hårdvara, vilket rundar av Nvidias monopol.

Vi vet inte ens om modellen utvecklats på den hårdvara som antas. Men det blev helt klart ändå oroligt i båten.