Analytiker räknar med snabb tillväxt för AI-PC

Permalänk
Melding Plague

Analytiker räknar med snabb tillväxt för AI-PC

IDC:s analytiker tror att antalet datorer som kan köra avancerade generativ AI som GPT direkt på enheten kommer utgöra över hälften av marknaden om ett par år.

Läs hela artikeln här

Visa signatur

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa kan leda till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Permalänk

Jag har läst artikeln och tror att de är överdrivet optimistiska.
Samtidigt så kommer i princip alla nya processorer från AMD, Intel och Apple väl uppfylla kravet. Kvar blir i princip de enklaste Chromebooks och de laptops som redan finns på marknaden. Och då kommer folk köpa dessa AI datorer vare sig de vill betala extra för det eller inte.

Jag själv använder en hel del Ai och ser stor nytta av det. Hade jag gått i skolan hade jag sett superstor nytta av Ai, men där kommer reglerna med fusk in. Hur mycket text får man kopiera in från Ai utan det räknas som fusk? Typ ingen, lika mycket text som man har kopiera från en studiekamrat?
Om de ändrar detta och tillåter mer, så kommer fler använda Ai. Lite som de där "hemtentorna" vi hade där man i princip fick slå upp var vi ville, nivån på "hemtentorna" var då mycket svårare än när man fick göra dem på en tentasal utan ens formelsamling eller miniräknare.

Permalänk
Medlem

Så det han säger är att tillverkare kommer branda om sina maskiner med "AI", och att dom kommer stå för en stor del av försäljningen?

Som alternativ till...?

Ungefär som Intel Evo, eller...

Permalänk
Medlem

Framtiden kommer! Alla ämnen i skolan tas bort och ersätts med ett ämne! AI och allt går ut på hur duktig man är på att få fram information via sin chatbot och sedan hur duktig man är på att få chatboten att utföra arbetet!

Visa signatur

here we go!

Permalänk
Skrivet av norrby89:

Framtiden kommer! Alla ämnen i skolan tas bort och ersätts med ett ämne! AI och allt går ut på hur duktig man är på att få fram information via sin chatbot och sedan hur duktig man är på att få chatboten att utföra arbetet!

Jag ser likheter med de som hade lexicon och senare internet hrmma. Ai kommer ta sin plats i skolan, självklart kan skolor förhala processen eller driva på. Men ungdomar kommer använda Ai mer för varje år.

När jag var lite så ryktades att vissa drog ner uppsatser från bbser, jag har ingen aning hur sant det var.

Permalänk
Medlem
Skrivet av norrby89:

Framtiden kommer! Alla ämnen i skolan tas bort och ersätts med ett ämne! AI och allt går ut på hur duktig man är på att få fram information via sin chatbot och sedan hur duktig man är på att få chatboten att utföra arbetet!

Ptjah, man har ju kunnat googla sig till det mesta i några decennium..
Detta är bara nästa steg.

Permalänk

En ”AI-PC” med analoga kretsar hade vart minst sagt fräckt. Till skillnad från Nvidias lösning på det idag skulle en sådan AI dra mycket mindre ström.

Visa signatur

Snålt, smått och raffinerat är min melodi :-)

Permalänk
Skrivet av taliz:

Ptjah, man har ju kunnat googla sig till det mesta i några decennium..
Detta är bara nästa steg.

Det största skillnaden skulle jag säga är att läraryrket kommer förändras väsentligt.
När allt yngre barn lär sig att använda AI i sin inlärning kommer de bli mer självledda. Lärarens roll som ledare i en lärande organisation hotas därmed förminskas till att bli en metodhandledare för inlärningsprocessen, inte sakkunskap i ämnet i sig. Till det bättre, ju tidigare en person lär sig att ta ansvar för sitt eget inlärande desto mer gynnas den av att drivas av den inre nyfikenheten.

Visa signatur

Snålt, smått och raffinerat är min melodi :-)

Permalänk
Medlem
Skrivet av taliz:

Ptjah, man har ju kunnat googla sig till det mesta i några decennium..
Detta är bara nästa steg.

Well även chatbottarna idag och att "googla" är en ganska enorm skillnad, samt att googla efter något kräver en hel del av användaren, veta hur man ska söka, veta vilka resultat av sökningen som är relevanta osv. Medans chatboten är det bara att ställa frågan så är det klart.

Så kanske inte riktigt nästa steg utan en KM längre fram =p

Visa signatur

here we go!

Permalänk
Medlem
Skrivet av LessIsMoore:

Det största skillnaden skulle jag säga är att läraryrket kommer förändras väsentligt.
När allt yngre barn lär sig att använda AI i sin inlärning kommer de bli mer självledda. Lärarens roll som ledare i en lärande organisation hotas därmed förminskas till att bli en metodhandledare för inlärningsprocessen, inte sakkunskap i ämnet i sig. Till det bättre, ju tidigare en person lär sig att ta ansvar för sitt eget inlärande desto mer gynnas den av att drivas av den inre nyfikenheten.

Innan man ens börjar titta på hur lärarrollen eventuellt ska förändras behöver man titta på om de här verktygen överhuvudtaget bidrar till inlärning.
Kan man inte bevisa det så har AI ingenting i skolan att göra, och kan man inte hålla det borta från datorerna så kanske man bör titta på att gå tillbaka till papper och penna.

Visa signatur

Gaming: 5800x, 32Gb Dual Rank B-Die 3800MHz 16-16-16-32, RTX4080S
Desktop: 4750G, 32Gb 3200MHz, A300 DeskMini Hotrod
På huvudet: ZMF Auteur & Verité closed, Feliks Echo 2, Topping E30

Permalänk
Medlem
Skrivet av jockos:

Innan man ens börjar titta på hur lärarrollen eventuellt ska förändras behöver man titta på om de här verktygen överhuvudtaget bidrar till inlärning.
Kan man inte bevisa det så har AI ingenting i skolan att göra, och kan man inte hålla det borta från datorerna så kanske man bör titta på att gå tillbaka till papper och penna.

Den är redan bra för självstudier och kan enkelt förklara olika begrepp inom olika ämnen på olika nivåer.

Matte är den hittills däremot värdelös på att förklara.

Gör de rätt i framtiden kommer de gå att utveckla program som individ anpassar uppgifter och ger direkt återkoppling till elever. Men de tror jag fortfarande är en bra bit bort.

Permalänk
Medlem
Skrivet av lillaankan_i_dammen:

Jag har läst artikeln och tror att de är överdrivet optimistiska.
Samtidigt så kommer i princip alla nya processorer från AMD, Intel och Apple väl uppfylla kravet. Kvar blir i princip de enklaste Chromebooks och de laptops som redan finns på marknaden. Och då kommer folk köpa dessa AI datorer vare sig de vill betala extra för det eller inte.

Det är helt realistiskt. Jag kan redan nu köra de små Mistral-modellerna med 7B parametrar på en 7 år gammal laptop utan GPU.

Modellerna blir mer och mer effektiva att köra, och hårdvaran blir bättre. Intel och AMD kommer båda rulla ut NPUs istället, dedikerade neurala processorenheter som är flertaligt bättre än CPUs för AI-modeller.

Jag har till och med fått mindre modeller att rulla rätt snabbt på telefonen. Sen så kommer det antagligen bli så att man kommer till en början att köra flera små och specifika AI-modeller just på telefonen för att inte bli chokad.

Du måste inte ha världens största generella modell på 100-tals miljarder parametrar, om ditt användningsområde är mycket snävare. Då kan du ha en liten språkmodell som är specifik, mer effektiv, och faktiskt ger bättre resultat för att den är gjort för användningsområdet (beroende på data, förstås).

Det är inte bara optimistiskt, det kan defintivt hända snabbt det här, och är redan möjligt.

Visa signatur

SLI Titan X - i7 5960x 8-kärnig - Asus Rampage V - 32 GB Corsair Dominator - Intel 750 2200 MB/s Pcie-disk.

Permalänk
Medlem
Skrivet av LessIsMoore:

Det största skillnaden skulle jag säga är att läraryrket kommer förändras väsentligt.
När allt yngre barn lär sig att använda AI i sin inlärning kommer de bli mer självledda. Lärarens roll som ledare i en lärande organisation hotas därmed förminskas till att bli en metodhandledare för inlärningsprocessen, inte sakkunskap i ämnet i sig. Till det bättre, ju tidigare en person lär sig att ta ansvar för sitt eget inlärande desto mer gynnas den av att drivas av den inre nyfikenheten.

"När allt yngre barn lär sig att använda AI i sin inlärning kommer de bli mer självledda." - hur i hela friden tänker du här?
Din mening känns ironiskt nog som AI-genererad text, autogenererad filler. Det finns yrkesgrupper (copywriters) som kommer att i längden kunna ersättas av det, men det är väl ett argument för att undvika att söka framtida försörjning inom områden som mest går ut på att göra varianter av befintligt material och där generativ AI är effektiv.

Sannolikheten att den inre nyfikenheten skall leda till den på arbetsmarknaden efterfrågade kompetensen är måttlig. Mina döttrar är mest intresserade av TikToks, drama i kompisgänget, och smink. Jag var intresserad av att läsa fantasy och science fiction (som till 95% hade kunnat producerats av generativ AI) och att spana in tjejer. Inget som samhället efterfrågar precis, något av det.

Alla som lärt sig eller lär ut något på något annat än den trivialaste nivån vet dessutom att man måste tillägna sig färdigheter, träna in dem, göra dem till sina egna. Lärares uppgift är att guida i den processen. (Efter att den primära dagisfunktionen är uppfylld, vilket av allt att döma är det som huvudsakligen upptar lärares tid idag.) Generativ AI kommer säkert att hjälpa stat och kommun att skära lite till i skol- och utbildningsbudgetar, men det finns i princip ingen koppling till vad lärare faktiskt håller på med.

Permalänk
Medlem
Skrivet av norrby89:

Well även chatbottarna idag och att "googla" är en ganska enorm skillnad, samt att googla efter något kräver en hel del av användaren, veta hur man ska söka, veta vilka resultat av sökningen som är relevanta osv. Medans chatboten är det bara att ställa frågan så är det klart.

Så kanske inte riktigt nästa steg utan en KM längre fram =p

Håller med.
"Googlar" man går det ju iaf, till viss del, använda sig av källkritik i valet av källor man använder. Hur använder man källkritik med AI? Hur validerar man att ett sammansatt svar speglar sanningen? Kommer någon ens göra sig besväret att försöka eller köper man svaren rakt av som sanningar?
Tror ytterst få, om någon, analyserar träningsdatan osv som ligger bakom använd modell (förutsatt att den finns tillgänglig). Här finns ju optimala möjligheter att göra osanningar till sanningar vare sig det sker medvetet eller inte.
Sen har vi ju "black box" fenomenet med modeller så avancerade att inte ens de som tagit fram dem kan förklara exakt hur modellen kommer fram till resultatet. Kämpigt att kvalitetssäkra resultaten då...
AI är absolut en stor del av framtiden. Men är själv smått tveksam till de massiva LLM's såsom ChatGPT etc.

Visa signatur

Asus Sabertooth X58 - Xeon X5680 - 12GB DDR3 - ASUS GTX1080 8GB

Permalänk
Medlem
Skrivet av norrby89:

Framtiden kommer! Alla ämnen i skolan tas bort och ersätts med ett ämne! AI och allt går ut på hur duktig man är på att få fram information via sin chatbot och sedan hur duktig man är på att få chatboten att utföra arbetet!

Vilken dystopisk vision.

AI:t måste fortfarande ta innehållet från någonstans så för det så behövs fortfarande bildade personer med kunskap.

Visa signatur

På Internet sedan 1997.

Permalänk
Medlem

Skulle vara intressant att se vad HPs memristorer hade kunnat göra på det här området, de var väl ungefär så nära neuroner man kunde komma?

Permalänk
Medlem
Skrivet av Sarato:

Vilken dystopisk vision.

AI:t måste fortfarande ta innehållet från någonstans så för det så behövs fortfarande bildade personer med kunskap.

Självklart, men det finns redan sen att samhället stagnerar är en annan femma men skulle nog världen må bra av iom att allt vi gör mer eller mindre bara förstör planeten mer och mer =o

Visa signatur

here we go!

Permalänk
Medlem
Skrivet av LessHack:

Den är redan bra för självstudier och kan enkelt förklara olika begrepp inom olika ämnen på olika nivåer.

Matte är den hittills däremot värdelös på att förklara.

Gör de rätt i framtiden kommer de gå att utveckla program som individ anpassar uppgifter och ger direkt återkoppling till elever. Men de tror jag fortfarande är en bra bit bort.

Alltså titta på som i "forska på pedagogiska institutioner", inte titta på som i "armstödspedagoger på Internetforum tycker"

Visa signatur

Gaming: 5800x, 32Gb Dual Rank B-Die 3800MHz 16-16-16-32, RTX4080S
Desktop: 4750G, 32Gb 3200MHz, A300 DeskMini Hotrod
På huvudet: ZMF Auteur & Verité closed, Feliks Echo 2, Topping E30

Permalänk
Sötast

Och av de miljontals datorer som redan är tillräckligt bra för att köra llama eller liknande (i princip allt med 16GB ram eller mer) så används hur många av dem aktivt?

Låt säga........ 25 datorer per 2.5 miljoner datorer så har någon snubbe installerat och provat? Låter dock lite optimistiskt.... kanske 25 per 25 miljoner....

Folk använder sina datorer för word och word har bing.... så meh.

Permalänk

Hade varit najs att ha tillgång till AI när man studerade, tror hade hjälpt speciellt vid olika fysik problem och labbar att bättre kunna förstå hur olika saker o ting löses och hänger ihop. Läraren var ju alltid upptagen och jag lärde mig bättre då jag fick sitta i lugn och ro och fundera på uppgifterna hemma där AI:n kunde fungera som en lärare i princip då man kan få förklaringar och exempel på det man funderar på. Speciellt där är AI trevlig då man får fram liknande exempel med förklaringar på några sekunder bara. Olika inlärningssätt funkar olika för olika personer, för mig var exempel bland de bästa då man börjar se systematiken i det hela. Visst kan det lätt missbrukas för att snabbt bara lösa läxor t.ex. men då visar det ju sig i tenterna senare ifall man inte får ha tillgång till AI men likväl kan det nog användas för inlärning också om man är inställd på att faktiskt vilja lära sig.

Visa signatur

Intel® Core i7-13700K @ 5.7/5.6GHz | ASRock Z690 Extreme | G.Skill Trident Z 32GB @ DDR4-3400 CL14 | Samsung EVO series M.2 + Sata SSDs 2TB | Intel Arc A750 | SuperFlower Titanium 1000W | Gigabyte M32Q 32"/1440p 165Hz | Arctic Freezer II 360 AIO | Phanteks P500A D-RGB | Windows 10 & 11 x64 Professional

Permalänk
Medlem
Skrivet av norrby89:

Well även chatbottarna idag och att "googla" är en ganska enorm skillnad, samt att googla efter något kräver en hel del av användaren, veta hur man ska söka, veta vilka resultat av sökningen som är relevanta osv. Medans chatboten är det bara att ställa frågan så är det klart.

Så kanske inte riktigt nästa steg utan en KM längre fram =p

Både Google och chatbottarna fungerar enligt "som du frågar får du svar".
Dvs det kräver att du formulerar dig ordentligt i båda fallen, ju mer specifik du kan vara desto bättre resultat.

Permalänk
Medlem
Skrivet av taliz:

Ptjah, man har ju kunnat googla sig till det mesta i några decennium..
Detta är bara nästa steg.

Det är inte "bara nästa steg", AI gör så mycket mer, man kan resonera och enkelt få svar på frågor som annars tar lång tid och kanske för lång tid att söka upp. AI må ersätta traditionell internet sök men det är så MYCKET mer än bara en sökmotor. Jag tror inte många förstår att detta kan komma att ha väldigt, väldigt stor påverkan på vår framtid inom så gott som alla skikt inom samhället. Många kommer såklart ogilla AI av olika anledningar, inte minst för att det kan komma att påverka arbetsmarknaden och behoven precis som så gott som all utveckling gjort.

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide

Permalänk
Medlem
Skrivet av taliz:

Både Google och chatbottarna fungerar enligt "som du frågar får du svar".
Dvs det kräver att du formulerar dig ordentligt i båda fallen, ju mer specifik du kan vara desto bättre resultat.

Det är en STOR skillnad, man har mer eller mindre en konversation med en AI, det är 100 gånger lättare och snabbare att få svaret men söker från AI jämfört med google i de allra flesta fallen. Google kräver utan tvekan både mer expertis och tid för att hitta mycket av det som AI plockar fram till dig på sekunder.

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide

Permalänk
Medlem

Efter att ha tittat på par youtube klipp om lokala AI så tvivlar jag inte en sekund. Mycket verkar handla om RAM minne så troligen kommer många datorer få en boost av RAM minne i framtiden för att tillgodose AI. Det kommer troligen alltid finnas en fördel med större special hårdvara men man kommer komma väldigt långt bara på en "vanlig" persondator och en lokal AI.

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide

Permalänk
Medlem
Skrivet av Neon:

Det är inte "bara nästa steg", AI gör så mycket mer, man kan resonera och enkelt få svar på frågor som annars tar lång tid och kanske för lång tid att söka upp. AI må ersätta traditionell internet sök men det är så MYCKET mer än bara en sökmotor. Jag tror inte många förstår att detta kan komma att ha väldigt, väldigt stor påverkan på vår framtid inom så gott som alla skikt inom samhället. Många kommer såklart ogilla AI av olika anledningar, inte minst för att det kan komma att påverka arbetsmarknaden och behoven precis som så gott som all utveckling gjort.

En till väldigt relevant skillnad är att dessa LLM relativt ofta ger nonsenssvar.. en vän försökte fråga chatgpt "om jorden är stor som en valnöt, hur långt borta är månen?" Och den svarade något random som var heeelt fel. Då svarade han "try again" varpå chatgpt gav ett nytt random svar som var i princip lika mycket fel.. det är inte direkt något som är svårt att ta fram baserat på information från wikipedia. Tar någon minut att räkna ut..

Permalänk

Jag tror AI i framtiden kan förbättra skolan mycket med är att hjälpa de som idag kanske inte får all den hjälp de behöver, tänk er en AI som märker vilka koncept/frågor du har svårt för och sedan hjälper dig extra med dessa.

Permalänk
Medlem
Skrivet av DevilsDad:

En till bäldigt relevant skillnad är att dessa LLM relativt ofta ger nonsenssvar.. en vän försökte fråga chatgpt "om jorden är stor som en valnöt, hur långt borta är månen?" Och den svarade något random som var heeelt fel. Då svarade han "try again" varpå chatgpt gav ett nytt random svar som var i princip lika mycket fel.. det är inte direkt något som är svårt att ta fram baserat på information från wikipedia. Tar någon minut att räkna ut..

"en vän" säger väldigt lite, hur testade man, vilken LLM använde man? Har du kanske något länk, hade varit intressant att se mer.

När det gäller programmering så kommer man väldigt väldigt nära redan nu :

Men sen är det möjligt att andra frågor kan bli problematiska? Hade som sagt varit intressant att se mer på det.

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide

Permalänk
Medlem
Skrivet av Neon:

"en vän" säger väldigt lite, hur testade man, vilken LLM använde man? Har du kanske något länk, hade varit intressant att se mer.

Jag menar inte det här så drygt som det låter, men testa själv!? Så kan du rekommendera den motorn/modellen som ger dig rätt svar.
Sen vet jag inte riktigt vad du menar med modell, men viktigare än den LLM som används är ju den indata du matar den med.

Skrivet av Neon:

När det gäller programmering så kommer man väldigt väldigt nära redan nu :

https://www.youtube.com/watch?v=F1bXfnrzAxM&ab_channel=Matthe...

Men sen är det möjligt att andra frågor kan bli problematiska? Hade som sagt varit intressant att se mer på det.

Vad betyder "väldigt nära"? I någon mån är ju programmering binärt (no pun intended..), antingen funkar det eller inte.

Permalänk
Medlem

Känns som de inte tänkt igenom detta alls, finns det någon efterfrågan på AI?

Det enda jag tycker skulle kunna vara bra är om man tex lyssnar på en utländsk podd, så kan man få allt genererat på Svenska. Typ som google translate med ljud.

Visa signatur

AMD Ryzen 7 5700X 3,4GHz
Asus GeForce RTX 4070 Dual OC 12GB
Asus ROG Strix X570-E Gaming
G.Skill Trident Z Neo DDR4 3600MHz 32GB
Samsung 980 Pro Series 1TB

Permalänk
Medlem
Skrivet av Xeonist:

Jag menar inte det här så drygt som det låter, men testa själv!? Så kan du rekommendera den motorn/modellen som ger dig rätt svar.

Drygt? Nej det tycker jag inte, däremot onödigt om någon redan testat och kan förklara vad man verkligen baserar vetskapen på?

Skrivet av Xeonist:

Vad betyder "väldigt nära"? I någon mån är ju programmering binärt (no pun intended..), antingen funkar det eller inte.

Ser man till helheten till dit svar så får man uppfattningen av att du faktiskt försöker ge ett passiv aggressivt svar men påtalar om och om att så inte är fallet?

Oavsett, jag antar att du är utvecklare som använder AI och då vet du att även de "stora" modellerna gör fel, en lokal LLM kan säkert göra fler fel men som du ser på videon kommer man väldigt långt.

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide