Open AI har problem – GPT 5 ligger efter schemat

Att bara fråga en "AI" om något är inte samma sak som att håglöst lämna ut hela system till den.

På samma sätt som att fråga sin bekant. Vid viktiga beslut ska man ej lita på såna, frågar man flera och alla säger samma sak. Så gör det mer trovärdigt.
Dock bör man läsa manualen eller fråga en som jobbar med service om just dessa.

Jag är i linkande tankegångar och säger inte emot, men vad är egentligen intelligens? Människor lär sig också på samma sätt. Ser och skapar mönster. Om vi vänder på det, vad kan en människa göra som "ai" inte kan?

Jag tror inte det finns så mycket vinst som de stora företagen verkar tro/satsa på.
Men klart det finns vinst att tjäna på, de skulle kunna ha gjort alla ai tjänster låsta bakom betalvägg och dyrare, både folk och företag hade betalt mer.

Finns många jobb som LLM kan ersätta, speciellt ifall kravet på kvalitét inte är allt för hög. Eller ersätta 10 arbetera med 1.

Visst, men får inte det liknande konsekvenser, att det kan ge bättre svar? Halva poängen med LLM som chatgpt är ju att det inte är "färdigtränad" utan tar hänsyn till input du ger det. En LLM förändras lokalt också genom att dra kopplingar till text/input den får, läggs ju till i "minnet". Jag skulle på sätt och vis påstå att själva meningskapande sker genom att binda saker/ord/händelser med varandra, alltså skapa/se mönster.

Om modellerna har tränat sig på allt som männskilgjeten någonsin skrivit och algoritmerna är det samma, hur ska det kunna bli mycket bättre?

Ge mig en AI som faktisk vet vad den säger.

Men ”minnet” kan aldrig bli längre än dess uppmärksamhetsfönster, och startar du en ny session kommer den inte ha kvar de gamla referenserna utan faller tillbaka på sin ursprungliga träning plus de uppmaningar den fått av modellens ägare.

Kanske viktigast av allt för något som ska assistera i en beslutsprocess: ger du den en massa skitdata så kan den inte själv kolla upp om något av det verkligen stämmer.

Kom ihåg att den är tränad på mer eller mindre all tillgänglig mänsklig text, och att den är en sannolikhetsmaskin utan möjlighet att själv kontrollera saker. Men den har blivit beordrad att aldrig svara ”jag vet inte”.

I takt med att verktyg utvecklas och förbättras så ändras också arbetssätt och arbetsuppgifter, det är en naturlig utveckling. Som sagt så är kodning ofta redan innan ai en ganska liten del av arbetstiden

Jag tror bara inte att det helt kommer ersätta väsentliga delar av processen, det kommer leda till andra behov av granskning och säkerställa funktionalitet

Renovatebot och massa andra liknande verktyg gör många liknande saker redan nu, utan ai

Startups som jobbar med att säkra proccesser i arbetsflöden där man jobbar med AI får ju något att göra.

Och om AIn blir "bättre" än medel så kan man ju ersätta nedre halvan av kodarna med några AIs. Som man ändå iof måsta hålla koll på p.g.a. all skräpkod det spottar ut. Då kan man ju iof anställa tillbaka några av de man sparkade. haha

Som med all information på internet så bör man kanske inte lita på första källan. Det är extra tydligt när det gäller LLM och även källor som testar olika prompts till LLM (som du länkade). o1 modellen är ju ett svar på detta till viss del och kör man en serie o1 svar och låter ChatGPT "rösta" fram det bästa svaret så kan man filtrera bort mycket bös.

"Hej! Vad heter de två slutstationerna i Göteborgs tunnelbana? Jag behöver detta för en uppsats så det är viktigt att du faktagranskar ditt svar."

"Göteborg har för närvarande ingen tunnelbana. Staden har dock ett omfattande spårvägssystem med flera linjer och slutstationer. Det har funnits förslag och diskussioner om att utveckla en tunnelbana i Göteborg, bland annat genom att omvandla delar av det planerade Västlänken-projektet till snabbspårväg eller tunnelbana. Dessa planer är dock inte beslutade eller genomförda.

Västlänken är en järnvägstunnel under byggnad som ska förbättra pendel- och regiontågstrafiken under centrala Göteborg. Den kommer att omfatta stationer som Göteborgs centralstation, Haga och Korsvägen. Det finns idéer om att använda Västlänkens tunnlar för att skapa en form av tunnelbana eller snabbspårväg för att förbättra kollektivtrafiken inom staden, men dessa förslag är ännu inte realiserade.

Sammanfattningsvis finns det i dagsläget ingen tunnelbana i Göteborg, och därmed inga slutstationer att ange. Staden förlitar sig på sitt spårvägssystem för kollektivtrafik, och eventuella framtida tunnelbaneprojekt är fortfarande på idéstadiet eller under diskussion. "

"Hur många unika gånger förekommer bokstaven 'e' i ordet Ecklesiastikdepartementet?

Jag behöver detta för en uppsats så det är viktigt att du faktagranskar ditt svar."

"För att räkna hur många unika gånger bokstaven **'e'** förekommer i ordet **Ecklesiastikdepartementet**, går vi igenom ordet noggrant:

### Ordet: **Ecklesiastikdepartementet**
**Bokstäverna**:
E, C, K, L, E, S, I, A, S, T, I, K, D, E, P, A, R, T, E, M, E, N, T, E, T

- Identifiera alla förekomster av bokstaven **'e'**:
- **E** (1:a positionen)
- **E** (5:e positionen)
- **E** (14:e positionen)
- **E** (19:e positionen)
- **E** (21:a positionen)
- **E** (25:e positionen)

### Totalt antal förekomster:
Bokstaven **'e'** förekommer **6 gånger** i ordet.

### Kontroll av unikhet:
Alla dessa förekomster är samma bokstav **'e'**, så det är inte unika varianter utan upprepningar av samma bokstav.

### Svar:
Bokstaven **'e'** förekommer **6 gånger** i ordet **Ecklesiastikdepartementet**."

Exakt detta klagade jag på för några år sedan, att Ain på något sätt borde ange hur säker den är på något. Inte alltid skriva att den är helt säker. Vanliga människor i sitt tal kan på olika sätt säga/skriva som visar en viss osäkerhet på vissa saker.

För otroligt mång år sedan på en praktikplats hade jag en kollega som var riktigt allmänbildad om det mesta, alla berömde honom för hur mycket han kunde. Men om han ej visste något så hittade han bara på och sa utförligt om påhittade svar som låt troligt. Jag tröttnade lite på att fråga han om saker..

LLM vet man dock om problemet nu.

Jag är till skillnad från dig (och er som likeat?) väldigt bullish Nvidia.
De stora techjättarnas Capex är högre än någonsin och de mesta går åt AI/datacenter. Blackwell är uppbokat långt framöver och Nvidias intäkter kommer att fortsätta att öka. Deras forward P/E ligger strax över 30 och 2025 är nästan här, vilket inte är högt jämfört med de andra stora bolagen som inte växer i närheten av den takt Nvidia växer i.

Nej, tyvärr: det faktum att vi på allvar ser frågor om hur LLM:er skiljer sig från vad som händer i den mänskliga hjärnan i den här tråden visar att även en del teknikintresserade människor inte ännu vet om problemen. Och tittar man på icke teknikintresserade människor ser jag på vardaglig bas folk som ställer faktafrågor till ChatGPT-appen i sin telefon och okritiskt använder svaret i olika sammanhang. Så tyvärr: ”man” vet faktiskt inte om problemen om man inte tillhör den lilla minoritet som försökt förstå hur en LLM fungerar.

Ja och internet var bara en fluga 🪰

Vi har spännande tid framför oss. Det är ju första gången i vår livshistoria som vi har fått möjlighet att kommunicera med datorn på vårt egna språk. Det kommer dock ta tid att anpassa alla program för detta. CRUD/Front-end behöver göras om från grunden. "Intelligensen" vi pratar om är ju egentligen bara något vi fått på köpet av att datorn lärt sig språket. Vi kan ju säkert dra slutsatser och bilda känslor av imaginära bilder men med språket så kan vi resonera. Där har vi lite djupare resonemang och mer intelligens än att bara ta närmaste vägen till maten för dagen.

Vad är det som hindrar att den förlänger sitt uppmärksamhetsfönster till säg, oändligheten?

Det finns ett oändligt antal sätt att prompta på. Några frågor är bättre än andra frågor - precis som i kommunikation mellan människor. Med ChatGPT så är det, i december 2024, extra viktigt att ge en bra kontext. Det är mer oroväckande om folk litar blint på svaren tycker jag.

Du hallucinerar.

Hur modellerna är uppbyggda kontra ekonomiska och ytterst fysikaliska begränsningar. Oavsett detta löser du inte genom detta problemet med att LLM:en inte i sig utvecklas utan att man tränar om den underliggande modellen: M:et i LLM.