AI-bottar är usla på källhänvisning

Är väl inte utan anledning att Altman börjat prata om hur deras nya modeller känns ”varmare” och fokuserar mer på någon slags social aspekt med dessa istället för pålitligheten. Sannolikt inte något de kan lyckas lösa i närtid.

När jag var liten så sa många samma sak om information på internet, information från internet var information som ej gick att lita på.
Nå Ai blir bättre för varje år, jag tycker folk är för ivriga och klaga på denna. Jag ser det som att klaga på hur dåligt internet är år 1994 utan att se att internet utvecklas och kan bli riktigt bra.

Jag såg ett reportage på svt att präster nu hade börjat använda Ai och det är coolt att det har blivit så utbrett. Men man får ha lite tålamod, om 20år så kan man nog lita mer på AI.

Nej nu får jag ut och bedriva min insamling till en kraftfull AI dator som kan ta fram svaret på den yttersta frågan om livet, universum och allting. Jag skattar kostnaden för denna AI dator till endast 10 000 miljarder dollar.

Jag är genuint nyfiken på frågeställningarna kring detta – om man lyckas få en AI-bot att svara fel i 197 av 200 fall. Eller ja, när man faktiskt öppnar själva publikationen ser man snabbt att det inte handlar så mycket om att ställa en fråga, utan snarare om att be en riktig assistent utföra ett arbete som förväntas göras åt en forskare. Alltså inte några enkla frågor med rimliga snabbsvar.

Det blir därför missvisande att hävda en så hög grad av felaktiga källhänvisningar. En människa hade knappast gjort ett bättre jobb om informationen inte redan fanns högt upp i en Google-sökning. För mig känns detta som en "nothing-burger" och en vinklad användning av statistik. Även om slutsatsen inte nödvändigtvis är felaktig, är det ett dåligt sätt att använda verktygen i fråga.

Dessutom verkar denna publikation inte ha använt de senaste modellerna och funktionerna, såsom OpenAI DeepSearch. Just DeepSearch är ett stort steg framåt när det gäller att öppet visa hur resonemang förs, hur information inhämtas och vart ifrån. Jag har själv experimenterat en hel del med det och har än så länge inte haft mycket att klaga på. Exempelvis tog det mig cirka 16 minuter att få ett samlat svar när jag sökte efter mekaniska tangentbord med XYZ-specifikationer. Då fick jag dessutom med ett trettiotal källhänvisningar samt en sammanfattning av resonemangen bakom urvalen.

Det jag tycker är lite skrämmande är personer som litar på AI. Eller för den delen inte är källkritiska överhuvudtaget.

Oftast inge sämre svar än vad Google presenterar, och ärligt talat är verktygen många gånger bättre på att utföra vissa typer av uppgifter än vad den generella befolkningen är i den egna erfarenheten – exempelvis när det kommer till att skapa sammanfattningar, renskrivning mm. 🤷

Ja, det är riktigt tråkigt att se hur både redaktion och medlemmar på Sweclockers är så negativt inställda till tekniken. Knappast så att den är perfekt, men det är en nästan chockerande vinklad bild av generativ AI som målas upp här.

Det sker riktigt stora framsteg nästan varje månad i många olika aspekter och som någon som jobbar med generativ AI så finns det gott om tillämpningsområden för både hobby och industri.

Det värsta är nästan den helt absurda omtolkningen av upphovsrätt. Från att redan vara extremt grov i vad den skyddade när det kom till rena återskapelser till att den ska kunna användas för att stoppa all form av värdeskapande användning av skyddat material, bara för att folk tänker att det hade kunnat stoppa utvecklingen. De tolkningar av upphovsrätt som blivit populära senaste åren hade omöjliggjort allt från modern kompression till sökmotorer, utöver att de är absurda i sig själva.

Forma inte er bild av den moderna utvecklingen av AI från det som skrivs på Sweclockers.

AI är byggt av någon med egen agenda 👍
Du får därför svar som är förenliga med skaparna eller skaparen

Det här med att vara källkritisk är väl i det närmsta omöjligt om man tar sin information från t.ex. ChatGPT, då den inte anger varifrån informationen kommer ifrån. När man söker efter nånting själv så kan man ju iallafall se vilken källa (sida) informationen kommer ifrån.

Hörde att AI (ChatGPT) har börjat att användas i skolorna för att göra skolarbeten. Vad händer då med hela grejen att lära sig att vara källkritisk, som bl.a. jag fick lära mig när jag gick i skolan?

Jag tror att det är bra att vara lite kritisk/varsam när det gäller ny teknik som t.ex. AI och inte bara svälja allt med hull och hår, utan att tänka på konsekvenser. Man kan ju fortfarande vara positivt inställd till den nya tekniken som sådan, även om man ser problem med den om den inte används med nån form av ansvar.

Som jag brukar säga, dagens AI modeller är grund och botten inget mer än viktade slumpgeneratorer, som genererar output baserad på input och statistisk sannolikhet.

Håller med – och ärligt talat blir jag ibland lite förvånad över att just på ett teknikforum möta så mycket motstånd mot förändring. För mig handlar AI redan nu om långt mer än bara teknik. Det har blivit en verklig dramatisk förändring, som format om både mitt privatliv och på mitt arbete – och allra mest hur jag värderar min egen tid.

AI har befriat mig från timmar av tröttsamt, repetitivt arbete och gett mig något tillbaka som jag knappt trodde var möjligt – tid. Tid att andas, tänka, skapa, och faktiskt se vad som är viktigt på riktigt.

Jag tror motståndet ibland bottnar i en djupare oro – kanske handlar det om rädsla att förlora kontrollen, eller oviljan att släppa taget om invanda mönster. Historiskt sett är ju stora förändringar alltid lite skrämmande först, innan vi inser hur självklara de egentligen var. Visst, vi kanske tappar en del av detaljkontrollen, men samtidigt får vi en tydligare blick för helheten.

Så min utmaning till alla som fortfarande tvekar är enkel: Våga ifrågasätta det invanda. AI kommer påverka oss oavsett om vi vill det eller inte. Frågan är bara om vi möter framtiden med rädsla och tvekan, eller om vi vågar kliva in i den med nyfikenhet och mod.

Jag har gjort mitt val!

AI-modellerna vill väl inte visa källor då de eventuellt kan ha kommit över svaren genom brott mot upphovsrätten.

Min upplevelse är densamma, dvs ai går inte att lita på och jag tycker det är ett systemfel att modellen i fråga inte är glasklar med att hur säker den är på sitt svar.

Och det är väll en sak att jag inte är nöjd med hur ai-modeller funkar och beter sig, men sen har vi den breda massan som både privat och i jobbet litar blint på vad den säger och gör. I dessa tider av desinformation behöver inte folk bli MER osäkra på vad som är sant och inte ..

Var inte ett av de stora problemen som artikeln tar upp att det inte gick att kolla referenser för att det inte gavs några eller gavs felaktiga?

Internet är lika opålitligt idag som 1994, om inte ännu mer. Det är bara att folk har lärt sig att vara källkritiska (vissa i alla fall).

LLM's kommer inte bli "bättre" eftersom det handlar om att folk använder dem helt fel. De är inte gjorda för att hitta fakta eller ge korrekta svar, de är språkmodeller som är skapta för att generera naturligt språk. Om de behöver "ljuga" för att generera naturliga meningar kommer de att göra det.

Är inte enda slutsatsen här: skit in / skit ut?

Än så länge är inte våra AI-bottar så smarta att de kan ge rätt svar till en mottagare som har nära noll kunskap om vad denne ställer frågor kring. Hur bra svar man får är kraftigt beroende på hur bra frågeställarens prompt-engineering skills är.
https://en.wikipedia.org/wiki/Prompt_engineering

Som ett redan nämnts i tråden, tycker AI-gnället börjar bli rätt tröttsamt. Det som var Star Trek sciencefiction för några årtionden sedan är idag något alla har access till via hemdatorn.

Nivån idag är som sagt inte "ersätter all form av kritiskt tänkande", men jag kan då göra saker nu som inte hade varit realistiskt bara för 1-2 år sedan givet min kunskap.

Ett exempel är: har rätt OK högnivåförståelse för elektronik, men saknar erfarenhet och detaljkunskaper på en nivå för att designa kretskort. Satt ihop lite saker med hjälp av ChatGP (betalversionen) som med bravur löst problemen jag haft.

Ett annat är hur väldigt mycket snabbare det går nu att börja använda ramverk jag aldrig använt tidigare. Kan ju programmera, har använt andra ramverk som löser motsvarande problem. I dessa fall är människan generalisten och ChatGPT/Copilot är superexperten. En superexpert som i.o.f.s. kill-gissar hyfsat ofta men med vettig domänkunskap är just det problemet relativt lätt åtgärdat och på totalen går det ändå långt snabbare.

Helt orelaterat, men jag saknar en forum-del för AI. Känns som det kan finnas rätt intressanta diskusioner inom ämnet.
Diskutera nyheter, modeller, self-hosting, säkerhet, tillförlitlighet, utveckling osv.

Själv kör jag Ollama med Open WebUI och LiteLLM lokalt hemma, primärt phi4 och llama3.1 via ollama, men har även lagt in
Google Gemini Flash (free) och gpt-4o-mini (via Azure OpenAI) via LiteLLM och tänkte köpa lite credits för att få in Claude med.
Integrerat i Open WeUI är även bildgenerering via ComfyUI och Flux och TTS via kokoro. En rätt trevlig setup faktiskt.
Sen har man ju en del i Home Assistant och alla molnbaserade tjänster på det, så det borde ju finnas underlag för en forumsektion.

Jaså kommer den? Har du något belägg för detta påstående? Såg en intressant video om detta för ett tag sen som målade en annan bild av det hela: https://youtu.be/rFGcqWbwvyc?si=MoBjp8D5LoCMW1Wn

Och hur länge kommer den vara gratis? Just nu drivs alla "AI" satsningar av investeringar, investerarna kommer vilja ha tillbaka sin investeringar plus vinst. När det händer kommer användarna behöva betala och vad kommer det då kosta?

https://techcrunch.com/2025/03/05/openai-reportedly-plans-to-...