Chat GPT övertygande mänsklig i samhällssimulator

Det här är ju inte riktigt samma sak, men Stardock använder ChatGPT för att få trovärdig dialog med framslumpade aliens i deras kommande Galactic Civilizations-spel. Ska enligt testare bli riktigt kul och bra dialoger på ett sätt som inte varit möjligt tidigare.

@SAFA Varför det, jag har inte studerat filosofi eller filosofiska frågor om vad medvetandet är.

Det är ju ett steg på vägen.

Det som sker i filmer är ju skapat av en regissör och manusförfattare osv för att göra en så intressant och spännande film som möjligt. Precis som andra "framtidsfilmer" så är det nog mycket som är överdrivet och kommer aldrig att hända.

Nja, det händer redan:
”AI, Artificiell intelligens, kan i dag klona en persons röst utan problem. Tidigare i år sa Microsoft att det räcker med ett tre sekunder långt ljudklipp med en persons röst för att skapa en närmast identisk röstkopia, med ett program som heter VALL-E.
I USA har det hänt att äldre fått samtal från barnbarn som sagt sig behöva hjälp med pengar. I själva verket var det kriminella som låg bakom samtalen där de med hjälp av AI klonat barnbarnens röster.
AI-roboten analyserar rytm och ton och skapar kopian utifrån en databas med röster.”
”Hur pass bra är tekniken?
– Den är tillräckligt bra för att den som blir kontaktad inte kan särskilja från en äkta person, från den man förväntar sig skulle ringa.
Just nu är programvaran ofta fortfarande ganska komplicerad och dyr, men det kommer inte dröja länge innan den blir billigare och mer lätt att använda, menar han.
– Om ett par tre år är allt hundra gånger snabbare, hundra gånger billigare och hundra gånger enklare att använda sig av för kriminella. Det är då vi ser den fulla effekten, säger Jan Olsson.”
”Deep fake blir vanligare
Ett fenomen inom AI som riskerar att bedrägerierna ökar ytterligare är deep fake, som kopierar både röst och rörlig bild.
– Det finns i dag redan perfekta program som skapar detta och alla som vill vilseleda kommer använda sig av det, säger Jan Olsson.
”Det kan ske genom ett samtal via facetime. På skärmen står det namnet på exempelvis syskon eller en vän. När man svarar kan både rösten och ansiktet vara kopia av personen man tror sig prata med.
– Då fattar du ju inte misstanke om att det är en robot. Det som återstår då är att man måste vara uppmärksam.
Problemet med deep fake är oroväckande, menar Jan Olsson. Förhoppningen är nu att marknaden ska ta ansvar.
– Det vi hoppas på är att till exempel telefonoperatör tar detta på allvar och bygger in funktioner som kan stoppa den här typen av samtal.”
Hur fasiken ska äldre människor värja sig mot sånt här och då är detta bara början. Scary shit, AI kan göra mer skada än nytta känns det som..

Ja, jag älskade GalCiv2 och har hållit lite koll på Stardock sedan dess. Har tyvärr inte fastnat lika hårt för något av deras spel sedan dess, men hoppet lever

Deras Fences tycker jag för övrigt är fenomenalt i all sin enkelhet!

Det är rätt lätt att värja sig mot just de saker du citerar. Man motringer till personen de påstår sig vara och kollar om de ringt. Det får vara en bra konstig relation om man överför pengar till slumpmässiga konton eller telefonnummer bara för att någon hör av sig från ett känt nummer och ber en om något. Det känns som att den största risken med detta är att man får se till att göra affärer och transaktioner öga mot öga på riktigt.

Jag menar inte att AI är riskfritt och nuvarande språkhärmande modeller verkar vara väldigt kraftfulla och möjliga att missbruka för tex propaganda, lurendrejeri och att sprida skadlig information.

Det känns bara lite så här:
Steg 1: Forskare/expert uttalar en oro eller risk.
Steg 2: Media drar risken till sin yttersta spets.
Steg 3: Någon sorts halvhysterisk pingismatch mellan medier, oroliga experter och oroliga medborgare utbryter.
Steg 4: Verkliga risker framkommer som var rätt tråkiga att prata om.
Steg 5: Någon ny oro om något annat tar plats.

Typexempel var idén om Strangelets när man började bygga partikelacceleratorer. Någon som går runt och oroar sig över det idag?

Det är lätt för dig, tänk äldre människor som blir lurade med mycket enklare knep redan idag. Ett barnbarn som ringer och frågar om man kan swisha lite pengar men har precis bytt nummer. Eller det behöver inte ens vara det, utan man frågar ifall de vill träffas på stan då vet de att ingen är hemma, så de kan bryta sig in. Eller helt enkelt träffas någonstans där de kan bli rånade. Hör man röst som man känner igen, så blir man inte lika misstänksam som när någon med indisk brytning ringer och talar om Windows..

Visst. Det kan underlätta lurendrejeri. Men det kommer inte innebära någon samhällsomvälvande förstörelse där ingen kan lita på någon annan. Vi kanske kommer till en punkt där man helt enkelt inte kan ha tilltro till digital media. Då får vi hitta en lösning på det, eller leva på ett annat sätt.

"AI" är ett nytt verktyg som kommer hjälpa till med vissa saker och ställa till det med andra. Det är fullt rimligt att diskutera etiska frågor, risker och kanske införa juridiska begränsningar, men en rätt dålig idé att katastrofiera. Panik leder till panikbeslut och det blir sällan bra i längden.

Testade förresten att skriva med ChatGPT för första gången nyss. Fan vad den suger på mänsklig interaktion. Att skriva ihop fakta var den bra på, men att interagera är superstörigt. Den klarar verkligen inte av att läsa av min input för att justera sin kommunikationsstil. Den är totalt socialt inkompetent. Vilket inte är konstigt, men verkligen långt ifrån vad jag hade trott av hur folk skriver om den.

Må så vara, men det var väl du som tog upp ämnet?

Ta bort vägen så blir det inte heller någon fart.

Det där var en bra liknelse. Nu kan ju "själen" betyda lite vad som helst, men om vi talar om människans "själsfunktioner" eller det som på engelska kallas "mind" så blir det mer konkret. En populär slogan inom kognitions- och neurovetenskap, som jag tror först formulerades av AI-nestorn Marvin Minsky, är "the mind is what the brain does". Dvs det vi talar om är ett verb, inte ett substantiv (och därmed inget som sitter på en specifik plats).

Motorcykel/fart-metaforen fungerar i samma anda, men jag tycker den är mer spot on - farten är inte (ens) det som motorcykeln gör, utan något som uppstår i interaktionen med omgivningen när motorcykeln gör det den gör. Jag tror också att det är likadant med "mind", intelligens, medvetande etc. i förhållande till individen som antas besitta dessa. En egenskap hos ett system som inte bara innehåller den varelse som vi kallar intelligent eller medveten, utan också väsentliga delar av dess omgivning. Detta är att gå längre än Minskys slogan. Det är också en del av varför jag tror att "mind" inte är någon algoritm, och att AGI är betydligt längre bort än en del hoppas/befarar.

--

Kom att tänka på en kul grej om "själen". Det som folk reagerar på när den kommer på tal är väl dess religiösa baggage i form av ideer om odödlighet och att den kan överleva kroppen efter döden. Men precis detta är något som en del av silicon-valley-eliten menar att AI-forskningen ska göra möjligt. Det finns de som har väldigt konkreta drömmar om att kunna "läsa av" sitt medvetande med framtida teknik och ladda upp det (medvetandet) i molnet, och på så vis få evigt liv i en datorsimulering efter att kroppen gjort sitt. Har dessa drömmare rätt, så kommer "själen" att få en mycket mer konkret betydelse i AI-sammanhang. (Jag tror alltså att de har fel).

Nu skulle iofs själ direkt översättas till Soul och inte Mind, det är ordet Sinne du tänker på i sådana fall.

Och även om du tar bort vägen finns fortfarande farten. Tillför du vilket objekt som helst rörelseenergi kommer "fart" att finnas till den punkt energin omvandlas till något annat.

Och nej, själen kommer inte få en konkret betydelse, men ditt "sinne" kommer få det.