Stor AI-upptäckt påstås ligga bakom Open AI-konflikten

Det vet jag inte. Jag gissar att länken är som konspirationsteorier brukar vara, galenskap. Det är helt omöjligt att försvara sig mot detta.

Däremot är vi många här som jobbar med AI och vi gissar inte. Och jo, hela grejen är väldigt överdriven.

Ja det är egentligen inte så mycket mer än en jävla oreda det idagens läge skulle kunna skapa.
Nästa problem skulle bli att så fort oredan skapas kan människan bara stänga av det mesta och så utplånas medvetenheten ju mer den ställer till med.

Finns inget som säger att ett dött ting har en känsla av någonting för att vara helt ärlig, lite av min poäng att man tror att de kommer ha massa känslor, behov, instinkter och allt annat vi lider av.

Det är fortfarande bara ettor och nollor, problemet är om människorna lägger in något som ska föreställa känslor, då är det plötsligt en helt annan berättelse.

Finns det ett annat?

Det farliga med AGI är när länders militärer får händerna på det. Jag är inte rädd för AI, jag är rädd för människor!

Jag ber om ursäkt för att jag gjorde en slags sammanslagning av ditt inlägg och någon annans.

Felet ni gör är att ni överskattar betydelsen av intelligens (det här är något Marc Andresen pratar en hel del om i podden med Sam Harris).

Så den där oförutsägbarheten du pratar om finns inte, för i realiteten så är vi alla begränsade av saker som fysiska resurser och tillgång på energi (det är ju delvis samma sak)

Det är ju ni som i eran argumentation helt har tagit bort målstolparna. Ni pratar om en omnipotent, allvetande intelligens, en slags Gud.
För en sådan entitet finns ju inga målstolpar.

Som sagt, den här superintelligensen kan alltså inte göra något utan extremt tydliga instruktioner.

Om jag har 2 anställda på jobbet, som ska lösa en uppgift, säg ställa upp en pall på en pallplats.

Om jag till en av dom bara kan säga "Ställ upp på den här pallen på en pall-plats", han tar då själv reda på vad det är för produkt, vad det finns för lediga pall-platser, om dom lediga pall-platserna är lämpliga för den produkten osv. osv, så skulle jag kalla det en slags intelligens, att lösa en vagt specificerad uppgift .

Någon som inte klarar av det, eller under uppgiftens gång dödar 3 anställda och välter 2 rader med stallage eftersom jag i specifikationen inte tydligt specificerade att det inte var en rimlig "kostnad" för att lösa uppgiften, hen är ju ointelligent bortom räddning.

Så ni förstår ju inte ens vad intelligens är.

Är det dom här du pratar om? (då har jag inte ens bemödat mig om att hitta klipp på Biden, Feinstein, Trump, m.fl)

https://youtu.be/ID52HUMe8Vw?si=CinvvnFWFmwRNuGX

Men kära du.

Det är otroligt naivt att tro att man vet något man inte vet att man inte vet. Min poäng är följande: har du någonsin haft att göra med personer med utvecklingsstörning? I så fall vet du att det inte direkt är svårt att styra dem till det man vill att de ska göra eftersom vår intelligens är högre. Och då är det kanske "bara" 40 intelligenskvotskillnad.

Tänk dig en superintelligens som är inte bara 200 högre än dig utan kanske 2000. Tänk dig en intelligens som kan bryta kryptering bara genom mönsterlärande. Du kanske tror att kryptering skulle kräva en kvantdatorer eller nåt för att brytas i detta scenario, för du förstår inte allt i världen. Om vi visste allt som går att veta, skulle vi inte ens ha denna diskussion.

Poängen är att man inte vet. Även om det bara är 10 % risk att den gör något dumt - kanske till och med av misstag - så är den enligt vissa för hög. Det betyder inte att vi inte ska utveckla den dock, utan det betyder att vi bör se till att den faktiskt är aligned, moraliskt upprättad, efter oss människor på ett djupare plan än bara sakfrågor.

Skynet

Men varför skulle intelligens vara relevant där?

Är du manipulerad och styrd av människor som är intelligentare än dig?

Vi (så du, vi kan i sammanhanget kalla dig en superintelligent I) är, åtminstone enligt er, intelligentare än alla djur, betyder det att du kan få alla djur att göra som du vill?

Den där synen att det är intelligens som styr världen är oerhört naiv och simplistisk.

Jag tror att du har en övertro till krypteringens betydelse i världen.

Datorer är också överlägsna oss i Go och schack, problemet är att världen är inte ett parti schack, så det spelar absolut ingen roll.

Fast det är ju inte ”risker” vi pratar om, ni hävdar ju, igen, att den kommer bli någon slags omnipotent gud.

Som alltid, extraordinary claims require extraordinary evidence.

Om man tror det, så finns det såklart bara ett alternativ, och det är att sluta.

Om man har lärt sig något av alla dom där superhjälte-filmerna ni uppenbarligen har sett alldeles för många av, så är det ju att det inte går att kontrollera en sådan omnipotent entitet.

Men ni behöver som sagt inte oroa er för det.

Du menar som människan då? Som också bara är + (protoner), - (elektroner) och neutroner?

Bowie sa det bäst.

Vem som helst kunde lista ut att ”bota cancer” och liknande skulle övergå till att utnyttja AI till något helt annat. Ekonomisk brottslighet, krig och liknande är helt enkelt mer lönsamt än att bota människor, försöka sänka global uppvärmning osv. Jag tänker, t ex när man har problem med en aggressiv hund, som attackerar grannarna, den enklaste lösningen blir å avliva den, även om den blir saknad av sina närmsta. Att träna den samt bötfälla ägaren känns mer rätt, men hotet/faran kommer alltid att finnas kvar. AI hunden blir svår att avliva och dåliga människor kommer alltid att finnas. Vad kan man göra? Se till att dåliga människor inte har tillgång till farliga leksaker?

Älskar den här taken, jag väljer att tro på just den här.

I pall-fallet finns det faktiskt ett rätt svar att resonera sig fram till. Men nu pratade vi om Asimovs lagar, som inte är gjorda för att fungera i verkligheten utan för att producera underhållande noveller. Och en stor del av novellerna går ut just på att visa situationer där lagarna går fel eftersom de är vaga och tvetydiga. Det finns inget rätt svar att hitta.

Ja, därför skrev jag "Intelligens är förstås inte magi och en AI behöver något sätt att påverka världen". Men, som sagt, människor kan hitta på en massa lösningar som andra djur aldrig skulle komma att tänka på, och jag tror att människor är mycket långt från att vara den smartaste tänkbara varelsen, så det finns gott om utrymme för något mycket smartare än oss att påverka världen med mindre och subtilare medel än vi är beredda på.

Sedan brukade det ju pratas om att "Forskare är inte idioter, när vi uppfinner AI kommer den förstås inte kopplas till internet utan få husera i en svart låda där den inte kan göra någon skada". Och nu när vi kommit ett steg på vägen mot AGI med olika LLM-lösningar visar det sig att folk både kopplar upp dem mot internet och jobbar hårt på att göra dem till agenter som kan tänka i flera steg och utföra uppgifter själv. Jag är inte alls övertygad om att folk kommer lyckas, eller ens nödvändigtvis försöka, se till att hålla en framtida AGI borta från sätt att påverka världen, och särskilt inte ifall vi fås att tro att den är på vår sida eftersom den löser svåra problem åt oss och verkar "aligned".

Bra inlägg!

Sett till djur, eller hur vi människor ser till varelser med enligt oss lägre intelligens; så lär väl en AI se på oss. Vi bryr oss inte om gråsuggor, daggmaskar, eller ens "högre" stående varelser när vi skall expandera våra städer eller livsmiljöer. En AI frånkopplad mänsklighetens behov lär se efter sina egna först och tja, den behöver troligtvis varken syre, ren miljö, rent vatten etc. för att själv kunna "leva". Kommer den verkligen ta hänsyn till oss när den vill expandera? Sett efter hur vi själva beter oss... troligtvis inte.

Det är en intressant diskussion, men en sak som jag tycker är konstig är att alla verkar överens om att människan är skyddsvärd. Vad är det som är så jävla speciellt med människor? Om nu AIn är mycket smartare än människor, är det inte bättre att vi lämnar plats åt den isf? Precis som vi tycker det är vettigt att man hugger ner skog med djur i för att bygga bostadsområden för människor.

AIn kommer ju ha information om hur människor fungerade. Om den är så smart kan den ju låtsas vara en människa om den känner för det. Det borde räcka tycker jag.

Skrämmande å tänka så, man vill ju så klart hellre att ens egna barn och barnbarn har ett bra liv och man bryr sig mer om sina egna än om några chip och transistorer kanske?

Där är vi överens, det ni diskuterar är science fiction, det är hela min poäng.

Varför? Ni beskriver ju en entitet som är överlägsen oss, den bör rimligtvis vara mer skyddsvärd?

Men det är klart du har rätt, vi drivs av tribalism och egoism.

Det som är naivt och inte går ihop är att vi i ena sekunden är gudar som kan skapa ett nytt överlägset liv, för att sen i nästa sekund vara samma skapelses största hot och fiende.

Som ateist har jag alltid tänkt att organiserad religion är vårat största hot, det som slår mig nu är att vårat största hot är önskan om, och tron att vi är gud

För det måste såklart finnas en backlash till en sån här rörelse.
Dels såklart den ekonomiska, eftersom det är en gigantisk bubbla, men också alla som faktiskt verkar tro att vi kan/ska skapa någon slags överlägsen entitet, i.e. en slags Gud.

Trudelutt Tännsjö

Människans känsloliv, och vad i våra beteenden m.m. som kan relateras till det och annat, är ännu bland det minst väl utforskade (även om psykologin med pionjärer som Jung, Freud, m.fl., samt mer samtida, gjort mycket).

Mitt argument är att vi inte självklart kan deklarera/proklamera att en AGI/dylikt skulle bry sig om, eller ens uppleva, tristess och annat bara för att den har/får vad vi definierar som självmedvetenhet... (en definition som dessutom är präglad av vår mänskliga och individuella/subjektiva bias).

Jag tror att vi måste börja med att erkänna vår egen ofullkomlighet, och att det är mycket vi varken vet eller förstår (vilket kanske inte förändras nämnvärt utan miljoner års ytterligare evolution (gynnsam, och i god symbios med vår livsmiljö och allt liv)).

Först därefter kan vi mer träffsäkert resonera och spekulera om en AGI:s fungerande och möjligheter.
Alternativt litar vi på sådana system och ber dem berätta och förklara för oss... "Prompt: Explain it like I'm 5 years old".

Egentligen håller jag med dig, men den första frågan bör rimligtvis vara om vi överhuvudtaget kan göra detta.

Det som påstås här är ju att vi i princip är/blir gudar och i strid med evolutionen skapar ett nytt liv, överlägset oss själva.

Det är liksom stört, absurdt, att det inte är den första frågan som ställs, av alla, hela tiden.

Jag är agnostiker, lite likt talesättet "djävulen sitter i detaljerna" föreställer jag mig att något likt gudomlighet finns någonstans i kvantfysiken. Men jag köper hellre ateism än religion/gudadyrkan (och dyrkande överlag).

Med mitt pladder avverkat så ser jag dock inte varför det skulle vara utopiskt att mänskligheten kan skapa sin "överman": biologins begränsningar och evolutionens nuvarande nivå kontra framsteg inom forskning, vetenskap och teknik.

Jag kan tycka mig ana något slags religiöst tänkande bakom svårigheter att se mänskligheten mer/mindre skapa något bättre än människan, faktiskt.
Mänskligheten är ju ännu inte särskilt raffinerad, speciellt inte gällande etik, moral och prioriteringar (vissa är förstås värre än flertalet, och andra bättre).

Utopi/dystopi är ju ett slags värdeord.

Men säger man att det är möjligt så ställer man ju också hela den evolutionära läran på sin spets.

Om du menar att det är möjligt nu, då bör det rimligtvis ha varit möjligt förut?
Kanske skapade gud faktiskt kvinnan av ett av mannens revben? Kanske är människan skapad av apor?

Människor, eller ja, det har såklart alltid funnits människor, ska jag säga, som tror att dom/vi är gud, men det den evolutionära läran har lärt oss att det alltid har varit fel, ockhams razor säger oss att det är så även i det här fallet.

Ursäkta, men hur tänker du då?

Ursäkta? Etik och moral är begrepp som människan har hittat på, och som bara vi använder oss av.
Att säga att vi inte är ”så raffinerade” gällande det är som att hävda reglerna i schack är fel. Eller reglerna i TP. Dom är vad dom är helt enkelt.

Tills skillnad från nån annan skynet? Vilken?