Följ Black Week på SweClockers

Svensk forskare: AI kan utrota mänskligheten

Permalänk
Medlem
Skrivet av Xeonist:

Jag vet inte vad av det jag skrev som skulle motsägs någon av dom där sakerna, du får gärna preciserar .

Du hävdade att en maskin som "kan skapa fler av sig själv" är en evighetsmaskin. En sådan maskin är bara ett fysiskt system som kan utföra processer som leder till produktionen av liknande men inte på elementarpartikelnivå identiska maskiner. Detta skapar inte energi, och kan det ske alls sker det på sådant sätt att entropin i universum ökar. Processen kan av allt att döma inte ens i princip fortsätta i oändlighet, ty den hindras av universums värmedöd.

Mänsklig reproduktion är också en process där ett fysiskt system skapar ett liknande, om än förmodligen mindre så än i maskinens fall, system. Denna process kan också fortsätta så länge termodynamiken tillåter och är alltså precis lika mycket en evighetsmaskin som självreproducerande maskiner.

Skrivet av Xeonist:

Varför är det så säkert att vi kan effektivisera den? Den här processen har alltså pågått i miljarder år, men nu helt plötsligt kommer något som kan ”effektivisera” den?

Evolutionen testar helt enkelt mer eller mindre slumpmässigt sammansatta organismer mot sina omgivningar och fortskrider genom att de mindre anpassade långsamt elimineras. Det är en otroligt ineffektiv process. Med AI startar vi inte från en sörja med organiska molekyler, vi sätter själva selektionstrycken och vi kan testa för anpassning med en dators beräkningskraft istället för att vänta på långlivade organismers död i hundratals generationer.

Skrivet av Xeonist:

Så vi skapar den evolutionära processen? Vi är inte en del av den? Igen, den här processen har pågått i miljarder år, men nu säger ni att ni ska skapa en ny/egen eller ändra på den befintliga?

Nu missförstår du mig ordentligt. Den evolutionära processen föregår naturligtvis oss, och påverkar oss precis som den påverkar alla reproducerande organismer. Frågan om AI handlar inte om ingrepp i den existerande biologiska evolutionen utan om datorprogram som utnyttjar liknande men effektivare principer.

Permalänk
Medlem
Skrivet av star-affinity:

Du menar att det inte hänt något i negativ riktning under ”bra mycket mer än 20 år”?

Alltså, jag är överens med dig i din oro över klimatet. Men i realiteten. Hur mäter du det?

Vi har bara blivit fler människor (om populationen ökar inom någon annan art, så är det i princip otänkbart att någon säger ”oj, miljön dom lever i har försämrats”), nästan alla har fått det bättre, osv. osv.

Sen menar ju jag att det verkliga problemet är befolkningsökningen, men det är en diskussion för ett annat forum.

Skrivet av star-affinity:

Hur ofta brukar de ha vetenskapliga belägg bakom sig på det sätt som klimatforskningen har?

Vetenskapen är ju det rådande trossystemet. Alla trossystem har i sin egen tid, i sin egen bubbla, varit ”vetsystem”, så svaret är i princip alla.

Permalänk
Medlem
Skrivet av Vereus:

Det är en otroligt ineffektiv process.

Är den ineffektiv? Den har pågått, fungerat och gett resultat i miljarder år. Är det ineffektivt?

Skrivet av Vereus:

Med AI startar vi inte från en sörja med organiska molekyler, vi sätter själva selektionstrycken och vi kan testa för anpassning med en dators beräkningskraft istället för att vänta på långlivade organismers död i hundratals generationer.

Så det är inte människan som skapar AI? För i så fall startar väl AI i samma sörja av organiska molekyler?

Du hävdar ju i princip att människan är en slags gud som skapar någonting ur ingenting, som inte kommer följa den evolutionära processens om har pågått i miljarder år.

Det får du såklart göra.

Sen undrar jag, vad är det du vill åstadkomma med din AI? För du fnyser åt långlivade organismer.
Jag dör om 50ish år, så jag bryr mig faktiskt inte längre än så, men annars brukar ju överlevnad och evigt liv vara just målet. Med det måttet är den ”nuvarande evolutionen” (ett begrepp som jag vill påstå att alla forskare åtminstone tills för 5 år sedan hade skrattat åt, men som du hävdar är passande) oerhört framgångsrik, men du fnyser åt den och har något bättre..

Permalänk

>>> minimize( population.sumSuffering() ) ... Minima found at population.size = 0

Permalänk
Medlem
Skrivet av DasIch:

Jo, vi är helt uppenbart närmare singulariteten. Midjourney och ChatGPT hade varit omöjligt för 10 år sedan. För 20 år sedan var det science fiction. 30 år sedan var det svart magi. ChatGPT har de senaste åren utvecklats mot att bli mer generell. Huruvida det är början på AGI återstår att se, men det kommer i vilket fall närmare.

Det är ett klassiskt misstag att se på vad vi har nu, fnysa åt det och konstatera att det minsann inte är någon riktig Skotte. Sedan flyttas målstolparna successivt i takt med tekniska framsteg. Det vi har nu, mitt framför ögonen, framstår alltid som vardagsmat. Tills det inte gör det längre.

Tänk om du skulle åka tillbaka 20 år med en modern smartphone. Jämför senaste Iphone med en Nokia 3100. Det är en närmast overklig skillnad. Iphones idag är dock vardagsmat som ingen höjer på ögonbrynen åt.

AI och beräkningskraft utvecklas på en logaritmisk skala. Om 10 år kommer det se väldigt annorlunda ut mot idag.

Vad är det specifikt du menar att chatt gpt gör som får dig att tro att vi är närmare singulariteten, jämfört med innan? Kan du ge exempel på att chat gpts förmåga blivit mer generell annat än att den har fått mer data att tugga?
Håller inte med om jämförelsen annars, det var många som tänkte att. "vore det inte bra om datorn rymdes i fickan" redan när den var stor som ett rum, sen arbetades det på att göra den snabbare och mindre, och här är vi nu.
Problemet med stark AI är att vi inte har någon aning om hur det ska gå till, inga "om vi bara kunde göra det här bättre,snabbare,mindre" för vi vet knappt vad som gör en människa medveten, än mindre en maskin.

Vad menar du med att AI utvecklas logaritmiskt? Menar du att chat gpt kommer bli 2 ggr bättre på att gissa bokstäver nästa år? Eller att den ska göra det snabbare? Eller att den inser att den är fångad i en dator och försöker bygga en fysisk kropp?
Jag har ingen tvekan om att chat gpt kommer att vara en revolution i många delar av samhället, men det var miniräknaren, smartphonen och förbränningsmotorn också.....

Generell AI och liknande är fortfarande SF

Visa signatur

"Jag är så gammal att jag brukade styra med piltangenterna"
StoppaCopySwede
Fraktrfitt:Inet

Permalänk
Medlem

Det är inte AI som kan komma att förstöra mänskligheten.

Människan själv är boven.
Lata, och felaktiga beslut så man storknar.
Till det, ideologier som dykt upp de senare åren som verkligen tar oss in i ett annat universum med inga gränser 🤣

Visa signatur

Lightsaber - Black armour - and balls!

Permalänk
Medlem
Skrivet av Xeonist:

Är den ineffektiv? Den har pågått och fungerat och gett resultat i miljarder år. Är det ineffektivt?

Detta är inget mått på effektivitet, bara konstaterandet att det är en naturlig process som inte tagit slut. Den är mycket ineffektiv om målet är intelligens eller någon annan specifik förmåga.

Skrivet av Xeonist:

Så det är inte människan som skapar AI? För i så fall startar väl AI i samma sörja av organiska molekyler?

Du hävdar ju i princip att människan är en slags gud som skapar någonting ur ingenting, som inte kommer följa den evolutionära processens om har pågått i miljarder år.

Nu är jag rädd att du har kollapsat i obegripliget. Människor skapar datorer, av tillgängliga material med kemiska och mekaniska processer. Dessa kör sedan kod, och denna kod simulerar en slags naturens urval, där startvillkor och selektionstryck väljs så att de så effektivt som möjligt tvingar programmet att konvergera mot önskad förmåga, för vilken programmet ständigt testas. Alla dessa kan dessutom justeras om det visar sig att den intressanta förmågan inte uppnås, vilket ger en slags andra ordningens naturens urval där själva miljön själv genomgår evolution för att så effektivt som möjligt välja rätt förmågor. Var i detta kommer biologisk evolution in? Igen, AI är bara matematiskt liknande, inte fysiskt identisk med biologisk evolution.

Permalänk
Medlem

Såg intervjun med honom på agenda, kanske intervjun med lägst kvalitée jag sätt.
Han har verkligen inget att säga, utan håller på trolla med sina liknelser, kan inte ge något exempel på hur något ska ske.

Permalänk
Medlem

Det kan "förutsedd text" göra redan idag. Jag skriver "fred" och den lägger ordet "kärnvapenkrig"

Visa signatur

AMD Ryzen 5 5600X | ASUS GeForce RTX 2080 8GB DUAL OC | Corsair Vengeance LPX Black 16GB (2x8GB) / 3200MHz | MSI B450 TOMAHAWK - ATX / B450 | Fractal Design Define C - Svart | Corsair RM750X V2 750W 80+ Gold | Noctua NH-D15 |

Permalänk
Quizmaster Göteborg 2023

Sanningen

Varför dom har panik nu är för att AI går på fakta istället för känslor.

Den berättar sanningar istället för lögner.

Och sånt gillar inte dom som håller i narrativet.

Permalänk
Medlem
Skrivet av Viceroy:

Det är faktiskt ett av de största hoten mot mänskligheten, men det är förmodligen för abstrakt för att ta in.

https://urplay.se/program/162208-mansklighetens-sista-dagar-m...

Verkligen.

Den som inte håller med kan väl föreslå en anledning till varför singulariteten inte skulle leda till uppkomsten av en superintelligens, varför den omöjligen kan börja, eller hur människan skulle kunna kontrollera en superintelligens...

Permalänk
Inaktiv

Detta är bara början, Terminator visade vad som händer när man låter AI går på kropp gestalt. Samt den där med Will Smith. Lås ner verksamheten direkt. Låt det va på säkerhetskoll strikt.

Permalänk
Quizmaster Göteborg 2023
Skrivet av NaturMackan:

AI kommer inte hinna bli ett problem jämfört med klimatproblemen.

De kommande 20 åren kommer den vanliga människan som lever i sin bubbla bli varse om klimatproblemen på ett helt annat vis, samt att det inte går att göra något åt. Vi kan inte samarbeta om någonting. Istället kommer vi kriga. System börjar kollapsa. Vid sekelskiftet är förmodligen den moderna världen helt kollapsad. Enorma torkor, matbrist, vattenbrist, och flera meter höjd vattennivå väntar.

Vattenbrist och flera meter höjd vattennivå?

Permalänk
Medlem

AI som i Tesla's självkörande bilar? 50% risk att alla på planeten blir överkörda eller ihjälkörda, stämmer bra.

Tror att kändisforskare har ett syfte och det är att skapa rubriker. Tänker att det nog alltid varit så. Nu fick han en rubrik och nu sitter vi och diskuterar det han sagt.

Den dagen AI sitter och läser rubriker och diskuterar och kommenterar Max Tegmark's åsikter på Sweclockers är jag sedan länge död. Lycka till de som finns kvar då!

Permalänk
Medlem
Skrivet av coxen:

Varför dom har panik nu är för att AI går på fakta istället för känslor.

Den berättar sanningar istället för lögner.

Du testade inte Bing när den var closed beta ser jag

Visa signatur

11600K@5.1 GHz + 32GB Corsair Vengeance RGB PRO 3200@3400 MHz + MSI RTX 2080 Super Gaming X Trio +
WDC Blue SN550 1TB + Black OEM SN730 500GB + Kingston A1000 480GB + A2000 500GB + NV2 1TB + 2TB R10 + RGB most of THE THINGS! + Corsair 4000D Airflow + 2*ZyXEL NSA326 2*3TB @ R1 + Netgear RN2100 4*3TB @ R10 + RN204 4*4TB @ R5 + Synology DS216j 2*4TB @ SHR R1 + DS418 4*8TB @ SHR R6
| tmp: R5 3600@4.2 GHz + 32GB 2666@3066MHz + 2070 8GB + 1 TB NV2 & 512GB SN730

Permalänk
Medlem
Skrivet av coxen:

Vattenbrist och flera meter höjd vattennivå?

Färskvatten menas ju såklart.

Visa signatur

Laptop: Lenovo Legion 5 (Ryzen 5 5600H, 16GB, RTX 3060) OS: Windows 11 Pro

TV: LG C1 65" ✪ Konsol: PS5 Pro (+4TB SSD), PS3 Slim (500GB SSD), PS Vita, Xbox One X (1TB SSD)

A/V Reciever: Onkyo TX-NR676E ✪ 4K UHD Blu-ray: Panasonic DP-UB820 ✪ CD-spelare: Onkyo C-7030

Högtalare: Focal Chorus 726, XTZ 10.16 ✪ Hörlurar: beyerdynamic DT 700 PRO X ✪ DAC/AMP: Fosi Audio Q4

Permalänk
Avstängd
Skrivet av Orisons:

Vad är det specifikt du menar att chatt gpt gör som får dig att tro att vi är närmare singulariteten, jämfört med innan? Kan du ge exempel på att chat gpts förmåga blivit mer generell annat än att den har fått mer data att tugga?
Håller inte med om jämförelsen annars, det var många som tänkte att. "vore det inte bra om datorn rymdes i fickan" redan när den var stor som ett rum, sen arbetades det på att göra den snabbare och mindre, och här är vi nu.
Problemet med stark AI är att vi inte har någon aning om hur det ska gå till, inga "om vi bara kunde göra det här bättre,snabbare,mindre" för vi vet knappt vad som gör en människa medveten, än mindre en maskin.

Vad menar du med att AI utvecklas logaritmiskt? Menar du att chat gpt kommer bli 2 ggr bättre på att gissa bokstäver nästa år? Eller att den ska göra det snabbare? Eller att den inser att den är fångad i en dator och försöker bygga en fysisk kropp?
Jag har ingen tvekan om att chat gpt kommer att vara en revolution i många delar av samhället, men det var miniräknaren, smartphonen och förbränningsmotorn också.....

Generell AI och liknande är fortfarande SF

ChatGPT har fört in AI rent generellt mer i allmänhetens rampljus, och genererat ett enormt ökande intresse från både stora företag och små utvecklare att lägga mer krut i att utveckla området.

Lite som glödlampan.
Glödlampan i sig var väl kanske inte alldeles för genialiskt i sammanhanget, även om det var en stor grej på sin tid.
Men att man i sin tur visade sig kunna göra elektronrör genom att bygga vidare på tekniken, det var ju riktigt fräsiga grejer, och det har spelat en så enormt stor roll för det samhälle vi har idag.

AI har, och kommer att ha en liknande roll.
ChatGPT är lite som glödlampan.
Det fanns inget innan de stora språkmodellerna som kunde göra liknande saker i samma skala, men det är garanterat inte det bästa sättet att göra sådana saker på i längden heller.
Nuförtiden har vi lysdioder som är mycket mer effektiva och går att stämma av till olika sorters ljus bättre.
På samma sätt kommer AI att utvecklas långt långt förbi stadiet vi har idag.
GPT är inte slutstationen, precis som glödlampan inte var det, men det är ett tecken på att tekniken kan vara oerhört användbar.

Permalänk
Medlem
Skrivet av coxen:

Varför dom har panik nu är för att AI går på fakta istället för känslor.

Den berättar sanningar istället för lögner.

Och sånt gillar inte dom som håller i narrativet.

Permalänk
Medlem
Skrivet av Xeonist:

Fast vänta nu, det är ju bara du (jag förstår att det inte är bara du..) som hävdar att ChatGPT för oss närmare singulariteten. Om du tar bort den slutsatsen, som du inte på något sätt kan bevisa, så faller ju hela resonemanget. Du säger ”jag har rätt för att jag har rätt”.

ChatGPT är helt uppenbart närmare singulariteten än vad vi var innan ChatGPT. Vad den kan göra är att förstå strukturer i språk som går bortom grammatiska regler, och därigenom behärska viss logik och slutledningförmåga - något som med senaste versionen även kopplats till att tolka innehåll i bilder. Det är en liknande väg Aristoteles tog mot att upptäcka logiken.

Citat:

Då gör du väl dig skyldig till motsatsen då, Du tittar på det vi har idag och överdriver dess betydelse i ett större perspektiv.

Vilket perspektiv är det?

Citat:

För det första, beräkningskapaciteten kan såklart inte öka för evigt, det är en fysisk omöjlighet. Eller ens speciellt länge till. Vi pratar ju redan om brister i elförsörjningen.

Elförsörjningen är ett problem skapat av politiker. Vetenskapen löste det problemet i och med kärnkraften.

Citat:

Sen är det som Eric Weinstein säger, ta bort skärmar och mode/design, från en bild tagen idag, hur vet du att den inte är tagen för 40 år sedan? Det har inte hänt så himla mycket som du/ni vill tro.

Vad visar det exemplet annat än att människors och träds fysionomi inte förändrats på 40 år?

Permalänk
Avstängd

Något på ämnet som jag tycker är intressant att grunna på.

Vare sig man gillar det eller inte så har AI en enorm potential i att känna igen mönster.
Det här är lite saxat från en reddittråd i r/singularity, men jag tyckte det var så bra formulerat.

Vi människor är förmodligen blindare än vad vi tror, för strukturerna bakom hur vi fungerar socialt.
När AI i större skala kan användas till att tolka mycket långa videoklipp med ljud, då tror jag också att vi kommer se uppkomsten ac något som kan kullkasta hela vår förståelse för hur vi tror att vi egentligen är sociala med varandra.

Permalänk
Medlem
Skrivet av Orisons:

Vad är det specifikt du menar att chatt gpt gör som får dig att tro att vi är närmare singulariteten, jämfört med innan? Kan du ge exempel på att chat gpts förmåga blivit mer generell annat än att den har fått mer data att tugga?

ChatGPT har tagit språkmodellen till mer avancerade strukturer än grammatik och ordlistor, samt behärskar viss logik. Denna förmåga sträcker sig numera till att tyda och tolka bilder. Senaste versionen handlar inte bara om mer data att tugga, utan om förbättrade algoritmer.

Citat:

Håller inte med om jämförelsen annars, det var många som tänkte att. "vore det inte bra om datorn rymdes i fickan" redan när den var stor som ett rum, sen arbetades det på att göra den snabbare och mindre, och här är vi nu.
Problemet med stark AI är att vi inte har någon aning om hur det ska gå till, inga "om vi bara kunde göra det här bättre,snabbare,mindre" för vi vet knappt vad som gör en människa medveten, än mindre en maskin.

Det är klart "vi" har aningar om hur det ska gå till. Att förstå hela det mänskliga medvetandet är inte heller något krav. Det är ett villospår.
Du verkar förvänta dig att det ska finnas någon färdig lösning som det bara behöver putsas och snickras på, men det är inte så utveckling fungerar. Vad vi har är flera olika angreppsvinklar med sina egna styrkor och svagheter. Dessa utvecklas, testas och kan kombineras eller bytas ut mot bättre idéer. Utvecklingen sker iterativt och man löser problem längs vägen.

Citat:

Vad menar du med att AI utvecklas logaritmiskt? Menar du att chat gpt kommer bli 2 ggr bättre på att gissa bokstäver nästa år? Eller att den ska göra det snabbare? Eller att den inser att den är fångad i en dator och försöker bygga en fysisk kropp?
Jag har ingen tvekan om att chat gpt kommer att vara en revolution i många delar av samhället, men det var miniräknaren, smartphonen och förbränningsmotorn också.....

Generell AI och liknande är fortfarande SF

Du kan i princip välja vilket mått du vill. ChatGPT 4 är exempelvis snabbare, kan hantera högre komplexitet, är mer träffsäker, kan analysera fler parametrar osv. jämfört med ChatGPT 3.5. Beräkningskraften för neurala nätverk ökar också snabbt. Sen finns det ju mer än bara ChatGPT...

AI kommer vara nästa steg efter IT-revolutionen.

Permalänk
Medlem
Skrivet av Vereus:

Jag kan inte se att medvetande har någon betydelse för detta. I den bemärkelse vi har att göra med "intelligens" här är det ren problemlösningsförmåga, helt oberoende av alla kvalitativa förstapersonsupplevelser. Detta är något datorer redan har utan medvetande, och det lär knappast finnas en gräns där medvetande blir nödvändigt för mer generella intelligenser.

jag tolkar det som ett "ja". Och hur än sanningshalten råkar vara i just denna incident https://www.tomshardware.com/news/ai-drone-simulator-turns-ta... så är det där förutom mänskans missbruk, främst bedrägerier, det som ter sig mest uppenbart. Dvs drönare som styrs av AI som kan analysera läget och dra slutsatser och ge order väsentligt snabbare än människor kommer bli bäst på att döda människor, och fiendedrönare. Om de måste ges en regel att "inte skada människor på sin egen sida" så kommer givetvis någon människa att upphäva den regeln.

Visa signatur

| 212965 00 ] == :^D * ==)

Permalänk
Medlem
Skrivet av Kolsvart Katt:

jag tolkar det som ett "ja".

Det är ett ja i bemärkelsen att vi inte behöver lösa några medvetandefilosofiska problem för att skapa superintelligent AI, men det du citerade handlade ju egentligen om att vi inte ens behöver förstå den AI vi skapar (oavsett om denna är medveten), bara hitta ett program som kan skapa den åt oss, så därav det längre svaret.

Permalänk
Quizmaster Göteborg 2023
Permalänk
Medlem

Det blir ju löjligt t.ex när man hävdar att AI (LLM) är en slags black box där ingen förstår vad som händer.

Det är möjligt att man inte kan förutse resultatet, eftersom resultatet bygger på stora datamodeller.

Det är därför man får resultat som att Hitler faktiskt gjorde en del bra saker också, och att människor som får rådgivning gällande ätstörningar kan få rådet att banta. Det kan känslomässigt vara svårt att ta in fakta ibland.

Och jag har ju sagt det förut, det är möjligt att datorer blir smartare än oss, eftersom vi bara blir dummare och dummare. Men mer ”AI” är helt uppenbart inte lösningen på det problemet.

Permalänk
Medlem

Jaoe, men alltså, tror inte vi ska fokusera för mycket på ordet "intelligens" i det här fallet, och huruvida maskiner (någonsin) "kan" bli intelligenta, vi kan prata om "problemlösning" istället. Det vi har nu med ChatGPT etc är ju bara småpotatis. Vi kommer att ha (sannolikt lågt räknat) tusentals olika mycket mycket mer kraftfulla AI-problemlösare inom relativt kort tid. Inom snart sagt alla delar av samhället. Intressant framtid oavsett.

Visa signatur

ASUS P8Z68-v Pro i7 2600K@4.5, 32GB RAM, RX 580, 4K Samsung u24e590, Intel SSD, Seagate SSHD, LG BH16NS55 BD/RW, MacOS Sonoma, Win 10+11, Linux Mint
***gamla grejor duger***
Macbook Pro 2009, 8GB RAM, SSD, MacOS Catalina + Windows 10; Macbook Pro 2015 16GB RAM 512GB SSD Radeon Mojave

Permalänk
Medlem

Alltså skapas en AI som är självmedveten och kan accelerera sin egen kapacitet/förmåga så lär det ju vara kört.

Så antingen skapar man en sådan AI eller inte, haha 50/50.

Men problemet är vilket företag skulle sluta bara för "det är det rätta"?

Skulle stormakt A skulle sluta driva på forskning av AI som kan ge ett stort övertag i krig och tro på att Stormakt B gör samma sal och vice versa?

Permalänk
Sötast
Skrivet av Orisons:

Eftersom jag ingenstans i den ansenliga mängden populärvetenskapliga tidskrifter jag läser och har läst genom åren sett ens en ide om hur man skapar en "medveten" maskin. Snarast verkar det som att man hoppas att det bara ska ske spontant. FTL finns det åtminstone ideer om hur man skulle kunna göra i teorin...
Och om man läser på vad t.ex chat GPT gör så är den ju inte ens intelligent, den gissar nästa bokstav/ord baserat på statistik. Att tro att ett sådant program skulle få en "agenda" är ju helt verkligthetsfrånvänt....

Fast på samma gång så är det väl helt olika ämnen, eller?

Visst kan en generaliserad AI förstöra mänskligheten men det kan ju kompletts chatbot (förutsätter att de har en sådan) också göra.

Sålänge någon ger kompletts chatbot en länk till skicka en missil och att en kund ber den göra det.
Liten överdrift kanske, men lite där ligger det ju.

Om du kan träna en dator att rita bilder, eller träna den att prata människolikt och du istället matar den med krigssimulationer, lär den vilka som är människor, vilka som är fiender och sedan ber den bygga en strategi och utföra så kan det smälla rejält.

Tänk rysslands mängd nukes och en AI som fått jobbet "jag skulle vilja se världen brinna... kan du simulera hur jag bäst skall skicka mina 1100 ryska gamla nukes? Räkna med att 32% fallerar och maximera antalet dödsfall oavsett.

Permalänk
Skrivet av Xeonist:

Alltså, jag är överens med dig i din oro över klimatet. Men i realiteten. Hur mäter du det?

Genom att undersöka och jämföra data med hur omgivningen ser ut?

https://climate.nasa.gov/evidence/

Skrivet av Xeonist:

Vi har bara blivit fler människor (om populationen ökar inom någon annan art, så är det i princip otänkbart att någon säger ”oj, miljön dom lever i har försämrats”), nästan alla har fått det bättre, osv. osv.

Många har absolut fått det bättre, men det verkar onekligen komma till ett pris om vi fortsätter köra på som vi gör.

Finns flera konkreta risker med detta som påverkar. Exempelvis:

https://climate.nasa.gov/news/3267/when-climate-gets-under-yo...

Skrivet av Xeonist:

Sen menar ju jag att det verkliga problemet är befolkningsökningen, men det är en diskussion för ett annat forum.

Vad har du för belägg för det och att det inte mer handlar om hur befolkningen på planeten lever sina liv?
En person på savannen i Afrika påverkar knappast klimatet i någon negativ utsträckning.

Skrivet av Xeonist:

Vetenskapen är ju det rådande trossystemet. Alla trossystem har i sin egen tid, i sin egen bubbla, varit ”vetsystem”, så svaret är i princip alla.

Vetenskapen är väl ändå inget trossystem i den bemärkelsen? Det är en metod för att ta fram så konkreta och objektiva saker som möjligt som fungerar oavsett om du tycker att kristendomen eller buddismen är ”rätt” eller oberoende av om du gillar Marvel mer än Star Wars.

Att kalla det ”bubbla” är väl också skevt? Ändrar ju sig när det finns belägg för att göra det. Känner själv inte till något trossystem som ter sig så. Du får gärna föreslå än mer objektiv metod att lära oss om naturen än den vetenskapliga om du har en sådan på lager?

Visa signatur

• Fractal Design North | ASUS ROG Strix B650E-F | Ryzen 7 7800X3D | Radeon RX 7900 GRE | 64 GB RAM | Windows 11
• Mac Pro (Mid 2010) | 6-Core Intel Xeon ”Westmere” | Radeon RX 5700 XT | 32 GB RAM | macOS 12 Monterey | Windows 10
• MacBook Pro 14" | M2 Max | 96 GB RAM | macOS 15 Sequoia

Permalänk
Medlem
Skrivet av Allexz:

Fast på samma gång så är det väl helt olika ämnen, eller?

Visst kan en generaliserad AI förstöra mänskligheten men det kan ju kompletts chatbot (förutsätter att de har en sådan) också göra.

Sålänge någon ger kompletts chatbot en länk till skicka en missil och att en kund ber den göra det.
Liten överdrift kanske, men lite där ligger det ju.

Om du kan träna en dator att rita bilder, eller träna den att prata människolikt och du istället matar den med krigssimulationer, lär den vilka som är människor, vilka som är fiender och sedan ber den bygga en strategi och utföra så kan det smälla rejält.

Tänk rysslands mängd nukes och en AI som fått jobbet "jag skulle vilja se världen brinna... kan du simulera hur jag bäst skall skicka mina 1100 ryska gamla nukes? Räkna med att 32% fallerar och maximera antalet dödsfall oavsett.

Ja, jag håller med. Men kanske jag missförstår dig, min poäng är att jag inte förstår de väldigt insatta (Musk mfl), som nu på ett (enligt mig) dramatiskt sätt varnar för en "nära" framtid där vi förlorar kontrollen över AI. Jag har tolkat det som att det som de varnar för är att AI på något sätt utför saker utan att någon explecit bett om det, alltså på något sätt börjar driva en agenda för sin egen skull.
Som du påpekar så har ju, åtmistone om vi är generösa med tolkningarna en dator haft förmågan att förstöra mänskligheten i flera decennier redan. Men de är ju kontrollerade av människor, vilket de AI program vi kan skapa idag också är.
Visst det kanske innebär en liten större risk än idag, men knappast någon större skillnad...sitter galningar med knappar redan idag, vad är skillnaden med ett proxy program mellan dem och knappen?

Visa signatur

"Jag är så gammal att jag brukade styra med piltangenterna"
StoppaCopySwede
Fraktrfitt:Inet