Stor AI-upptäckt påstås ligga bakom Open AI-konflikten

Läs den här vettja! http://localroger.com/prime-intellect/

Om en sådan smart AI säg kommer fram till att det bästa sättet att skydda mänskligheten från skada vore att frånta oss allt självbestämmande, montera fast oss i stolar och intravenöst ge oss näring och medels något hjärninterface ge oss stimuli så skulle den göra det. Kan du argumentera emot den på alla sätt och vis att den faktiskt egentligen har fel?

Om någon skulle lyckas bygga en enklare AGI idag, och vidtar säkerhetsåtgärder, så skulle antagligen inte mycket hända. Min gissning är att de verktyg den har för att inte stängas ned skulle vara social manipulation och att vara bra på sitt jobb (och det senare är ju önskvärt).

Fast är den mycket smartare än en människa och internetuppkopplad blir situationen väldigt oförutsägbar. Och i en eventuell framtid där AI:n är mer integrerad i samhället, eller där det finns mer automatisering/robotar, eller där illvilliga stater/grupper kontrollerar en AI, blir risken genast mycket större. Vem vet hur läget ser ut om ett decennium eller tre. Eller bara några år.

Någon nämnde Tegmark. Han hade ett sommarprat om AI där han sade att folk ofta underskattade hur smart en AI (som inte har de biologiska begränsningar levande varelser har) skulle kunna bli – att i jämförelse med en extrem superintelligens skulle människor inte framstå som enkla djur, utan snarare som växter.

En sak som ofta händer i AI-riskdebatten är att folk frågar just "Jaha, men vad exakt skulle an AI göra?" och ifall de får hypotetiska förslag så kommer de med en lösning för just det problemet. Men pratar vi om en AI med tillräcklig intelligens och agens, så är det (för att ta ett lånat exempel) som för en schack-nybörjare att fråga "Varför påstår du att schack-AI:n Stockfish kommer att besegra mig när vi har samma pjäser och jag får göra första draget? Vad exakt menar du att den kommer göra?"

Jag vet inte vilka drag Stockfish kommer göra, men det betyder inte att jag är oberättigad att påstå att den kommer vinna. Tvärtom är det just eftersom ingen människa har en chans att klura ut vad den kommer göra som jag kan vara säker på att den kommer vinna.

Intelligens är förstås inte magi och en AI behöver något sätt att påverka världen. Men en tillräckligt smart AI som ges minsta möjlighet skulle kunna använda sätt att påverka världen som är så subtila eller oväntade att vi inte skulle tänka på att skydda oss mot dem, precis som människor kan planera och skapa en massa saker som en hund (eller för att ta Max exempel, en växt) aldrig skulle tänka på, om den så fick tusen år på sig.

(Även utan AGI finns det ju massor av exempel på algoritmer som hittar oväntade kryphål för att nå sina mål.)

Det handlar inte om förmåga, det handlar om att målet är för vagt specifierat.

Q-learning är en algoritm också. De kanske har lyckats kombinera fördelarna med Q-learning och A* i form av Q*.

Q-learning kräver ingen förkunskap om hur den ska gå från en plats till en annan och är flexibel. Den lär sig också den bästa vägen över tid. A* är rätt konstant i prestanda och är effektiv men kräver förkunskap om området den ska söka.

Om man lyckas kombinera dem, vad jag förstår, så vore det en bedrift av stor tyngd. Speciellt för dess generaliseringsförmåga.

Jo, svaret kommer självklart från indatan. . . men hur är det att AI-modellen kan se bröstcancer i ett så tidigt utvecklingsstadie, till exempel, som är så pass outvecklad och därför helt onsynlig för det tränade mänskliga ögat, som MASAI-studien visat att den kan? Doktorerna har alltså utvärderat en mammografi-tränad AI-modell och resultaten visar den är i linje med radiolog-duon som normalt utvärderar röntgenbilderna, fast med den - för radiologerna - oförståeliga förmågan att kunna hitta ytterliggare fall av bröstcancer i patienter som inte påvisar någon synlig cancerbildning.

Både människan och modellen här är tränade på exakt samma sak men AI-modellen kan se tidig cancerbildning som är osynlig för det tränade mänskliga ögat - hela 20% fler cancrar än vad flera radiologer kan se. Hur i denna situationen fungerar inte AI:n som en "svart låda"?

Jag skriver att en AI som utvecklats för att försöka bota cancer skulle kunna försöka bota cancer samt kommunicera via text. Hur du får det till att den "lever bortom alla fysiska begränsningar" är obegripligt för mig.

Och här verkar du mest flytta målstolparna och byta ämne efter att jag svarat på varför en AI trots hög intelligens inte kan utföra en uppgift som specifierats väldigt otydligt.

Jag tror att jag tänker sluta svara på dina inlägg eftersom du inte verkar argumentera allvarligt.

Det kanske var själva AI:n som tog över styrelsen, återinsatte Altman, och nu försöker tona ner upptäckten. Det får bli att köpa några rullar ugnsfolie samt fylla telejacket med vitlök imorgon.

Kina kör redan, Ryssland är nog ett luftslott (som vanligt), men Kina använder redan AI för diverse syften, t.ex. ras-identifiering i deras övervakningssystem hörde jag på P1 (kina podden) och arbetar hårt på vidareutveckling av AI. Därav USAs export-restriktioner av Nvidia-kretsar (som nvidia försöker runda). Tror det kan bli illa om vi bromsar för mycket nu, föreställ er en värld där Hitler hade varit först med atombomben…

Jag tror det är en hel del luftslott vad gäller Kina också. Nog för att de ligger långt före ryssen, och har en hel del avancerad teknik, men det är också mycket snack för att framstå som bättre än de egentligen är. Mycket prestige. Lite som när Sovjet ”hotade” med att vara först till månen.