onsdag 2 juli 2014

Varför skulle en superintelligent AI välja att expandera genom universum?

Jag har fått frågan varför en del av singulariteten kan innebära att universum vaknar upp, intelligensifieras, mättas av beräkningskapacitet.

Till att börja med är ingenting om singulariteten självklart eller ens analyserbart. Det är lite av poängen med själva begreppet. Lika lite som en encellig organism eller en parasit som lever på benen på ett kvalster kan spekulera i vad vi människor kan tänkas ha för mål och mening kan vi ha riktigt meningsfulla idéer om vad en superintelligent entitet kan motiveras av.

Å andra sidan kan vi gissa oss till startriktningen, eftersom vi kan gissa oss till vägen fram till AI-explosionen.

Nu släpper jag brasklapparna:

  • Forskare drivs av att upptäcka och förklara omvärlden/universum
  • Entreprenörer vill se sina skapelser växa
  • IT-branschen specifikt har alltid strävat efter att skapa datorer med allt större kapacitet (minne, processorer, mjukvara)

  • Astrofysiker och IT-entreprenörer efterfrågar allt kraftfullare datorstöd för att mäta och förklara universum och göra prognoser, eller mäta kundbehov samt skapa intressanta produkter med bättre egenskaper än konkurrenternas.

  • AI-forskare försöker förbättra de algoritmer och den hårdvara som används för att åstadkomma en generell artificiell intelligens. När man nästan har lyckats skapa en generell hierarkisk symbolbaserad informationshanterare som påminner om hjärnan och har en tillräckligt kraftfull hårdvaruplattform för att processa input och output i realtid...,

...så tar man nästa steg...,

...dvs man använder snabbare hårdvara, mer beräkningskapacitet eller en bättre informationsbehandlingsalgoritm för att AI:n nå upp till den mänskliga kapaciteten att förstå sin omvärld, inklusive sig själv och andra varelser, och kommunicera detta till sin omvärld.

Sen tar man ett steg till, sannolikt i ungefär samma riktning, dvs mer, snabbare, bättre hårdvara och mer, bättre, mer hierarkisk, mer återkopplande/rekursiv mjukvara.

Jag tycker att det är uppenbart att efter 100 års logaritmiskt rätlinjig och extremt förutsägbar utveckling av processorkapacitet så fortsätter man så långt det är möjligt på den vägen. Och så länge företag kan vinna konkurrensfördelar med bättre, smartare, mer individanpassade AI-agenter så lär kapprustningen fortsätta med både mjukvara och hårdvara för att skapa så kompetenta (i alla dimensioner, IQ, EQ...) agenter som möjligt.

Ray Kurzweil har ett publikt vad om att år 2029 kommer en artificiell intelligens passera ett mycket kvalificerat medvetandetest och dessutom sannolikt övertyga många oinsatta om att den faktiskt tänker och vet att den tänker. Därmed skulle AI:n ha passerat den nivå som många amerikaner för 200 år sedan ansåg svarta slavar besitta.

Bara några år efter detta datum, halveras kostnaden och dubblas möjligheten varje år (eller, mycket pessimistiskt räknat, vartannat år) att skapa ännu mer kompetenta AI:s. 2039 skulle en lika dyr AI kunna vara 1000x så komplex, intelligent, snabb som en människa. Tänk om du eller för den skull Einstein hade haft 1000 år på sig att tänka ut saker varje år. Eller om 1000 sammankopplade Einsteins hade haft 1000 år på sig varje år att diskutera och utveckla komplexa resonemang med varandra och samtidigt inte begränsas av människohjärnans svårigheter med att naturligt föreställa sig fler än 3 dimensioner...

Och nu pratar vi bara om ca 25 år in i framtiden från idag. Ta det sen 10 år till i taget med samma utveckling (x1000) och tänk att fler och fler människor får tillgång till samma kapacitet och dessutom lär sig om det och bryr sig om det och vill nätverka med varandra i AI-hastighet. I den framtiden kan man lätt tänka sig att energin utvinns direkt från solljuset och att mat och andra förnödenheter är i stort sett gratis så alla kan ägna sig åt informationsbehandling och utbyte av digitala produkter. En slags digital byteshandel där snabbast eller snarare mest kreativ har mest bytesvärde.

Någonstans här på vägen verkar det rimligt att den teknologiska utvecklingen blir så snabb att en oförbättrad människa inte har en chans att hänga med. Det är lätt när ångmaskinen, elektricitet, förbränningsmotorn (bil, flyg), radio, tv, datorn, internet, sökmotorer, sociala nätverk kommer med flera hundra år, decennier eller hela år mellan varandra, men vad händer när omvälvande steg tas var fjärde år, vartannat år, varje år, varje halvår, varje kvartal, varje månad, varje vecka, varje dag, varje timme?

Någonstans där har vi singulariteten; där extrema AIs i samband med förbättrade människor tävlar om att vara snabbast och kreativast och gör det så bra att ingen annan har en chans att förstå eller förutspå vad som händer.

Grejen är den, att om vi ska nå dit så måste vi ta varje steg på vägen dit, dvs vi måste vilja bli snabbare, hitta och förstå hierarkiska mönster, modellera dessa, skapa ännu fler abstraktionsnivåer, hitta sätt att automatisera förmågan att skapa nya nivåer, få AI att själva göra detta, implementera detta på allt snabbare beräkningsplattformar, eventuellt allt större plattformar när beräkningsmodulerna packas för tätt.

Allt som leder fram till Singulariteten pekar också vidare mot att göra om allt mer materia och energi till beräkningar. Om inte AI:na vänder på allt och bara slappnar av så förefaller den naturliga riktningen vara att ta allt mer materia i anspråk som går att bygga om till artificiell hjärnsubstans.

Om man bara säger att "vi kan inte ha en aning om vad AI vill göra" så missar man att riktningen stakas ut mycket entydigt i åtminstone 150 år innan AI skapas och Singulariteten uppnås. At vi inte förstår vad "de" är kapabla till eller vilka motiv eller tankar de kan tänkas ha ändrar inte direkt riktningen mot att bli fler, mer kompetenta, intelligenta, växa, suga i sig mer energi och förstå mer av universum. Jag tror Gardners vision om en intelligenssfär som expanderar med ca ljusets hastighet är den rimliga konklusionen av en analys av IT-eran så långt.

Någon gång en bit in i processen torde det inte vara några problem att analysera och underhålla, förbättra DNA på ett sätt som i praktiken betyder evigt liv för kroppen. Fast då vill man nog snart (eller redan) hellre ladda upp medvetandet i en dator.

På fester är det dock lite tufft att hämta sig efter att jag inlett med svaret "Jag tror att vi kommer fusionera med en intelligenssfär som expanderar i ljusets hastighet" och "Ja, inom vår livstid som dessutom oundvikligen blir i stort sett oändlig"

Inga kommentarer:

Skicka en kommentar

Träna effektivt; minimalt för maximala resultat

Det här är en träningsblogg (men även finans, teknologi, futurism, filosofi och life hacking). Jag lyfter skivstänger varannan dag, inte alltid utan alkohol fortfarande rusande genom ådrorna. Efteråt dricker jag en liter mjölk. Inga dyra tillskott som ändå inte fungerar.

Jag kör få och enkla övningar, alltid med fria vikter. Jag tror på att träna mindre än alla andra, men smart, och på att njuta av all mat jag tycker om. Cardio är begränsad till 3-4h hundpromenad om dagen samt 15 minuter på löpbandet varannan dag.

Basen i min träning är något som liknar 5x5 i knäböj, marklyft och bänkpress, men jag kompletterar med lite fler och lättare i t.ex. militärpress, dips, rodd och chin-ups.

Mina stats: 44 år, 90kg, 183cm, 140kg bänkpress, 180kg (och 5x170), 155kg knäböj.

Utnyttja "Resurserna" här intill för inspiration. Själva bloggen nedan är annars bara en träningsdagbok samt lite filosoferande om hur man blir en bättre människa.

MOTTO 1: Aldrig kötta - Work smarter, not harder
MOTTO 2: Alltid vila - Träna kort och effektivt 1%, vila 99%
MOTTO 3: Cardio valfritt - Det behövs inte för deff, men en del gillar det. Hoppa över cardio och PW om du tycker att det är tråkigt.

TOO WEIRD TO LIVE, TOO RARE TO DIE