måndag 23 juni 2014

Singulariteten

Jag såg filmen Transcendence i helgen. Här är min spontana reaktion direkt efteråt:

Transcendence med Depp och Freeman får 2 gräsklipparmän av 5 möjliga. Den hade nästan ingenting med Singulariteten att göra och lyckades inte heller ens rädda 3 poäng som actionfilm. Inget förklarades, inget engagerade, inget ledde någonstans. Här fanns alla ingredienser tillgängliga: ett tiotal kompetenta skådespelare, nano AI, singularitetsvisioner mm och ändå gjorde man bara en bajsmacka.

Nja, den är inte värdelös. Det är definitivt ingen överkryssad geting eller bara en ensam gräsklipparman. Det är trots allt ett gäng duktiga skådisar, välgjorda om än sparsamma specialeffekter och någon slags story. Om man inte har några förväntningar och sitter hemma en kväll och väljer mellan  Polisskolan" och "Transcendence" kommer man inte känna sig lurad när kvällen är över. Filmen underhåller; problemet är att den inte alls höll löftena om att popularisera och förklara singularitetsbegreppet eller för den skull göra en actionfilm av storyn. Nu blev det ett halvdant mellanting men som ändå hade sina ljusglimtar.

Vad är då Singulariteten undrar kanske någon?

1. Det är när teknologiutvecklingen sker så snabbt och till sådana nivåer att (oförbättrade) människor inte har en chans att hänga med, ta till sig eller förstå vad som händer

Hur ska det kunna hända?

2. En självförstärkande loop av teknologisk utveckling accelererar bortom det mänskliga förståndet, dvs Moores lag fortsätter helt enkelt och all informationsteknik fortsätter att bli mindre, snabbare och billigare:

När en artificiell intelligens (AI) blir stark nog, eventuellt i samarbete med en människa, att skapa en ännu bättre AI så kan detta steg upprepas gång på gång i allt snabbare takt. Dessa AI kan då förbättra varandra och sig själva och samtidigt utveckla andra teknologier snabbare och bättre än människor kan. Eftersom de inte är begränsade av sömnbehov eller hastigheten i en organisk hjärna eller kommunikation i mänsklig hastighet går utvecklingen mycket snabbare än för människor och accelererar dessutom i takt med den egna utvecklingen av ny datorteknologi.

Jo, visst, men HUR ska det kunna hända? Det är ju knappast så att Big Blue (datorn som vann i Schack mot den regerande världsmästaren) eller Watson (datorn som utklassade de två bästa Jeopardyspelarna genom tiderna) är i närheten av att klara ett Turingtest (få en panel att tro att det är en människa de konverserar med). Sant, men så har de heller aldrig påstått sig vara nära att matcha den mänskliga hjärnan. Med Moores lag kanske det tar 15 år till innan hårdvara och mjukvara utvecklats tillräckligt för att vara på gränsen att klara ett Turingtest och kanske ytterligare 15 år för att kunna vara nära att driva en positiv spiral av självförbättrande generella AI.

3a. Nu blir svaren allt längre och jag rekommenderar verkligen alla intresserade att läsa böcker som "The Singularity Is Near" och "Engines Of Creation" (samt eventuellt "The Intelligent Universe" för att få riktigt spännande perspektiv på den långa framtiden. Tänk på att vi har haft skriftspråk i ungefär 10 000 år, en modern vetenskapscivilisation i kanske 500 år och elektricitet och radio i ca 100 år. Vad kan tänkas hända på bara 100 år till för att inte tala om 500 år eller 10 000 år? Fundera sen på vad som händer de kommande 100 miljoner åren.)

3b. Ett (hyggligt) kort svar kan ändå vara att se till det nuvarande läget för några nyckelteknologier, så som bioteknologi, nanoteknologi och olika aspekter av informationsteknologi (hårdvara [processorer och robotar], mjukvara). Dessa börjar överlappa alltmer och ser ut att konvergera i en informationsdriven framtid. De olika teknologigrenarna förstärker varandra hela tiden. Snart ser vi ut att t.ex. kunna programmera med DNA, ta fram nya genetiska koder som är mer robusta än vårt eget kladdiga DNA, tillverka mekaniska robotar i mikro- och nanoskala med hjälp av en kombination av biologiska (omprogrammerade enzymer, proteiner, bakterier mm) och mekaniska komponenter (t.ex. atomkraftmikroskop och laserpincetter), använda dessa för att utveckla mindre och snabbare datorer som drivs av mjukvara inspirerad av hjärnans massivt parallella uppbyggnad och som i sin tur kan hjälpa till att kontrollera mikro- och nanomaskinerna.

Så kallade evolutionära organiska algoritmer utgör en variant på blind AI där man testar miljarder olika varianter av ett problem parallellt i en Darwinistisk miljö där bäste man vinner och får fortsätta till nästa omgång. Istället för att aktivt designa något (en ny processor, en mjukvarualgoritm, en artificiell muskel, en rymdraket) så singlas den ut av sig själv på samma sätt som en delfin eller örn har tagits fram av evolutionen. De kan se konstiga ut eller vara svåra att förstå, men fungerar fantastiskt bra givet att man preciserat kraven på rätt sätt.

Alltså:

Processorer blir allt snabbare och mindre och ännu längre fram väntar eventuellt kvantdatorer, men kanske krävs en högt utvecklad AI för att ta fram just det steget. Vi har gått från hålkort till vakuumrör till transistorer till dagens processorer där komponenterna snart blir för små för att hantera elektriska laddningar. Det behöver dock inte vara ett problem för fortsatt miniatyrisering, eftersom det finns lovande vägar inom nya material (nanotuber), design (3D-portar, mekaniska datorer) och algoritmer (som eliminerar värmeutveckling genom informationsteoriapplikation, eller parallellberäkningar som i hjärnan). Glöm inte bort att hjärnan ju redan finns så det är uppenbart att det går att bygga en liten, snabb informationsbehandlingsapparat utan värmeproblem.

Miniatyriseringen av datorkomponenter och utvecklingen av atomkraftmikroskop och ljuspincetter för biotechapplikationer har drivit på utvecklingen av nanoteknik, dvs förmågan att manipulera materia på atomnivå. Den heliga gralen är att skapa en liten universalbyggare, en slags 3D-printer som bygger saker på nanonivå med t.ex. kolatomer som vi på makronivå bygger med lego eller tegelstenar. Det finns redan designförslag för nanofabriker och nanouniversalbyggare, men vi är inte riktigt där ännu och kanske tar det 50 års applicerande av organiska algoritmer och annan AI för att nå dit. Långt innan dess lovar dock bioteknologin att programmera om bakterier och enzymer så de kan sköta mikrobyggandet åt oss. De har ju redan visat att de kan skapa och underhålla självreparerande makrostrukturer som träd och människor.

En del är skeptiska till att vi kan skapa mjukvara som kan driva så komplicerade mekanismer, men tänk på att evolutionen av ren slump redan har skapat både DNA och vår egen hjärna. "Allt" som behöver göras i första steget är att kopiera och förbättra DNA-molekylen till något enklare och robustare samt avkoda hjärnans informationshanteringsalgoritmer och placera dessa i en snabbare miljö och därefter djupanalysera ytterligare för att kombinera det bästa av hjärnans processer med det bästa vi hittills kommit på i datorvärlden. I varje steg kan man låta tusentals, miljoner eller miljarder kombinationer tävla mot varandra parallellt för att få fram de bästa alternativen för effektiv informationshantering.

Jag ser framför mig hur en växelverkan mellan IT och biotech de kommande 20 åren får fram allt mindre och snabbare datorer som blir allt mer kompatibla med människokroppen - dvs möjliga att implantera i form av nya ögon med syn inom valfritt elektromagnetiskt spektrum, inbyggt internet och liknande. Det ställer krav på och underlättar utvecklingen av intilliggande teknologier som mikro- och makrorobotar och effektivare mjukvarualgoritmer. Det i sin tur kan ta sin inspiration från bl.a. människohjärnan och -kroppen men förbättrar också möjligheterna att just avkoda dessa (miniatyrrobotar, biologiska eller mekaniska, kan mäta och kommunicera i allt högre upplösning i tid och rum exakt vad hjärnan och kroppen gör).

Oavsett vilken gren som dominerar utvecklingen leder det ofrånkomligen fram till att vi förr eller senare står med följande teknologier:

1. En universalbyggare
2. Stark AI
3. Robotar i alla storlekar som i kraft och smidighet överträffar alla rent biologiska varelser
4. Förbättrade människor
5. Uppladdade mänskliga medvetanden som har transcenderat till snabbare substrat
6. Nya biologiska koder (enklare, robustare, mångsidigare än DNA-molekylen)

Det låter som science fiction, men man ska ha mycket goda skäl för att inte tro att allt ovanstående är på plats innan sekelskiftet och att de flesta som läser den här bloggen fortfarande lever då. Att teknologin leder till obegränsad livslängd torde vara självklart och att detta sker successivt på vägen dit.

Vad händer efter singulariteten? Själva poängen med namnet är att det inte går att veta. När AI-spiralen tar fart och det med tiden finns självmedvetna entiteter som står lika långt över oss som vi gör över de enstaka cellerna i vår kropp så är det omöjligt att veta vare sig vad de kan göra eller vill göra. Man kan dock utgå från att de vill göra allt som går att göra och också kommer kunna göra allt som de fysiska lagarna tillåter, eventuellt inklusive att starta nya universum. Eventuellt har detta redan hänt...

För att uppnå allt större beräkningskapacitet och intelligens kan man tänka sig att AIn vill bygga allt mer processorkraft, använda allt mer materia som dator och använda materian alltmer effektivt, dvs packa processorerna allt tätare. När all materia på jorden är en enda supertät dator (och sannolikt långt innan dess) lär man vilja ta månen och mars och venus och resten av solsystemet i anspråk.

Nästa riktigt stora steg blir att ta sig till intilliggande solsystem och då börjar resan på riktigt. Varför inte skicka mikrosonder som kan accelerera till nära ljusets hastighet i alla riktningar? När de stöter på materia som kan byggas om stannar några sonder kvar och börjar kopiera sig själva och bygga mer processorkraft medan de andra fortsätter. På så sätt kommer hela tiden några sonder flyga i ljusets hastighet ut från centrum (jorden) och successivt bygga om all materia de träffar på till mer artificiell intelligens: universum "vaknar upp" i en intelligenssfär som expanderar med ljusets hastighet... eller snabbare om AI:na kommer på någon genväg som tillåter information eller mikrosonder att passera genom maskhål i rumtidväven. I sådana fall kan hela universum vakna upp i mycket snabbare takt (på totalt 1000 år istället för flera miljarder år) i form av expanderande intelligensbubblor som utgår från en mängd olika platser med kanske t.ex. bara 1000 ljusår mellan varje.

Den grundläggande drivkraften bakom Moores lag och Kurzweils generella lag om accelererande utveckling är att varje teknologigeneration används som verktyg för att utveckla nästa teknologigeneration. En bättre processor används för att designa och bygga en ännu bättre processor. En mjukvara används för att simulera och testa fram ännu bättre algoritmer. När AI, processorer, robotar, bioteknik mm kan driva varandras utveckling finns en möjlighet att det går ännu fortare. När till slut tröskeln överskrids - där människan kan klippas bort ur loopen - kan utvecklingen accelerera ytterligare. Vill vi hänga med då får vi fusionera med teknologin och förbättra oss. För riktigt snabb och spännande skönlitterär vision om detta rekommenderar jag "Post-Human"-serien av David Simpson. På Kindle är den nästan gratis.

Det som stör mig med filmen är att inget av ovanstående kom med. Inget förklarades, inget visades hur det gick till... Allt som fanns med var en störigt snabb övergång från arbete med en potentiell Turingkandidat (på en kvantdator!) till uppladdandet av en hjärna som magiskt nog fungerade i samma dator. Så snart den fått självmedvetande på internet verkade den kunna driva på en snabb utveckling av framför allt bioteknik (snabbläkning) och sen började det vanliga actionbråket. Ingen förklarade hur hjärnan kunde laddas upp, hur AI-algoritmerna redan kunde vara anpassade utan att ha uppnått självmedvetande. Ingen förklarade vad det var för nanoteknologi som den uppladdade personen utvecklade eller hur han gjorde det (biologiskt eller mekaniskt t.ex.). Och slutligen, inget av vad som skulle eller kunde hända sen togs upp.

4 kommentarer:

  1. Mkt intressant inlägg och bra lästips att kolla upp.
    Ett citat i texten som leder till en fråga till dig: "Att teknologin leder till obegränsad livslängd torde vara självklart" - Kommer du därmed själv att säkra så att du kan vara med och uppleva detta - dvs nedfrysning eller dylikt om det inte verkar hända inom din livstid?

    SvaraRadera
    Svar
    1. Jag har inga planer alls på nedfrysning, så länge det inte känns lika säkert som att flyga till Thailand. Jag tror dessutom att lagom livsförlängning (föryngring med stamcellterapi, odlade/printade organ, enkel nanoteknik för riktad cancerbehandling mm) kommer finnas tillgängligt tidigare och vara bättre än nedfrysning för alla utom de som har dödliga sjukdomar.

      Jag tror att alla under 50 idag och som utan särskilda olycksfall eller sjukdomar kan förväntas bli åtminstone 75, under den perioden på 25+ år kommer höja sin förväntade livslängd med minst 25 år till - och alltså inte vara närmare en naturlig död år 2040 än de är idag.

      Efter det tror jag att det bara går snabbare (äkta nanoteknik som reparerar DNA på molekylärnivå eller helt enkelt byter ut varje skadad cell mot en frisk kan ge total frihet från sjukdomar och död och torde vara på plats innan 2065). Även om jag är nästan 100 är 2065 och det först då kommer seriös föryngringsteknik räknar jag som sagt med att 100 är det nya 70 ungefär. Därmed skulle det finnas gott om tid att först då byta ut alla celler eller ladda upp medvetandet i en robot.

      -och antagligen går allt mycket fortare än så

      Jag har således inga planer på t.ex. nedfrysning eller en ljushastighetsslunga runt våra närmaste stjärngrannar eller dylikt. Dessutom vill jag gärna vara med och se den teknologiska resan "live".

      Radera
  2. Intressant tidsperspektiv - jag är själv inte tillräckligt påläst för att ens komma med en gissning om när det här skulle hända men känner väl som de flesta att det känns långt borta. Mycket kul därför med ditt senaste inlägg kring livsförlängning som gav ny input. Bra skrivet!

    SvaraRadera
    Svar
    1. Ett kul exempel på hur snabbt det kan gå med exponentiell utveckling är HUGO-projektet då DNA-spiralen för en människa skulle kartläggas.

      Projektet startade 1989 och kritiker påpekade att det skulle ta flera tusen år med teknologin som fanns till hands. De hoppfulla tänkte att ny teknik som uppfanns på vägen kanske skulle sänka det till 100 år eller t.o.m. 15 år som var det utsatta målet.

      Efter knappt 10 år hade man inte ens hunnit med 1% av projektet och det såg rätt hopplöst ut. Ändå blev projektet klart 2003 strax före utsatt tid och en totalkostnad om ca 3 miljarder USD. Som ett sidospår utvecklade ett privatföretag på slutet en metod som kostade 1/10-del så mycket och bara tog ett par år; Celera och Venter blev klara samtidigt som det statliga HUGO-projektet trots att Celera inte bildades förrän 1998 och inte höll på med DNA-kartläggning de första åren.

      Idag, ytterligare 10 år senare, tar det bara några timmar (jämför med 1000 år, 15 år eller 3 år) och kostar några tusen dollar (jämför med 3 miljarder dollar eller 300m dollar). Det ser inte ut att ta stopp där, så räkna med att ditt försäkringsbolag inom 10 år kommer erbjuda/kräva gratis DNA-kartläggning (för att kunna "anpassa" dina premier).

      Samma utveckling sker i det tysta inom alla nyckelområden för singulariteten. När vi är 1/100 på vägen till tröskeln ser fortfarande nästan ingen vart vi är på väg eller tror att det går att genomföra, trots att det kanske bara är 5 år kvar då.

      Radera

Träna effektivt; minimalt för maximala resultat

Det här är en träningsblogg (men även finans, teknologi, futurism, filosofi och life hacking). Jag lyfter skivstänger varannan dag, inte alltid utan alkohol fortfarande rusande genom ådrorna. Efteråt dricker jag en liter mjölk. Inga dyra tillskott som ändå inte fungerar.

Jag kör få och enkla övningar, alltid med fria vikter. Jag tror på att träna mindre än alla andra, men smart, och på att njuta av all mat jag tycker om. Cardio är begränsad till 3-4h hundpromenad om dagen samt 15 minuter på löpbandet varannan dag.

Basen i min träning är något som liknar 5x5 i knäböj, marklyft och bänkpress, men jag kompletterar med lite fler och lättare i t.ex. militärpress, dips, rodd och chin-ups.

Mina stats: 44 år, 90kg, 183cm, 140kg bänkpress, 180kg (och 5x170), 155kg knäböj.

Utnyttja "Resurserna" här intill för inspiration. Själva bloggen nedan är annars bara en träningsdagbok samt lite filosoferande om hur man blir en bättre människa.

MOTTO 1: Aldrig kötta - Work smarter, not harder
MOTTO 2: Alltid vila - Träna kort och effektivt 1%, vila 99%
MOTTO 3: Cardio valfritt - Det behövs inte för deff, men en del gillar det. Hoppa över cardio och PW om du tycker att det är tråkigt.

TOO WEIRD TO LIVE, TOO RARE TO DIE