Sećate se HAL 9000, Dejvida iz filma Prometej i svih onih zabavnih, zlih inteligentnih robota i kompjutera? To je odlična fikcija, ali izgleda da je to definitivno fikcija. Izjednačavanje mozga sa kompjuterom jer se oboje nazivaju mašinama je pogrešna pretpostavka. Možete lako označiti dva različita objekta istom rečju: “mašina.” To ne menja činjenicu da su mozak i mašina koja sadrži metal dva vrlo različita entiteta. Kompjuteri rade na osnovu protoka električne energije kroz njihove komponente. Ali same komponente uvek ostaju iste. U načelu, mogli biste isključiti kompjuter i čuvati ga u okruženju bez prašine. Stotinu godina kasnije mogli biste ga ponovo uključiti i on bi mogao nastaviti sa obradom podataka.
Naravno, oblici života se nužno nalaze u stalnom stanju promene. Ako promena nije rast ili upravljana stagnacija, to je propadanje, koje na kraju vodi do dezintegracije. Svest je, između ostalog, svesnost o ovoj stalnoj promeni. Živi organizam nikada nije isti fizički i psihološki entitet od jednog trenutka do drugog. Oprema kompjutera, s druge strane, ostaje ista fizička struktura od trenutka kada napusti fabriku dok ne prestane da radi ili se ne odbaci.
Fizičko vreme kao promena i postajanje odražava se u fiziološkom vremenu i zauzvrat se reflektuje u svesnom iskustvu stalne tranzicije, kao osećaj prolaska vremena. Svest kakvu poznajemo je ugrađena u principe života. Mi kao ljudi smo deo prirode. To je ono što povezuje fizičko vreme sa biološkim vremenom i sa svesnim vremenom.
Bez sposobnosti da doživimo šta se dešava iz jedne faze u drugu (senzitivnost), ne bismo zaista mogli biti svesni naše okoline. Svest je, doduše, teško objasniti i proučavati. Ali očigledno nije samo računanje. GPS uređaj, koliko god sofisticiran, računa, ne doživljava, putovanje. To su svesni putnici koji doživljavaju put.
Postoji ubeđenje da je svesna AI neizbežna. Predviđa se da će do 2029. godine stvari izgledati malo drugačije, i za ljudski nivo inteligencije i za veštačku opštu inteligenciju (AGI). Ljudski nivo inteligencije generalno znači AI koja je dostigla sposobnosti najvrsnijih ljudi u određenoj oblasti, i do 2029. godine to će biti postignuto u većini aspekata. (Možda će biti nekoliko godina tranzicije nakon 2029. godine kada AI nije nadmašila najbolje ljude u nekoliko ključnih veština kao što su pisanje scenarija koji će dobiti Oskara ili generisanje dubokih novih filozofskih uvida, mada verovatno hoće.) AGI znači AI koja može učiniti sve što bilo koji čovek može, ali na višem nivou. AGI zvuči teže, ali dolazi u isto vreme.
AI ne bi mogla da radi ove stvari bez svesti. I u Kurcvejlovom scenariju, kao kod Hal 9000 i David, svest se jednostavno uzima zdravo za gotovo. Zapanjujuće je, kada uzmemo u obzir da ne možemo lako definisati svest, da su neki sigurni da će – s određenim nivoom sofisticiranosti – računanje nekako jednostavno preobraziti u svest. Činjenica da takav pogled nije zasnovan na bilo kakvoj demonstrabilnoj premisi upravo je ono što ga čini teškim za osporavanje.
Kurcvejlova predviđanja su smela, i iako nisu uvek bila tačna, pomeraju granice načina na koji razmišljamo o budućnosti. Kako se približavamo datumima koje je prognozirao, debata o singularnosti će se samo pojačavati. Da li će njegova vizija postati stvarnost ostaje da se vidi, ali je jasno da su pitanja koja postavlja sada aktuelnija nego ikada.
Postoji razlika između izjave „Možemo poslati ljude na Pluton!“ i „Možemo izgraditi vremeplov!“ Prepreke za turizam na Plutonu mogu biti sve praktične i tehničke. Prepreke za putovanje kroz vreme su verovatno povezane sa prirodom našeg univerzuma.
