Pro­log

Na­zwa­li­śmy nasz ga­tu­nek homo sa­piens – czło­wiek ro­zumny. Można jed­nak dys­ku­to­wać, czy je­ste­śmy godni tego miana.

W ciągu ostat­nich 100 ty­sięcy lat my, sa­piensi^[1*], nie­wąt­pli­wie po­sie­dli­śmy po­tężne moce. Do spi­sa­nia wszyst­kich na­szych od­kryć, wy­na­laz­ków i pod­bo­jów po­trze­bo­wa­li­by­śmy opa­słych to­mów. Ale moc spraw­cza to nie mą­drość i po 100 ty­sią­cach lat od­kryć, wy­na­laz­ków i pod­bo­jów ludz­kość za­brnęła w eg­zy­sten­cjalny kry­zys. Sto­imy na kra­wę­dzi eko­lo­gicz­nej ka­ta­strofy, do któ­rej mo­żemy do­pro­wa­dzić przez nie­wła­ściwe wy­ko­rzy­sta­nie po­sia­da­nych mocy. Rów­no­cze­śnie je­ste­śmy po­chło­nięci two­rze­niem no­wych tech­no­lo­gii, ta­kich jak sztuczna in­te­li­gen­cja (AI), które mogą wy­mknąć się nam spod kon­troli, znie­wa­la­jąc nas, lub wręcz uni­ce­stwia­jąc. Mimo to ludz­kość nie jed­no­czy się z my­ślą o sta­wie­niu czoła tym wy­zwa­niom. Wręcz prze­ciw­nie, ro­sną na­pię­cia mię­dzy­na­ro­dowe, glo­balna współ­praca staje się co­raz trud­niej­sza, pań­stwa roz­bu­do­wują ar­se­nały broni osta­tecz­nej za­głady, a nowa wojna świa­towa nie wy­daje się już czymś nie­moż­li­wym.

Skoro my, sa­piensi, mamy się za tak ro­zum­nych, to dla­czego z ta­kim upo­rem zmie­rzamy do au­to­de­struk­cji?

Cho­ciaż zgro­ma­dzi­li­śmy tak wielki za­sób in­for­ma­cji o świe­cie, od czą­ste­czek DNA po od­le­głe ga­lak­tyki, to w ogól­nym roz­ra­chunku nie wy­daje się, by te wszyst­kie wia­do­mo­ści dały nam od­po­wiedź na za­sad­ni­cze eg­zy­sten­cjalne py­ta­nie: kim je­ste­śmy? Do czego po­win­ni­śmy dą­żyć? Na czym po­lega go­dziwe ży­cie? Jak po­win­ni­śmy żyć? Choć mamy do dys­po­zy­cji zdu­mie­wa­jące ilo­ści in­for­ma­cji, wciąż je­ste­śmy po­datni na fan­ta­zje i złu­dze­nia w ta­kim sa­mym stop­niu jak nasi pra­dawni przod­ko­wie. Na­zizm i sta­li­nizm to tylko dwa nie­dawne przy­kłady zbio­ro­wego obłędu, który od czasu do czasu opa­no­wuje na­wet współ­cze­sne spo­łe­czeń­stwa. Bez­sprzecz­nie czło­wiek dys­po­nuje dziś o wiele więk­szymi za­so­bami in­for­ma­cji i moż­li­wo­ściami niż w epoce ka­mie­nia, lecz nie ozna­cza to, by­śmy ja­koś szcze­gól­nie le­piej ro­zu­mieli sa­mych sie­bie i swoją rolę we wszech­świe­cie.

Dla­czego tak do­brze ra­dzimy so­bie ze zdo­by­wa­niem in­for­ma­cji i mocy spraw­czych, ale znacz­nie go­rzej przy­cho­dzi nam na­by­wa­nie mą­dro­ści? W daw­nych cza­sach w wielu tra­dy­cjach wie­rzono, że ja­kaś fa­talna wada na­szej na­tury pcha nas do po­szu­ki­wa­nia po­tęgi, z którą nie po­tra­fimy się ob­cho­dzić. Grecki mit o Fa­eto­nie opo­wia­dał o mło­dzieńcu, który od­krywa, że jest sy­nem He­liosa, boga Słońca. Pra­gnąc udo­wod­nić swoje bo­skie po­cho­dze­nie, Fa­eton do­maga się przy­wi­leju po­wo­że­nia ry­dwa­nem Słońca. He­lios ostrzega Fa­etona, że ża­den czło­wiek nie jest zdolny za­pa­no­wać nad nie­biań­skimi ru­ma­kami cią­gną­cymi sło­neczny po­jazd. Po na­le­ga­niach Fa­etona bóg Słońca w końcu jed­nak ustę­puje. Wzbiw­szy się za­wa­diacko w niebo, Fa­eton rze­czy­wi­ście traci pa­no­wa­nie nad ry­dwa­nem. Sło­neczny za­przęg zba­cza z drogi, wy­pala wszelką ro­ślin­ność, za­bija wielką liczbę istot i o mało nie ob­raca w po­piół ca­łej Ziemi. In­ter­we­niuje Zeus, ra­żąc Fa­etona pio­ru­nem. Zu­chwały mło­dzie­niec spada z nieba ni­czym gwiazda i staje w ogniu. Bo­go­wie od­zy­skują pa­no­wa­nie nad nie­bem i ra­tują świat.

Dwa ty­siące lat póź­niej, kiedy re­wo­lu­cja prze­my­słowa sta­wiała pierw­sze kroki, a ma­szyny za­częły za­stę­po­wać czło­wieka w wielu dzie­dzi­nach, Jo­hann Wol­fgang Go­ethe opu­bli­ko­wał po­dobną opo­wieść ku prze­stro­dze, za­ty­tu­ło­waną Uczeń czar­no­księż­nika. W bal­la­dzie tej (która póź­niej we­szła do kul­tury po­pu­lar­nej za sprawą filmu ani­mo­wa­nego Walta Di­sneya z Myszką Miki w roli głów­nej) sę­dziwy czar­no­księż­nik na ja­kiś czas opusz­cza swoją pra­cow­nię, zo­sta­wia­jąc ją pod opieką mło­dego ucznia, który ma wy­peł­niać bie­żące obo­wiązki, ta­kie jak no­sze­nie wody z rzeki. Uczeń po­sta­na­wia uła­twić so­bie ży­cie i za po­mocą jed­nego z za­klęć czar­no­księż­nika spra­wia, że to mio­tła nosi za niego wodę. Cze­lad­nik nie wie wszakże, jak za­trzy­mać mio­tłę, która przy­nosi co­raz wię­cej wody, co grozi za­la­niem pra­cowni. W pa­nice uczeń to­po­rem prze­cina na pół za­cza­ro­waną mio­tłę, lecz ku jego zdu­mie­niu obie po­łowy za­mie­niają się w mio­tły. Te­raz  d w i e  za­cza­ro­wane mio­tły za­le­wają wodą pra­cow­nię. Kiedy wraca stary czar­no­księż­nik, uczeń błaga o po­moc: „Pa­nie mi­strzu ra­tuj! gwałtu! / [...] Du­chy wy­wo­ła­łem, / Ani odejść chcą”^[2*]. Cza­row­nik na­tych­miast od­czy­nia za­klę­cie i za­trzy­muje po­wódź. Lek­cja dla ucznia – i dla ludz­ko­ści – jest ja­sna: ni­gdy nie przy­wo­łuj mocy, nad któ­rymi nie po­tra­fisz za­pa­no­wać. Co te opo­wia­dane ku prze­stro­dze hi­sto­rie o Fa­eto­nie i uczniu czar­no­księż­nika mó­wią nam w XXI wieku? My, lu­dzie, naj­wy­raź­niej po­sta­no­wi­li­śmy nie słu­chać za­war­tych w nich ostrze­żeń i prze­stróg. Wy­trą­ci­li­śmy już z rów­no­wagi kli­mat Ziemi, za­przę­gli­śmy też na swoje usługi mi­liardy za­cza­ro­wa­nych mio­teł, dro­nów, chat­bo­tów oraz in­nych al­go­ryt­micz­nych du­chów, które mogą wy­mknąć się spod na­szej kon­troli i wy­wo­łać la­winę nie­za­mie­rzo­nych kon­se­kwen­cji.

Co w ta­kim ra­zie po­win­ni­śmy zro­bić? Bajki nie dają żad­nych pod­po­wie­dzi poza wska­zówką, by cze­kać, aż ura­tuje nas ja­kiś bóg lub czar­no­księż­nik. Rzecz ja­sna prze­sła­nie to jest na­der nie­bez­pieczne – za­chęca lu­dzi do zrze­ka­nia się od­po­wie­dzial­no­ści i po­kła­da­nia wiary w bo­gach. Co gor­sza, usuwa z pola wi­dze­nia fakt, że bo­go­wie i czar­no­księż­nicy także są wy­na­laz­kiem czło­wieka – po­dob­nie jak ry­dwany, mio­tły i al­go­rytmy. To dą­że­nie do two­rze­nia ar­te­fak­tów wy­wo­łu­ją­cych nie­za­mie­rzone skutki nie roz­po­częło się wraz z wy­na­le­zie­niem ma­szyny pa­ro­wej czy sztucz­nej in­te­li­gen­cji – jego ge­neza sięga chwili, gdy wy­my­ślono re­li­gie. Pro­rocy i teo­lo­go­wie wie­lo­krot­nie wy­wo­ły­wali po­tężne du­chy, które miały nieść mi­łość i szczę­ście, lecz osta­tecz­nie to­piły świat we krwi.

Mit o Fa­eto­nie i po­emat Go­ethego nie do­star­czają po­ży­tecz­nych rad, po­nie­waż błęd­nie po­strzega się w nich spo­sób, w jaki lu­dzie zdo­by­wają moc. W obu opo­wie­ściach ludzki bo­ha­ter wcho­dzi w po­sia­da­nie ogrom­nych mocy, ale py­cha i chci­wość do­pro­wa­dzają go do zguby. Wnio­sek jest taki, że na­sze in­dy­wi­du­alne nie­do­statki psy­chiczne skła­niają nas do tego, by ro­bić nie­wła­ściwy uży­tek z po­sia­da­nych mocy. W tej na­zbyt uprosz­czo­nej ana­li­zie po­mi­jany jest fakt, że ludzka po­tęga ni­gdy nie sta­nowi wy­niku dzia­łań jed­nostki. Moc spraw­cza i wła­dza za­wsze biorą się ze współ­pracy po­kaź­nej liczby lu­dzi.

O tym, że nad­uży­wamy wła­dzy i mocy nie de­cy­duje za­tem na­sza jed­nost­kowa psy­chika. W końcu oprócz chci­wo­ści, py­chy i okru­cień­stwa lu­dzie mają też inne ce­chy – są zdolni do mi­ło­ści, współ­czu­cia, po­kory i ra­do­ści. Ow­szem, wśród naj­gor­szych przed­sta­wi­cieli na­szego ga­tunku nie­po­dziel­nie pa­nują chci­wość i okru­cień­stwo, które pchają zde­pra­wo­wane jed­nostki do nie­wła­ści­wego po­słu­gi­wa­nia się wła­dzą i mocą. Ale dla­czego spo­łe­czeń­stwa de­cy­dują się po­wie­rzać wła­dzę swoim naj­gor­szym człon­kom? Prze­cież w 1933 roku więk­szość Niem­ców nie była psy­cho­pa­tami. Dla­czego więc za­gło­so­wali na Hi­tlera?

Na­sza ten­den­cja do uwal­nia­nia mocy, któ­rymi nie je­ste­śmy w sta­nie wła­dać, nie wy­nika z jed­nost­ko­wych uwa­run­ko­wań psy­chicz­nych, tylko z wy­jąt­ko­wego spo­sobu, w jaki nasz ga­tu­nek współ­pra­cuje w po­kaź­nych li­czeb­nie gru­pach. Za­sad­ni­czą tezą tej książki jest to, że lu­dzie wcho­dzą w po­sia­da­nie ogrom­nych mocy, bu­du­jąc roz­le­głe sieci współ­pracy, ale kształt tych sieci pre­dys­po­nuje ich do nie­mą­drego po­żyt­ko­wa­nia wszel­kich osią­gnięć. Nasz pro­blem jest więc pro­ble­mem sieci.

Uj­mu­jąc rzecz ści­ślej, jest to pro­blem in­for­ma­cji. In­for­ma­cja to spo­iwo wią­żące sieci. Przez dzie­siątki ty­sięcy lat sa­piensi bu­do­wali jed­nak i utrzy­my­wali wiel­kie sieci, wy­my­śla­jąc i upo­wszech­nia­jąc bajki, fan­ta­zje i zbio­rowe złu­dze­nia – na te­mat bo­gów, za­cza­ro­wa­nych mio­teł, sztucz­nej in­te­li­gen­cji i wielu in­nych rze­czy. Pod­czas gdy po­je­dyn­czy czło­wiek zwy­kle jest za­in­te­re­so­wany po­zna­wa­niem prawdy o so­bie i świe­cie, wiel­kie sieci wiążą ze sobą człon­ków i two­rzą po­rzą­dek oparty na baj­kach i fan­ta­zjach. W ten wła­śnie spo­sób do­tar­li­śmy na przy­kład do na­zi­zmu i sta­li­ni­zmu. Były to wy­jąt­kowo roz­le­głe sieci, spa­jane przez wy­jąt­kowo złudne idee. Jak głosi sławne dic­tum Geo­rge’a Or­wella, igno­ran­cja to siła.

To, że re­żimy na­zi­stow­ski i sta­li­now­ski zbu­do­wano na okrut­nych fan­ta­zjach i wie­rut­nych kłam­stwach, nie ozna­czało jesz­cze, że były one czymś wy­jąt­ko­wym w hi­sto­rii ani nie prze­są­dziło z góry o ich upadku. Na­zizm i sta­li­nizm na­le­żały do naj­sil­niej­szych sieci kie­dy­kol­wiek stwo­rzo­nych przez czło­wieka. Pod ko­niec 1941 roku i na po­czątku 1942 pań­stwa Osi były o krok od wy­gra­nia dru­giej wojny świa­to­wej. Sta­lin osta­tecz­nie wy­szedł z tej wojny zwy­cię­sko^[1][3*], a w la­tach pięć­dzie­sią­tych i sześć­dzie­sią­tych XX wieku on i jego spad­ko­biercy mieli spore szanse na wy­gra­nie rów­nież zim­nej wojny. W la­tach dzie­więć­dzie­sią­tych za­trium­fo­wały de­mo­kra­cje li­be­ralne, ale dziś ich zwy­cię­stwo wy­daje się tym­cza­sowe. W XXI wieku ja­kiś nowy re­żim to­ta­li­tarny może od­nieść suk­ces tam, gdzie Hi­tler i Sta­lin po­nie­śli po­rażkę, two­rząc wszech­po­tężną sieć, która unie­moż­liwi przy­szłym po­ko­le­niom wszel­kie próby de­ma­sko­wa­nia jej kłamstw i zmy­śleń. Nie po­win­ni­śmy za­kła­dać, że sieci oparte na uro­je­niach są z góry ska­zane na nie­po­wo­dze­nie. Za­po­bie­ga­nie ich trium­fowi bę­dzie wy­ma­gało od nas cięż­kiej pracy.

Na­iwny po­gląd na in­for­ma­cję

Siłę sieci uro­je­nio­wych trudno so­bie uzmy­sło­wić z po­wodu roz­po­wszech­nio­nego błęd­nego wy­obra­że­nia na te­mat dzia­ła­nia wiel­kich sieci in­for­ma­cyj­nych w ogóle – za­równo tych opar­tych na uro­je­niach, jak i in­nych. To błędne ro­zu­mie­nie na­zy­wam „na­iw­nym po­glą­dem na in­for­ma­cję”. Pod­czas gdy ta­kie bajki jak mit o Fa­eto­nie czy Uczeń czar­no­księż­nika przed­sta­wiają nad­mier­nie pe­sy­mi­styczne po­strze­ga­nie psy­cho­lo­gii jed­nostki, na­iwny po­gląd na in­for­ma­cję roz­po­wszech­nia prze­sad­nie opty­mi­styczną wi­zję two­rzo­nych przez czło­wieka sieci wiel­ko­ska­lo­wych.

Ów na­iwny po­gląd głosi, że gro­ma­dząc i prze­twa­rza­jąc znacz­nie wię­cej in­for­ma­cji, niż są w sta­nie zgro­ma­dzić i prze­two­rzyć po­je­dyn­cze osoby, wiel­kie sieci dają więk­szą wie­dzę w za­kre­sie me­dy­cyny, fi­zyki, eko­no­mii i w wielu in­nych dzie­dzi­nach, co czyni sieć nie tylko po­tężną, ale także in­te­li­gentną. Zdo­by­wa­jąc na przy­kład wia­do­mo­ści na te­mat pa­to­ge­nów, kon­cerny far­ma­ceu­tyczne i in­sty­tu­cje służby zdro­wia mogą okre­ślać praw­dziwe przy­czyny wielu cho­rób, a to po­zwala im opra­co­wy­wać sku­tecz­niej­sze leki i po­dej­mo­wać mą­drzej­sze de­cy­zje o ich sto­so­wa­niu. Po­gląd ten za­kłada, że wy­star­cza­jąco duże ilo­ści in­for­ma­cji wiodą do prawdy, a prawda z ko­lei wie­dzie za­równo do mocy spraw­czych, jak i mą­dro­ści. Igno­ran­cja na­to­miast – jak się wy­daje – pro­wa­dzi do­ni­kąd. Cho­ciaż sieci oparte na uro­je­niach lub kłam­stwie mogą się cza­sem po­ja­wiać w mo­men­tach hi­sto­rycz­nego kry­zysu, to w dłuż­szej per­spek­ty­wie mu­szą prze­gry­wać z bar­dziej ro­zumną i uczciw­szą kon­ku­ren­cją. In­sty­tu­cja służby zdro­wia igno­ru­jąca do­nie­sie­nia o pa­to­ge­nach czy gi­gant far­ma­ceu­tyczny umyśl­nie roz­sie­wa­jący dez­in­for­ma­cję osta­tecz­nie prze­gra z ry­wa­lem, który mą­drzej wy­ko­rzy­stuje in­for­ma­cje. Na­iwny po­gląd na in­for­ma­cję su­ge­ruje za­tem, że sieci oparte na uro­je­niach mu­szą być aber­ra­cjami i że od wiel­kich sieci zwy­kle można ocze­ki­wać, że zro­bią mą­dry uży­tek z mocy spraw­czej/wła­dzy.

Rzecz ja­sna w na­iw­nym po­glą­dzie na in­for­ma­cję uznaje się, że na dro­dze od in­for­ma­cji do prawdy wiele rze­czy może pójść nie tak. Gro­ma­dząc i prze­twa­rza­jąc dane, mo­żemy po­peł­niać nie­umyślne omyłki. Po­wo­do­wani chci­wo­ścią lub nie­na­wi­ścią ak­to­rzy o złych in­ten­cjach mogą ukry­wać istotne fakty lub pró­bo­wać nas oszu­kać. W re­zul­ta­cie cza­sami in­for­ma­cja pro­wa­dzi ra­czej do po­myłki niż do prawdy. Na przy­kład nie­kom­pletne dane, błędna ana­liza lub kam­pa­nia dez­in­for­ma­cyjna mogą spra­wić, że na­wet eks­perci myl­nie zi­den­ty­fi­kują praw­dziwą przy­czynę ta­kiej czy in­nej cho­roby.

Na­iwny po­gląd na in­for­ma­cję za­kłada jed­nak, że le­kar­stwem na więk­szość pro­ble­mów, ja­kie na­po­ty­kamy pod­czas gro­ma­dze­nia i prze­twa­rza­nia in­for­ma­cji, jest gro­ma­dze­nie i prze­twa­rza­nie jesz­cze więk­szej ilo­ści in­for­ma­cji. Wpraw­dzie ni­gdy nie je­ste­śmy cał­ko­wi­cie za­bez­pie­czeni przed błę­dami, lecz na ogół więk­sza ilość in­for­ma­cji ozna­cza więk­szą do­kład­ność. Je­den le­karz, który usi­łuje usta­lić przy­czynę epi­de­mii, ba­da­jąc jed­nego pa­cjenta, ma mniej­sze szanse po­wo­dze­nia niż ty­siące le­ka­rzy zbie­ra­ją­cych dane na te­mat mi­lio­nów pa­cjen­tów. A je­śli sami le­ka­rze zma­wiają się, by ukryć prawdę, ofe­ro­wa­nie spo­łe­czeń­stwu i dzien­ni­ka­rzom śled­czym szer­szego do­stępu do in­for­ma­cji me­dycz­nych w końcu do­pro­wa­dzi do ujaw­nie­nia oszu­stwa. Zgod­nie z tym po­glą­dem im roz­le­glej­sza jest dana sieć in­for­ma­cyjna, tym bliż­sza musi być prawdy.

Na­tu­ral­nie, na­wet je­śli do­kład­nie prze­ana­li­zu­jemy in­for­ma­cje i od­kry­jemy ważne prawdy, nie mamy żad­nej gwa­ran­cji, że mą­drze wy­ko­rzy­stamy otwie­ra­jące się dzięki nim moż­li­wo­ści. Mą­drość po­tocz­nie ro­zu­mie się jako „po­dej­mo­wa­nie wła­ści­wych de­cy­zji”, ale to, co jest „wła­ściwe”, za­leży od są­dów war­to­ściu­ją­cych, które są swo­iste dla jed­nostki, kul­tury i ide­olo­gii. Na­ukowcy, któ­rzy od­kryją nowy pa­to­gen, mogą opra­co­wać szcze­pionkę ra­tu­jącą lu­dzi. Je­śli jed­nak na­ukowcy – lub ich po­li­tyczni prze­ło­żeni – uwie­rzą w ra­si­stow­ską ide­olo­gię gło­szącą, że nie­które rasy są gor­sze i po­winny zo­stać eks­ter­mi­no­wane, nowa wie­dza me­dyczna może zo­stać wy­ko­rzy­stana do bu­dowy broni bio­lo­gicz­nej zdol­nej do za­bi­ja­nia mi­lio­nów lu­dzi.

Rów­nież w tym wy­padku na­iwny po­gląd na in­for­ma­cję za­kłada, że więk­sza ilość in­for­ma­cji sta­nowi przy­naj­mniej czę­ściowe roz­wią­za­nie pro­blemu. W świe­tle tego sta­no­wi­ska roz­bież­ność opi­nii o war­to­ściach przy bliż­szym oglą­dzie oka­zuje się skut­kiem albo braku in­for­ma­cji, albo ce­lo­wej dez­in­for­ma­cji. W ta­kim uję­ciu ra­si­ści to lu­dzie źle po­in­for­mo­wani, któ­rzy po pro­stu nie znają fak­tów z bio­lo­gii i hi­sto­rii. Uwa­żają, że „rasa” jest wia­ry­godną ka­te­go­rią bio­lo­giczną, i zo­stali pod­dani pra­niu mó­zgu z wy­ko­rzy­sta­niem fał­szy­wych teo­rii spi­sko­wych. Pa­na­ceum na ra­sizm jest za­tem do­star­cza­nie lu­dziom więk­szej liczby fak­tów bio­lo­gicz­nych i hi­sto­rycz­nych. Wpraw­dzie może to tro­chę po­trwać, ale na wol­nym rynku in­for­ma­cji prę­dzej czy póź­niej zwy­cięży prawda.

Na­iwny po­gląd na in­for­ma­cję jest oczy­wi­ście bar­dziej zniu­an­so­wany i prze­my­ślany, niż da­łoby się to wy­ja­śnić w kilku aka­pi­tach, ale jego na­czelna za­sada głosi, że in­for­ma­cja jest czymś z gruntu do­brym i im wię­cej in­for­ma­cji mamy, tym le­piej. Po­sia­da­jąc do­sta­tecz­nie dużo in­for­ma­cji i czasu, siłą rze­czy mu­simy od­kryć prawdę o wielu zja­wi­skach, od in­fek­cji wi­ru­so­wych po ra­si­stow­skie uprze­dze­nia, roz­wi­ja­jąc w ten spo­sób na­sze moce spraw­cze oraz mą­drość nie­zbędną do do­brego ko­rzy­sta­nia z tych mocy.

Na­iwny po­gląd na in­for­ma­cję uspra­wie­dli­wia pęd do two­rze­nia co­raz po­tęż­niej­szych tech­no­lo­gii in­for­ma­cyj­nych i sta­nowi pół­ofi­cjalną ide­olo­gię ery kom­pu­te­rów i in­ter­netu. W czerwcu 1989 roku, kilka mie­sięcy przed upad­kiem muru ber­liń­skiego i że­la­znej kur­tyny, Ro­nald Re­agan oświad­czył, że „Go­liat to­ta­li­ta­ry­zmu zo­sta­nie szybko po­ko­nany przez Da­wida elek­tro­niki” oraz że „naj­więk­szy z Wiel­kich Braci jest co­raz bar­dziej bez­radny wo­bec tech­no­lo­gii ko­mu­ni­ka­cyj­nych. [...] In­for­ma­cja jest dziś jak tlen. [...] Prze­nika przez mury zwień­czone dru­tem kol­cza­stym. Prze­la­tuje po­nad gra­ni­cami na­fa­sze­ro­wa­nymi mi­nami-pu­łap­kami i ogro­dze­niami pod wy­so­kim na­pię­ciem. Po­dmu­chy ła­dun­ków elek­tro­nicz­nych prze­ni­kają przez że­la­zną kur­tynę jak przez sito”^[2]. W li­sto­pa­dzie 2009 roku Ba­rack Obama wy­po­wie­dział się w tym sa­mym du­chu pod­czas ofi­cjal­nej wi­zyty w Szan­ghaju. Stwier­dził: „Mocno wie­rzę w tech­no­lo­gię, mocno wie­rzę w swo­bodny prze­pływ in­for­ma­cji. My­ślę, że im swo­bod­niej prze­pływa in­for­ma­cja, tym sil­niej­sze staje się spo­łe­czeń­stwo”^[3].

Przed­się­biorcy i kor­po­ra­cje czę­sto wy­ra­żają po­dob­nie hu­ra­op­ty­mi­styczne po­glądy na te­mat tech­no­lo­gii in­for­ma­cyj­nych. Już w 1858 roku na ła­mach „The New En­glan­der” au­tor ar­ty­kułu wstęp­nego na te­mat wy­na­le­zie­nia te­le­grafu ogło­sił: „Nie­po­do­bień­stwem jest, aby wciąż po­ku­to­wały dawne uprze­dze­nia i wro­gość, przy­rząd ten zo­stał bo­wiem stwo­rzony dla wy­miany my­śli mię­dzy wszyst­kimi na­ro­dami ziemi”^[4]. Nie­mal dwa wieki i dwie wojny świa­towe póź­niej Mark Zuc­ker­berg oznaj­mił, że ce­lem Fa­ce­bo­oka „jest po­ma­ga­nie lu­dziom w szer­szym dzie­le­niu się, aby uczy­nić świat bar­dziej otwar­tym i uła­twiać po­ro­zu­mie­nie mię­dzy ludźmi”^[5].

W wy­da­nej w 2024 roku książce The Sin­gu­la­rity Is Ne­arer (Oso­bli­wość jest jesz­cze bli­żej) wy­bitny fu­tu­ro­log i przed­się­biorca Ray Kurz­weil ana­li­zuje hi­sto­rię tech­no­lo­gii in­for­ma­cyj­nych i do­cho­dzi do wnio­sku, że „re­alia są ta­kie, że nie­mal każdy aspekt ży­cia ulega po­pra­wie w wy­niku wy­kład­ni­czego po­stępu tech­no­lo­gii”. Spo­glą­da­jąc wstecz na całą hi­sto­rię ludz­ko­ści, na ta­kich przy­kła­dach jak wy­na­le­zie­nie prasy dru­kar­skiej do­wo­dzi on, że tech­no­lo­gia in­for­ma­cyjna ze swej istoty wy­ka­zuje ten­den­cję do two­rze­nia „po­zy­tyw­nego sprzę­że­nia zwrot­nego, wy­wo­łu­ją­cego po­stęp w nie­mal każ­dym aspek­cie ludz­kiego ży­cia, od umie­jęt­no­ści czy­ta­nia i pi­sa­nia, edu­ka­cji, po­ziomu za­moż­no­ści i wa­run­ków sa­ni­tar­nych po zdro­wie, de­mo­kra­ty­za­cję i ogra­ni­cze­nie prze­mocy”^[6].

Na­iwny po­gląd na in­for­ma­cję zo­stał chyba naj­zwięź­lej ujęty w de­kla­ra­cji ce­lów (mis­sion sta­te­ment) firmy Go­ogle: „Zor­ga­ni­zo­wać świa­towe za­soby in­for­ma­cji i spra­wić, aby były po­wszech­nie do­stępne i uży­teczne”. Od­po­wiedź Go­ogle’a na prze­strogę Go­ethego jest taka, że cho­ciaż je­den uczeń, który wy­kradł se­kretną księgę za­klęć swo­jego mi­strza, może spo­wo­do­wać ka­ta­strofę, to gdy wielu uczniów uzy­ska nie­ogra­ni­czony do­stęp do wszyst­kich in­for­ma­cji na świe­cie, ci nie tylko stwo­rzą przy­datne za­cza­ro­wane mio­tły, ale też na­uczą się ro­bić z nich mą­dry uży­tek.

Go­ogle kon­tra Go­ethe

Warto pod­kre­ślić, że w wielu wy­pad­kach po­sia­da­nie więk­szego za­sobu in­for­ma­cji rze­czy­wi­ście umoż­li­wiało lu­dziom lep­sze ro­zu­mie­nie świata i mą­drzej­sze wy­ko­rzy­sty­wa­nie po­sia­da­nych mocy spraw­czych. Spójrzmy na przy­kład na dra­styczny spa­dek śmier­tel­no­ści dzieci. Jo­hann Wol­fgang Go­ethe był naj­star­szy z sied­miorga ro­dzeń­stwa, ale tylko jemu i jego sio­strze Cor­ne­lii dane było świę­to­wać siódme uro­dziny. Cho­roba za­brała ich brata Her­manna Ja­coba w wieku sze­ściu lat, ich sio­strę Ca­tha­rinę Eli­sa­beth w wieku czte­rech lat, ko­lejną sio­strę Jo­hannę Ma­rię w wieku dwóch lat, brata Geo­rga Adolfa w ósmym mie­siącu ży­cia, a ich piąty, nie­znany z imie­nia brat uro­dził się mar­twy. Cor­ne­lia zmarła jed­nak z po­wodu cho­roby w wieku dwu­dzie­stu sze­ściu lat, tak że Jo­hann Wol­fgang po­zo­stał je­dy­nym ży­ją­cym człon­kiem swo­jej ro­dziny^[7].

Go­ethe do­cze­kał się pię­ciorga wła­snych dzieci, z któ­rych wszyst­kie oprócz naj­star­szego syna Au­gu­sta zmarły w ciągu dwóch ty­go­dni po na­ro­dzi­nach. Naj­praw­do­po­dob­niej przy­czyną była nie­zgod­ność grup krwi Go­ethego i jego żony Chri­stiane, w któ­rej wy­niku po pierw­szej uda­nej ciąży we krwi matki wy­two­rzyły się prze­ciw­ciała skie­ro­wane prze­ciwko an­ty­ge­nom płodu. Przy­pa­dłość ta, zwana cho­robą he­mo­li­tyczną, jest dziś le­czona tak sku­tecz­nie, że śmier­tel­ność wy­nosi nie­całe 2 pro­cent, ale w la­tach dzie­więć­dzie­sią­tych XVIII wieku prze­ciętna umie­ral­ność na tę cho­robę wy­no­siła 50 pro­cent, a dla czwórki młod­szych dzieci Go­ethego ozna­czała wy­rok śmierci^[8].

Ogó­łem w domu przy­szłego kom­po­zy­tora – w za­moż­nej nie­miec­kiej ro­dzi­nie ży­ją­cej pod ko­niec XVIII wieku – współ­czyn­nik prze­ży­wal­no­ści dzieci wy­no­sił, o zgrozo, 25 pro­cent. Tylko troje z dwa­na­ściorga dzieci do­żyło wieku do­ro­słego. Ta za­trwa­ża­jąca sta­ty­styka nie była wy­jąt­kiem. Sza­cuje się, że mniej wię­cej w cza­sie, gdy Go­ethe pi­sał Ucznia czar­no­księż­nika, w 1797 roku, je­dy­nie około 50 pro­cent nie­miec­kich dzieci osią­gało wiek pięt­na­stu lat^[9] i cał­kiem moż­liwe, że po­dob­nie przed­sta­wiała się sy­tu­acja w in­nych czę­ściach świata^[10]. W 2020 roku 95,6 pro­cent dzieci na ca­łym świe­cie do­żyło pięt­na­stych uro­dzin^[11], a w Niem­czech od­se­tek ten się­gnął 99,5 pro­cent^[12]. To epo­kowe osią­gnię­cie nie by­łoby moż­liwe bez gro­ma­dze­nia, ana­li­zo­wa­nia i udo­stęp­nia­nia ogrom­nych ilo­ści da­nych me­dycz­nych, mię­dzy in­nymi na te­mat grup krwi. Za­tem w tym wy­padku na­iwny po­gląd na in­for­ma­cję oka­zał się słuszny.

Tyle że na­iwny po­gląd na in­for­ma­cję nie uj­muje rze­czy ca­ło­ściowo, a hi­sto­ria epoki no­wo­żyt­nej nie stała wy­łącz­nie pod zna­kiem spadku śmier­tel­no­ści dzieci. Na prze­strzeni ostat­nich po­ko­leń ludz­kość do­świad­czyła naj­więk­szego w hi­sto­rii wzro­stu za­równo pod wzglę­dem ilo­ści, jak i szyb­ko­ści wy­twa­rza­nia in­for­ma­cji. Każdy smart­fon mie­ści dziś wię­cej in­for­ma­cji niż sta­ro­żytna Bi­blio­teka Alek­san­dryj­ska^[13] i umoż­li­wia po­sia­da­czowi na­tych­mia­stowe łą­cze­nie się z mi­liar­dami in­nych lu­dzi na ca­łym świe­cie. A jed­nak mimo tych wszyst­kich in­for­ma­cji krą­żą­cych z pręd­ko­ścią za­pie­ra­jącą dech ludz­kość ni­gdy nie znaj­do­wała się tak bli­sko za­głady. Po­mimo – a może z po­wodu – po­sia­da­nia po­tęż­nego za­sobu da­nych w dal­szym ciągu emi­tu­jemy do at­mos­fery gazy cie­plar­niane, za­nie­czysz­czamy rzeki i oce­any, wy­ci­namy lasy, nisz­czymy całe sie­dli­ska, przy­czy­niamy się do wy­gi­nię­cia nie­zli­czo­nych ga­tun­ków i za­gra­żamy eko­lo­gicz­nym pod­sta­wom ist­nie­nia na­szego ga­tunku. W do­datku pro­du­ku­jemy co­raz po­tęż­niej­szą broń ma­so­wego ra­że­nia, od bomb ter­mo­ją­dro­wych po wi­rusy zdolne do uni­ce­stwie­nia ludz­ko­ści. Nasi przy­wódcy mają nie­ogra­ni­czony do­stęp do in­for­ma­cji o tych za­gro­że­niach, a mimo to za­miast współ­pra­co­wać z my­ślą o po­szu­ki­wa­niu roz­wią­zań, ma­łymi kro­kami zmie­rzają do glo­bal­nej wojny.

Czy po­sia­da­nie jesz­cze więk­szych za­so­bów in­for­ma­cji po­lep­szy­łoby sy­tu­ację, czy może ra­czej by ją po­gor­szyło? Wkrótce się o tym prze­ko­namy. Liczne kor­po­ra­cje i rządy prze­ści­gają się w roz­wi­ja­niu naj­po­tęż­niej­szej tech­no­lo­gii in­for­ma­cyj­nej w hi­sto­rii – sztucz­nej in­te­li­gen­cji. Nie­któ­rzy czo­łowi przed­się­biorcy twier­dzą, że sztuczna in­te­li­gen­cja roz­wiąże w końcu wszyst­kie pro­blemy ludz­ko­ści. Przy­kła­dowo ame­ry­kań­ski in­we­stor Marc An­dre­es­sen w 2023 roku opu­bli­ko­wał esej za­ty­tu­ło­wany Why AI Will Save the World (Dla­czego sztuczna in­te­li­gen­cja ura­tuje świat), na­fa­sze­ro­wany od­waż­nymi te­zami w ro­dzaju: „Mam dla pań­stwa do­brą wia­do­mość – sztuczna in­te­li­gen­cja nie znisz­czy świata, a wręcz może go oca­lić” oraz „Sztuczna in­te­li­gen­cja może ulep­szyć wszystko, na czym nam za­leży”. Na końcu zaś na­pi­sał: „Roz­wój i upo­wszech­nia­nie się sztucz­nej in­te­li­gen­cji – a nie sta­no­wią one by­naj­mniej ry­zyka, któ­rego po­win­ni­śmy się oba­wiać – to mo­ralny obo­wią­zek, jaki mamy wo­bec sa­mych sie­bie, na­szych dzieci i na­szej przy­szło­ści”^[14].

Po­dej­ście to po­dziela Ray Kurz­weil, który na kar­tach The Sin­gu­la­rity Is Ne­arer prze­ko­nuje, że „sztuczna in­te­li­gen­cja to klu­czowa tech­no­lo­gia, która po­zwoli nam zma­gać się z na­glą­cymi wy­zwa­niami, przed któ­rymi sto­imy, ta­kimi jak zwal­cza­nie cho­rób, ubó­stwa, de­gra­da­cji śro­do­wi­ska i prze­zwy­cię­ża­nie wszyst­kich na­szych ludz­kich nie­do­stat­ków. Urze­czy­wist­nia­nie tej obiet­nicy no­wych tech­no­lo­gii to nasz mo­ralny obo­wią­zek”. Kurz­weil jest w pełni świa­domy po­ten­cjal­nych za­gro­żeń, ja­kie nie­sie ze sobą ta tech­no­lo­gia, i ob­szer­nie je ana­li­zuje, ale wie­rzy, że można im sku­tecz­nie prze­ciw­dzia­łać^[15].

Inni są bar­dziej scep­tyczni. Nie tylko fi­lo­zo­fo­wie i so­cjo­lo­dzy, ale też wielu czo­ło­wych eks­per­tów w dzie­dzi­nie sztucz­nej in­te­li­gen­cji i przed­się­bior­ców, ta­kich jak Yoshua Ben­gio, Geof­frey Hin­ton, Sam Alt­man, Elon Musk i Mu­stafa Su­ley­man, ostrze­gają opi­nię pu­bliczną, że sztuczna in­te­li­gen­cja może znisz­czyć na­szą cy­wi­li­za­cję^[16]. W ar­ty­kule z 2024 roku na­pi­sa­nym przez Ben­gia, Hin­tona i wielu in­nych eks­per­tów czy­tamy, że „nie­po­wstrzy­many po­stęp sztucz­nej in­te­li­gen­cji może osta­tecz­nie do­pro­wa­dzić do ma­so­wego wy­mie­ra­nia istot ży­wych i bios­fery oraz mar­gi­na­li­za­cji, a na­wet wy­gi­nię­cia ludz­ko­ści”^[17]. W an­kie­cie prze­pro­wa­dzo­nej w 2023 roku wśród 2778 na­ukow­ców zaj­mu­ją­cych się sztuczną in­te­li­gen­cją po­nad jedna trze­cia stwier­dziła, że ist­nieje co naj­mniej dzie­się­cio­pro­cen­towe praw­do­po­do­bień­stwo, że roz­wój za­awan­so­wa­nej sztucz­nej in­te­li­gen­cji do­pro­wa­dzi do tak ne­ga­tyw­nych skut­ków, jak wy­gi­nię­cie ludz­ko­ści^[18]. W 2023 roku bli­sko trzy­dzie­ści państw – w tym rządy Chin, Sta­nów Zjed­no­czo­nych i Wiel­kiej Bry­ta­nii – pod­pi­sało „De­kla­ra­cję z Blet­chley” w spra­wie sztucz­nej in­te­li­gen­cji, w któ­rej uznano, że „ist­nieje ry­zyko po­waż­nych, a na­wet ka­ta­stro­fal­nych szkód, umyśl­nych lub nie­za­mie­rzo­nych, wy­ni­ka­ją­cych z naj­bar­dziej zna­czą­cych moż­li­wo­ści tych mo­deli sztucz­nej in­te­li­gen­cji”^[19]. Na­wet gdy się­gają po tak apo­ka­lip­tyczne okre­śle­nia, eks­per­tom i rzą­dom nie cho­dzi o snu­cie hol­ly­wo­odz­kich wi­zji o za­bój­czych ro­bo­tach gra­su­ją­cych po uli­cach i strze­la­ją­cych do lu­dzi. Taki sce­na­riusz jest mało praw­do­po­dobny i tylko od­wraca uwagę spo­łe­czeństw od re­al­nych za­gro­żeń. Eks­perci chcą ra­czej ostrzec przed dwoma in­nymi sce­na­riu­szami.

Po pierw­sze, po­tężne moce sztucz­nej in­te­li­gen­cji mogą znacz­nie spo­tę­go­wać obecne kon­flikty, dzie­ląc ludz­kość ze szkodą dla niej sa­mej. Tak jak w XX wieku pod­czas zim­nej wojny że­la­zna kur­tyna dzie­liła ry­wa­li­zu­jące ze sobą mo­car­stwa, tak w XXI wieku krze­mowa kur­tyna – zbu­do­wana nie z drutu kol­cza­stego, lecz z krze­mo­wych chi­pów i ko­dów kom­pu­te­ro­wych – może uwi­kłać zan­ta­go­ni­zo­wane mo­car­stwa w nowy glo­balny kon­flikt. Po­nie­waż wy­ścig zbro­jeń na polu sztucz­nej in­te­li­gen­cji bę­dzie skut­ko­wał po­wsta­wa­niem co­raz bar­dziej nisz­czy­ciel­skich ro­dza­jów broni, na­wet jedna iskra może wy­wo­łać ka­ta­stro­falną po­żogę.

Po dru­gie, moż­liwe, że krze­mowa kur­tyna po­stawi nie tyle jedną grupę lu­dzi prze­ciwko dru­giej, ile ra­czej wszyst­kich lu­dzi prze­ciwko ich no­wym wład­com – mo­de­lom sztucz­nej in­te­li­gen­cji. Bez względu na to, gdzie miesz­kamy, mo­żemy zo­stać spę­tani sie­cią nie­zro­zu­mia­łych al­go­ryt­mów, które będą za­rzą­dzać na­szym ży­ciem, prze­obra­żać na­szą po­li­tykę i kul­turę, a na­wet prze­pro­jek­to­wy­wać na­sze ciała i umy­sły, pod­czas gdy my nie bę­dziemy już w sta­nie ogar­niać ro­zu­mem kon­tro­lu­ją­cych nas sił, nie mó­wiąc już o ich po­wstrzy­ma­niu. Je­śli sieci to­ta­li­tar­nej XXI wieku uda się pod­bić świat, praw­do­po­dob­nie bę­dzie nią za­wia­dy­wała in­te­li­gen­cja po­za­ludzka, a nie śmier­telny dyk­ta­tor. Lu­dzie, któ­rzy za główne źró­dło to­ta­li­tar­nych kosz­ma­rów uwa­żają Chiny, Ro­sję lub post­de­mo­kra­tyczne Stany Zjed­no­czone, opacz­nie ro­zu­mieją gro­żące nam nie­bez­pie­czeń­stwo. W rze­czy­wi­sto­ści Chiń­czy­kom, Ro­sja­nom, Ame­ry­ka­nom i wszyst­kim in­nym na­ro­dom za­grozi to­ta­li­tarny po­ten­cjał in­te­li­gen­cji po­za­ludz­kiej.

Zwa­żyw­szy na skalę za­gro­że­nia, sztuczna in­te­li­gen­cja po­winna być przed­mio­tem za­in­te­re­so­wa­nia wszyst­kich lu­dzi. Wpraw­dzie nie każdy może zo­stać spe­cem od sztucz­nej in­te­li­gen­cji, lecz wszy­scy po­win­ni­śmy pa­mię­tać, że sztuczna in­te­li­gen­cja jest pierw­szą tech­no­lo­gią w hi­sto­rii, która może sa­mo­dziel­nie po­dej­mo­wać de­cy­zje i ge­ne­ro­wać nowe po­my­sły. Wszyst­kie wcze­śniej­sze wy­na­lazki zwie­lo­krot­niały moż­li­wo­ści czło­wieka, po­nie­waż bez względu na to, jak po­tężne było nowe na­rzę­dzie, de­cy­zje w kwe­stii jego uży­cia za­wsze na­le­żały do nas. Noże i bomby nie de­cy­dują, kogo za­biją. To bez­wolne na­rzę­dzia, po­zba­wione in­te­li­gen­cji nie­zbęd­nej do prze­twa­rza­nia in­for­ma­cji i po­dej­mo­wa­nia sa­mo­dziel­nych de­cy­zji. Na­to­miast sztuczna in­te­li­gen­cja ma in­te­li­gen­cję po­trzebną do au­to­no­micz­nego prze­twa­rza­nia in­for­ma­cji, a co za tym idzie – umoż­li­wia­jącą za­stę­po­wa­nie lu­dzi w pro­ce­sie de­cy­zyj­nym.

Spraw­ność w po­słu­gi­wa­niu się in­for­ma­cją po­zwala także sztucz­nej in­te­li­gen­cji na nie­za­leżne ge­ne­ro­wa­nie no­wych po­my­słów w róż­nych dzie­dzi­nach, od mu­zyki po me­dy­cynę. Gra­mo­fony od­twa­rzały ukła­daną przez nas mu­zykę, mi­kro­skopy od­kry­wały ta­jem­nice na­szych ko­mó­rek, lecz gra­mo­fony nie po­tra­fiły kom­po­no­wać sym­fo­nii, a mi­kro­skopy nie były w sta­nie wy­naj­dy­wać no­wych le­ków. Sztuczna in­te­li­gen­cja jest już zdolna sa­mo­dziel­nie two­rzyć sztukę i do­ko­ny­wać od­kryć na­uko­wych, a w ciągu na­stęp­nych kilku de­kad przy­pusz­czal­nie zy­ska na­wet zdol­ność two­rze­nia no­wych form ży­cia, czy to przez pi­sa­nie kodu ge­ne­tycz­nego, czy to przez ge­ne­ro­wa­nie nie­orga­nicz­nego kodu oży­wia­ją­cego istoty nie­orga­niczne.

Już dziś, w za­cząt­ko­wej fa­zie re­wo­lu­cji sztucz­nej in­te­li­gen­cji, kom­pu­tery po­dej­mują za nas de­cy­zje – to od nich za­leży, czy otrzy­mamy kre­dyt hi­po­teczny, zo­sta­niemy za­trud­nieni na da­nym sta­no­wi­sku bądź osa­dzeni w wię­zie­niu. Zja­wi­sko to bę­dzie tylko zy­ski­wać na sile i przy­spie­szać, spra­wia­jąc, że co­raz trud­niej bę­dzie nam ro­zu­mieć wła­sne ży­cie. Czy mo­żemy uf­nie za­kła­dać, że al­go­rytmy kom­pu­te­rowe będą po­dej­mo­wać mą­dre de­cy­zje i two­rzyć lep­szy świat? To znacz­nie więk­sze ry­zyko niż wiara, że za­cza­ro­wana mio­tła bę­dzie za nas no­sić wodę. Stawką nie jest wy­łącz­nie ludz­kie ży­cie. Sztuczna in­te­li­gen­cja może od­mie­nić bieg hi­sto­rii na­szego ga­tunku, a także tok ewo­lu­cji wszyst­kich form ży­cia.