Wkraczając w trzecią dekadę XXI wieku, ludzkość staje przed tak wieloma problemami i pytaniami, że naprawdę trudno jest zdecydować, na czym należy się skupić. Chciałbym więc wykorzystać następne dwadzieścia minut, aby pomóc nam skupić się na poszczególnych problemach, z którymi się borykamy. Egzystencjalne wyzwanie dla naszego gatunku stanowią trzy problemy. Te trzy wyzwania to wojna nuklearna, zapaść ekologiczna i rewolucja technologiczna. Na nich powinniśmy się skupić. Wojna nuklearna i zapaść ekologiczna są już zagrożeniami dobrze znanymi, więc pozwólcie mi poświęcić trochę czasu na wyjaśnienie mniej znanego zagrożenia, jakie stanowi rewolucja technologiczna.
W Davos wiele słyszymy o ogromnych obietnicach technologii – i te obietnice są z pewnością prawdziwe. Ale technologia może również zakłócić działanie ludzkiego społeczeństwa i podkopać na wiele sposobów sens ludzkiego życia, od stworzenia globalnej klasy bezużytecznych po zapoczątkowanie kolonializmu danych i dyktatur cyfrowych.
Automatyzacja wkrótce wyeliminuje miliony miejsc pracy i chociaż z pewnością zostaną utworzone nowe, nie jest jasne, czy ludzie będą w stanie wystarczająco szybko nauczyć się niezbędnych nowych umiejętności. Załóżmy, że jesteś pięćdziesięcioletnim kierowcą ciężarówki i właśnie straciłeś pracę na rzecz pojazdu samojezdnego. Pojawiają się nowe miejsca pracy związane z projektowaniem oprogramowania lub kursami jogi dla inżynierów – ale w jaki sposób pięćdziesięcioletni kierowca ciężarówki ma stać się inżynierem oprogramowania lub nauczycielem jogi? I ludzie będą musieli to robić nie raz, ale raz po raz przez całe życie, ponieważ rewolucja w automatyzacji nie będzie pojedynczym wydarzeniem, po którym rynek pracy ustabilizuje się w nowej równowadze. Będzie to raczej kaskada coraz większych przełomów, ponieważ sztuczna inteligencja nie jest jeszcze bliska osiągnięcia swojego pełnego potencjału.
Jeśli wystarczająco dobrze znasz biologię i masz odpowiednią moc obliczeniową i dane, możesz zhakować moje ciało, mózg i życie, a także zrozumieć mnie lepiej niż ja sam. Możesz poznać mój typ osobowości, moje poglądy polityczne, moje preferencje seksualne, moje słabości umysłowe, moje najgłębsze lęki i nadzieje. Poznasz mnie lepiej niż ja sam. I możesz to zrobić nie tylko ze mną, ale z każdym. System, który rozumie nas lepiej niż my sami, może przewidywać nasze uczucia i decyzje, może nimi manipulować, a ostatecznie może podejmować decyzje za nas.
Technologia może zakłócić nie tylko naszą gospodarkę, politykę i filozofię, ale także naszą biologię. W nadchodzących dziesięcioleciach, SI i biotechnologia dadzą nam boskie moce przeprojektowywania życia, a nawet tworzenia zupełnie nowych form życia. Po czterech miliardach lat kształtowania życia organicznego przez dobór naturalny wkraczamy w nową erę życia nieorganicznego, kształtowanego przez inteligentny projekt.
Gorąco zachęcam do lektury:
