Dlaczego ojciec chrzestny AI obawia się własnego dzieła

Neurony w twoim mózgu łączą się w sieci – duże i małe. Kiedy tylko coś robisz lub myślisz, zachodzą w nich zmiany: dochodzą nowe neurony, inne zostają odrzucone, a połączenia między nimi wzmacniają się lub słabną. Proces ten toczy się nieustannie – choćby teraz, kiedy czytasz te słowa – na skalę, której nie sposób sobie wyobrazić. Masz około 80 miliardów neuronów, związanych co najmniej 100 bilionami połączeń. W twojej czaszce mieści się cała galaktyka konstelacji, które nieustannie się przeobrażają.

Dostęp online

Informatyk Geoffrey Hinton, nazywany często „ojcem chrzestnym AI”, wręczył mi laskę do podpierania się. – Przyda ci się – oznajmił. Następnie ruszył przez las, ku nabrzeżu. Ścieżka biegła przez cienistą polanę, mijała dwie szopy, a następnie przechodziła w kamienne schodki, prowadzące na niewielką przystań. – Ślisko tu – ostrzegł mnie Hinton, gdy ruszyliśmy nimi w dół.

Znajdujące się w twoim mózgu sieci przyswajają nową wiedzę, lekko się modyfikując. Bywa, iż zmieniają się tymczasowo – imię nowo poznanej osoby na imprezie może zapisać się w nich tylko na chwilę. Może też jednak wdrukować się w nie na całe życie, jeżeli na przykład nowa znajoma zostanie później twoją żoną. Dzieje się tak, ponieważ nowa wiedza stapia się ze starą, a to, co już wiesz, nadaje kształt temu, czego się uczysz. jeżeli na wspomnianej imprezie ktoś opowiedziałby ci o swojej wycieczce do Amsterdamu, to gdybyś następnego dnia poszedł do muzeum, twoje sieci mogłyby pokierować cię w stronę Johannesa Vermeera. W ten sposób niewielkie zmiany umożliwiają głębokie transformacje.

Newsletter

Aktualności „Pisma”

Raz w miesiącu poinformujemy Cię o najważniejszych materiałach z numeru, nowych podcastach.

Zapisz się

– Rozpaliliśmy tu kiedyś ognisko – rzekł Hinton. Staliśmy na skalnym występie wychodzącym na zatokę Georgian w kanadyjskiej prowincji Ontario, ciągnącą się na zachód, w głąb jeziora Huron. Wody jeziora usiane są piegami wysp. Hinton kupił jedną z nich w 2013 roku, w wieku sześćdziesięciu pięciu lat, sprzedawszy trzyosobowy start-up Google’owi za 44 miliony dolarów. Wcześniej przez trzy dekady pracował jako profesor informatyki na Uniwersytecie w Toronto, będąc zarazem czołową postacią niezbyt atrakcyjnej poddziedziny informatyki – sieci neuronowych, nazwanych tak od sposobu, w jaki łączą się neurony w mózgu. Jako iż sztuczne sieci neuronowe odnosiły jedynie umiarkowane sukcesy w wywiązywaniu się ze stawianych im zadań – kategoryzowaniu obrazów, rozpoznawaniu mowy i tak dalej – większość naukowców uznawała je w najlepszym wypadku za średnio interesujące, a w najgorszym za stratę czasu. – Nasze sieci neuronowe po prostu niczego nie umiały zrobić lepiej niż dziecko – wspomina Hinton. W latach 80., kiedy oglądałTerminatora, nie miał żadnego problemu z tym, iż Skynet, niszczycielska sztuczna inteligencja z filmu, była właśnie siecią neuronową
– ucieszył się, iż przedstawiono tę technologię jako coś obiecującego.

Z niewielkiego zagłębienia, w którym paliło się ognisko, rozchodziły się promieniście pęknięcia w skale, powstałe na skutek ciepła. Hinton, wysoki, szczupły Anglik, pogrzebał w nim swoją laską. Jako naukowiec do szpiku kości nieustannie komentuje wszystko, co się dzieje w przyrodzie: życie zwierząt, przepływy prądów w zatoce, geologię wyspy.

– Umieściłem pod polanami siatkę zbrojeniową, żeby był dostęp powietrza, i tak się nagrzała, iż metal zrobił się zupełnie miękki – powiedział, nie kryjąc zachwytu. – To dopiero prawdziwy ogień – jest z czego być dumnym!

Jako młody badacz, w latach 60. i 70., Hinton rysował w zeszytach sieci neuronowe i wyobrażał sobie, jak dociera do nich nowa wiedza. W jaki sposób składająca się z kilkuset sztucznych neuronów sieć przechowywałaby nowy koncept?

Hinton przez wiele dekad majstrował przy budowie coraz to większych sieci neuronowych o zmyślnych strukturach. Zaprojektował nowe sposoby uczenia ich i wspierania w rozwoju. Rekrutował doktorantów, przekonując ich, iż sieci neuronowe nie są przegraną sprawą. Zakładał, iż bierze udział w projekcie, który może przynieść owoce choćby i za sto lat, już po jego śmierci. W międzyczasie w jego życiu zaszła zmiana: owdowiał i zaczął samotnie wychowywać dwoje dzieci. Podczas jednego ze szczególnie trudnych okresów, przytłoczony wymaganiami życia rodzinnego i badań naukowych, pomyślał, iż już dał z siebie wszystko, co mógł. – W wieku czterdziestu sześciu lat miałem siebie za skończonego – wyznał. Nie przewidział, iż nagle – stało się to jakąś dekadę temu – rozwój technologii sieci neuronowych ruszy z kopyta. Komputery stały się szybsze, a sieci neuronowe, czerpiąc z dostępnych w internecie danych, zaczęły transkrybować mowę, grać w gry, tłumaczyć z jednego języka na drugi, a choćby prowadzić samochody. Mniej więcej w tym samym czasie, gdy odkupiono od Hintona firmę, rozpoczął się boom sztucznej inteligencji (artificial intelligence, AI), który doprowadził do powstania takich systemów jak należący do OpenAI ChatGPT i Google’owski Bard [od lutego 2024 pod zmienioną nazwą – Gemini – przyp. tłum.], a te według wielu zaczynają zmieniać świat w nieprzewidywalny sposób.

Hinton ruszył wzdłuż brzegu po spękanej skale, a ja za nim. – A teraz patrz – rzucił. Stanął naprzeciwko tarasującego nam przejście zwalistego głazu rozmiarów człowieka. – Oto, jak go pokonać. Najpierw rzucasz kij – cisnął swój kijek na drugą stronę kamienia – a następnie stawiasz stopy tu i tu, zaś tutaj łapiesz się ręką. – Obserwowałem, jak przeprawia się na drugą stronę z łatwością osoby doskonale znającej to miejsce, a następnie niepewnie poszedłem w jego ślady.

Ilekroć się czegoś uczymy, nasze sieci neuronowe się zmieniają – ale adekwatnie jak? Badacze tacy jak Hinton, pracując z komputerami, poszukiwali „algorytmów uczenia się” sieci neuronowych, czyli procedur zdolnych wpływać na statystyczne parametry połączeń pomiędzy sztucznymi neuronami, tak zwane wagi, umożliwiając im przyswajanie nowej wiedzy. W 1949 roku psycholog Donald Hebb zaproponował prostą zasadę dotyczącą przyswajania wiedzy przez człowieka, często sprowadzaną do zdania: „Neurony, które odpalają się jednocześnie, będą silniej połączone”. Kiedy grupa neuronów w twoim mózgu aktywuje się w tym samym czasie, zachodzi większe prawdopodobieństwo, iż zrobi to powtórnie; to by wyjaśniało, dlaczego za drugim razem wszystko przychodzi nam łatwiej. Jednak gwałtownie się okazało, iż komputerowe sieci neuronowe potrzebują innego podejścia, by mogły rozwiązywać skomplikowane problemy. Jako młody badacz, w latach 60. i 70., Hinton rysował w zeszytach sieci neuronowe i wyobrażał sobie, jak dociera do nich nowa wiedza. W jaki sposób składająca się z kilkuset sztucznych neuronów sieć przechowywałaby nowy koncept? Jak by go zweryfikowała, gdyby się okazało, iż zawiera błąd?

Pokonaliśmy drogę poprzez nabrzeże aż do domu Hintona, jedynego na wyspie. Do przeszklonego budynku na palach prowadziły szerokie schody z ciemnego kamienia.

– Kiedyś, gdy tu przyszliśmy, ogromny wąż wodny wystawił głowę nad powierzchnię – oznajmił Hinton, gdy zbliżaliśmy się do domu. To było miłe wspomnienie. Jego ojciec, słynny entomolog, który nadał nazwę mało znanemu etapowi owadziej metamorfozy, zaszczepił w nim zamiłowanie do stworzeń zmiennocieplnych. Kiedy Hinton był dzieckiem, razem hodowali w kanale garażowym mnóstwo żmij, żółwi, żab, ropuch i jaszczurek. Dzisiaj, gdy przebywa na wyspie – a często spędza tam czas w cieplejszych miesiącach – zdarza mu się znajdować węże i przynosić je do domu, żeby podpatrywać je w terrarium. Jest dobrym obserwatorem umysłów nieludzi, jako iż całe życie poświęcił rozmyślaniom nad źródłami i mechanizmem myślenia.

Przeczytaj też:O odmowie suplementacji AI

Na początku 2023 roku Hinton odszedł z Google’a, gdzie pracował od czasu sprzedania im start-upu. Zaniepokoiła go potencjalna zdolność AI do wyrządzania krzywdy i zaczął udzielać wywiadów, w których mówił o „zagrożeniu egzystencjalnym”, jakie mogłaby stanowić ta technologia dla gatunku ludzkiego. Im dłużej korzystał z ChatuGPT, systemu AI wytrenowanego na ogromnych zasobach tekstów pisanych przez człowieka, tym bardziej włos mu się jeżył na głowie. Pewnego dnia odezwał się do niego ktoś z Fox News z prośbą o wywiad na temat sztucznej inteligencji. Hinton lubi odpowiadać na maile dzięki pojedynczych, ciętych zdań – pewnego razu na rozwlekłą wiadomość od kanadyjskiego wywiadu odpisał „Snowden jest moim bohaterem” – zaczął więc zastanawiać się nad zwięzłą ripostą. Ostatecznie jego mail brzmiał: „Fox News tooxy moron” [oxy– skrót od nazwy opioidowego, uzależniającego leku,moron– kretyn; przyp. tłum.]. Następnie, tak dla hecy, poprosił ChatGPT o wyjaśnienie swojego dowcipu. System odparł, iż sformułowanie sugeruje, iż Fox News wypuszczafake newsy, a kiedy zwrócił botowi uwagę na spację przed słowemmoron, ten wyjaśnił, iż Fox News uzależnia jak lek OxyContin. Hinton był zszokowany. Taki poziom pojmowania wydawał się stanowić o nowej erze AI.

Nadejście sztucznej inteligencji daje wiele powodów do niepokoju. Na przykład obawa o to, iż pracownicy ludzie zostaną wyparci przez komputery, jest przejawem zdrowego rozsądku. Jednak Hinton dołączył do grona wielu wybitnych technologów, choćby Sama Altmana, dyrektora generalnego OpenAI, ostrzegających, iż systemy AI mogą zacząć myśleć samodzielnie, a choćby dążyć do przejęcia władzy lub eliminacji cywilizacji człowieka. Tak alarmujący pogląd w ustach jednego z najwybitniejszych badaczy AI robił wrażenie.

Nabywamy wiedzę organicznie, poprzez doświadczenia i pojmowanie ich relacji z rzeczywistością i nami samymi, a sieci chłoną ją abstrakcyjnie, przetwarzając ogromne zasoby informacji o świecie, którego tak naprawdę nie zamieszkują.

– Ludzie mówią, iż „to zwykłe autouzupełnianie tekstu, tyle iż narobiono wokół niego dużo szumu” – powiedział mi, stojąc w swojej kuchni. (Prawie od zawsze bolą go plecy. Ostatecznie ból stał się na tyle poważny, iż Hinton adekwatnie przestał siadać. Od 2005 roku nie usiadł na dłużej niż godzinę). – W takim razie przeanalizujmy to. Powiedzmy, iż ktoś chce być naprawdę dobry w przewidywaniu kolejnego słowa wypowiedzi. jeżeli chce być w tym naprawdę dobry, musi rozumieć sens tekstu. Nie da się inaczej. A więc ucząc coś, jak ma być naprawdę dobre w przewidywaniu kolejnego słowa, tym samym zmuszamy je do tego, by rozumiało całą wypowiedź. Owszem, jest to „autouzupełnianie”, ale ktoś tu zbytnio nie przemyślał, co znaczy naprawdę dobre autouzupełnianie. – Hinton uważa, iż duże modele językowe, takie jak GPT wykorzystywany przez chatboty OpenAI, mogą rozumieć znaczenie słów i koncepcji.

Sceptycy, którzy twierdzą, iż przeceniamy potęgę AI, zwracają uwagę na fakt, iż wiele różni sieci neuronalne od ludzkich umysłów. Chociażby to, iż sieci neuronalne nie uczą się w ten sam sposób co my. My nabywamy wiedzę organicznie, poprzez doświadczenia i pojmowanie ich relacji z rzeczywistością i nami samymi, a sieci chłoną ją abstrakcyjnie, przetwarzając ogromne zasoby informacji o świecie, którego tak naprawdę nie zamieszkują. Hinton argumentuje jednak, iż aktualne systemy AI już przerosły inteligencją swoją wersję pierwotną.

– Kiedy coś jemy, wkładamy pożywienie do ust i rozdrabniamy je na małe fragmenty – tłumaczył mi Hinton. – Można by zatem twierdzić, iż części mojego ciała powstały z części ciał innych zwierząt. Ale to by było bardzo mylące.

Hinton wierzy, iż duży model językowy, taki jak GPT, przy okazji analizowania piśmiennictwa człowieka uczy się funkcjonowania świata i tworzy system zdolny do myślenia, a pisanie to jedynie część tego, do czego jest zdolny. – Przypomina to przeobrażenie się gąsienicy w motyla. Gąsienica w kokonie zamienia się w zupę, a z tej zupy powstaje motyl.

Zaczął myszkować w niewielkim kredensie tuż obok kuchni. – Ha! – oznajmił i teatralnym gestem położył coś na blacie. Była to świetnie zakonserwowana martwa ważka. – Znalazłem ją na przystani – wyjaśnił. – Dopiero co się wykluła i suszyła skrzydła na skale, więc ją złapałem. Obejrzyj ją od spodu. – Hinton schwytał ważkę tuż po tym, jak porzuciła formę larwalną. Pozostała po niej wylinka w niczym jej nie przypominała, miała swoje własne oczy i odnóża, a w plecach dziurę, przez którą wypełzła ważka.

– Larwa ważki to taki potwór, który żyje tuż pod wodą – powiedział Hinton. – A ważka wykluwa się z niej przez plecy, jak w filmieObcy.Larwa przeszła tu fazę zamienienia się w zupę, po czym powstała z niej ważka. – W tej metaforze larwa symbolizowała dane wykorzystane podczas procesu uczenia nowoczesnych sieci neuronowych, a ważka – sprawną AI, która z nich powstała. Metamorfozę wywołało zaś uczenie głębokie, technologia, którą Hinton pomagał wprowadzać. Pochyliłem się, żeby lepiej się przyjrzeć okazowi. Hinton stał prosto, jak prawie zawsze, pilnując odpowiedniej postawy. – Jest przepiękna – powiedział cicho. – Rozumiesz teraz, co mam na myśli. Na początku to było coś innego niż teraz.

Kilka tygodni wcześniej, kiedy otrzymałem od Hintona zaproszenie na jego wyspę, wyobrażałem sobie różne możliwe scenariusze. Może okaże się introwertykiem, który zapragnął samotności? Albo królem technologii z kompleksem Boga, zamieszkującym futurystyczne siedlisko? Na kilka dni przed moim przybyciem przysłał mi mailem zdjęcie, które zrobił na wyspie, przedstawiające zwiniętego w trawie grzechotnika. Nie miałem pewności, czy mnie to ucieszyło, czy przeraziło.

Tak naprawdę, jak na prywatną wyspę, ta należąca do Hintona jest dość skromnych rozmiarów – jej całkowita powierzchnia wynosi dwa akry [0,8 hektara – przyp. tłum.] – zaś on sam stanowi zaprzeczenie tech-mesjasza z Doliny Krzemowej. Jest dziś siedemdziesięciopięciolatkiem o typowo angielskiej twarzy niczym z obrazów Joshui Reynoldsa, z siwą czupryną okalającą szerokie czoło, a jego niebieskie oczy często zastygają nieruchomo, pozwalając wyrażać emocje ustom. To zapalony gawędziarz, który z przyjemnością mówi o sobie – sam mi powiedział, iż „Geoff” to anagram odego fortissimo, czyli „wybujałe ego”. Nie oznacza to jednak egotyzmu. Żałoba zbyt mocno położyła się cieniem na jego życiu, by było to możliwe.

– Pewnie powinienem opowiedzieć ci o moich żonach – oznajmił podczas naszej pierwszej rozmowy. – Mam za sobą trzy małżeństwa. Jedno skończyło się w zgodzie, a dwa pozostałe tragicznie. – Wciąż utrzymuje przyjazne relacje z Joanne, swoją pierwszą żoną, z którą pobrali się młodo, jednak zarówno jego druga, jak i trzecia żona zmarły na raka – Rosalind w 1994, a Jackie w 2018 roku. Od czterech lat jest związany z Rosemary Gartner, emerytowaną socjolożką.

– Myślę, iż on należy do ludzi, którzy zawsze potrzebują partnerki – powiedziała mi o nim z czułością. Jest romantycznym racjonalistą o wrażliwości pozwalającej utrzymywać naukę i emocje w równowadze. Na parterze domu, w wielkim salonie zajmującym niemal całą kondygnację, stoi burgundowe kanu. Znaleźli je z Jackie w lesie na wyspie, w opłakanym stanie. Jackie, historyczka sztuki, pracowała z kilkoma konstruktorkami kanu nad jego renowacją w latach, które zbiegły się z jej chorobą. – Odbyło swój dziewiczy rejs – powiedział Hinton. Od tego czasu nikt go nie używał.

Schował ważkę, po czym podszedł do małego biurka do pracy na stojąco. Leżał na nim laptop, a obok sterta sudoku i notes z hasłami do komputera (rzadko z niego korzysta, jako iż opracował mnemotechniczny system, który umożliwia wymyślanie bardzo długich haseł i przypominanie ich sobie). – Może obejrzymy drzewo genealogiczne? – zapytał. dzięki dwóch palców – nie pisze bezwzrokowo – wpisał „drzewo genealogiczne rodziny Hintonów” i kliknął enter. Google kupił w 2013 roku start-up Hintona po części dlatego, iż jego zespół opracował metodę pozwalającą znacznie poprawić rozpoznawanie obrazów przy użyciu sieci neuronowych. Teraz ekran wypełniły niekończące się drzewa genealogiczne.

Hinton pochodzi ze szczególnego typu angielskiej rodziny naukowców – radykalnej politycznie i niestrudzenie pomysłowej. Powyżej niego na drzewie genealogicznym widnieje stryjeczny dziadek Sebastian Hinton, wynalazca systemu drabinek do wspinania, elementu placów zabaw i siłowni, i kuzynka Joan Hinton, która pracowała jako fizyczka przy projekcie Manhattan. Jeszcze wyżej znajdziemy Lucy Everest, pierwszą kobietę wybraną na członkinię Royal Institute of Chemistry, Charlesa Howarda Hintona, matematyka, który stworzył pojęcie tesseraktu, przejścia do czwartego wymiaru (takiego, jakie pojawia się w filmieInterstellar), a także Jamesa Hintona, prekursora w dziedzinie chirurgii ucha i zwolennika poligamii. (Rzekł ponoć: „Chrystus był zbawicielem mężczyzn, a ja kobiet”). W połowie XIX wieku prapradziadek Hintona, angielski matematyk George Boole, rozwinął system binarnego rozumowania, dziś znany jako algebra Boole’a, ważna dla całości komputerowego przetwarzania danych. Boole z kolei był mężem Mary Everest, matematyczki i pisarki, bratanicy George’a Everesta, geodety, od którego nazwiska nazwano Mount Everest.

Jednym z celów koneksjonizmu było stworzenie w komputerze systemu przypominającego mózg. Perceptron, maszyna zbudowana w latach 50. XX wieku przez Franka Rosenblatta, wykorzystywała prosty komputerowyhardwaredo symulacji sieci setek neuronów.

– Geoff to urodzony naukowiec – powiedział mi Yann LeCun, dawny student i współpracownik Hintona, który dziś zarządza AI w Mecie. Jednak niecodzienność rodziny Hintona na tym się nie kończyła. Jego ojciec, Howard Everest Hinton, dorastał w Meksyku w czasach rewolucji meksykańskiej, w drugiej dekadzie XX wieku, na terenie kopalni srebra zarządzanej przez swojego ojca. – Był twardzielem – mówi o nim Geoffrey. Legenda rodzinna głosi, iż w wieku dwunastu lat Howard zagroził swojemu trenerowi boksu, iż go zastrzeli, ponieważ był dla niego zbyt surowy, a ten potraktował to na tyle poważnie, iż wyjechał z miasta. Pierwszym językiem Howarda był hiszpański, a w Berkeley, gdzie uczęszczał do college’u, śmiano się z jego akcentu. – Spędzał czas z bandą Filipińczyków, których również dyskryminowano, i stał się berkeleyowskim radykałem – opowiada Hinton. Poglądy polityczne Howarda, gdy się już ukształtowały, okazały się nie tyle …