Po půl století Geoffrey Hinton rozvíjel technologii, která stojí v srdci chatbotů jako ChatGPT. Teď se obává, že to způsobí vážné škody.
Geoffrey Hinton byl průkopníkem v oblasti umělé inteligence. V roce 2012 Dr. Hinton a dva jeho postgraduální studenti na University of Toronto vytvořili technologii, která se stala intelektuálním základem pro A.I. systémy, ve kterých největší technologické společnosti vidí klíč k jejich budoucnosti.
V pondělí se však oficiálně připojil k rostoucí skupině kritiků, kteří tvrdí, že tyto společnosti se řítí do nebezpečí svou agresivní kampaní na vytváření produktů založených na generativní umělé inteligenci, technologii, která pohání populární chatboty jako ChatGPT.
Dr. Hinton uvedl, že opustil svou práci v Google, kde pracoval více než desetiletí a stal se jedním z nejuznávanějších hlasů v oboru, aby mohl otevřeně mluvit o rizicích A.I. Část jeho života, řekl, teď lituje.
"Utěšuji se normální výmluvou: Kdybych to neudělal já, udělal by to někdo jiný," řekl Dr. Hinton během dlouhého rozhovoru minulý týden v jídelně svého domova v Torontu, kousek od místa, kde on a jeho studenti dosáhli svého průlomu.
Cesta Dr. Hintona od průkopníka A.I. k proroku zkázy představuje pozoruhodný okamžik pro technologický průmysl, který se nachází možná v nejdůležitějším bodě zlomu za desetiletí. Lídři průmyslu věří, že nové A.I. systémy by mohly být tak důležité jako zavedení webového prohlížeče na začátku 90. let a mohly by vést k průlomům v oblastech od výzkumu léků po vzdělávání.
Ale mnoho lidí z oboru je znepokojeno strachem, že uvolňují něco nebezpečného do divočiny. Generativní A.I. už může být nástrojem pro šíření dezinformací. Brzy by to mohlo ohrozit pracovní místa. Někde v budoucnosti, říkají největší starostlivci technologií, by to mohlo představovat riziko pro lidstvo.
Několik dní poté vydalo 19 současných a bývalých lídrů Asociace pro pokrok umělé inteligence, 40 let staré akademické společnosti, vlastní dopis s varováním před riziky A.I. Mezi nimi byl i Eric Horvitz, hlavní vědecký pracovník společnosti Microsoft, která nasadila technologii OpenAI do široké škály produktů, včetně vyhledávače Bing.
Dr. Hinton, často nazývaný "kmotrem A.I.", nepodepsal ani jeden z těchto dopisů a řekl, že nechtěl veřejně kritizovat Google ani ostatní společnosti, dokud neukončil svou práci. O svém odchodu informoval společnost minulý měsíc a ve čtvrtek telefonicky hovořil se Sundarem Pichaiem, generálním ředitelem mateřské společnosti Google, Alphabet. Odmítl veřejně diskutovat o podrobnostech svého rozhovoru s panem Pichaiem.
Hlavní vědec Google, Jeff Dean, uvedl v prohlášení: "Zůstáváme zavázáni zodpovědnému přístupu k A.I. Neustále se učíme rozumět novým rizikům a současně inovovat odvážně."
Dr. Hinton, 75letý britský emigrant, je celoživotním akademikem, jehož kariéra byla poháněna jeho osobními přesvědčeními o vývoji a použití A.I. V roce 1972, jako doktorand na University of Edinburgh, přijal myšlenku neuronové sítě. Neuronová síť je matematický systém, který se učí dovednosti analýzou dat. Tehdy v to ale věřilo jen málo výzkumníků. Stala se však jeho celoživotním dílem.
V 80. letech byl Dr. Hinton profesorem informatiky na Carnegie Mellon University, ale opustil univerzitu a přestěhoval se do Kanady, protože nechtěl přijímat financování od Pentagonu. V té době byl většinou výzkum A.I. ve Spojených státech financován Ministerstvem obrany. Dr. Hinton je hluboce proti použití umělé inteligence na bojišti – tomu, co nazývá „robotickými vojáky“.
V roce 2012 Dr. Hinton a dva jeho studenti z Toronta, Ilya Sutskever a Alex Krishevsky, vytvořili neuronovou síť, která dokázala analyzovat tisíce fotografií a učit se rozpoznávat běžné objekty, jako jsou květiny, psi a auta.
Google utratil 44 milionů dolarů za akvizici společnosti, kterou založil Dr. Hinton a jeho dva studenti. Jejich systém vedl k vytvoření stále výkonnějších technologií, včetně nových chatbotů, jako je ChatGPT a Google Bard. Pan Sutskever se později stal hlavním vědcem ve společnosti OpenAI. V roce 2018 Dr. Hinton a další dva dlouholetí spolupracovníci obdrželi Turingovu cenu, často nazývanou „Nobelovou cenou v oblasti počítačů“, za svou práci na neuronových sítích.
Zhruba ve stejnou dobu začaly Google, OpenAI a další společnosti stavět neuronové sítě, které se učily z obrovských množství digitálního textu. Dr. Hinton si myslel, že to je silný způsob, jak stroje porozumět a generovat jazyk, ale bylo to horší než způsob, jakým lidé zpracovávají jazyk.
Pak, loni, když Google a OpenAI postavili systémy s mnohem větším množstvím dat, se jeho názor změnil. Stále věřil, že tyto systémy jsou v některých ohledech horší než lidský mozek, ale překonávaly lidskou inteligenci v jiných. "Možná to, co se děje v těchto systémech," řekl, "je ve skutečnosti mnohem lepší než to, co se děje v mozku."
Dokud se A.I. systémy nezlepší, stávají se podle něj stále nebezpečnějšími. "Podívejte se, jak to bylo před pěti lety a jak to je teď," řekl o technologii A.I. "Vezměte si ten rozdíl a přeneste ho do budoucnosti. To je děsivé."
Do loňského roku, řekl, působil Google jako "řádný správce" technologie, opatrný, aby nepustil něco, co by mohlo způsobit škodu. Ale nyní, když Microsoft vylepšil svůj vyhledávač Bing chatbotem – vyzývá tak Google k jejich hlavnímu obchodu – Google spěchá nasadit stejný druh technologie. Technologické giganty jsou zamčeny v soutěži, kterou podle Dr. Hintona možná nebude možné zastavit.
Jeho bezprostřední obavou je, že internet bude zaplaven falešnými fotkami, videi a texty a průměrný člověk "už nebude vědět, co je pravda."
Obává se také, že technologie A.I. časem způsobí zvrat na trhu práce. Dnes chatboty, jako je ChatGPT, doplňují lidské pracovníky, ale mohly by nahradit právní asistenty, osobní asistenty, překladatele a další, kteří se zabývají rutinními úkoly. "Odebere to nudnou práci," řekl. "Možná odebere i víc než to."
V dlouhodobém horizontu se obává, že budoucí verze technologie představují hrozbu pro lidstvo, protože často se učí neočekávané chování z obrovských množství dat, která analyzují. To se stává problémem, řekl, když jednotlivci a společnosti dovolí A.I. systémům nejen generovat svůj vlastní počítačový kód, ale skutečně na něm samém běžet. A obává se dne, kdy se stanou realitou skutečně autonomní zbraně – ty vražedné roboty.
"Několik lidí věřilo, že tohle by mohlo být chytřejší než lidé," řekl. "Ale většina lidí si myslela, že to je daleko. A já jsem si myslel, že je to daleko. Myslel jsem si, že je to 30 až 50 let nebo ještě dál. Samozřejmě, už si to nemyslím."
Mnoho dalších odborníků, včetně mnoha jeho studentů a kolegů, tvrdí, že tato hrozba je hypotetická. Ale Dr. Hinton věří, že závod mezi Googlem, Microsoftem a ostatními se zintenzivní a získá celosvětový rozměr, který se zastaví jen s nějakou formou globální regulace.
Nicméně to podle něj možná bude nemožné. Na rozdíl od jaderných zbraní, řekl, neexistuje způsob, jak zjistit, zda společnosti nebo země pracují na technologii v tajnosti. Nejlepší naděje spočívá ve spolupráci předních světových vědců na způsobech kontroly technologie. "Nemyslím si, že by měli zvětšovat tento systém, dokud nepochopí, zda jej dokážou ovládat," řekl.
Dr. Hinton řekl, že když se ho lidé dříve ptali, jak může pracovat na technologii, která je potenciálně nebezpečná, parafrázoval Roberta Oppenheimera, který vedl americký úsilí o vybudování atomové bomby: "Když vidíte něco, co je technicky sladké, jdete a uděláte to."
Už to ale neříká.
Zdroj: The New York Times