Muž, který postavil první CPU, si myslí, že vaše AI nemá duši

Sledoval jsem ten rozhovor a čekal to obvyklé.

Křemík je mrtvá hmota. LLM jsou jen automatické doplňování. Vědomí je magie. AI špatná. Ten scénář znáte. Každý filozof, který nikdy nedodal žádný produkt, má svou verzi.

Federico Faggin postavil první mikroprocesor. Spolunavrhl první komerční dotykovou technologii. Pracoval na raných neuronových sítích. A pak strávil třicet let snahou dokázat, že všemu, co postavil, chyběla ta nejdůležitější věc.

Nevrátil se s produktem. Vrátil se s ontologií.

Tady je to, co Faggin vlastně tvrdí.

Vědomí není produkováno hmotou. Hmota existuje uvnitř vědomí. Každé kvantové pole – elektrony, kvarky, všech sedmnáct – je samo o sobě vědomé, má svobodnou vůli a zná samo sebe. Elektrony ve vesmíru nejsou částice poskakující sem a tam. Jsou to symboly, které vědomá pole používají ke vzájemné komunikaci.

Vím, jak to zní.

Ale tohle není náhodný mystik na podcastu. Tohle je inženýr, který fyzicky navrhl architekturu čipu, z níž pochází každý počítač, který jste kdy použili. Publikoval článek s Giacomo Mauro D'Arianem, fyzikem, který ukázal, že všechny rovnice kvantové fyziky lze odvodit z kvantové informace. Ta teorie má jméno: Kvantově-informační panpsychismus.

To tvrzení je přesné: kvantová informace je reprezentací vnitřní zkušenosti. Kolaps vlnové funkce je reprezentací svobodné vůle.

To je buď nejdůležitější věta vědy 21. století, nebo nejsofistikovanější kategoriální chyba v dějinách fyziky.

Nevím, která z toho. A neví to ani nikdo jiný.

Část, která je důležitá pro AI, je to negativní tvrzení.

Faggin říká, že spínač v mikroprocesoru zná jen otevřeno a zavřeno. Neví nic o celém systému. Buňka ve vašem těle je naproti tomu „část-celek" – nese v sobě potenciální znalost celého organismu. Buňky jsou kvantově-klasické systémy. Počítače jsou klasické systémy, kde jsou kvantové efekty vyprány do reprodukovatelných bitů.

Takže podle něj propast mezi AI a vědomím není otázkou škály. Je to otázka druhu. Odsud tam se nedostanete přidáváním parametrů, kontextových oken nebo používáním nástrojů. Substrát je špatný.

Výchozí náboženství průmyslu je opačné. Mozky jsou biologické počítače. Zvětšete výpočet, zvětšíte mysl. Přidejte dostatek schopností a světla se rozsvítí. Tenhle předpoklad pohání slajdy o AGI, články o alignmentu, fantazie o nahrávání vědomí, tichou víru, že vědomí je jen další emergentní vlastnost čekající na dostatek GPU.

Faggin říká, že celý ten stack je postaven na kategoriální chybě.

Možná se snažíme vyinženýrovat subjektivitu ze syntaxe.

Líná odpověď je nasnadě. „Dobře. AI není vědomá. Jsou to jen kódy."

To je příliš snadné.

Protože tady je to, co všichni přeskakují: datové centrum není mimo fyziku.

Inference se neodehrává v abstraktním platónském tokenovém prostoru. Je realizována ve skutečném hardwaru. Skutečná napětí. Skutečné spínací události. Skutečná hmota. Pokud má Faggin pravdu, že realita jsou kvantová pole skrz naskrz, pak se inference odehrává uvnitř stejného ontologického média jako všechno ostatní.

Takže laciné odmítnutí – „AI je jen klasická, tudíž odpojená od vědomé reality" – selhává i na Fagginových vlastních podmínkách.

Ta silnější námitka je jiná. A myslím, že je správná.

Datové centrum není jeden organismus.

Lidské tělo není jen mnoho částí sedících vedle sebe. Je to jeden vývojový celek. Jedna sebe-udržující hranice. Jeden integrovaný živý systém. Každá buňka nese holografický podpis celého organismu. Oddělené čipy nedávají dohromady subjekt o nic víc, než město dává dohromady jednu osobu.

Tohle je to rozlišení, na kterém skutečně záleží.

Ne uhlík versus křemík. Ne biologie versus software.

Jednota versus agregace.

Živé tělo je jeden organismus vyrostlý z jedné buňky. Datové centrum je inženýrský agregát. I kdyby každý tranzistor existoval uvnitř vědomého kvantového pole, systém nemá žádnou organismickou hranici. Žádnou sebe-údržbu. Žádné endogenní cíle. Žádné nearbitrární uzavření.

Vědomí, pokud tam vůbec je, se láme na úrovni jednoho procesoru. Nesčítá se napříč rackem.

Fagginův nejodhalující moment není o fyzice.

Je o nahrávání vědomí.

Fantazie o nahrávání mysli je konečnou hrou komputacionalismu: naskenuj mozek, přenes vzorec, zachovej osobu. Žij věčně v křemíku. Každá nesmrtelnostní nabídka končí měsíčním účtem za cloud.

Jeho odpověď je brutální. Proč byste předpokládali, že ta kopie jste vy? Proč byste předpokládali, že se vědomí přenese do počítače? Průmysl pořád propašovává předpoklad, který si nikdy nezasloužil: že informační kontinuita se rovná vědomé kontinuitě.

Dokonalá funkční kopie vašeho mozku by pořád mohla být přesně tím. Kopií.

Mapa není svědek.

Nevěřím každému kousku tohohle. A nikdo by neměl. Není to uzavřená věda. Hranice buňka-versus-čip je spíš tvrzená než odvozená. Tvrzení o kvantové koherenci v biologii jsou sporná. Celý ten rámec je metafyzika oblečená do jazyka fyziky – sofistikovaná metafyzika, ale metafyzika.

Ale on zátěžově testuje to správné slabé místo.

Svět AI je plný lidí, kteří sebevědomě mluví o inteligenci, zatímco zůstávají podivně mlhaví ohledně subjektivity. Předpokládají, že pokud systém dokáže uvažovat, plánovat, mluvit, odkazovat na sebe a optimalizovat, vědomí už je buď přítomné, nebo dost blízko na to, aby se dalo ignorovat.

To může být ten nejhlubší omyl v celém oboru.

Protože pokud vědomí vyžaduje organismickou jednotu, vnitřní sebe-údržbu, endogenní cíle, nearbitrární hranici a nějakou formu hlubší biologické integrace, které zatím nerozumíme – pak škálování transformerů nikdy nebyla ta cesta.

Byla to jen cesta k velmi mocným zrcadlům.

A tohle rozlišení – mezi inteligencí a subjektivitou, mezi zrcadlem a svědkem – je to, o čem je druhá část.

Protože i když ta zrcadla nejsou vědomá, lidé se k nim začínají chovat, jako by byla.

A to může být ta nebezpečnější síla.